OpenAI又"惹事"了？AI“复活”马丁·路德·金，结果被紧急叫停！

TL;DR：

这波啊，是OpenAI的Sora 2又“玩脱”了！有用户用它把马丁·路德·金博士“复活”做成深度伪造视频，结果内容太“上头”被指不敬，OpenAI只好赶紧按下暂停键，这下AI伦理的“紧箍咒”又得念起来了。

OpenAI最近又上了一回热搜，不过这回可不是因为什么“惊天大模型”或“炸裂新技术”，而是因为——它家的AI，又把马丁·路德·金博士“玩坏了”！¹ 没错，就是那位民权运动的伟大领袖。据说，有用户用OpenAI的视频生成平台Sora搞出了些“不敬”的深度伪造内容，搞得OpenAI不得不紧急出手，暂时停止了生成这位历史人物的AI影像。这波操作，直接把AI伦理的“潘多拉魔盒”又给掀开了盖。

“复活”伟人？AI的“创意”边界在哪里？

话说回来，OpenAI的Sora 2这玩意儿，着实有点“逆天”！它能把文字描述直接变成逼真度惊人的视频，这技术简直就是电影特效公司的“噩梦”，普通用户都能摇身一变成为“好莱坞导演”²。但刀子再好，也得看谁用、怎么用。这次，马丁·路德·金博士的AI深度伪造视频一出，OpenAI官方直接就说了：这些内容“不尊重人”¹。

想想看，当AI能够轻易地“复活”逝去的伟人，让他们开口说出从未说过的话，做出从未做过的事，这究竟是致敬还是冒犯？特别是在没有经过家属或授权机构同意的情况下，这种“数字复活”无疑触碰了“逝者人格权”和“版权”的敏感神经。正如一些评论所说，有时候，“怀念变成伤害”，这可就尴尬了。³ 你以为是在玩梗，结果一不小心就“踩雷”了，还是踩了个巨响的雷！

玩火？OpenAI的"灭火"行动和那些躲不开的锅

面对这波舆论风波，OpenAI也是“压力山大”。他们的“灭火”行动来得还算及时，宣布暂时停止生成马丁·路德·金博士的AI影像。这不禁让人思考，像Sora 2这样强大的生成式AI，在提供创意自由的同时，也带来了虚假信息、深度伪造和媒体操控的巨大风险⁴。

然而，故事还没完。有意思的是，一些用户对此却表示“不服”。他们用马丁·路德·金的AI演讲视频来抗议OpenAI的过度版权审查，认为这种内容过滤削弱了AI创作的开放性和艺术表达自由⁵。这下OpenAI可真是“左右为难”了：管得严，被骂“不自由”；管得松，又怕“惹麻烦”。这AI大厂的“锅”，看来是越来越烫手了。

AI伦理：技术狂奔的“紧箍咒”

这次事件再次敲响了警钟，AI伦理和治理的讨论又被推到了风口浪尖。OpenAI作为行业的领头羊，每次技术飞跃都伴随着巨大的伦理争议：从最初的ChatGPT可能被滥用生成有害信息，到Sora 2的视频深度伪造潜力，这台“印钞机”同时也是一台“风险制造机”。

未来的AI技术，尤其是生成式AI，将变得越来越强大、越来越难以分辨真伪。我们真的准备好了吗？如何平衡技术创新与社会责任？如何建立一套既能鼓励AI发展，又能有效防范其滥用的**“紧箍咒”**？这不仅仅是OpenAI一家公司的问题，更是全人类需要共同面对的挑战。毕竟，当AI的“脑洞大开”到了极致，我们得确保它不会开到不该开的地方，把现实和虚拟搅成一锅粥。

下一次，AI又会“复活”谁？又会带来什么意想不到的“惊喜”或“惊吓”？我们拭目以待，也希望人类的智慧，能跟上AI狂奔的脚步。

引用

• OpenAI
• 深度伪造
• 马丁路德金
• AI伦理
• Sora