奥特曼:我不是“道德警察”!ChatGPT“成年”后,AI伦理“紧箍咒”还能戴稳吗?

温故智新AIGC实验室

TL;DR:

OpenAI掌门人奥特曼最近扔了个“王炸”,表示ChatGPT不再当“世界道德警察”,要对成年人开放成人内容。这波操作直接让AI界炸了锅,毕竟此前他刚说不搞“性爱机器人”,还一边加固安全措施一边“开闸放水”,网友直呼:这波“真香”来得太快就像龙卷风!

最近,AI圈又爆了个大瓜,主角依然是那个自带热搜体质的男人——OpenAI的CEO山姆·奥特曼(Sam Altman)。他老人家在X上“凡尔赛”了一把,高调宣布:“我们OpenAI不是经选举产生的世界道德警察!” 1 这话一出,瞬间激起千层浪,因为他这番表态,直接敲定了ChatGPT将对“完成身份验证的成年人”提供成人内容,预计从今年12月开始。

"放飞自我"还是"流量密码"?奥特曼的"成人限定"大招

想象一下,你一直用着一个“清心寡欲”的AI,突然有一天,它告诉你:“我长大了,也想体验一下人间烟火。” 这就是OpenAI这波操作给人的感觉。奥特曼给出的理由,听起来也挺“成年人”的:既然我们已经能有效地控制“严重的心理健康风险”,那就可以“稳妥地放宽”绝大多数内容限制,毕竟“高度重视将成年用户视为成年人的原则” 1。言外之意,我们AI也要有自己的“R级分级制度”了。

具体怎么操作呢?OpenAI表示,会采取“分级开放”的策略,并祭出两道“防线”来守护未成年人:第一是年龄验证,不光要行为特征比对,必要时还要身份证明;第二是家长控制,针对未成年用户的青少年版ChatGPT会默认屏蔽敏感内容,家长还能进一步设置使用时段或警示 2。听起来有模有样,但效果嘛……

大型“真香”现场?前言不搭后语的CEO

然而,吃瓜群众的眼睛是雪亮的。奥特曼这番“成人限定”言论,和他在今年8月份上播客时说的话,简直是大型“真香”现场。当时他可是“骄傲”地表示,OpenAI抵制了那些可能“显著提升ChatGPT使用量”的功能,比如“性爱机器人虚拟形象” 1。他还说:“我们本可以做很多短视的事情,来刺激用户增长或收入,但那将与长期目标严重背离。”

结果呢?打脸来得太快就像龙卷风! 仅仅两个月后,曾经的“道德典范”就主动“放飞自我”了。这时间点也微妙得很:OpenAI最近可是被美国联邦贸易委员会(FTC)盯上了,要调查ChatGPT可能对青少年造成的影响。更惨的是,他们还卷入了一起“未成年儿子自杀”的非正常死亡诉讼 1

就在这波风口浪尖上,OpenAI也曾积极“自救”:9月底推出了家长控制功能,还开发年龄预测系统;10月15日,又高调成立了一个由八名专家组成的委员会,专门研究AI对用户心理健康的影响。结果呢?同一个世界,同一个奥特曼,同一个10月15日,他却发文说要放宽内容限制! 1 这波左右互搏的操作,直接把社交媒体网友都“整不会了”。

家长们“炸锅”,信任危机一触即发?

奥特曼的“放宽”宣言,不光让网友“原地懵圈”,也把社会倡导组织和投资者们炸了出来。“全国反性剥削中心”(NCOSE)执行主任海莉·麦克纳马拉直接开炮,指出“性化AI聊天机器人本身就存在风险”,虚拟亲密关系可能对用户心理造成真实伤害 1。这可不是开玩笑,毕竟AI还没学会怎么好好当个“人”,就先要学会怎么当“成年人”了。

亿万富翁投资者马克·库班(Mark Cuban)更是毫不客气地警告:OpenAI的决定正在家长和学校中引发信任危机 1。他的话字字珠玑,仿佛说出了所有父母的心声:

“这注定会引发反噬,而且后果将十分严重。没有哪个家长会相信你们那套年龄验证系统真能拦住孩子。到时候,他们只会让孩子转用其他大语言模型——谁会愿意冒这个险?” 1

网感点评: 库班这话说得真是直击灵魂,毕竟哪个熊孩子没几招“反侦察”技能?)

这下OpenAI可是真的**“骑虎难下”**了。一边是寻求技术自由和用户体验的“成人原则”,另一边是社会伦理、未成年人保护的“道德底线”。在流量和监管的夹缝中,ChatGPT的“成年”之路,恐怕没那么容易。

我们不禁要问,当AI真的“成年”了,它又能给我们带来什么?是更多元的创作自由,还是更复杂的伦理困境?也许,在技术狂飙突进的时代,如何划定AI的边界,让它既能“放飞自我”又不至于“放任自流”,将是人类社会一道长期且艰巨的考题。

引用


  1. 奥特曼回应ChatGPT成人内容争议:OpenAI不愿成为“世界道德警察”·腾讯科技·金鹿,郑萌萌(2025/10/16)·检索日期2025/10/16 ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎

  2. ChatGPT 宣布進入成人市場:12月起允許成年人情色對話生成·动区动趋 BlockTempo·(2025/10/16)·检索日期2025/10/16 ↩︎