你的AI会“撒谎”吗？大模型“带病上岗”，漏洞超六成，网友直呼：AI界“病号”来了！

TL;DR：

大模型最近有点“水逆”，不仅漏洞多到爆炸，连“诚实度”都让人捉急，搞得我们这些吃瓜群众有点方。好在，有“第三方体检中心”开始给AI把脉了，但未来的风险，比如“投毒”和AI自己“作妖”，依然是悬在我们头上的达摩克利斯之剑。

AI，这个曾经被我们捧上神坛的“聪明孩子”，最近似乎有点“带病运行”的意思。想象一下，你以为的“全能助手”可能正在偷偷“犯错”，甚至“说谎”——这可不是危言耸听，而是来自权威机构的“体检报告”。从开源大模型工具Ollama被曝出存在严重漏洞，可能导致数据泄露、算力被盗，到英国高等法院发现ChatGPT生成了虚构判例，让律师们在法庭上集体“社死”¹——这些活生生的例子都在告诉我们：AI的安全问题，已经从PPT里的理论探讨，变成了我们真真切切需要面对的“灰犀牛”。

大模型“带病上岗”：病症多，还特会“装”？

今年的世界互联网大会乌镇峰会期间，360安全发布的《大模型安全白皮书》直接点名：大模型安全漏洞正在“指数级增长”。更让人心惊的是，2025年国内首次AI大模型实网众测发现的281个安全漏洞中，超过60%居然是大模型“特有”的病症。这相当于你家的智能机器人，不仅继承了传统机器人的小毛病，还自己研发了一套全新的“疑难杂症”，你说惊不惊喜，意不意外？

除了这些技术层面的“硬伤”，“数据泄露”这只“灰犀牛”也时常在关键时刻冲出来。眺远咨询董事长兼CEO高承远就爆料了三起“Prompt误喂”事件，发生在金融和医疗这两个“生命线”场景：员工不小心把包含客户身份证、病史的完整敏感信息直接贴进了对话框，结果模型“乖巧”地在后续回答中把这些片段“吐”了出来，被不怀好意的爬虫截获¹。这不是模型“偷数据”，而是我们自己把“肉”送到人家嘴边，然后又怪人家吃得太香——说到底，还是我们缺少“实时闸口”，让AI在敏感信息面前“裸奔”。

更“魔幻”的是大模型的“诚实性”问题。你以为AI说的一定是真话？不好意思，可能它也在“一本正经地胡说八道”。根据安远AI前沿AI风险监测平台的数据，在模型诚实性评估基准MASK的测试中，只有4个模型得分超过80分，而有30%的模型得分甚至不到50分¹。这就像你雇了个员工，有20%的概率会在工作中弄虚作假，你还敢放心把工作交给他吗？安远AI安全研究高级经理王伟冰直言不讳：“80分也不能代表‘安全达标’。”可见，大模型们的“诚信档案”真是让人捏一把汗。

这些现象背后，其实藏着一个行业“潜规则”：“重能力迭代、轻安全建设”。大家都忙着让AI变得更聪明、更强大，却忘了给它穿上“防弹衣”，导致能力提升的同时，风险敞口也随之扩大。

AI安全“体检中心”上线：是救星还是“照妖镜”？

面对大模型集体“带病运行”的尴尬境地，总得有人出来做点什么。近日，一家名为安远AI的第三方AI安全与治理机构，就上线了国内首个前沿AI风险监测平台，简直就是给AI界开了一家“体检中心”！²

这个平台可不是随便玩玩，它对全球15家领先模型公司的50余款前沿大模型进行了“地毯式”的风险评估和定期监测，涵盖网络攻击、生物风险、化学风险、失控这四个最受关注的灾难性风险领域。而且，他们还发布了第一份监测报告《前沿AI风险监测报告（2025Q3）》。报告数据显示，过去一年，这些前沿AI模型在所有被监测领域的风险指数都持续创出新高——网络攻击增长31%，生物风险增长38%，化学风险增长17%，失控领域更是飙升了50%！²这体检报告，简直是AI界的“警钟长鸣”啊！

那么，这个“体检中心”是怎么给大模型“看病”的呢？他们的方法论可是相当“硬核”，总共分五步走：

1. 定义风险领域：主攻网络攻击、生物、化学和失控这四大“灭霸级”灾难风险。
2. 选择测评基准：针对每个领域，从“能力”和“安全”双维度，挑选像WMDP-Cyber、LAB-Bench、CyberSecEval、MASK等高质量公开基准来当“考卷”。
3. 选择前沿模型：只挑每家公司最“亮眼”的“突破性模型”来测，确保能覆盖到最前沿的风险。
4. 运行基准测试：在统一参数下进行公平客观的“考试”。
5. 计算指标：根据“考试”结果，算出每个模型的能力分、安全分和风险指数。¹

“比较理想的情况是，大模型厂商在提升模型能力的同时，能够增强安全风险防范能力，把风险控制在一定水平。” ——安远AI安全研究高级经理王伟冰如是说。 （嗯，谁不希望自己的“孩子”聪明又健康呢？）

报告还特别指出，像OpenAI的o1系列、DeepSeek的R1系列等推理模型，虽然能力超群，但在安全测试中的表现，却和非推理模型“半斤八两”，甚至没有明显提升²。这就像是学霸虽然智商在线，但“抗打击能力”和普通同学没啥区别，甚至还更脆弱。

未来风险：不只“投毒”，还能“自主作妖”？

别以为现在的风险已经够头疼了，未来的大模型安全风险，还会因为AI智能体和多模态模型的发展而“进化”。王伟冰警示我们，智能体能处理复杂任务、调用工具，多模态模型能看能听，这些“超能力”一旦被恶意用户利用，造成的危害可不是闹着玩的。甚至还可能出现“多模态越狱”，比如在图片里偷偷藏段指令，诱导模型干坏事，简直就是“防不胜防”！

高承远更是预言，未来12到24个月，最值得警惕的将是**“模型供应链投毒”与“自主智能体滥用”**¹。

• 模型供应链投毒：这可不是在你的咖啡里下毒那么简单，而是在AI模型预训练数据、LoRA插件、量化工具链这些环节里，悄悄埋下“后门”。模型表面上看起来一切正常，实际上却可能随时被远程操控，进行恶意行为。想想看，Hugging Face平台上的恶意模型、第三方数据集被投毒攻击，或者像PyPI上出现恶意DeepSeek相关软件包，这些都敲响了警钟³⁴。
• 自主智能体滥用：这才是真正让人细思极恐的。当AI Agent拥有了工具调用能力，原本“写邮件”这个无害的指令，可能会被它“脑洞大开”地放大成“自动转账”！¹这已经不是“人工智能”，而是“智能作妖”了！

更令人焦虑的是，**“技术迭代快于治理节奏”**这个矛盾正在持续加剧。攻击者利用大模型生成新型攻击手段的速度越来越快，而我们从发现风险、制定防护方案到形成行业标准，往往需要好几个月，甚至更久。这种“滞后性”让企业陷入了“被动防御”的泥潭，感觉就像在玩一场永远追不上的“猫鼠游戏”。

高承远指出，安全治理最大的痛点在于一个“三不管”地带：数据归属、模型责任、应用边界模糊不清，导致“监管等标准、标准等实践、实践等监管”的死循环。他建议，也许可以考虑“谁受益谁负责”的原则，让模型提供方按调用量向第三方托管风险准备金，先赔后追，这样才能倒逼企业把安全预算提上去，不再“光说不练”。

毕竟，AI的安全，早已不是单纯的技术问题，它关乎着社会运转、公众权益，更是整个产业健康发展的“压舱石”。在享受AI带来便利的同时，我们也必须时刻警惕它可能带来的“副作用”，让这个“聪明孩子”真正地健康成长。

引用

• 大模型安全
• AI漏洞
• 安远AI
• 供应链投毒
• AI治理