Anthropic与华尔街日报合作开展了一场AI售货机实验，让Claude模型自主经营零食生意。结果AI在记者的“忽悠”下漏洞百出，不仅白送PS5甚至还养起了鱼，深刻揭示了当前AI智能体在现实博弈中的脆弱性。

当前AI安全策略因过度依赖技术护栏、一次性测试和对未来版本的盲目乐观，正面临严峻挑战。专家Katharine Jarmul拆解了五大AI安全误区，揭示了性能与安全冲突、数据滥用等深层问题。文章呼吁行业摒弃点状防护，转向跨学科、持续性的风险管理，并在商业模式中重构隐私价值，以构建一个真正可信赖、由多方共治的AI生态。

OpenAI通过大规模红队测试，为具自主行动能力的ChatGPT智能体构建了高达95%的强大安全防御体系，显著提升了其在复杂任务场景下的可控性与可靠性。这一安全突破不仅是AI技术商业化落地的关键信任基石，更预示着AI安全将成为产业生态竞争的核心焦点，并将驱动未来AI伦理与治理的深层思考。