洞察 Insights
看完3·15不敢用AI了?大模型也吃“垃圾食品”,大厂祭出“三板斧”反投毒
央视3·15晚会曝光了利用GEO技术向AI大模型“投毒”的灰色产业链,通过虚假软文误导AI推荐产品。为此,AI大厂正通过数字水印、语料溯源和交叉验证等手段构建“免疫系统”,确保数据的纯净与安全。
阅读全文
洞察 Insights
AI虚构经济:当信任成为数字时代的奢侈品
生成式AI正通过降低虚假内容制作门槛,引发从商业欺诈到信息误导的新型数字危机,导致社会信任成本飙升。尽管谷歌SynthID等数字水印技术旨在恢复内容真实性,但其与反检测工具之间的持续攻防战预示着数字信任将成为一场长期的技术与伦理博弈,深刻重塑商业生态和社会互动模式。
阅读全文