谷歌因准确性争议紧急关停了一项名为“What People Suggest”的AI搜索功能，该功能曾试图汇总业余网友的医疗建议。研究显示AI极易引用非专业来源（如YouTube）并以“自信”的口吻误导用户，引发了严重的医疗伦理与安全担忧。

最新研究警告AI聊天机器人在提供医疗建议时存在显著风险，容易导致过度诊疗或误导用户。尽管AI医疗市场前景广阔且在辅助诊断上有显著优势，但其安全性和伦理问题仍是目前的重灾区。