谷歌近日将其 Gemma 大模型撤下，仅保留给开发者通过 API 使用。事件起因是美国田纳西州参议员玛莎·布莱克本指控该模型“编造”她在1987年竞选期间与州警存在非自愿性关系的谣言西安股票配资平台，甚至虚构出处链接。事实上，她直到1998年才参选，且从未出现类似指控。
布莱克本致函谷歌 CEO 皮查伊，强调这类虚假输出不是简单的“幻觉（hallucination）”，而是“AI制造的诽谤”，并要求谷歌在11月6日前解释生成机制及预防措施。
谷歌回应称，已发现有人在 AI Studio平台中用 Gemma 查询事实，而该模型原本仅面向开发者，不适合作为通用问答，因而决定收紧权限。
这一事件并非孤例。此前保守派人士罗比·斯塔巴克因遭谷歌旗下 Bard、Gemini、Gemma 模型错误标注为“强奸儿童”“连环性侵者”，已提起超1500万美元诉讼。微软系工具也曾错误描述德国记者为“儿童性侵犯”。
随着生成式AI广泛落地，行业普遍存在“自信地胡编乱造”问题，小型开源模型尤其突出。法律专家警告，AI 诽谤案件激增，将成为监管与司法的新挑战。
谷歌表示致力于减少错误生成，但也承认“只要有人刻意诱导，AI仍可能输出误导内容”，凸显行业在安全机制、事实溯源与责任界定上仍缺乏成熟方案。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：黄康 西安股票配资平台
辉煌优配平台提示：文章来自网络，不代表本站观点。
- 上一篇：西安股票配资平台 现货黄金本周跌3.3%，COMEX黄金期货本周跌超2%
- 下一篇：没有了
热点资讯
