谷歌急聘“AI 质检员”:承认搜索幻觉，力挽 AI 概述质量危机

JQR1

谷歌正面临其搜索体验重构以来最严峻的质量信任危机。尽管“AI 概述”（AI Overviews）已成为谷歌搜索的核心，但频发的“幻觉”现象——包括编造事实、前后矛盾以及在医疗等关键领域提供错误建议，迫使这家科技巨头不得不采取紧急补救措施。

根据最新的招聘信息，谷歌正在招募“AI 答案质量工程师”，专门负责优化 AI 模式及搜索结果页（SRP）下的生成式答案。招聘要求显示，这些工程师将致力于解决复杂查询下的 AI 表现，确保在基础设施扩展的同时，维持信息的准确性。这被外界视为谷歌首次间接承认其 AI 概述功能在可靠性上存在显著缺陷。

实际测试揭示了问题的严重性:在针对同一初创公司估值的两次提问中，AI 概述给出了从400万到7000万美元不等且完全错误的引用答案。更为严重的是，《卫报》近期披露，谷歌 AI 曾在针对胰腺癌等重疾提供健康建议时，给出了与医疗标准完全相反、甚至可能致命的指导。

此外，谷歌近期在 Discover 信息流中测试的 AI 重写新闻标题功能，也因产生误导性“标题党”内容而遭到出版商的强烈抨击。随着用户对谷歌搜索结果的天然信任度受到挑战，如何消除 AI 幻觉已成为谷歌保住搜索霸主地位的关键战役。

来源：AIbase