今日应用
今日话题
披萨上涂胶水、建议用户吃石头、毒蘑菇……谷歌又被大模型带沟里
重点标签 谷歌AI、AI Overview、社交媒体、错误回答、AI技术
文章摘要
谷歌的人工智能（AI）功能AI Overview近期遭遇了一系列争议，因其提供的搜索答案不仅错误而且有时有害。用户在使用AI Overview进行搜索时，收到了一些荒谬的建议，比如在披萨上涂胶水以增加黏性，或者每天吃石头以维持健康。这些错误答案迅速在社交媒体上引起热议，部分用户甚至质疑谷歌的搜索质量。
谷歌AI Overview功能旨在通过AI技术在搜索结果顶部提供答案，主要与Reddit社区合作解答问题。谷歌声称这是其搜索引擎25年来最大的更新之一。然而，AI生成的一些答案不仅愚蠢，还可能误导用户，例如建议用冰块冷敷响尾蛇咬伤，或鼓励抑郁症患者采取危险行动。
面对争议，谷歌紧急采取行动，手动禁用了某些搜索的AI Overview功能，并表示正在对问题进行修复和优化。谷歌发言人梅根・法恩斯沃斯强调，用户展示的事例并不常见，公司正在利用这些“孤立的例子”来完善产品。谷歌CEO桑达尔・皮查伊提到，尽管AI技术成本已大幅降低，但技术似乎尚未完全准备好。
AI专家加里・马库斯指出，AI公司往往过于乐观，认为技术能从80%的正确率提升至100%，但实际上最后的20%极具挑战性。他强调，AI模型需要进行推理判断，以确保信息的可信度和合法性，而这可能需要更高级的通用人工智能（AGI）。
谷歌对AI Overviews寄予厚望，希望其能处理复杂查询并生成由AI组织的结果页面，甚至在Google Lens中进行视频搜索。然而，目前谷歌的声誉取决于能否提供基本的准确信息，而现状并不乐观。马库斯认为，AI模型无法对自己的工作进行理性检查是行业的致命伤。
此外，机器之心发起了2024年“人工智能+”标杆示范征集活动，旨在挖掘和展示具有市场竞争力和技术实力的AI机构、产品和案例，形成引领效应。征集活动将评选出多个维度的标杆示范，并在7月的世界人工智能大会上公布结果。
文章来源
原文地址: 点我阅读全文
原文作者: 机器之心
相关文章
