AI产品屡陷争议 谷歌搜索主管:错误不可能避免 有些风险必须得冒

来源: 新京报
2024-06-14 06:25:47

  来源:财联社

  当地时间周四,谷歌AI产品的新动向再度引舆论关注。不过这次并不是因为产品又惹出了什么麻烦,而是公司高管面对“AI犯错”树立起了旗帜鲜明的态度。

  虽然谷歌是这一轮AI爆发的基础——Transformer架构的发源地,但过去两年可以说是一直在追赶OpenAI的状态中。在此期间,也闹出了不少争议事件。

  例如Gemini“文生图”功能在人像方面展现出了与现实完全脱轨的“多元化倾向”,该功能年初下线至今还没有恢复。

  而在上个月开发者大会期间刚刚官宣的“AI搜索综述”功能,也毫不意外地“翻车”了——谷歌的AI采信了互联网上的嘲讽和虚假信息,建议用户“往披萨上涂胶水”、“每天吃点石头”,甚至连美国前总统奥巴马的关键信息都能搞错。

  不过相较于此前第一时间“雪藏”产品,谷歌对于自家产品的自信程度正在肉眼可见地提升——大大方方地承认“AI产品就是这样的”。

  得顶住风险把产品发出来

  根据周四的最新消息,谷歌高级副总裁、年初刚晋升为搜索业务主管的丽兹·里德,上周在公司全体会议期间坦率承认,随着AI与互联网搜索进一步融合,一定会出现更多的错误,但公司应该继续推出产品,让员工和用户一起帮忙发现问题。

  (里德在开发者大会期间介绍“AI综述”,来源:谷歌)

  里德表示:“从一系列错误中我们不应该得出“不能冒险”的结论,我们应该慎重地冒险并迅速采取行动...我们不可能总是能发现一切(问题),但这仅仅意味着我们需要(对错误)做出回应。”

  对于“AI综述”功能惹出来的麻烦,谷歌的发言人也表示,在绝大多数情况下AI搜索的结果是准确的,出现违反公司政策情况的概率大概连700万分之一都不到。

  树大招风

  这一系列姿态,也显示出谷 歌现在更加愿意直面错误。里德本人在5月底发表了一篇博文,对“AI综述”引发的风波进行了详细回应。

  (来源:谷歌博客)

  里德表示,现在每天都会有数十亿个查询的请求,难免会出现一些奇怪的事情和错误。她也直言不讳地攻击称,一些用户使用谷歌AI时具有“蓄意对抗性”,而许多网络上出现的最糟糕错误根本就是假的。

  她表示,现在社交媒体上已经出现了伪造AI综述吸引流量的模板,这也是谷歌正在考虑的另一件事情。

  当然,随着AI与搜索不断融合,谷歌也迎来了能力的提升和挑战。里德指出,通过推出人工智能产品,团队能够发现诸如“数据空白”这类的问题,也就是互联网上没有足够的数据来回答特定问题。同时他们现在也能区分文章中的信息与讽刺,并纠正拼写错误。与过往不同,谷歌不仅需要了解网站或者具体页面的质量,还需要理解网页里的每一段内容。

责任编辑:欧阳名军

  北京国际会展商务区正逐步形成

  “以前企业发展高度依赖国外引进的鱼卵,存活率低,近年来养殖基地通过加强技术攻关,高白鲑成活率从1%上升到70%,鱼卵人工受精率从40%上升到95%,鱼肉品质也全面提高。”张建说。

  <a target='_blank' href='/'>中新社</a>福州2月7日电 题:本性追忆星云大师:感动于他对两岸法缘法谊法情的珍重

  另据《太阳报》报道,此外,苏纳克还将宣布替换保守党主席纳齐姆·扎哈维的人选,此前,扎哈维因个人财务问题“严重违反了内阁大臣行为准则”被解职。预计英国国际贸易部国务大臣格雷格·汉兹(Gregory Hands)有望接替扎哈维。

  比如,鼓励科技创新力量资源更多向行业基础设施集中。值得注意的事,OpenAI并非一家聚焦于“场景应用”的人工智能企业,其技术和模式就是对人工智能的训练、模型进行长期重度投入,从而系统性提升底层技术能力。

  考察团首站来到南沙庆盛枢纽综合体项目(下称“庆盛项目”)。该项目南侧设有广深港客专庆盛高铁站,由庆盛出发可实现1小时内直达香港西九龙高铁站。

倪武盛

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有