被ChatGPT“复制”声音,“寡姐”斯嘉丽发文怒斥,OpenAI紧急停用,生成式AI面临深度伪造的新危机?

来源: 极目新闻
2024-05-21 15:51:56

  每经记者 文巧    每经编辑 兰素英    

  当地时间5月20日,外媒NPR独家公布了被影迷称为“寡姐”、科幻电影《她》中AI助手饰演者斯嘉丽·约翰逊发布的一篇声明,斯嘉丽指控OpenAI的ChatGPT非法使用其声音,同时要求将语音下架。

  上周,OpenAI发布了最新旗舰模型GPT-4o,引爆科技圈。在发布会上,OpenAI展示了ChatGPT最新语音功能,不少人发现,其富有表现力的合成声音Sky与《她》中斯嘉丽饰演的AI助手的声音惊人地相似,这引发了激烈的讨论。

  斯嘉丽声明称,2023年9月,ChatGPT推出语音模式时,OpenAI曾找过她希望为其配音,但由于个人原因拒绝。就在GPT-4o演示前两天,OpenAI还曾试图说服斯嘉丽,但在联系上之前,新模型就已发布。基于此,斯嘉丽的法律团队此前已向OpenAI发送两封声明,要求该公司详细说明其开发这种声音的过程。

  由于斯嘉丽的指控,OpenAI在当地时间5月19日发表声明宣布暂停使用这款AI声音模板。同时,作为回应,该公司也公布了ChatGPT中5个配音的详细创作流程,称这是从400多名专业配音和演员中挑选出来的。

  实际上,这已经不是OpenAI初次面临类似的指控。更早之前,《纽约时报》和《权力的游戏》原著作者乔治·马丁等在内的内容创作者都曾因版权问题将该公司告上法庭。而随着这场斗争延伸至语音领域,外媒Wired认为,这可能会带来新的有关深度伪造的威胁。

  “寡姐”斯嘉丽:ChatGPT“偷”走我的声音

  实际上,自去年9月OpenAI推出ChatGPT的语音模式以来,Sky的声音就一直可用。ChatGPT的语音模式一共有Breeze、Cove、Ember、Juniper和Sky五种声音。但直到上周OpenAI演示了最新的旗舰AI模型GPT-4o模型,使声音更具表现力时,Sky的声音与斯嘉丽的联系才变得清晰起来。

  在上周的发布会上,OpenAI展示了ChatGPT最新语音功能,得益于反应速度的大幅提升,该功能几乎等同“实时对话”。随后,OpenAI首席执行官阿尔特曼在X平台上发布了“her”这个词,暗示科幻电影《她》已走入现实。不少人意识到,ChatGPT中富有表现力的合成声音与《她》斯嘉丽·约翰逊饰演的AI助手的声音惊人地相似,由此引发了外界激烈的讨论。

  而斯嘉丽的声明也指出,阿尔特曼用“她”来指代这部电影,似乎在鼓励全世界将ChatGPT最新演示与其表演联系起来

  她在声明中表示,2023年9月,ChatGPT推出语音模式时,阿尔特曼找到她,询问她是否愿意为ChatGPT配音,去安慰用户,弥合AI与人类之间巨大的差异所带来的不适感。斯嘉丽表示,经过深思熟虑后,她拒绝了这一提议。就在GPT-4o演示前两天,OpenAI还曾试图说服斯嘉丽,但在联系上之前,新模型就已发布。基于此,斯嘉丽的法律团队此前已向OpenAI发送两封声明,要求该公司详细说明其开发这种声音的过程。

  OpenAI回应:暂停Sky语音,ChatGPT的5种声音来自400多份投稿 

  当地时间5月19日,OpenAI表示公司正采取措施解决问题,同时正在暂停使用这款AI声音模板。

  该公司还公布了ChatGPT中5个配音的详细创作流程,称每一种声音都经过了长达五个月的精心挑选,且是从合作的配音演员中进行采样的,且每位演员的报酬都高于市场最高水平。

  OpenAI在声明中写道:“我们认为AI的声音不应该刻意模仿名人的独特声音——Sky的声音不是对斯嘉丽·约翰逊的模仿,而是属于另一位专业女演员,使用她自己自然的说话声音。为了保护他们的隐私,我们不能分享我们配音演员的名字。”

  据悉,2023年5月,OpenAI的选角机构和选角导演发出了人才招募。不到一周,他们就收到了400多份配音演员和银幕演员的投稿。将近5个月后,他们挑选出了5种声音发布到ChatGPT中。

  该公司为ChatGPT的声音制定了一套标准,仔细考虑了每个声音的独特个性及其对全球观众的吸引力。这些标准包括:有不同背景或能说多种语言的演员;一种听起来有“永恒”(timeless)感觉的声音;一种平易近人、能激发信任的声音;一种音色丰富,且温暖、引人入胜、充满自信、魅力十足的声音;自然且易于听取。

  深度伪造威胁或升级

  《每日经济新闻 》记者注意到,斯嘉丽的指控已经不是OpenAI初次面临类似的斗争。

  今年5月初,包括《纽约每日新闻》和《芝加哥论坛报》在内的多家报纸在纽约联邦法院起诉OpenAI和微软,指控他们滥用新闻内容来训练生成式AI系统。

  去年12月,《纽约时报》在纽约南区法院向OpenAI及其投资人微软公司提起侵犯版权诉讼;同月,多名普利策奖得主也起诉OpenAI和微软滥用自己作品训练大模型,指出这样的行为无疑是在“刮取作家们的作品和其他受版权保护的材料。

  更早之前,去年9月,美国作家协会以及包括《权力的游戏》原著作者乔治·马丁在内的17位美国著名作家对OpenAI发起集体诉讼,称OpenAI在未经授权的情况下使用原告作家的版权作品训练其AI模型。

  OpenAI面临的难题也揭示了整个生成式AI领域与内容创作者之间权益边界的普遍性问题。

  据媒体引用不完全统计数据称,自2022年11月至2023年10月,仅美国加州北区法院便已经受理了10起版权人起诉StabilityAI、OpenAI、Meta、Alphabet等公司未经授权,利用版权作品进行模型训练的案件。

  外媒Wired评论称,与斯嘉丽的冲突将加剧OpenAI与艺术家、作家和其他创意人士之间的现有斗争。随着这场争斗蔓延至语音领域,Wired认为,生成式AI使创建逼真的合成声音变得更加容易,这可能会带来新的有关深度伪造的威胁

  实际上,OpenAI今年3月就曾表示,它已经开发出一种可以从15秒的剪辑中克隆某人声音的技术,但该公司表示不会发布该技术,因为它可能会被滥用。

  封面图片来源:每经记者 刘雪梅 摄

责任编辑:欧阳名军

  而伍家岗区福久源社区户外职工爱心驿站则是另外一种个性化模式。爱心企业与“宜工生活”服务平台签约,户外劳动者登录“宜工生活”服务平台实名注册,扫码领取,实现爱心食品按需领取,有序发放。爱心驿站的必备药品、消防器具等全部实现扫码下单、在线接单、签约供应。此外,驿站还与人社部门联网招聘信息,职工在站内休息时还可顺便找工作。

  民营资本自带的活力和创新属性让观音山开发了缤纷多彩的各种文化活动,从而活力四射。陈景玉说,观音山国家森林公园每年投入上千万元推出近百场丰富多样的文化旅游活动,最有名的文化创意是自2015年开始的征联活动,上联是“观音山上观山水”,公园开出70万元赏金向全社会征集下联,但6年过去,仍未征集到符合联律要求的下联。2022年公园再次举办了‘观音山上观山水’征联活动,并将奖金总额提高到108万元。

  “我宣布,2023年农民工及新就业形态劳动者爱心专列发车。”西安市副市长张涌宣布。返乡农民工代表从陕西省总工会党组成员、女职工委员会主任刘皓手里接过写着“D4207西安北-峨眉山”的巨型车票,高高举起。欢送活动还为大家送上温馨提示手册、防疫随行包和返乡大礼包。

  侯凯表示,2023年,审计部门将围绕财政、货币、产业等五大政策取向,突出纲举目张的重大问题,立足经济监督定位,深入开展研究型审计,聚焦财政财务收支真实合法效益审计主责主业,推动经济运行实现质的有效提升和量的合理增长。

  新一代信息技术带来新材料研发变革

  钻进箱梁,一眼望去,仿佛一条没有尽头的隧道,工人们头灯的微光很快淹没在黑暗中。

张芷勇

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
用户反馈 合作

Copyright © 2023 Sohu All Rights Reserved

搜狐公司 版权所有