OpenAI员工警告:AI缺乏监督,存在“严重风险”
桃花黄色软件100种「もちろん待てる」 当前,山西省打造中部城市群,谋求高质量发展主动权。如何发挥高校人才资源丰厚、科技成果富集等优势,让科教“富矿”转化为产业“富矿”?作为城市群龙头,太原市承担着引领山西省中部城市群均衡发展、联动发展和整体发展大局的重任。szG654-agXGK1oHCztROYkijjQq-OpenAI员工警告:AI缺乏监督,存在“严重风险”
一群现任和前任OpenAI员工周二发表了一封公开信,表达对人工智能行业快速发展的担忧,并指出其缺乏监督,也缺乏对那些希望发声者的举报人保护。
公开信中写道:“人工智能公司有很强的财务动机来避免有效的监督,我们认为公司治理的定制结构不足以改变这一点。”
OpenAI的现任和前任员工在公开信中写道,人工智能公司拥有“大量非公开信息”,包括他们的技术可以做什么,他们采取的安全措施的程度以及技术对不同类型伤害的风险水平。
“我们也理解这些技术带来的严重风险,”他们写道,并补充说, 这些公司“目前只有微弱的义务与政府分享其中一些信息,而没有与民间社会分享。我们认为不能依靠他们自愿分享它。”
这封信还详细说明了现任和前任员工对人工智能行业举报人保护不足的担忧,并指出,如果没有有效的政府监督,员工在追究公司责任方面处于相对独特的地位。
公开信称:“宽泛的保密协议阻止我们表达我们的担忧,除非是那些可能未能解决这些问题的公司,”签署者写道。“普通的举报人保护是不够的,因为它们侧重于非法活动,而我们担心的许多风险尚未受到监管。”
责任编辑:张俊 SF065