首页 > 资讯 > 商业 > 正文
2023-07-15 07:53

ChatGPT所有者在调查错误答案的风险


ChatGPT on a computer
图片来源:Getty Images

美国监管机构正在调查人工智能公司OpenAI的风险消费者从ChatGPT生成虚假信息。

美国联邦贸易委员会(FTC)致函这家微软支持的企业,要求其提供有关如何应对个人声誉风险的信息。

这项调查表明,监管机构对该技术的审查越来越严格。

OpenAI首席执行官Sam Altman表示,该公司将与联邦贸易委员会合作。

ChatGPT在几秒钟内就能对用户的查询产生令人信服的类似人类的回复,而不是像传统的互联网搜索那样产生一系列的链接。它和类似的人工智能产品预计将极大地改变人们获取在线搜索信息的方式。

尽管这项技术引发了激烈的争论,包括它使用的数据、回答的准确性,以及该公司在培训这项技术时是否侵犯了作者的权利,但科技行业的竞争对手也在竞相推出自己的版本。

美国联邦贸易委员会在信中询问,OpenAI采取了哪些措施来解决其产品可能“对真实的个人产生虚假、误导、贬低或有害的陈述”的问题。

美国联邦贸易委员会还在关注OpenAI在数据隐私方面的做法,以及它如何获取数据来训练和通知人工智能。

奥特曼表示,OpenAI花了数年时间进行安全研究,花了数月时间让ChatGPT“在发布之前更安全、更一致”。

“我们保护用户隐私,设计我们的系统是为了了解世界,而不是个人隐私,”他在Twitter上说。

在另一条推特上,他说,公司的“技术是安全的,有利于消费者,我们有信心遵守法律”,这对公司很重要。我们当然会与联邦贸易委员会合作。”

谷歌老板敦促美国公司 国会监管AIChatGPT所有者OpenAI在英国开设办事处

今年早些时候,奥特曼在国会听证会上承认,该技术可能是错误的根源。

他呼吁为新兴行业制定监管规定,并建议成立一个新的机构来监督人工智能的安全。他补充说,随着这项技术的用途变得清晰,他预计这项技术将产生重大影响,包括对就业的影响。

“我认为,如果这项技术出了问题,它可能会出很大的问题……我们希望公开表达这一点,”奥特曼当时表示。“我们希望与政府合作,防止这种情况发生。”

《华盛顿邮报》最先报道了联邦贸易委员会的调查,并刊登了这封信的副本。OpenAI没有回应bbc的置评请求。

FTC也拒绝置评。在现任主席莉娜·汗(Lina Khan)的领导下,消费者监督机构在监管科技巨头方面扮演了高调的角色。

可汗女士在耶鲁大学法律系学习期间,因批评美国在与亚马逊相关的反垄断执法方面的记录而声名鹊起。

她是拜登总统任命的,是一个有争议的人物,批评者认为她正在推动联邦贸易委员会超越其职权范围。