首页 > 资讯 > 国际 > 正文
2023-07-13 09:53

透明度对于人工智能的训练方式至关重要,监管机构必须发挥带头作用

人工智能系统开发资金的透明度至关重要,但提高透明度的努力必须由监管机构牵头,而不是私营企业。

meta全球事务主管尼克•克莱格(Nick Clegg)今天在英国《金融时报》(Financial Times)上提出,开放是未来的方向。他认为,提高人工智能工作方式的透明度,“是消除围绕这项技术的恐惧的最佳良药”。

自去年11月推出以来,ChatGPT凭借其以个性化的方式快速回应用户问题的能力俘获了公众的想象力。

这款应用是生成式人工智能的一个例子,它可以根据提示生成文本或其他媒体。

OpenAI于2021年9月在大量互联网文本、书籍、文章和网站上对它进行了训练。

问题是,该公司没有分享训练聊天机器人的信息,因此无法直接核实它的回答。

它的同行meta认为,最近公开22张“系统卡”的决定是朝着提高透明度迈出的一步。这些“系统卡”可以让人们深入了解Facebook和Instagram上内容排名背后的人工智能。

然而,系统卡本身只提供了关于如何使用meta的AI系统的肤浅观点。

他们没有全面地了解设计这些系统的过程是如何负责任的。

How Sky News created an AI reporter

英国国家人工智能研究所阿兰图灵研究所(Alan Turing Institute)伦理与责任创新研究主任戴维·莱斯利(David Leslie)表示,这些卡片提供了“鸟瞰图”。

他说:“报告将讨论如何收集数据,提供有关系统组成部分的非常一般的信息,以及一些选择是如何做出的。”

阅读更多:
马丁·刘易斯警告不要观看“可怕的”人工智能骗局视频
微软老板说,人工智能“没有能力接管”
人工智能将如何改变新闻业的未来

有些人可能认为这是第一步,但在一个控制信息获取是企业收入基本来源的行业,企业没有足够的动力泄露商业秘密,即使它们对建立公众信任是必要的。

Microsoft's Eric Boyd on AI

到目前为止,还没有任何政策机制迫使私营部门公司对人工智能保持足够的透明度。

然而,在活动人士的呼吁下,英国正在为此做准备——一份私人法案将于11月在下议院进行二读。

监管机构的下一步是制定具体的指导方针,规定哪些信息可以获取,哪些人可以获取,以加强问责制,保护公众。