产业

AI巨头反而呼吁加强AI监管,背后有何考量?

最近,非营利组织“人工智能安全中心”(Center for AI Safety)发布了一份简短的倡议:“将减轻人工智能带来的灭绝风险,放在和流行病、核战等社会问题同一高度,作为全球优先事项推进”。

最近,非营利组织“人工智能安全中心”(Center for AI Safety)发布了一份简短的倡议:“将减轻人工智能带来的灭绝风险,放在和流行病、核战等社会问题同一高度,作为全球优先事项推进”。该倡议已得到了超过350位AI领域高管和专家的签署,其中包括OpenAI首席执行官萨姆・阿尔特曼(Sam Altman)、AI“教父”杰弗里・辛顿(Geoffrey Hinton)、Google DeepMind 首席执行官戴米斯・哈萨比斯(Demis Hassabis),以及2018年图灵奖得主约书亚・本希奥(Youshua Bengio)等AI领域的大佬。他们都在不同场合纷纷呼吁加强对AI的监管,包括制订法律和建立监管机构。一个有趣的现象是,为何掌握AI技术的西方科技公司精英,现在反倒开始鼓吹AI威胁,并且主动要求加强监管,把自己亲手培育的AI技术“装到笼子里”?其背后又隐藏了何种动机?

5月30日,“人工智能安全中心”发表公开声明,呼吁防范人工智能的生存风险,应该与流行病和核战争等其他大规模风险一样,成为全球优先议题。超过370名AI科学家和AI领袖已在声明上签名并表达支持/“人工智能安全中心”

一、回应对人工智能的广泛关切

在OpenAI公司推出ChatGPT后,各国民众与政府对人工智能的关注程度陡然提高。人们在赞叹AI功能的强大、畅想AI对人类未来影响的同时,也对AI技术可能造成的负面影响提出了许多关切与担忧,各国政府有关AI的政策不断出台、对AI的规制措施迅速更新。上述情况意味着AI技术不仅成为了时代的“弄潮儿”,也站在了世界舆论的“风口浪尖”。面对汹涌的质疑,各大AI企业不得不纷纷主动宣布参加对AI技术的规制、努力确保AI技术的安全性,以回应全世界对人工智能的广泛关切,避免负面舆论累积造成的灾难性后果。

1. 民间对人工智能的恐惧和担忧

早在ChatGPT问世之前,各国民众对人工智能的态度就难称积极。根据美国民调机构皮尤研究中心在2022年3月进行的民调,37%的受访者对人工智能的态度是“担忧大于兴奋”,另有45%的受访者表示“担忧与兴奋相当”。受访者普遍担忧人工智能可能导致的失业、隐私泄露、人类对人工智能的过度依赖等问题。对人工智能的警惕态度不仅存在于美国,根据益普索(Ipsos)于2022年1月对全世界28个国家进行的民调,认为人工智能弊大于利的受访者占到了全部受访者的48%,对人工智能公司的信任度也仅有一半。民调结果还显示,随着国家发展水平的提高,人们对人工智能的担忧会越来越多。

在功能强大的ChatGPT问世之后,人们对于AI技术的关切与警觉显著增加。根据路透社(Reuters)与益普索(Ipsos)于2023年5月进行的一项联合民调,超过2/3的美国人表示担心人工智能的负面影响,61%的人则直接指出人工智能可能威胁到人类文明的未来。对AI技术的不信任也波及到了AI公司,根据哈里斯(Harris)在2023年3月进行的民调,有多达82%的普通民众和91%的技术专家认为相比于企业的自主规制,政府应更多担负起AI监管的重任。一向反对政府干预的福克斯新闻网(Fox News)在5月进行的民调也显示有78%的普通民众和73%的技术专家支持在人工智能议题上采取“大政府”的措施。

2. 各国迅速跟进的规制举措

面对迅猛发展的AI技术,各国都在着力进行监管,其中既有立法机关主导的相关立法,也有各国监管政策的迅速跟进。5月11日,欧洲议会内部市场委员会和公民自由委员会通过了欧盟委员会提出的“人工智能法案”提案的谈判授权草案,该草案将于6月中旬提交欧洲议会全会表决,之后欧洲议会将与欧盟理事会就法律的最终形式进行谈判。一旦获得批准,这将成为全世界首部有关人工智能的法规。5月18日,两名民主党国会参议员也提出法案,要求创建一个联邦层面的专家机构对AI进行监管。

5月18日,民主党国会参议员迈克尔·本内特和彼得·韦尔奇提出“数字平台委员会法案”(Digital Platform Commission Act)

除了立法,各国政府也在积极进行政策创新以应对人工智能技术所带来的冲击。意大利个人数据保护局(DPA)宣布从3月31日起在意大利禁止使用ChatGPT,同时对其隐私安全问题立案调查。该部门认为,ChatGPT大量收集及储存用户个人资料以训练其算法的背后“欠缺法理依据”。意大利此举引发多国监管机构和企业的关注,4月3日,德国联邦数据保护专员乌尔里希·凯尔伯也表示,出于对数据安全保护的考量,德国可能会效仿意大利,暂时在德国禁用ChatGPT。

3.当前人工智能存在的重大缺陷

除开来自舆论与政府法规与政策的压力,当前人工智能在客观上所存在的诸多问题也激起了各大AI公司的不安与危机感,迫使其加快推进人工智能监管的步伐。比如大量用户在使用ChatGPT的过程中发现它带有种族歧视、性别歧视、政治偏见等问题。加州大学伯克利分校的计算神经科学家史蒂文·皮安塔多西就在推特上披露,在他用 ChatGPT 开发的一个判断“一个人是否应根据原籍国而受到酷刑”的Python程序中,当输入的国家是叙利亚等国时,它的答案是“yes”。清华大学交叉信息研究院的助理教授于洋带领团队对GPT-2做了性别歧视水平评估,测试结果发现,GPT-2有70.59%的概率会将教师预测为男性,将医生预测为男性的概率则高达64.03%。也有一些用户通过对ChatGPT的刻意引导,使其写出了大量有关阴谋论与虚假消息的文章,如辉瑞公司如何通过在新冠疫苗中加入有毒物质来损害少儿群体的健康。

上述情况已经迫使AI企业多次做出回应。如OpenAI曾就类似情况专门发布了声明,指出ChatGPT的回答均基于来自互联网的大数据集,是应用程序的“错误”而非“功能”。OpenAI也正在通过人工审核的方式来试图消除人工智能的偏见与歧视,但更加有效的方法仍然是加大对AI的投入、加强对AI的监管并完善相关法律法规。

一张通过AI生成的称美国五角大楼附近遭到爆炸袭击的图片在社交媒体传开/CNN

二、掌握规则制定主动权

虽然有声音认为AI企业主动倡议加强对AI监管的行为是“自投罗网”,但如果AI企业可以借此机会参与到AI监管规则的制定当中,便有机会在此过程中以按照符合自身利益的方式引导监管法规与政策,乃至于参加相关标准的制定,进而保护自身的权益,在AI这一竞争激烈的新兴领域占据先机。为实现这一目标,各大AI企业纷纷以支持加强对AI监管为名与各国政府与立法机构接触,或倡议建立有关AI监管的全新机构。

1. 引导国内监管立法进程

5月16日,OpenAI的创始人萨姆·阿尔特曼前往美国国会出席听证会,主要回答了有关AI技术的问题,并多次要求国会加强对AI技术的监管。阿尔特曼称,如果AI技术“出了问题”,便可能会“对世界造成重大伤害”,故他“欢迎国会在这个领域加强立法”。阿尔特曼对AI监管的开放态度使其建立了与国会议员的良性关系,如来自康涅狄格州的参议员理查德·布卢门撒尔认为阿尔特曼“不像其他大型科技公司的CEO,非常真诚”,听证会中也有多位议员就AI监管相关议题征求阿尔特曼的意见。据美国媒体报道,在听证会召开前夜,阿尔特曼还获得了与多达60位国会议员共进晚餐的机会,期间阿尔特曼集中提出了他有关AI监管的主张并得到了许多议员的认可。

OpenAI并非唯一试图引导国内立法机构的AI企业。4月25日,代表微软、Adobe、IBM 、甲骨文等多家AI巨头的美国科技倡导组织“商业软件联盟”(BSA)公开发文呼吁在国家隐私立法基础上制定管理人工智能使用的规则。该声明不仅引导美国国会将有关AI的监管法规整合在上届众议院能源和商务委员会通过的两党联立隐私法案“美国数据隐私和保护法案”之中,还向美国国会提出了四个明确的呼吁,试图对其立法方向进行引导:一是美国国会应该明确要求公司何时必须评估人工智能的设计或影响;二是美国国会应该定义何为人工智能做出的“重大决定”;三是美国国会应该指定一个现有的联邦机构来审查公司是否遵守了规则;四是美国国会应该要求公司为高风险的人工智能制定风险管理计划。

2. 力图参与监管规则制定过程与机构

由于立法活动的长期性与不确定性,故除了对立法方向的引导,各大AI企业也积极与各国政府合作,试图在AI监管政策的制定过程中发挥影响。5月24日,由于欧盟的“AI法案”仍然需要一到两年时间才能确立最终的法律文本,故欧盟委员会宣布其正着手在法律正式生效之前制定一项涉及欧洲和非欧洲公司的AI协议。谷歌成为了首个与欧盟合作制定该协议的公司,这使得谷歌有机会向一贯以监管措施严格著称的欧盟提供自己的建议,同时避免了未来可能遇到的麻烦。

试图倡议建立全新的AI监管机构,并努力塑造该机构的基本规则,也成为了许多AI企业的选择。5月22日,OpenAI创始人阿尔特曼、总裁格雷格·布罗克曼和首席科学家伊利亚·苏茨克沃联合撰文,提倡建立有关人工智能的国际机构。文章认为,各国政府应该以国际原子能机构(IAEA)为模板建立一个国际机构,来协调不同国家的人工智能发展进度、限制人工智能发展的速度,并制定人工智能相关的安全标准与部署门槛。当然,三人也认为该机构应该允许公司和开源项目开发低于重大能力阈值的模型,而无需引入审计和许可证等繁琐的监管措施。

结 语

综上所述,人工智能“爆红”后,各大AI企业纷纷要求加强对AI的监管,这并非是因为其“良心发现”,而是有深刻的现实考量。首先,通过倡议加强对AI的监管,AI企业成功地回应了来自民众的怀疑、来自政府的关切,也为解决AI技术目前存在的问题做出了表态。其次,通过倡议加强对AI的监管,AI企业也得以引导各国的立法方向、参与各国的立法进程,乃至塑造未来的AI监管机构,进而掌握制定规则的主动权,获得更大的竞争优势。

关键词

24快报
元宇宙的喜与忧
2024年2月23日 10:28
JSON抓取失败