最近，谷歌正在全力开发生成式人工智能技术。在其年度 i/o 大会上，该公司宣布计划将人工智能工具嵌入其几乎所有产品中，从谷歌文档到编程和在线搜索。
谷歌的声明意义重大。现在，数十亿人将能够使用强大的尖端人工智能模型，帮助他们完成各种任务，从生成文本到回答问题，再到编写和调试代码。正如《麻省理工技术评论》主编马特·霍南（Mat Honan）在对 I/O 大会的分析中所写的那样，很明显人工智能现在已成为谷歌的核心产品。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
（来源：STEPHANIE ARNET/MITTR）
逐步将这些新功能引入谷歌产品是他们的做法，但问题迟早会浮现。该公司尚未解决这些人工智能模型的任何常见问题：它们仍然喜欢胡编乱造；它们仍然很容易被操纵，打破人类设定的规则；它们仍然容易受到攻击；几乎没有什么能阻止它们被用作生成虚假信息、诈骗和垃圾邮件的工具。
这类人工智能工具相对较新，因此它们仍然大部分处于缺乏监管的状态。但这是不可持续的。ChatGPT 的热度逐渐冷却，但监管需求不断增长，监管机构开始面临 ChatGPT 技术所带来的挑战。
美国监管机构正试图找到一种方法来管理这些强大的人工智能工具。本周，OpenAI CEO 萨姆·奥特曼（Sam Altman）在美国参议院作证（前一天晚上他刚与政界人士共进了一顿“教育性质的”晚餐）。在听证会之前一周，美国副总统卡玛拉·哈里斯（Kamala Harris）刚与 Alphabet、微软、OpenAI 和 Anthropic 的 CEO 举行了会议。
图 | OpenAI 创始人山姆·奥特曼（Sam Altman）（来源：资料图）
在声明中，哈里斯指出这些公司需承担道德和法律责任，以确保产品的安全。多数党领袖、纽约州参议员查克·舒默（Chuck Schumer）提出了监管人工智能的立法，其中可能包括成立一个新机构来执行这些规则。
斯坦福大学“以人为中心的人工智能研究所”的隐私和数据政策研究员詹妮弗·金（Jennifer King）说：“每个人都希望自己做的一些事情被看到。人们对这一切的发展感到非常焦虑。”
金表示，要让两党支持一项新的人工智能法案将很困难：“这将取决于（生成式人工智能）在多大程度上被视为一种真正的社会层面的威胁。然而，她进一步指出，联邦贸易委员会主席利娜·汗已经采取积极行动。本月早些时候，汗写了一篇专栏文章，呼吁现在就对人工智能进行监管，以防止过去对科技行业过于松懈而导致的错误。据她所述，监管人工智能的美国机构更倾向于利用现有的法律工具包，如反垄断法和商业惯例法。
同时，在欧洲，立法者即将就《人工智能法案（AI Act）》达成最终协议。欧洲议会成员上周签署了一份法规草案，要求禁止在公共场所使用面部识别技术。它还禁止了在网上获取生物特征数据时的预测性警务和情绪识别，以及对所有人不分青红皂白地进行抓捕。
议会希望推出更多规定来管制生成式人工智能，同时欧盟也将加强监管力度，要求涉及开发大型人工智能模型的公司更加透明。潜在措施包括标记人工智能生成的内容，以摘要的形式披露模型训练中使用了哪些受版权保护的数据，以及建立防止模型生成非法内容的保障措施。
但问题是：欧盟距离实施这些规则还有很长的路要走。《人工智能法案》的许多拟议内容都无法进入最终版本。议会、欧盟委员会和欧盟成员国之间仍在进行艰难的谈判。我们还需要数年时间才能看到《人工智能法案》生效。
知名科技人士开始朝着相反的方向努力，反其道而行。微软首席经济学家迈克尔·施瓦茨（Michael Schwarz）在最近的一次活动上表示，我们应该等到看到人工智能带来的“有意义的伤害”后再对其进行监管。他将人工智能比作驾照——许多人在事故中丧生后才有了驾照。只有有一定程度的伤害，我们才能真正了解问题所在。”
这种说法太离谱了。人工智能造成的危害多年来已被充分记录在案。它存在偏见和歧视，会生成假新闻和诈骗信息。成千上万的人因错误指控欺诈而陷入贫困，这是其他人工智能系统导致的无辜被逮捕的结果。随着谷歌大规模宣传自己的下一步计划，生成式人工智能将会越来越深地融入我们的社会，这些危害可能会呈指数级增长。
我们应该问自己的问题是：我们愿意看到多大的伤害？而我的答案是：我们已经看得够多了。
支持：Ren
原文：
https://www.technologyreview.com/2023/05/16/1073167/how-do-you-solve-a-problem-like-out-of-control-ai/
