股票配资导航“许多顶尖AI企业已明确目标

据美联社报道，哈里王子与其妻子梅根，已联合知名计算机科学家、经济学家、艺术家、福音派基督教领袖，以及美国保守派评论员史蒂夫·班农和格伦·贝克，共同呼吁禁止研发对人类构成威胁的AI“超级智能（superintelligence）”。

周三，一群涵盖不同立场与背景的公众人物发布了上述联名信。该信件直指谷歌、OpenAI、元宇宙平台公司（Meta Platforms）等美国科技巨头——这些企业正竞相研发一种旨在在多项任务中超越人类的人工智能。

联名信呼吁“有条件禁止”超级智能研发

该信件主张，需在满足特定条件前禁止超级智能研发。其30 个单词的文字声明明确表示：“我们呼吁禁止研发超级智能，除非科学界达成广泛共识，确认其能安全可控地进行，且获得公众的大力支持，否则禁令不得解除。”

信件序言指出，人工智能工具或能带来健康与繁荣，但与此同时，“许多顶尖AI企业已明确目标，计划未来十年内研发出在几乎所有认知任务上都远超人类的超级智能（outperform all humans on essentially all cognitive tasks）。

“这引发了诸多担忧，从人类在经济领域被淘汰、失去权力，到个人自由、公民权利、尊严与控制权受损，甚至还包括国家安全风险，乃至潜在的人类灭绝危机(even potential human extinction）。”

联名信签署者及核心观点

哈里王子（苏塞克斯公爵）在个人声明中表示，“人工智能的未来应服务于人类，而非取代人类。我认为，衡量进步的真正标准不在于速度有多快，而在于我们能否明智地掌控方向。人类没有第二次机会。”其妻子梅根（苏塞克斯公爵夫人）同样签署了联名信。

斯图尔特·罗素作为联名信另一签署者、人工智能领域先驱及加州大学伯克利分校计算机科学教授，他在其中写道：“这并非常规意义上的禁令或暂停令。对于一种据其开发者称极有可能导致人类灭绝的技术，我们仅提议要求其采取充分的安全措施，这难道过分吗？”

更多联名信签署者：AI权威与争议人物同在

约书亚·本吉奥与杰弗里·辛顿二人同为图灵奖（计算机领域最高奖项）得主，辛顿去年还斩获诺贝尔物理学奖。作为人工智能领域的先驱，他们曾助力该技术发展，如今也直言不讳地警示其潜在危险，并共同签署了这一联名信。

但这份名单中也有一些意外人物，包美国知名右翼人物班农与贝克。非营利组织“生命未来研究所”作为联名信发起方，此举意在争取支持美国前总统唐纳德·特朗普“让美国再次伟大”运动的群体——尽管特朗普团队此前一直寻求减少对美国人工智能研发的限制。

联名信的名单中还包括：

- 科技与商业领域：苹果联合创始人史蒂夫·沃兹尼亚克、英国亿万富豪理查德·布兰森。

- 政治与军事领域：美国前参谋长联席会议主席迈克·马伦，以及曾任奥巴马总统国家安全顾问的民主党外交政策专家苏珊·赖斯。

- 国际与公共领域：爱尔兰前总统玛丽·罗宾逊，多名英国及欧洲议会议员。

- 文化与艺术领域：演员斯蒂芬·弗雷、约瑟夫·高登-莱维特，以及虽在音乐创作中积极运用人工智能、但仍选择签署该联名信的音乐人威廉。

约瑟夫·高登 - 莱维特表示：“是的，我们需要特定的人工智能工具来帮助治愈疾病、加强国家安全等。”他的妻子塔莎·麦考利曾在OpenAI董事会任职，在 2023年该公司的首席执行官山姆·奥特曼被暂时罢免的动荡事件发生前离职了。

高登 - 莱维特还称：“但人工智能是否也需要模仿人类、诱导我们的孩子、把我们都变成沉迷于垃圾内容的人，并通过投放广告赚取巨额资金呢（But does AI also need to imitate humans, groom our kids, turn us all into slop junkies and make zillions of dollars serving ads）？大多数人并不希望这样。”

对“超级智能”的担忧是否也在助长人工智能炒作？

这封联名信或将引发人工智能研究界的持续争论，议题围绕“超人类水平人工智能的实现可能性”、“达成该水平的技术路径”以及“其潜在危险程度”（likelihood of superhuman AI, the technical paths to reach it and how dangerous it could be）展开。

“过去，这类争论基本是‘圈内人对圈内人’，”生命未来研究所所长、麻省理工学院教授马克斯·泰格马克表示，“我认为，我们现在真正看到的是，相关批评已完全走向主流。”

AGI研发企业的“能力夸大”让争议更复杂

令这场广泛争论更难厘清的是：那些致力于研发“超级智能”（也有人称之为“通用人工智能”，即AGI）的企业，有时会夸大其产品的能力——这种做法能提升产品的市场吸引力，却也加剧了人们对“人工智能泡沫（AI bubble）”的担忧。

例如，OpenAI近期就遭遇了数学家与AI科学家的嘲讽：其研究人员声称ChatGPT解决了尚未破解的数学难题，但事实是，ChatGPT只是找到了并总结了网上已有的相关内容（what it really did was find and summarize what was already online）。

“目前有大量内容被过度炒作，作为投资者确实需要谨慎，但这并不能改变一个事实——从长远来看，过去四年人工智能的发展速度，远超大多数人的预期。”泰格马克如此表示。

泰格马克所在的“生命未来研究所”，曾在2023年3月（商业人工智能热潮尚处初期）就发起过一封联名信，呼吁科技巨头暂时停止研发更强大的人工智能模型，但当时没有任何一家主流AI企业响应这一呼吁。

此外，2023年当时的那封联名信中最知名的签署者是埃隆·马斯克，这位特斯拉和 Space X 的 CEO在呼吁同行暂停6个月研发的同时，还在悄悄创办自己的AI初创公司，以与这些同行竞争。

当被问及此次是否再次联系马斯克时，泰格马克表示，他已致信美国所有主流AI开发者的首席执行官，但并不指望他们会签署此次的联名信（Tegmark said he wrote to the CEOs of all major AI developers in the U.S. but didn’t expect them to sign）。

泰格马克表示：“坦率地说，我真的很同情他们，因为他们深陷这场恶性竞争之中，感受到一种不可抗拒的压力，必须不断前进，以免被他人超越。我认为这就是为什么要把超级智能竞赛视为一种耻辱，这一点非常重要，直到美国当局介入为止。”

泰格马克的这句话表达了他对人工智能公司在追求超级智能过程中所处困境的理解，同时也强调了对这种无节制的竞赛进行批判和监管的必要性。他认为，这些公司由于陷入了激烈的竞争，不得不持续投入研发，以避免被竞争对手超越。