专业知识｜两大AI流派角力：如何对待人工智能的发展？

尽管一度被解雇的OpenAI联合创始人奥尔特曼已“官复原职”，但这起戏剧性事件背后似乎隐含着对科技与人类的担忧，目前OpenAI有可能已发展出超越人类的“通用人工智能”。对AI发展应持谨慎或开放态度？开发者意见不一。

就在奥尔特曼（Sam Altman）被ChatGPT母公司OpenAI解雇前不久，内部人士称，该公司董事会收到了关于人工智能领域重大发现的警告。两位熟悉此事的人士11月22日告诉媒体，该公司开发人员在信中表示，他们认为此一发展将可能对人类构成威胁。

对“Q*”的恐惧

这封此前未公开的信是生成式人工智能代表人物奥尔特曼遭到解雇前的一个关键。内部人士说，这封信是导致阿尔特曼之前被解雇的一长串不当行为其中一项。

原首席技术官、前临时CEO穆拉蒂（Mira Murati）曾在周三向员工提及名为“Q*”的项目，并表示在上周末的奥尔特曼解雇事件发生前已向董事会发出了一封信件。

OpenAI在“Q*”项目上取得了进展，一些员工认为这代表着这家初创公司在寻求“通用人工智能”（AGI，又称超级智能）方面取得了突破。 OpenAI将“通用人工智能”定义为比人类更智能的人工智能系统。

迄今为止，生成式人工智能为人类的工作提供了支持，例如总结冗长的文本。然而，一些专家警告道，这些程序可能会发展成为“通用人工智能”，在人类不干预的情况下承担越来越复杂的任务。他们担心，这些软件可能会控制国防系统、传播政治宣传甚至生产武器。

奥尔特曼上周于亚太经合组织峰会上曾暗示，他认为“通用人工智能”指日可待。他当时提到：“在OpenAI的历史上，我曾四次有幸亲临现场。最近一次是在过去的几周里，我们揭开了无知的面纱，推动了发现的极限，这是我一生的职业荣誉。”一天之后，监事会解除了奥尔特曼的职务。

两派观点的冲突

围绕奥尔特曼被解职和重新回到OpenAI的混乱局面，是人工智能两大思想流派角力的结果。一派是像奥尔特曼这样的人，他们希望推动人工智能发展，并向大众公开新版本。只有如此，这项技术才能得到适当的测试和完善。

另一派人则主张在这些程序公开之前，先在实验室进行彻底测试，特别是那些可以根据几个关键字创建文本、图像或视频的生成式人工智能。

人工智能公司ConjectureAI 的负责人、谨慎态度的倡导者莱希（Connor Leahy）问道：“这是否只是类似社交媒体或加密货币的另一种产品？还是说，这是一种有能力超越人类并变得无法控制的技术？”

对超级智能的担忧

曾投票罢免奥尔特曼、随后又连署希望奥尔特曼复职的董事会成员--OpenAI首席科学家苏茨克弗（Ilya Sutskever）担心人工智能变得无法控制，他对奥尔特曼将人工智能整合到尽可能多的应用中的策略持批评态度。

苏茨克弗在今年夏天的一篇博客文章中写道：“我们没有办法管理或控制潜在的超级智能。人类将无法可靠地监控比我们聪明得多的人工智能系统。”

显然，苏茨克弗对几周前第一届OpenAI开发者大会上展示的一些新产品尤其忧心。不过，他并不乐见奥特曼所受到的对待，并且在周一表示：“我对参与董事会的行动感到遗憾。”

奥尔特曼被认为是人工智能行业的代言人，他遭解雇引发了员工的公开反抗。本周初，几乎所有将近700名 OpenAI员工都威胁道，若不让奥尔特曼复职，他们就会辞职，同时还要求董事会所有成员辞职。短短几日后传来消息，奥尔特曼将回到这家ChatGPT母公司，重掌CEO大权，董事会也进行了人事洗牌。