担心人工智能的AI专家发表公开信

今年1月,加州伯克利智能系统中心主任、计算机科学教授Stuart Russell起草了一封公开信,对人工智能研究发出警告,宣称“由于人工智能的巨大潜力,开展如何在规避其潜在陷阱的同时获取其好处的研究十分重要。我们的人工智能系统,必须按照我们的意愿工作。”

已有数千人在公开信上签名,其中包括了霍金(Stephen Hawking)、Elon Musk,以及Google、Facebook和微软的人工智能研究员。53岁的Russell是一名资深的人工智能专家,他是200多篇论文的作者,与 Google研发主管Peter Norvig合著了人工智能教科书《Artificial Intelligence: A Modern Approach》。

人工智能的快速发展加剧了Russell对智能机器危险性的担忧。他说,人工智能取得了巨大进步,部分要归于神经学习算法。Facebook的面部识别软件、智能手机个人助手和Google自主驾驶汽车都使用这一算法。 今年2月《自然》刊登了一项引入注目的研究,一个模拟的人工智能神经网络能利用少量数据在几小时内在玩游戏上打败人类。

评论已被关闭。