雷锋网 AI 科技评论按：近期 Facebook 泄露用户数据、针对性影响用户、Uber 无人车事故，以及全球学者联名抵制韩国开发自主武器的事情再次敲响了人工智能安全的警钟。OpenAI 也于昨日发表了一份自己的研究纲领， 表明了自己的科研使命和行动法则，希望担负起自己在「让人工智能造福全人类」这一伟大事业中的责任。文中也涵盖了他们在过去两年的研究中逐渐成形的研究策略，以及来自 OpenAI 内外的各种反馈声音。雷锋网 AI 科技评论把文章中文版摘录如下。
OpenAI的使命是确保通用人工智能 (Artificial General Intelligence, AGI)，即一种高度自主且在大多数具有经济价值的工作上超越人类的系统，将为全人类带来福祉。我们不仅希望直接建造出安全的、符合共同利益的通用人工智能，而且愿意帮助其它研究机构共同建造出这样的通用人工智能以达成我们的使命。为了达到这个目标，我们制订了如下原则：
广泛造福社会
我们承诺在通用人工智能的开发过程中，将利用所有可获得的影响力，确保它可以造福全人类。我们将避免把人工智能或通用人工智能的技术置于损害人类或过度集中权力的事业中。
我们的首要任务是对人类文明负责。我们预计需要调用大量资源来完成这一使命。同时，我们会积极行动以减少雇员和利益相关者间的利益冲突，确保大多数人可以受益。
关注长远安全问题
OpenAI 致力于进行能够确保通用人工智能安全的研究。我们力求在整个人工智能研究领域内推动这类研究项目的广泛应用。
我们担心通用人工智能在发展后期将演变成一场激烈的竞赛，导致缺乏充足的时间进行安全防范。因此，如果一个与人类价值观相符、注重安全的项目领先于我们将近达成通用人工智能，我们承诺将停止竞赛，幷转而协助这个项目。我们会针对个别情况设计具体的合作方案。不过，一个典型的触发条件可能会是「这个项目在未来两年内能够成功研发通用人工智能的概率超过一半」。
引领技术研究
为了能有效地促进通用人工智能对社会的正面影响，OpenAI 必须站在人工智能技术研究的前沿。我们认为仅做政策和安全性的倡导是过于单薄的。
我们相信人工智能在达成通用人工智能之前便会产生广泛的社会影响。OpenAI 希望在符合我们的使命和专长的领域中努力保持领先地位。
保持合作意愿
我们会和其它研究机构以及政策制定机构积极合作。我们希望可以建立一个国际化的社区，共同应对通用人工智能的全球性挑战。
我们致力于研发公共物品，以帮助社会走向与通用人工智能共处的时代。目前这包括公开发表大多数的人工智能研究成果。OpenAI预料未来对安全和安保的考虑将会使我们减少发表传统的研究成果，而更注重分享安全、政策和标准化相关的研究。
-----------------------------
人类何时能研发出真正的通用人工智能还尚未可知，但 OpenAI 相信也希望自己的纲领可以引导自己在通用人工智能的研发过程中体现出全人类的最大利益。
这份纲领发出后，已经有一些学者给出了积极的反馈，非常欢迎 OpenAI 做出这样的举动，同时也认可 OpenAI 积极、坚定的态度，钦佩 OpenAI 公开做出这样的承诺。
雷锋网 AI 科技评论也非常期盼通用人工智能的到来，而且我们也希望它真的到来的那一天真的是全人类的福祉。相信到时肯定会有 OpenAI 的功劳在其中。
via OpenAI，雷锋网 AI 科技评论报道
正在生成分享图...
晓楠