Deepmind成立新AI部门，意在处理AI社会和伦理问题

雷锋网10月5日消息  据外媒 The Verge 报道，近日，Google旗下AI研发公司 DeepMind 宣布成立一个AI新部门，主要负责研究AI带来的伦理问题和社会问题，如自动化给未来经济带来的影响等等。

图：DeepMind办公室

据了解，新部门的主要目标是帮助技术人员将伦理应用于实践，帮助社会预测AI的影响，并对其影响给予引导，确保AI造福人类。2016年，DeepMind 开发的AI系统在围棋棋盘上打败世界顶尖选手，因而名声大震。

DeepMind 为新部门命名为 DMES（DeepMind Ethics & Society：伦理和社会）。新部门将于2018年开始就这些课题目标进行研究。目前，该部门已有8名全职员工。不过，按照 DeepMind 的计划，该部门的员工规模将在一年时间内增至25名左右。

为了壮大团队，DeepMind 还从外部学术机构和慈善机构聘请一些顾问，为新部门提供咨询服务，包括哥伦比亚大学发展学教授 Jeffrey Sachs、牛津大学AI教授 Nick Bostrom、气候变化活动家 Christiana Figueres。

DMES 联合主管 Verity Harding、Sean Legassick 在公告博文中表示，这些专家不只精通专业技术，还可以带来多样化的思考。同时，二位还表示，DMES将帮助 DeepMind 探索和了解AI带给现实世界的影响。“如果AI技术要服务于这个社会，那么，其必须经受住社会的优先事项和关注重点的重塑的过程。”

雷锋网还了解到，新部门届时还将与有着类似研究目标的学术团体合作，如纽约大学的 AI Now Institute和剑桥大学未来智能研究中心（Leverhulme Centre for the Future of Intelligence）等等。

事实上，2014年 DeepMind 被 Google 收购时曾承诺要建立一个“AI伦理委员会”。与新部门不一样，该委员会主要用以监管公司的所有AI研究活动。不过，自收购以来该伦理委员会并没有多大作为。特别是 2016年，DeepMind 在与英国国民健康服务局（NHS）合作时，受到了公众的大肆批评，这让其进一步认识到AI伦理问题的重要性。

2015年，DeepMind 和伦敦三家医院达成合作，处理了其中160万名患者的诊疗数据。2017年，该行为被英国的数据监督机构判定为非法，因为该公司没有通知到个人他们的数据已被使用。DeepMind 后来表示，他们低估了“NHS的复杂性和患者数据的规则”，并聘请了新的独立伦理审查员以监督未来的任何交易。

虽然DMES的成立主要是基于 DeepMind 对AI带来的伦理问题的考虑和重视，但至目前为止，该公司的内部伦理审查员依然笼罩着神秘面纱。同时，据了解，新部门将与 DeepMind 的产品部门并行运营。未来，新部门聘请了哪些审查员，多久进行一次会议，主要讨论哪些要点，又有哪些形式...关于这些问题，只能在未来慢慢寻找答案。

Via The Verge，雷锋网编译