孙宇教授：什么才是终极智能和自主系统？

雷锋网按：作者孙宇，南佛罗里达大学计算机系教授、斯坦福大学访问教授、IEEE RAS机器臂抓取和操作技术委员会的始创主席及美国总统国情咨询委员会机器人方向的顾问。本文系雷锋网独家文章。

via：7mnpep.com

在2016年10月25日，我收到NSF的一封电子邮件，通知我一个新的NSF基金称为智能和自主系统（S＆AS）。 它是国家机器人计划（NRI）之后的另一个机器人相关的基金。 在NRI之前，机器人领域的学者只能在CISE-IIS部门的Robust Intelligence（RI）学科下提交他们的机器人研究的基金项目申请。

新的S＆AS基金是机器人领域的好消息。 它反映了美国在机器人和人工智能方面的国家利益的重要性。 正式来说，该基金侧重于智能物理系统（IPS）。

 IPS是一个新术语，涵盖任何智能的物理系统， 这里的重点是“智能”和“物理”。例如，AlphaGo不是一个物理系统。 所以，提出一个深度学习的在线游戏系统可能不会得到资金。 提出一个新的机器人执行器也不适合这个程序。 这个基金计划和我在今年年初提出并鼓吹的“将AI带入物理世界”的想法非常一致。

与NRI不同，S＆AS将倾向长期自主性，很少或没有人工操作员干预的系统。因此，IPS将更多地强调将智能、认知、感知、启动和通信相结合的机器人平台和网络系统。

可能有许多不同类型的IPS：识别IPS，任务IPS，反射IPS，知识丰富的IPS，伦理IPS和其他。该基金背后的NFS官员给出了IPS的更具体的定义。

认知 IPS将具有长期自主性的高水平意识。高级别意识不仅包括对自己的能力和限制的认识，而且还可以从能力和限制预测可能的失败。 IPS将需要知道什么时候出错，并制定应急计划，以防止所有的故障。所以IPS可以自动运行很长一段时间安全。如果福岛核电厂是认知IPS，可以避免毁灭性的福岛第一核电站灾难。认识IPS将尽可能透明，使得围绕IPS工作的人可以容易地理解系统是什么。如果IPS可以快速获得所需的帮助，这将是更好的。所以IPS应该能够与人沟通，并有效地解释情况。

知识丰富的IPS不仅是维基百科。它应该能够使用互联网上的所有内容来学习和理解。首先，互联网上的知识应该以IPS可以使用的方式表示，表示可以是符号、图、概率的或混合的。然后，良好表示的知识可以被推理产生有用的指导和决定，并帮助学习。

例如，知识丰富的IPS可以从Youtube学习烹饪。首先将烹饪视频转换为功能面向对象的网络，然后使用网络学习和推理如何烹饪饭菜。

任务执行IPS应该能够从我们采取抽象级别的命令，并理解它们，并找出应该做什么以及如何做。例如，一个任务执行IPS应该能够从一个人“我想要炖牛肉吃饭”，并找出这个人真正想要什么样的炖牛肉，包含什么其它东西；如果不是所有的原材料都在冰箱里，用什么代替以及如何做好。 IPS应该使用它的传感器和执行器找到所有的材料，从冰箱里拿出来，把牛肉切成小块，切碎其他材料，把它们放在锅里，把适量的水倒入锅里，加入盐和其他成分，然后开始火炖。做好后，IPS应该准备餐桌，让人知道晚餐准备好了。晚餐后，IPS应清理和洗所有的盘子。

因此，IPS应该完全理解自然语言，理解模糊的命令和周密生成可执行计划，准确地识别在杂乱的环境中的对象，精确地感知3D环境，顺利执行不同的抓取和操作动作。 

反应IPS应该能够自我维持和自我演化。它应该监视其行为，感知和诊断问题，使其配置适应新的情况，并在需要时维护和修复自己。对于火星探测器来说，这是一个非常重要的功能，它在火星上独自航行很多年，没有支持和救援队。 IPS应该不断发展和变得更好。它可以通过探索不同的解决方案并积累知识，尝试和错误，从观察其他IPS或人类或环境变化，以及结合指令或更正来学习和改进。例如，反应IPS和一个五岁儿童一样学习和成长。

道德高尚IPS不应伤害人类。 IPS应该是一个好的公民，并获得当前的道德规则和法律规则。道德高尚IPS不需要是律师。但它应该能够使用常识来理解伦理和法律规则，并理解其行动的后果。因此，道德IPS应该避免法律禁止的行为或从伦理角度皱眉。良好的道德IPS应该能够解决死锁并解决由多个规则引起的冲突。比如，自动驾驶车肯定需要每天做出许多道德决定，为了避免对行人造成致命伤害，汽车可能必须碰撞到可能伤害乘客的墙上。汽车要决定是撞到行人，还是撞到墙上，伤害乘客。

终极S＆AS将是一个可以做上述所有的系统。它可以感知自己的能力和限制，拥有我们已经积累了数千年的所有知识，做我们所做的一切，它完全符合道德和法律的考虑，并在没有我们帮助下，不断进化和变得更聪明 。

IPS可以是自主车辆。自主车辆可以感测其周围环境，环境，其状况和安全的长期自驾驶。它可以是一个服务机器人，了解用户说的需求，并执行所要求的任务。它可以是一个无人驾驶的飞行器，不会飞进机场或白宫。它可以是一个手术机器人，可以做诊断，计划和进行手术，不需要医生参与。它可以是一个摄像机网络，从其收集的数据中学习，以便它可以检测到威胁，找到嫌疑犯，解决犯罪，甚至防止犯罪发生。

该基金给出了一个非常鼓舞人心的未来愿景和具体的研究目标。十年前，我预计机器人需要100年才能实现人的全部能力。现在，我认为通过S＆AS计划，美国的研究人员将开始系统地向这个目标前进。我们将比我预测的更早到达这个目标。

NSF每年分配的资金总额不多。它只有1650万美元，可以支持25到40个项目。但我想如果它蓬勃发展许多高度影响的研究成果，它可能会增加。小型和更专注的项目将有35万到70万美元的基金，更多的综合性项目将有50万到140万美元的基金。

第一批这个基金资助的项目明年会公布，拭目以待。