资讯 人工智能
此为临时链接,仅用于文章预览,将在时失效

当我们推开与AI「共生」的大门,好奇心是否需要被克制?

作者:周蕾
2020/07/15 21:19

“在这普通的一天,我用普通的钉钉,很普通地和同事视频连线;打开普通的软件,普通地购买生鲜;普通的AI在普通地检测谁在发烧……”如果把红遍全网的B站名曲《普通Disco》改编成2020版,或许就是这样。

这种的日子放在十年前还很新鲜,现在确实只是“普通的一天”。

科技已经进入到我们生活的方方面面,正如支付宝首席AI科学家漆远在好奇心圆桌派上说的那样,人工智能正在变成数字经济生活的基础设施之一,智能化服务对社会的助力真实可见,更多变化在未来的五到十年时间里会大规模地发生。

AI该是什么样子?在顶尖AI科学家漆远和雨果奖知名科幻家郝景芳眼中,AI更像是一个在努力成长却不够成熟的孩子,它前进的步伐,取决于“原生家庭”指引的方向,也有无数的人在为AI的向阳而生而奋斗着。

昨天,各大直播网站发布了一场名为“好奇心科技”的圆桌对谈。当一位科学家,一位科幻家,和一位B站人文类UP主,为人类与AI的将来聚到一起,他们在谈些什么?

AI,“严重偏科”的小孩

人们提起AI,会想到科幻电影里冰冷的机器人,会想到藏在手机里的Siri,也会想到在抗疫过程中的一系列AI应用。它进化飞快,时时带给人惊喜,有时也带去意外。

那在中国一流的科幻作家眼中,现在的AI是怎样的?

《北京折叠》拿下雨果奖之后,郝景芳出版了以人与AI为主题的《人之彼岸》,把目光更多地投向AI的发展。她在圆桌现场强调,目前的AI在某一方面异常优秀,在其他方面却不如小孩子,是一个“偏门的天才”。

正如她在《我们离超级人工智能到来还有多远》一文中提到的那样:

从某种程度上来说,人工智能目前就像电影《雨人》中那类自闭的孩子,一眼就数得清地上的牙签,能心算极大数字的乘法,背得下来全世界的地图,却答不出有关自己的问题。它只懂研究每秒300盘的棋路,却不知道“我正在下棋”这件事。

深耕人工智能领域数十年的漆远有着类似的感受,他认为,现阶段的AI更像是“一个严重偏科的孩子”。

当我们推开与AI「共生」的大门,好奇心是否需要被克制?

支付宝首席AI科学家 达摩院金融智能负责人 漆远

这种偏科首先表现在了跨领域、跨专业的学习上,它在某一知识领域会非常精通,但跳出这个领域就可能会有些傻。学围棋和学英语,人可以同时学会,但一个已经学会下棋的神经网络再去学英语,可能就丢失了原来的技能。

因此,多任务学习技术成为现在人工智能的方向之一,漆远解释称,这就像是学过围棋之后去学五子棋,二者背后有很多可以相互借鉴的地方,这种类似的任务就可以让AI通过算法把不同任务间共通的和不同的自动学习出来,提升完成每个任务的能力。

郝景芳的另一个身份是童行学院的创始人,儿童教育经验丰富的她笑称这种“把相近学科之间共通的思维能力拎出来教给AI”的做法,像是人工智能界的“通识教育”。

AI的“偏科”,更体现在了“重数据学习、轻推理能力”上。

在郝景芳看来,AI通过大数据学会了如何找相关性,学会数学层面上的推理,但恰恰就不擅长与人类社会有关的推理。

假设现在有一个人被扇耳光了,在场其他人都会猜事发的原因,可能经常猜得八九不离,但AI未必猜得出来。因为像扇耳光的动作含义、双方可能的关系,都属于生活中积累下来的经验,AI很难在这种生活情境中对日常的因果关系做出准确判断。

漆远也有同感。在他看来人工智能如今最突出的表现之一,其实是用海量数据“堆出来”的强大记忆力,达到某种程度上的“见多识广、学识渊博”。它能在“见过”一万张猫脸图片之后,顺利识别出新的猫脸,就是记忆力的体现;但在逻辑推理能力上有所欠缺。

“就像那种被高考机器惯出来的孩子,学习了大量知识点之后,做题很快,但缺乏常识和基础的情商。”漆远说。

人与AI的「共生未来」

电影《Her》的“女主角”被设定成AI,她在男主角身上习得了更多知识,进化迅速,最后离他而去。

AI诞生以来,这样的焦虑被呈现在各种科幻作品里。本场圆桌的主持人,UP主“闪光少女斯斯”也由此抛出了一个“灵魂拷问”:

如果AI的发展速度超过人类了,它会抛弃我们吗?

“(人与AI)应该是互惠共生的一种关系。”在郝景芳看来,这类似于动物与植物的关系,各自吐出二氧化碳和氧气,实现碳循环;双方在交互中可能会有一些小型冲突,但不会发生人类智能和人工智能的整体性冲突。

她接着开出了“新脑洞”:随着脑机接口等技术的发展,人类将会看到自己的数字大脑不断地与AI发生数据交换;比起AI实体化“冲入”现实世界,虚拟人格与AI在虚拟世界中频繁交互,共生于数字世界,这是未来的50-100年间必然会发生的一件事情。

当我们推开与AI「共生」的大门,好奇心是否需要被克制?

左:第74届科幻雨果奖得主 童行学院创始人 郝景芳  右:女性人物纪实节目《闪光少女》创始人 斯斯

漆远给出了更确定的答案:“这种(人工智能)俯视人类的感觉,在可见的未来里,我认为不会发生——人和机器会在一起,定义一个共同的未来。”

当我们必将进入人与AI共生的时代,AI会从那个“偏科”的孩子长成什么模样?

在这两位科学家和科幻家看来,人工智能正在成为数字化生活的基础设施,挖掘数据背后的规律,产生价值,通过不同场景服务于,对社会的智能化改造也会在不远的将来里大规模地发生,很多技术也在处在研发进行时。

郝景芳这样描绘她心目中的未来人工智能服务:像是每天早上你走进办公楼,大门识别到你了,通知三楼的咖啡机,等你到了三楼就有一杯咖啡可喝,也准备好了一系列服务,并不见得一定要有一个两条腿的机器人在门口迎接你。

漆远对AI成长趋势的研判就更“技术宅”一些,他首先提到AI会从纯数据驱动,变成数据和知识推理的“双轮驱动”

正如前文提到的那样,AI的逻辑推断“短板”会被补上,能力更加平衡,人类的知识经验沉淀为大量规则,将与算法一起让AI变得更有“常识”和“情商”,会成为接下来的主要发展方向之一。

其次,是从隐私保护出发,试图在确保数据安全的同时产生数据价值

用人的身体打个比方,DNA是一个人最隐私的数据,这甚至比长相(人脸数据)更隐私。如果要解决很多重大疾病,绕不开理解和研究DNA——但矛盾也同时出现:如何在保护隐私的情况下,能够产生和分析这种基因和RNA的数据,来开发更好的药品和疫苗?

如何平衡隐私保护和数据使用,人工智能学术界和工业界其实已经获得了一些技术成果,隐私保护机器学习、共享智能、联邦学习、安全多方计算等都与这一议题紧密相关。

支付宝AI就将共享智能技术,率先落地在业务敏感度颇高的金融风控场景。中和农信借此大幅度提高了风控性能,把原来传统的线下模式转为线上自动过审,大规模提升了风控能力,8个月累计放款31.9亿,授信成功人数44万。

这类技术的思路,就是在保证各方隐私的情况下,将他们的数据价值提取出来,打破数据孤岛,产生数据融合的大价值。

它的运行原理可以用羊吃草来类比:机器学习模型是羊,数据是草。过去某种做法是,羊不动,草被购买到中心;更安全的做法是让草不动,让羊动,也就是说模型去不同的草场去访问,草不出草场,也没有人知道羊吃了哪些草,羊仍然能够顺利长大。

第三大发展方向,是AI需要更“皮实”,必须成长为经得起攻击的博弈智能体

2020年是黑天鹅的一年,在数字经济进一步推进的同时,黑产猖獗,造假升级,deepfake和内容风险……抵御不同方向的风险,是AI大有作为的方向。在漆远看来,不确定性正是这些风险爆发的关键之一,也是如今机器学习面临的挑战,

正如孩童长大成人,进入社会,要变得不再脆弱,任何一项技术在真正走向使用时也必须更可靠、更广泛适用、更经得起打击。而贝叶斯机器学习就是将不确定性和小概率事件的研究,和推理能力、理解能力结合到一起,实现对AI对抗攻防能力的提升。

漆远所在的支付宝安全实验室,开发了把博弈论和深度学习结合的智能攻防算法——这是世界上首次把深度学习引入博弈论,他们也借此在德州扑克小实验达成世界领先的水平。

同时,红蓝攻防这种“左右手互搏”的形式也纳入了支付宝安全实验室的日常AI演练,让系统在对抗和错误中学习成长,做到在对手“魔高一尺”的时候,让自己的AI“道高一丈”。

这些正在发生的技术变革,又对“人机共生时代”意味着什么?

“AI就像是我们的朋友一样,在帮助我们做判断和辅助,成为了一个智能伙伴。”郝景芳提到,AI帮助大众加固最基础的“安全工事”,人机共生的前景会更开阔明亮。

刹车在哪儿?

对谈的最后,漆远与郝景芳谈起了本场圆桌的名字:好奇心。

在他们眼中,好奇心是探索世界的初心,好奇心是探索过程中疯狂运转的大脑和释放的多巴胺,它推着原始人向前进化,推着孩子去思考和学习,人类对自身和对所有外部世界的好奇都在推动所有领域的科学探索。

但只有好奇心,让AI这些先进技术只会“向前冲”,可以吗?

“没有敬畏之心做底线,其实就没有未来。”漆远谈到,一个科研者应有的价值取向,就是好奇心、敬畏心和普惠

就像汽车有引擎,也会有刹车,路上会有红绿灯,如果AI像引擎一样在推动社会的发展,就必须有这些安全系统,否则就有失控的可能。

另一方面,AI本身又能够提升安全技术,可以使安全“刹车”更智能——AI和安全,其实是相辅相成的关系。若没有安全性和稳定性的保护机制,再迅猛先进的科技也不过是空中楼阁。

让AI变得更有“常识”和“情商”,变得更尊重数据隐私,变得更平衡、更稳定、更抗打击,其实也都是为了安全这同一个目标。

当假新闻层出不穷,当眼见为实不再有意义,技术能给人多少安全感,研发者的价值取向显得尤为重要。

郝景芳感慨道,技术本身并没有善恶之分,但技术能放大人性的恶,也能放大人性的善——就像一把菜刀,成为厨房好物还是成为杀人凶器,选择权在人类手中。

人的成长有欲望的驱使,而人工智能只有人类给它设置的“目标函数”。把“帮助更多人、服务更多、永远不伤害更多人”都写在目标函数里,其实才是真正的共生。

漆远认为给人工智能设定好的目标函数至关重要,长远而言,要把对人的善意和公正写进去—而人工智能的公平性研究也日益重要。这给目标函数就相当于一个公司的使命和愿景,是他们马不停蹄想要前往的目的地。

对漆远和他所在的支付宝而言,这个目的地就写着“普惠”二字。好奇心带来探索,敬畏心带来克制,两方的平衡让技术像自行车一样平稳地向普惠驶去——科技发展至今,其实也沿着这条清晰可见的脉络在行进。

他在圆桌中分享的一个案例,令我们印象深刻。

一位农民在自己50岁那年,迎来了生命中的第二个「大件」物品——一台三轮车,第一件是家里的19 寸老式电视机。

这辆价值一万七千元的三轮车,花去了他信用贷款3万元中的一大半,但他靠三轮车跑运输,不仅把钱按时还上了,还改善了自己和80岁母亲的生活。

当我们推开与AI「共生」的大门,好奇心是否需要被克制?

这也只是中国绝大多数农户的一个缩影。由于缺乏信用数据积累,没有银行流水、资产证明、抵押物等,他们被传统的金融服务拒之门外,而支付宝一直在借助科技的力量服务这些人群和小微企业们,践行普惠金融的目标。

科技的善恶,其实并不由那些复杂的数据和计算,而是取决于它是否放大了人的善念,是否让普罗大众享受到了科技进步的价值,是否有科技力量落到实处,化作普惠这一盏灯,照亮他们的生活。

雷锋网雷锋网雷锋网

长按图片保存图片,分享给好友或朋友圈

当我们推开与AI「共生」的大门,好奇心是否需要被克制?

扫码查看文章

正在生成分享图...

取消
相关文章