机器人应当遵循哪些伦理原则?
早在 1942 年,美国著名科幻小说家、文学评论家 Isaac Asimov 用作品《我,机器人》给出了他心中的答案——「机器人学三定律」:
第一,机器人不得伤害人类,或坐视人类受到伤害;
第二,除非违背第一法则,机器人必须服从人类的命令;
第三,在不违背第一及第二法则的前提下,机器人必须保护自己。
后来作为补充,第零定律(机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立)出现,此后这一理论被称为现代机器人学的基石。
不过现实世界中,人们对机器人的应用似乎并非如此。
最近,美国的一个恶搞组织将一把蒂普曼 98 彩弹枪绑在波士顿动力公司网红机器狗 Spot 的身上,任其在画廊里游荡。
对此,波士顿动力发推进行了一番谴责,认为这种博眼球的做法只会引发暴力、伤害或恐吓。
这一作品出自一个爱搞恶作剧的艺术/营销团体 MSCHF,其英文发音正是 mischief(意为恶作剧)。
按《连线》杂志的话说就是:
一群恶搞者想要以一种反乌托邦的方式来展示机器人技术。
具体来讲,MSCHF 设计了一个最新程序 Spot's Rampage(链接:https://spotsrampage.com/),Spot's Rampage 于美东时间 2021 年 2 月 24 日下午 1 点开放,其界面酷似一款小游戏,人们可以通过带有两个模拟摇杆的控制器,在一个虚拟艺术画廊里控制被架上彩弹枪的 Spot,每人限时 2 分钟。
此外据《连线》杂志报道,MSCHF 组织会定期发布一些恶作剧程序。
在 MSCHF 官网(链接:https://mschf.xyz/)上可以看到, Spot's Rampage 是其最新恶作剧,编号为 40。
其网站页面上共显示有 85 个程序,剩余的 45 个程序都处于发布倒计时阶段,未来 MSCHF 将以一个月 2 次的频率发布新程序(均在周一发布),下一次程序发布定在 2021 年 3 月 15 日。
一直以来,MSCHF 的脑洞都不小:
创建过一款 APP,持续按住一个按钮时间最长的用户将获得 2.5 万美元奖励;
开发了一款基于占星学的选股软件;
将英国艺术家达米安·赫斯特的画作切割开,再一点一点卖出去。
外媒 The Verge 报道了此次 MSCHF 对波士顿动力的 Spot 下手的原因——MSCHF 成员 Daniel Greenberg 表示:
人们看到 Spot 跳舞的视频,通常都会觉得这只机器狗欢脱可爱,但如果我们真正想一想它在现实世界中的用途,就会发现 Spot 的形象可以是警察或军人。
对此,波士顿动力发推称:
今天我们得知,一个艺术团体以充满争议的方式,用我们的机器狗 Spot 策划了一场博眼球的活动。需要明确的是,我们谴责所有将我们的技术用于暴力、伤害或恐吓的行为,我们的使命是创造和交付能力惊人的机器人,对社会产生激励、愉悦等积极影响。
我们长期致力于确保客户将机器人用于合法用途。在批准出售之前,我们将所有申请购买机器人的名单与政府的个人、实体清单进行核对;买家须同意我们的销售条款,其中就明确规定了我们的产品必须在遵守法律的前提下使用,且不能用于伤害或恐吓人类和其他动物。
任何违反我们销售条款的行为都将导致产品保修自动取消,机器人将不会再被更新、服务、维修、更换。
这种充满挑衅意味的艺术在根本上歪曲了 Spot 便于我们日常生活的事实。
自然,这一事件引发了网友热议。
一方面,有网友表示:
做出这样行为的人真是可耻。
如果这些艺术团体成员是机器人的设计者,恐怕机器人早就统治世界了!波士顿动力公司和美国国防部高级研究计划局(DARPA)显然遵循了 Isaac Asimov 的机器人学三定律,只有这样类似的机器人挑衅行为才不会发生。
另一方面,也有网友认为:
波士顿动力的声明真是讽刺,波士顿动力在把产品出售给警察和军队的时候就应该明白,Spot 将会被用于暴力。
不管 MSCHF 的做法是否显示出了滥用波士顿动力机器人技术的潜力,都不能否认机器人可能会被滥用的事实。MSCHF 其实提出了一个有效的观点:这项技术将被警察用来对付民众。
推特网友 Elwood 称:
如果这样的行为不合法,那么汽车、头盔、有机玻璃、牛仔裤都应该被视为违法。天啊,能以一个成年人的思维方式想问题吗?
在很多人记忆中,波士顿动力的网红机器狗 Spot 会尬舞。
会放羊。
会测温。
其实除了上述场景,Spot 也被用于美国执法机构。
据了解,Spot 率先被美国马萨诸塞州警察局使用,最近也正在接受纽约警察局测试,即将上岗——而这一点正是不少网友认为讽刺的地方。
此前知乎有一个问题是“如何解释机器人三定律与军事机器人之间的矛盾”,这个话题下的一条回答是:
不要用机器人三定律解释现实世界产物。
那么,对于机器人伦理问题,你怎么看?
引用来源:
https://www.wired.com/story/boston-dynamics-robot-dog-armed-name-art/
https://www.theverge.com/2021/2/24/22299140/nypd-boston-dynamics-spot-robot-dog
https://www.zhihu.com/question/27131172/answer/36320550
雷锋网雷锋网雷锋网