人机互动如何防范机器人的“无意识伤害”

　　据俄罗斯通讯社塔斯社报道，在上周的莫斯科国际象棋公开赛上，一个国际象棋机器人折断了一名7岁男孩的手指。事发现场的视频显示，机器人在拿走了男孩的一个棋子后，突然扑了上来，似乎是对男孩针对自己上一步落子动作的快速反应“感到不安”。

?

　　这则消息再度引发人们对机器人的担忧和恐惧。从目前已知的情况来看，问题并非是因为机器人有意识。事实上，机器人只是在按照人给它设计的程序展开行动，它没有意识，也不会有喜怒哀乐，当然不会“感到不安”或者恼羞成怒而发动对克里斯托弗的攻击，夹断了他的手指。

　　按照程序和公平竞赛的原则，无论是男孩还是机器人，双方都要在对方下完一步棋后，也就是棋子落地（盘）后，才能做下一步动作。这也意味着，当克里斯托弗没有等机器人下完棋子就快速反击下了自己的下一步棋时，机器人还处在自己的正常行为程序中，自然会按照程序下完这一步棋，所以它才会抓住男孩的手不放松，导致男孩的手指被夹断。

?

　　这也正说明了机器人做任何动作都是处于无意识状态中，会严格按照设计好的程序一条道走到黑。而这也再次指出了人机交互时的安全保护问题。人比机器人灵活得多，即便不是孩子，成年人在工作和生活中会做出一些不守规则或不符程序的行为。这类行为在球场中有的解释为合理冲撞，或者解释为战术犯规，如足球场上有意阻挡对方的迅速反攻，甲方的防守队员对乙方持球进攻的队员拉拽或脚蹬放倒。此时，防守队员当然会受到处罚，要么黄牌，严重者则是红牌被逐下场。

?

　　这也意味着，在人机互动的过程中，人处在至高无上的受保护的地位，相关人员需要据此来规范人机互动的准则。也就是说，无论发生什么情况，无论现实环境如何，以及现实情况发生了什么变化，机器人都不得伤害人，哪怕是人违背了规则，机器人也不得伤害人。

?

　　在人际互动中，机器人做出伤害人的行为分为主动和被动两种。在克里斯托弗与下棋机器人的对垒中，机器人伤害克里斯托弗就属于被动伤害，因为机器人只是根据程序固执地要完成自己的下棋动作。这也意味着，在为机器人设置程序时，需要加上保护人的优先原则。无论人做了什么动作，只要人与机器人发生矛盾，产生接触、碰撞和冲撞，此时应规定机器人必须停止动作，避免伤害到人。在人指挥机器人的行动中，更需要执行这个优先程序。

?

　　对此，可以采用电气、机械两方面措施来保护人，电气保护在前，机械保护在后。电气保护可以利用光栅、红外热感等技术，只要机器人的机械臂移动范围内检测到有异常遮挡，如男孩克里斯托弗的手指去抓棋走棋时，无论是否违规，都会屏蔽机械臂的动作指令，让机械臂停止动作，以免伤害人的手。在电气保护失灵的时候，还应当有机械力矩保护。如力矩开关设定值应为刚好能够夹起棋子不掉落的力量。当偶发的情况下机械手夹住了人类选手的手指，机械夹合回路也会立刻停止工作，并且可以连锁反向操作。

?

　　现在电梯的自动开门关门和汽车玻璃的自动升窗都采用了这样的保护。汽车玻璃如果夹住人后，玻璃上升的阻力变大，超过了力矩开关的牛顿定值，会连锁触发升窗的反向操作而降窗，避免伤害人。无论是未来的人机对弈，还是更广范围内的人机互动，都应当在机器人的程序设计中，把保证人的安全放在第一位。

?