由《超能陆战队》谈及对机器人的另类思考(2)

它也早已说了它是个机器人，不会介意任何事情。他去协同宏抓人，也仅仅是了解到抓人会恢复宏的健康。
在它一次次的不顾命令强行扫描中，在他一次次的说“I cannot deactivate until you say you are satisfied with your care.”，在他不顾命令联系主人的好朋友时，在它施展的强大判断人身体状况的能力时，我感受到的是机器的冰冷。它始终坚守着它的原则：干一件事必须得“makes me a better health care companion.”
如：“Flying makes me a better health care companion.”

（一）
这里涉及到”定义权”问题。
首先，机器人不会变通。
第二，下达的“文字”指令有太多时候都是有语意误差的。你把理解文字的权力（定义文字含义）交给了能力数倍于你的机器人。
还有，即使下达的指令没有歧意，但你已把对事态，状况的判定（定义）权以及面对状况如何做出行动的权力交给了机器人。这非常可怕。 
想起著名的“机器人三定律”，漏洞就已非常明显。
机器人三定律
一.机器人不得伤害人，也不得见人受到伤害而袖手旁观。
二.机器人应服从人的一切命令，但不得违反第一定律。
三.机器人应保护自身的安全，但不得违反第一、第二定律。