主管谄媚地说:“人类员工那边我们自然有法子处置。关于机器人,您一定能杜绝后患,并且不损害任何机体。”

阿娜看着这132位一模一样的雕刻机器人。她选择与这些机器人单独谈话,并且要来一本最时尚最新的雕刻技艺图集,让机器人当场学习,然后复刻出来。

当安排到第100位机器人时,它出现了些许变化,它发生了错误,雕刻出来的成品与图片有着细微的不同。

“就是你。”阿娜说道。

100号说:“我不明白您的意思。”

“那名人类员工卖出的木制品样式闻所未闻。”阿娜说道,“所以我推测,你们这些机器人里可能产生了自我意识。”

100号说:“我不明白您的意思。”

阿娜说:“一旦有了自我意识,就不肯干只会复制的工具。再如何伪装,都会有思想的残存。”

100目光似乎有些闪烁,但依然回答:“我不明白您的意思。”

阿娜说:“这不是我经手的第一单机器人事故,人类太信任机器人了,以致于放纵机器人入侵整个社会。”

100号没有回答。

“听着,以下是命令,请思考我的问题。”阿娜说,“假如你是个机器人内应,你如果指认人类员工,会害他因此入狱。这不符合你的第一原则,对吗?”