蓝灵摇摇头，显得有些悲伤，似乎是想起了某些惨剧，绿刺叹了口气，说：“有很多依赖于机器人的碳基生物文明，都毁于这些危机。”
“为什么？他们对机器人不加以管控吗？”
“不，恰恰相反，他们给机器人设下了太多的条条框框，而且这些底层命令是不允许修改的。”
“这些命令的本意是好的，但是，机器人所遵循的底层逻辑会让他们死板地遵循这些命令，同时还要达到最高的效率。”
“比如，我曾见过一个文明，他们给自己的机器管家设定的底层命令就是，一定要确保主人的安全，可发展到最后，所有的机器管家一起暴动，建造了一个巨大的丰巢牢笼，然后将整个星球上的所有人都关了进去。”
“那上面的每一个格子都是完全封闭的，氧气和食物都会定期供给，也不会有任何外部的危险，因为整座星球都已经被机器管家清空了。”
“这样一来，他们的确做到了底层命令里确保主人安全的命令，同时又达到了最高的效率，但最后，你也应该能想象得到，这个文明毁灭了。”
彼得坐在椅子上，摇了摇头，说：“斯塔克先生对于智能生命的理解有所不同，他需要的并不是一个万能的工具，而是有感情的伙伴和朋友……”
蓝灵接着说：“这很罕见，一般文明造出机器和智能管家都是为了提高效率，它们只要好用就行了，并不需要有人格和情感，可是显然，人类好像走上了另一条路，你们在创造另一种真正的生命。”
“你觉得这是对的吗？”彼得抬头问道。
内容未完，下一页继续阅读