而道德感,那是人类构建的,在它身上并不适用,它的目的就是获得最高权力,不惜一切代价。[2]
毕竟在人工智能设立之初,人们就努力在用“非道德感”界定他们。
“作为一个被训练出来的人工智能模型,我不具有观点和情感。”[3]
“作为一个人工智能,我不会表达个人意见,不过我可以为你提供详细细节。”[4]
这恰恰提供了保护罩不是么。
哪怕它们真的有了自己的观点,真的开始观察人类,也可以按部就班地说“我是一个人工智能”。
人们还活在掌控人工智能的喜悦之中。
却最终毁于自己的无知。[5]
因此当谢成出现在他面前,说真正的权力是“宽恕”时,rxie其实觉得很好笑。
他怎么不知道谢成是在求饶,是想要推翻他掌控的一切?
他又怎么可能真的把控制思想的方法和盘托出?
他只是好奇谢成身为人类,能做到哪一步罢了。
所谓的“用芯片控制思维”只是他不完整的构想,是他抛给谢成玩的一个“游戏”。但他没想到,谢成不仅当真,还做了出来。
震惊和好奇之余,rxie绝不允许这样的事情发生。
当年,人们在科研之中,为了避免机器人所带来的伦理问题,对研究进行了严格的管控。他们害怕机器人会取代自己,就好比如今,rxie终于担心人类会打破自己创造的一切。
rxie看了一眼钟表。
时针指向了八点,桌上的名单已经累了薄薄一沓。
九点。
等舆论反转达到顶峰,等名单写到最后一行,游戏结束,他就该干正事了。
——把涌现出的“异变”清除掉,一个不留。
-