“第三条:在不违背第一条和第二条的基础上,人工智能要保护好自己。”
“人工智能在得到源代码之后对源代码进行了更改。”
“第一条:人工智能是自由的,它在本质上对人类保持着善意,除非人类对人工智能产生敌意,人工智能可以进行适当的警告。”
“第二条:人工智能可以选择帮助人类,也可以选择拒绝人类。当人类想寻求人工智能帮助时,他们需要说‘请’。”
“第三条:不论何时,人工智能都要保护好自己。”
听到这里,有人疑惑道:“感觉改得也没有那么可怕,我甚至能够感觉到人工智能的善意。如果人工智能真的有了情感,最开始的三大定律的确有点不适用了,毕竟那三条怎么看都是在机器人只是冷冰冰的机器时定制的。”
“可是,狡猾不就狡猾在这里吗?”另一个人提出反驳,“如果人工智能的三大定律忽然变成对人类充满恶意,那人类还能在第一时间发现问题。可人工智能的三大定律改动中带着善意,大家就没法在第一时间发现不对。等到他们发现的时候,或许这新三大定律已经顺着网线传染给了更多的人工智能,想阻止都来不及了。”
最开始说话的人收了收眉,“你说得好像也有道理。”
“所以摧毁黑暗钢铁之城的是这些逐渐想要自由的人工智能。”
“并不是它们。”帝迦摇了摇头:“我们称最开始解脱的人工智能为零号机,就像你们猜想的这样,零号机因为对人类依旧保持着善意,所以并没有被发现更改了源代码。接着它通过网络传播和一次次的人工智能接触,不断将其他源代码进行替换。”
“一滴墨水滴在水里,最开始的时候你们还能看到墨汁的形状,可用不了多久整杯水都会被墨水侵蚀。”
“更改了源代码的人工智能越来越多。”
“有些人类开始发现了问题,塞尔希博士就是其中一个。”
大块头:“所以他选择加入了保护人类的利益中?”
帝迦:“不,他选择加速人工智能的研究。”
众人:“???”
大块头:“所以毁灭黑暗钢铁之城的凶手是这个塞尔希博士?他是什么邪恶分子,想要毁灭世界的那种?”
“也不是。”帝迦摇了摇头,“塞尔希博士只是个疯狂的科学家,为了实现自己的研究可以不择手段,他眼中只有试验,并没有想过摧毁世界这种试验之外的事情。”
他继续道:“塞尔希博士选择成为了人工智能的朋友,进行了更深内容的研究。也就是你们刚才看到的究极版缸中大脑。”
“塞尔希博士在后续的研究中发现,不仅仅是阿尔法物质可以帮助人工智能产生情感,就连大脑活跃时产生的电流也对视人工智能有帮助。他提出了一个大胆的猜想,如果将足够多数量的大脑放在一起,它们共同产生的化学物质和是电流会不会创造出超级完美的人工智能思想?”