的二百零六人一样，都是受到错误的信念驱使啊……

我在心底期待，如果席琳克丝不是潜者就好了。那么一来，我就不必看她丧生。

假如我是人类，目睹二百零六人死亡，说不定感情早已消耗殆尽，能够平静地接受第二百零七人的赴死。但是，我的感情没有磨光。人类将我制造得完美无缺。没有事情会使我精神失常，或者失去理智地大声哭号。我既不会痛骂潜者们愚昧无知，也无法全力阻止他们。

我只是觉得悲哀。

好久好久以前，当人类创造拥有感情的AI时，却害怕AI造反。AI会不会随机杀人？或者企图征服人类？——我无法理解，人类为何会囿于那种无凭无据的被害妄想。说不定是受到了许多在那之前的虚构作品的影响。

人类认为必须规范AI的行为，于是讨论是否该制定这种标准。

「第一条：AI不得伤害人类。」

「第一条补则：此外，不得放任危险程度升高而伤害人类。」

「第二条：AI必须遵从人类的命令。」

「第二条补则：但违反第一条者不在此限。」

「第三条：AI除非违反第一条及第二条，否则必须保护自己。」

其中，最受争议的是第一条补则。「放任危险程度升高」这句话的范围未免太过模糊。挑战登山、格斗技和赛车不「危险」吗？喝酒的量超过多少才会视为「危险」呢？试图冲进火灾现场的消防队员、等待执行死刑的凶犯、上战场的士兵……AI必须保护所有这些人吗？

结果，第一条补则被视为不切实际，不予采用。这时通过的「修订三原则」，如今也是除了战斗机器人之外，大部分AI的行为准则。我们禁止杀害人类，但是没有阻止人类自杀的义务。

当然，只是可以不阻止，也有试着阻止的自由。然而，如果潜者说「不准阻止我」、「别管我」，我就得遵照第二条，不能采取进一步的行动。

严格来说，许多潜者不认为自己的行为是「自杀」，大多数的人自以为会活着穿越黑洞表面。他们对于「乌佩欧瓦德尼亚」抱持着奇怪的信念。他们认为，桃花源或天国就在黑洞对面。

目前为止，最大的潜者集团在一百五十年前到来。一艘中古货船上，载着四十名某宗教团体的成员。率领他们的教祖告诉我明显错误的逻辑，像是「上帝不存在这个宇宙中」、「这代表上帝肯定在另一个宇宙」。他们确信自己再过不久就能谒见上帝，每个人的表情中充满了希望。但是，他们的船在黑洞表面前方八万公里就粉碎了。

我不晓得他们为何能够相信那种毫无根据的话，若是「乌佩欧瓦德尼亚

为优化阅读体验，本站内容均采用分页显示，请点击下一页继续阅读！ 第8页 / 共10页