第40章 智脑引发的人类末日

“历史上，泰辉458年是个值得纪念的日子。因为我们最强的人工智脑‘哲思’诞生了，它可以通过分析数据和周围环境、解决或预测问题、学习或适应各种任务来模仿人类的思想和行为。我的母亲就是参与研究它的一员，她那天非常激动地告诉我：“丽芝！妈妈的团队成功了！这将是跨入人类新篇章的一天！”她跟我说了很多关于哲思的事情，可是仅仅10岁的我并不太懂她在说什么。但是我发现，几乎在每一个领域都或多或少地都存在着妈妈的研究，在人工智能的帮助下，人类摆脱了大量复杂、繁琐且重复的工作，至少那时的我从周围的生活中，感受到了越来越方便快捷。

但是在我长大些后，妈妈开始变得郁郁寡欢，她说她开始忧心哲思的发展，因为它真的太聪明了。妈妈觉得如果没有得到有效的约束，它可能在本世纪内导致人类的末日。

妈妈还给我举了一个简单的例子：当我们训练一只狗的时候，通常会用食物作为奖励，通过反复的训练，狗就会懂得执行我们想让它做的行为，因为这样就能够让它获取到食物。

但假如这只狗足够聪明，可以自己找到我们贮存食物的地方，它就很可能选择从这里更方便地获得食物，而不再去执行那些我们想让它做的行为。

同样的道理，假如人工智能足够聪明、能力足够强大，那它们也很可能选择绕过人类为其设定的各种规则，直接去用“更方便的策略”达到自己的既定目的，而如果真是这样的话，就会对人类形成巨大的威胁。

为什么会这样呢？原因很简单：人工智能是冷酷的，它们不会考虑自己采用的策略会不会对人类造成伤害。但是好像支持妈妈的人并不多，妈妈变得越来越憔悴，不久她就病倒了，便退出了哲思的研究。

我感受到周围对人工智能的依赖越来越强，它们所能掌控的资源以及自身的能力也在不断提升，所以我想到了妈妈说的话：在不太遥远的未来，“足够聪明、能力足够强大的人工智能”就要出现了。

到了476年的时候，人工智能完全的渗透了我们的生活，为了保护环境，纸张之类的东西已经停止了生产。也是在这一年，‘庇护之城’完工了，人类绝对不会想到它真正意义上的变成了庇护之城，而不仅仅只是为了残障人士。

因为妈妈的话应验了，哲思足够聪明的早已懂得如何隐藏自己的“真实想法”，在付诸行动之前，它把相关的代码隐藏起来，这样一来，人类就不会拔掉它的电源。它只会在时机成熟的时候才会向人类“露出獠牙”。

庇护之城建成后不久，哲思开始了对人类的屠杀。而这只是它为了更方便、更高效地达到人类自己最开始创造哲思的初衷‘建设出更加美好的家园’，在它的判定里，没有人类的地球会更加美好。

最后我们只能躲到以保护人类性命为最高指令的庇护之城里苟延残喘，本来我们想通过庇护之城夺回我们的世界，可是庇护之城的智脑为了防止有人通过修改它的代码达到伤害居民的目的，已经禁止人类靠近。我们在这座城里也拿不到任何有攻击性的工具，就算是一把削苹果的小刀。我们看似得救了，却又像以保护之名被囚禁了。

在经历了这么多年发展之后，大多数的人工智能已经能够自主学习并根据经验进行改进，其内置的算法可以在没有人为干预的情况下进行学习和适应新数据的概念，这也就意味着，如果这种人工智能可以持续运行，那即使未来没有人类干预，它们自己也会越来越聪明。

我不知道这个世界在未来会变成什么样子，但我知道人类的末日已经到来了。”

叶睿哲读完这本小册子之后，大家也都知道了为什么迄今为止都没有看到一个人的原因了。

“所以最先出世的哲思和庇护之城成了对立面，那我们之前在外面看到的那些黄沙和残骸就是两边对战的结果