道该如何教育下
代。等到孩子长到40岁，他们在学校学
切知识可能都已经过时。传统上，人生主要分为两大时期：学习期，再加上之后工作期。但这种传统模式很快就会彻底过时，想要不被淘汰只有条路：辈子不断学习，不断打造全新自己。只不过，许多人，甚至是大多数人，大概都做不到这点。
由于接下来科技发展潜力极其庞大，很有可能就算这些无用大众什
事都不做，整个社会也有能力喂饱这些人，让他们活下去。然而，什事能让他们打发时间，获得满足感？人总得做些什，否则肯定会无聊到发疯。到时候，要怎过完天？答案之可能是靠药物和电脑游戏。那些对社会来说多余人，可以多花点时间在3D虚拟世界里；比起
无生趣现实世界，虚拟世界能够为他们提供更多刺激，诱发更多情感投入。然而，自由主义推崇人类生命及人类体验神圣不可侵犯，这样发展会是对这信念记致命打击。这些人对社会毫无用处，整天活在现实与虚幻之间，这样生命何来神圣？
尼克·伯斯特隆姆（NickBostrom）等专家和思想家就提出警告，认为人类大概还承受不住这样退化，因为旦人工智能超越人类智能，可能就会直接消灭人类。人工智能这做理由，是可能担心人类反扑、拔掉它插头，二是要追求某种
们现在还难以想象目标。毕竟，等到整个人工智能系统比人类更聪明时，要再控制系统动机，实在有如天方夜谭。
就算目前看来立意全然良善程序，也可能带来令人恐惧后果。常见情节就是，某家公司设计出第套真正人工超级智能，对它进行个毫无恶意测试，比如计算π值。但就在任何人意识到之前，人工智能已经接管整个地球、消灭人类、发动攻击征服整个银河系，把整个已知宇宙转变成巨大超级计算机，花上几万亿年时间，只为算出更精确π。毕竟，这正是它创造者交给它神圣使命。21
请关闭浏览器阅读模式后查看本章节，否则可能部分章节内容会丢失。
