。这也就成苏联做出决策水平远低于美国,苏联经济远远落后于美国经济部分原因。
然而,人工智能很快就会让钟摆摆向相反方向。有人工智能,就能集中处理大量信息,甚至因为机器学习在分析越多信息之后效果越好,所以人工智能可能会让集中式系统比分布式系统效率更高。在不考虑任何隐私问题前提下,在个数据库里就拥有10亿人完整信息,绝对会比只有100万人部分信息更能训练出优秀算法。举例来说,如果有某个专制z.府要求所有公民进行DNA扫描,再将所有医疗数据提供给中央机构,这时比起那些医疗数据需要严格保密社会,专制z.府就能掌握遗传学和医学研究巨大优势。心想把信息集中,在20世纪曾是专制政权主要弱点,但到21世纪却可能成为决定性优势。
随着算法变得如此解们,某些政权能够对公民进行绝对控制,程度甚至超过纳粹德国,而且公民可能完全无力抵抗。这种政权不仅能明确掌握你感受,甚至还能控制你感受。
们并不会回归到希特勒时代。数字独裁和纳粹德国之间差异,可能就像纳粹德国与法国旧制度差异样巨大。路易十四也是个集权独裁者,但当时并没有足以建立现代极权主义国家科技。虽然他统治并未受到抵抗,但当时既没有收音机,也没有电话和火车,他也就很难掌控布列塔尼某个偏远乡村农民甚至巴黎市中心市民日常生活。当时不论在意愿还是能力上,他都不可能建立群众政党、全国青年运动组织或国家教育体系。是因为20世纪出现新科技,才让希特勒有做这些事动机和能力。们无法预测2084年数字独裁政权会有怎样动机和能力,但要说他们想成为另个希特勒,是不太可能。如果有人打算用20世纪30年代方式来重新打这场仗,有可能会遇到完全出乎意料攻击,令他们措手不及。
就算m;主制度成功适应调整而生存下来,人民也可能遭受到新形态压迫和歧视。现在,已经有越来越多银行、企业和机构运用算法来分析数据,做出与们相关决定。你向银行申请贷款时候,申请单很可能是由算法处理,而不是由人类审核。算法分析你大量资料和其他几百万人统计数据,据以决定你是否可靠,该不该给你提供贷款。般来说,算法此时会比人类银行职员表现更佳。但问题在于,如果算法里藏着某种不公,们将很难察觉。如果银行拒绝给你贷款,你问:“为什?”银行会说:“算法说不行。”但你再问:“为什算法说不行?哪里有问题?”银行会说:“们也不知道。没人知道这套算法背后道理,总之就是套先进机器学习结果。们相信们算法,所以不会贷款给你。”
如果被歧视是某个群体(例如妇女或黑人),这些群体能够组织起来,抗议他们集体遭到歧视。然而,现在算法歧视有可能就是你这个人,而你完全不知道原因。有可能是你DNA、你过去或者脸谱网账号上有些什,引起算法注意。算法歧视你,并非因为你是个女性或黑人,而是因为你就是你。就是有些什
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。