数据算法也可能养出未来“老大哥”,最后出现奥威尔笔下那种监控政权,所有人无时无刻不遭到监控。
事实上,们最后可能会得到连奥威尔都难以想象结果:完全监控政权,不但追踪所有人切行为和话语,甚至还能进入们体内,掌握们内心感受。举例来说,如果某国领导人拿到这项新技术,想想看他会怎运用?在未来,可能该国所有公民都会被要求佩戴生物统计手环,不仅监控他们言行,还掌握他们血压和大脑活动。而且,随着科学越来越解大脑,并运用机器学习庞大力量,该国政权可能会有史以来第次真正知道每个公民在每个时刻想些什。如果你看到张该国领导人照片,而生物传感器发现你出现愤怒迹象(血压升高、杏仁核活动增加),大概明早你就会被抓进监狱。
当然,由于该国政权与外界相对隔绝,光靠自己可能很难研发出所需科技。但相关科技可能会由科技较先进国家研发完成,而它可以复制或者购买。某些国家不断改良其监控工具,许多m;主国家(从美国到祖国以色列)也在做同样事情。以色列有“新创企业之国”美名,高科技产业部门极度活跃,还有尖端网络安全产业。但与此同时,以色列与巴勒斯坦处于致命冲突局面,旦真研发出必要科技,至少有部分领导人、将军和国民会很乐意立刻在约旦河西岸布下全面监控系统。
就算在今日,只要巴勒斯坦人打电话、发脸谱网文章或前往另个城市,就很可能已经被以色列麦克风、照相机、无人机或间谍软件监控。由此收集到数据会再用大数据算法进行分析,使得以色列安全部队无须真正动用太多人力,就能找出并消灭潜在威胁。巴勒斯坦人看起来好像占有约旦河西岸些城镇和村庄,但其实以色列人控制着那里天空、电波和网络空间。所以虽然西岸巴勒斯坦人口有大约250万,但只要用少得惊人以色列士兵,就可以有效控制那里。
2017年10月曾有起悲哀而荒谬事件,名巴勒斯坦工人在自己脸谱网账号发张在工地自拍照,就站在台推土机前面。在照片旁边,他用阿拉伯文写——“早安!”但算法自动翻译这些阿拉伯文字时候出错,把意为“早安”“Ysabechhum”误判成“Ydbachhum”,意思就成“杀光他们”。以色列安全部队怀疑这名男子是恐怖分子,打算用推土机冲撞碾压人群,于是立刻将他逮捕。直到他们发现是算法出错,这名男子才得到释放。然而,那则叫人紧张脸谱网发文还是被删除,毕竟小心驶得万年船啊。巴勒斯坦人今天在西岸状况大概只是个简单预告,未来或许全球几十亿人终将出现同样局面。
在20世纪后期,m;主国家表现通常优于专制国家,是因为m;主国家更善于处理数据。m;主制度采用分布式信息处理,由许多人和机构来做出决定,而专制制度则是把所有信息和权力都集中在处。鉴于20世纪科技水平,把太多信息和权力都集中在个地方并不是有效率做法。在当时,没有人能够及时处理完所有信息,并做出正确决定
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。