于太多政权道德有缺失，甚至根本就是图谋不轨，自主武器系统带来灾难也只是时间
问题。
会造成危险不只是机器人杀手，监控系统同样有风险。在好z.府手中，强大监控算法可以是人类历史上发生过最大好事。然而，同样
套大数据算法也可能养出未来“老大哥”，最后出现奥威尔笔下那种监控政权，所有人无时无刻不遭到监控。
事实上，
们最后可能会得到连奥威尔都难以想象结果：完全监控政权，不但追踪所有人切行为和话语，甚至还能进入们体内，掌握们内心感受。举例来说，如果某国领导人拿到这项新技术，想想看他会怎
运用？在未来，可能该国所有公民都会被要求佩戴生物统计手环，不仅监控他们言行，还掌握他们血压和大脑活动。而且，随着科学越来越
解大脑，并运用机器学习庞大力量，该国政权可能会有史以来第次真正知道每个公民在每个时刻想些什。如果你看到张该国领导人照片，而生物传感器发现你出现愤怒迹象（血压升高、杏仁核活动增加），大概明早你就会被抓进监狱。
当然，由于该国政权与外界相对隔绝，光靠自己可能很难研发出所需科技。但相关科技可能会由科技较先进国家研发完成，而它可以复制或者购买。某些国家不断改良其监控工具，许多m;主国家（从美国到祖国以色列）也在做同样事情。以色列有“新创企业之国”美名，高科技产业部门极度活跃，还有尖端网络安全产业。但与此同时，以色列与巴勒斯坦处于致命冲突局面，旦真研发出必要科技，至少有部分领导人、将军和国民会很乐意立刻在约旦河西岸布下全面监控系统。
就算在今日，只要巴勒斯坦人打电话、发脸谱网文章或前往另个城市，就很可能已经被以色列麦克风、照相机、无人机或间谍软件监控。由此收集到数据会再用大数据算法进行分析，使得以色列安全部队无须真正动用太多人力，就能找出并消灭潜在威胁。巴勒斯坦人看起来好像占有约旦河西岸些城镇和村庄，但其实以色列人控制着那里天空、电波和网络空间。所以虽然西岸巴勒斯坦人口有大约250万，但只要用少得惊人以色列士兵，就可以有效控制那里。
2017年10月曾有起悲哀而荒谬事件，名巴勒斯坦工人在自己脸谱网账号发张在工地自拍照，就站在台推土机前面。在照片旁边，他用阿拉伯文写——“早安！”但算法自动翻译这些阿拉伯文字时候出错，把意为“早安”“Ysabechhum”误判成“Ydbachhum”，意思就成“杀光他们”。以色列安全部队怀疑这名男子是恐怖分子，打算用推土机冲撞碾压人群，于是立刻将他逮捕。直到他们发现是算法出错，这名男子才得到释放。然而，那则叫人紧张脸谱网发
请关闭浏览器阅读模式后查看本章节，否则可能部分章节内容会丢失。
