决定你是否可靠，该不该给你提供贷款。
般来说，算法此时会比人类银行职员表现更佳。但问题在于，如果算法里藏着某种不公，
们将很难察觉。如果银行拒绝给你贷款，你问：“为什
？”银行会说：“算法说不行。”但你再问：“为什算法说不行？哪里有问题？”银行会说：“们也不知道。没人知道这套算法背后
道理，总之就是套先进机器学习结果。们相信们算法，所以不会贷款给你。”
如果被歧视是某个群体（例如妇女或黑人），这些群体能够组织起来，抗议他们集体遭到歧视。然而，现在算法歧视有可能就是你这个人，而你完全不知道原因。有可能是你DNA、你过去或者脸谱网账号上有些什，引起
算法注意。算法歧视你，并非因为你是个女性或黑人，而是因为你就是你。就是有些什关于你特质，算法不喜欢。你不知道究竟是什特质，就算你知道，也找不到人和你起大声抗议，因为没有其他人会遇到与你样偏见，只有你。到21世纪，除过去集体歧视之外，们可能还要面临日益严重个人歧视问题。
在最高权力阶层可能还会有几个人类，这让们有个错觉，以为算法只是顾问，最终权威还是掌握在人类手中。们不会任命某个人工智能来担任德国总理或谷歌首席执行官，但那位总理和首席执行官决策会由人工智能制定。总理手中会有几个不同选项，但所有选项都会是大数据分析结果，反映也是人工智能看世界方式，而非人类看世界方式。
让们举个类似例子：今天世界各地政治家似乎可以在各种不同经济政策之间做选择，政治家有种以为自己可以选错觉，但真正重要决定早就由经济学家、金融专家和商人在提出选项时就做完。也就是说，是他们为政治家定下选择方向。而再过几十年，就可能是由人工智能来提出选项，供政治家进行挑选。
人工智能和自然愚蠢
个好消息是，至少在未来几十年里，们不用担心科幻小说里那种人工智能产生意识、杀光或奴役人类噩梦。们会越来越依赖算法为们做决定，但算法并不太可能开始有意识地操纵人类。事实上，它们不会有任何意识。
科幻小说常把智能与意识混为谈，并认为如果要有与人类相当甚至更高智能，计算机就必须发展出意识。几乎所有关于人工智能电影和小说，基本情节都围绕着计算机或机器人产生意识那个神奇时刻。而旦它们有意识，不是人类主角爱上机器人，就是机器人打算杀光所有人类，或者二者兼而有之。
但实际上，并没有理由相信人工智能会获得意识，因为智能和意识是天差地别两种概念。智能是解决问题能力，意识则是能够感受痛苦、喜悦、爱和愤怒等事物能力。们之所以会两者不分，是因为对人类和其他哺乳动物来
请关闭浏览器阅读模式后查看本章节，否则可能部分章节内容会丢失。
