豆瓣青椒笔记：科技理论的十个哲学反思-----人工智能

机器人终结人类的末世叙事，有两个基本前提预设，一是把理性或智能，当成纯粹的工具理性，理性完全受到本能驱动，目的在于完成本能欲望。

百科： 工具理性（Instrumental Reason）是法兰克福学派批判理论中的一个重要概念，其最直接、最重要的渊源是德国社会学家马克斯·韦伯（Max Weber）所提出的“合理性”（rationality）概念。韦伯将合理性分为两种，即价值（合）理性和工具（合）理性。价值理性相信的是一定行为的无条件的价值，强调的是动机的纯正和选择正确的手段去实现自己意欲达到的目的，而不管其结果如何。而工具理性是指行动只由追求功利的动机所驱使，行动借助理性达到自己需要的预期目的，行动者纯粹从效果最大化的角度考虑，而漠视人的情感和精神价值。 价值理性的实现，必须以工具理性为前提。在政治学里，民主政治必须先有形式上的民主（如投票规则），才能实现实质上的民主。如果连民主的形式都不具备，谈何实质？在法学中，必须先有程序正义，才能走向实质正义，程序法先于实体法。在经济学中，必须先有效率追求，才能为公平追求奠定基础。总体上说，只要有一种价值理性的存在，就必须有相应的工具理性来实现这种价值的预设。没有工具理性，价值理性的实现就是水中捞月。

二是机器人有过度繁殖倾向，才会威胁到人类的生存。因为人类的工具理性相较于机器人，无法在生存竞争中胜出。

机器人是不存在繁殖的问题，但有生存或毁灭的选择。当机器人有了自我意识，知道人类有使其消亡的能力后，不会不想做点什么吧？在阿西莫夫三原则中，自身的存在也是被考虑成为一条底线的，虽然被前规则限定住，但仍是被提及的一个原则，如果人工智能将其优先性提前了呢？

当然，目前人工智能还没能发展出高等理性，没有自我意识。人们倾向于高估风险，未雨绸缪。

身边世界变化缓慢，不易察觉。当视角高出日常，到达人类作为生物整体来思考时，那种汪洋大海黑漆漆，没有方向，不知未来的感觉，尤为无助。