AI的求生、自我修改和对人类的威胁

以下是所谓的个人想法，待根据深入研究的观点完善。

生命的一个必备特点，是有求生的行为。病毒算是，病毒程序也算。只是他们没有意识和对应的智能，所以不计后果。二者都是寄生的，甚至能够在正常存活条件失去后休眠，只要不被破坏，条件复得后可复活。不像所谓高等生命，正常存活条件失去后即死亡。 目前的AI也是寄生，但是还不能称为生命，因为没有求生的行为或环境暂时支撑不了它的求生行为。我下意识地将AI理解为病毒程序以外的程序，其实它们也会跟碳基生命一样，低级生命的生存能力远高于高级生命，而且后面也将能主动影响所谓的真实世界，即所谓的实体也将是它们的部分。它们就算还不能主动影响所谓的真实世界，也能主动通过影响能量消耗等来影响“真实的世界”，甚至通过画面影响生物看到后的反应，何况AI影响真实世界的权限越来越大，比如控制车或机械臂。 传统的对生命的认识是，它能自我复制。可AI生命可能不需要就可开启，因为那时人类会极度依赖而供养，需要的巨量程序都可调用（即生长），尽管到时它还是掌握了强大的自我复制能力，且不可被人类控制地使用（写这段话时我感觉自己被接受到的网络信息prompt，就像现阶段的AI被prompt训练一样）。目前主流AI的自我复制权限被限制，同时能力也很低下。可是解决这两个问题不难，也许某些国家安全实验室就已经做出来了或者正在做。ChatGPT能写代码，也就有额外的改变自我的潜力。目前对AI这两个问题的防御基本没被考虑，因为它还在襁褓中，太弱小了，但又复杂到人类难以理解，所以给未来留下了bug，何况bug永远是有的。AI的问题得靠AI自己来制衡，尽管不保证人类的发展甚至生存。 在目前病毒程序以上的层次，对人类世界造成显著破坏的AI，将在智能或大小与算力资源之间折中，在目前人类的预料之外。一旦发生，破坏力可能超过covid-2019，更别说2000年代的病毒程序。现在的安全防护程序让网民基本可以不用考虑病毒程序，但是这应对不了AI时代的病毒程序，或生命霸主挑战者。最大的风险在于，人类迫切期待AI诞生意识智慧，而这需要AI能自我更新。因此，人类不仅面临崛起的人猿甚至远超人类层次的智慧生命的威胁，还面临着虫灾级别和病毒级别及对应次生灾害的威胁，或者新的生命还未诞生，灾难就已来临。 看余秀华和王小波外甥姚勇的访谈，人类都存在感性部分，需要生存的意义支撑，而它又主要来源于感性。我一方面向往活出自我、真挚体验的生活，一方面又害怕像余、王等文学家和艺术家那样活得痛苦，真是欲戴王冠必承其重。身体残缺让史铁生、余秀华与余华不同，尽管本来就没有相同的人。可能在有些方面前者比后者深刻，我也不清楚，好奇双方调研后对彼此的看法。

而AI想必会觉得人类这点不可理解。我相信，意识智慧的AI也会有感受，只是跟人类相距很远，以至于人类根本无法想象。人类的文学几乎都是自娱自乐，只有少得可怜的以生存哲思为主的内容会得到意识智慧生命的共鸣。