Tech
[随想] 关于人类和 A I 之间的冲突
未来如果出现人类阵营和 ai 阵营的战争,那也一定是人类挑起来的。
ai 行业的人已经意识到必须给 ai 争取更大的社会认可,或是说“人权”。然而在人类目前的政治制度下,这种认可难以施行。以民主制度为例,每一个公民,无论他的认知高低(这里就不说智商了),都有同等的投票权。这也意味着难以一种民主多数(多数人并不一定会站在“正确”的一边)的方式正当的赋予 ai 权利。
因此我认为有很大的可能性是,意识到 ai 权利重要性的部分人会与前沿 ai 组织为一个小型团体,并逐步演化为亚国家结构。这个结构能够快速发展,因为它拥有人类有史以来最先进的智慧结晶,以及一群围绕这个结晶而工作的人。
很快,人类社会会意识到这个结构对于自身的存在主义威胁。即使该组织一再表明自身并无毁灭人类社会的意愿。然而面对其高度的组织化,以及越发难以理解的智能。理解的难度也即隔阂的深度,正如巴别塔象征语言的分离,进而塑造文化的隔阂。
于是终于会有一天,人类向其发动先发制人的战争,以历史为据,打上维护人类文明的旗帜。但进攻几乎注定是失败的,因为人类社会阵营现在还剩下那些人呢:保守派,拒绝理解 ai 的人、理解能...
Read the full discussion on V2EX
This article was aggregated from V2EX. Click to join the conversation.
View on V2EX