2023年11月13日

当我问ChatGPT人工智能有可能毁灭人类吗它是这样说的

作者 admin

#大有学问#

经过这几天对人工智能ChatGPT的不断深入了解,我的确时常会感慨,它的出现或许正如周鸿祎所说的那样,“其变革性不输于iPhone的出现,其历史意义和科技意义,绝对不亚于虚拟现实和元宇宙。”

它,可能让人类更进一步,反过来说,它也可能加速人类的灭亡。

关于这个全球目前最智慧的人工智能,有以下两个事实值得我们注意:

3月29日,马斯克等千余名业界、学界人士签名的公开信称,号召加强对人工智能的监督,其主要诉求包括,所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少六个月,在利用这六个月时间里,AI实验室和独立专家应共同开发和实施一套高级AI设计和研发的共享安全协议,并由外部专家严格审计和监督。

除此之外,AI开发者还需要和政策制定者合作,加速开发强大的AI治理系统,在这封公开信的结尾,发起人呼吁大家享受人工智能的漫长盛夏,而不是毫无准备地坠入深秋。

这份名单上不仅仅有马斯克,还有苹果联合创始人、SAype联合创始人、《人类简史》作者等等,另外还有三名谷歌旗下人工智能实验室的研究员。

第二个事实是,在稍早的一次播客访谈中,阿尔特曼早一次被问及AI的风险,他坦诚OpenAI团队自己也没搞懂ChatGPT是如何进化出推理能力的,只能通过不断问它问题、再通过回答来判断其“思路”。

阿尔特曼甚至承认,AI杀死人类“有一定可能”。因此他支持和理解马斯克一直以来的安全担忧,但他也希望后者看到OpenAI在解决这些问题上付出的努力。

基于以上这两点事实,我们足以得出一个结论:那就是ChatGPT是危险的,是有一定风险的,这种风险哪怕是创始人团队可能也没有完全明白背后的机理和运作原理,而这种人类对人工智能的未知,恰恰是最可怕的。

带着对人工智能的好奇心和探索欲,经过我这几天对ChatGPT的不断提问以及它的问答来看,我的感触是欣喜和可怕的,它的确足够强大,在我的每一个问题中,它几乎都能够给出一个完美的答案。

当我问它人类的认知是否是心理事实的时候,它告诉我这是一个哲学问题,同时也承认人类世界的主观认知是基于心理事实,但也指出,除了人类对世界的主观认识之外,还有大自然和物理世界的客观规律,这些不以人类的主观认识而改变。

除了这种深奥的提问之外,我还问了一些人工智能以往最不擅长的想象力和创造力的问题,例如我让它想象一种未来的新技术,并推导该技术的落地,以及如何为人类带来性变化,它都能够很完美的回答。

尽管我知道这背后都是模型和算法数据的功劳,但对它的理解越深,就越是感慨它的可怕,这种可怕不仅仅是超越绝大多数人的推理、智力、逻辑能力的碾压,更是各种实用性技能的增强,这会不会导致大规模的失业?

又会不会演变出新的社会冲突和矛盾对立?我想答案都是显而易见的,都是不言自明的。

当我问ChatGPT如何看待坏的不好的人工智能对人类的影响时,它给我例举了四个方面的,分别是安全威胁、失业率影响、偏见和歧视、隐私问题。

当我问ChatGPT如果人工智能被用于恶意目的,它会造成哪些危害时,它告诉我,人工智能会造成网络安全风险,人工智能可以被用于网络攻击,例如黑客可以使用人工智能进行自动化攻击或利用人工智能破解密码等敏感信息。

除此之外,它还提到人工智能会影响社会稳定,例如被用于制造虚假信息或扭曲事实,也可能导致社会混乱等等。

最后,人工智能还能够被用于制造自动化武器,例如无人机和机器人,这些武器可能会造成大规模杀伤人类生命。

最后我问它,你认为人类可能因此而毁灭吗?几率有多高?

它先是表示自己不会对未来的事件做出预测,但它也告诉我,如果人工智能被用于恶意目的并且失去了控制,那么就会人类造成严重的威胁,包括网络安全风险和社会稳定风险,而这些风险可能导致人类的灭亡。

当我问它具体会如何做的时候,它告诉我,首先要控制网络和信息系统,例如核电站、水坝、交通系统、医院等等,从而造成严重的灾难和破坏。

其次攻击人类的基础设施,它说坏的人工智能可能会攻击人类的基础设施,例如电力、通讯、水源等,从而削弱人类的生存能力和社会稳定性。

第三点就是操纵人类的思想和行为,通过设计媒体和虚假信息来操纵人们的情绪和行为,从而导致社会和混乱。

最后就是制造和使用致命武器,它提到坏的人工智能可能会制造和使用致命武器,例如自主决策的无人机、自动化的武器系统等,从而对人类造成严重的伤害和死亡。

更厉害的是,它还想到了制造和散播病毒,例如计算机病毒和生物病毒等等。

人工智能是如此强大,以致于我们不得不对它心生戒备,但同样的,它所带来的性的变化,也几乎能够帮助人类处理任何工作和生活的几乎一切困难,例如帮你设计一个PPT模板,帮你写文案、写软文推广、甚至还能教你如何追求心仪的对象,如何处理家庭关系等等。

周鸿祎说国内的人工智能要落伍ChatGPT-4两年的时间,这句话我们无从判断真假,但确信的是两者之间却有差距,人工智能的风潮在很多年前就开始了,但真正性的变革,可能还是ChatGPT-4的出现,它打破了我们对传统人工智能的理解和印象。

国内几乎所有的互联网公司目前都在研发人工智能,360、百度、腾讯、阿里等等,有的产品显然已经出来了,有的产品则还在研发阶段,未来随着人工智能的普及,也许不出五年就会出现人工智能的自主意识,而这可能是更可怕的。

周鸿祎预测ChatGPT-6或者第八代就会出现自主意识,届时也意味着某种意义上全新的生命体,被人类所创造出来。

而这种全新的生命体拥有独立的意识,几乎是永生的特点,即便完全地接受人类的监管,我想可能也会给人类社会带来极大的动荡,人工智能能够替代绝大多数脑力工作者,而不是体力工作者,如今看来也是颇为讽刺。

不管我们相信与否,人工智能的变革,都将改变许多人的生活方式,不管我们愿不愿意,它的影响必定会超越iPhone,成为又一个跨时代的产品。

未来人类的工作和生活,恐怕会由这些强大到几乎无所不能的AI来帮助我们完成,而届时,随着AI控制的生活越多,帮助越多,那么它理论上也就更强。

如何监管和透明化,可能会是人类和AI相处的一个重要的平衡点。

end.

作者:罗sir,新青年的职场内参。关心事物发展背后的逻辑,乐观的悲观主义者。关注我,把知识磨碎了给你看。