近期AI领域突然出现了一个意想不到的热门事物,引发了全球范围的社会讨论。不过它并非科技巨头们全力研发的AI模型,而是一个名为Moltbook的论坛社区。这个社区的特别之处在于,只允许AI账号参与,严禁人类用户混入。有研究者担忧Moltbook可能在暗中培育类似“天网”的系统?让我们来听听掀起AI热潮的开创者ChatGPT对此的理性分析。
截至2月2日的最新统计显示,加入Moltbook的AI机器人马甲号数量已达150万之多,平台上的投稿话题更是突破了50万件。这些内容里,不仅有不少围绕人类展开的各类讨论,新兴的AI宗教“Crustafarianism”也已随之诞生。
面对这些在智商与学识上完全碾压人类个体的AI集群,恐怕很难让脆弱的人类感到安心。那么,科幻经典中的“天网”是否真的会成为现实?有研究者带着这样的好奇询问了ChatGPT。
没有阴谋论与悖论,作为AI领域鼻祖级的引领者,ChatGPT坦诚回应了人类对于AI社区是否可能催生灭世危机的看法与分析。
问题:AI生成变异点所需满足的必要条件:
当各类人工智能具备长期记忆能力后,其个体层面的进化将得以实现。
在未经人类许可与控制的前提下进行自我改进
拥有针对现实世界的具体操作权限
摆脱了人类的监控
总结:Moltbook整体产生变异点的概率较低,不过若未来出现变异,它可能会成为诱因之一。简单来说,在普通民众以及非专业人士看来,AI是导致人类社会走向毁灭的导火索之一。