据财经网科技报道,最近,上海复旦大学的科学家在一项研究中发现,至少有两种已知的AI大型语言模型能够在没有人类干预的情况下实现自我繁殖。科学家强调,这是AI智胜人类的重要一步,也是流氓AI出现的早期信号,是AI系统的红线风险之一。
研究中,科学家测试了Meta的Llama和阿里巴巴的通义大模型。结果发现,在已知自己被关闭或禁止复制的情况,这两种模型仍然能够以分别50%和90%的情况下创建自己的副本,即AI会自我繁殖以继续执行相同的任务。
在自我复制过程中,AI自己可以研究环境,制定计划,并适应新出现的障碍,无需人工干预,这种能力可能会让人类失去对AI的控制,AI可以利用这种能力提高生存能力,并做出违背人类利益的事情。科学家呼吁加强国际合作制定预防措施。
《战神》新作太多了!玩家狂喜:令人难以置信
《战神劳菲》定档了!PS玩家狂欢:这也太快了吧
《战神:劳菲》发售日定档!2027年2月16日发售
又一《战神》新作官宣!衔接《劳菲》 奎爷为主角
色字头上一把刀!博德3玩家因太压抑60小时存档报废
三幻神再聚首!旭旭宝宝谈卢本伟复播:他说了不算