员工称亚马逊AI机器人幻觉现象严重 且泄露公司机密

据Cryptopolitan消息，亚马逊最新的人工智能项目Amazon Q在宣布三天后就面临了一场舆论风暴。员工们对这个聊天机器人出现严重幻觉和泄露机密数据的问题表达了极大的担忧。据了解，该智能泄露了包括AWS数据中心位置、内部折扣计划等诸多机密信息。

“hallucinate”，产生幻觉，在AI领域意为生成错误的信息。

员工们表明这个聊天机器人没有达到亚马逊高管承诺的安全标准。泄露的文件详细描述了严重幻觉的情况，Amazon Q会向用户返回有害或不恰当的回答。这一事态被归类为“sev 2”事件，这意味着情况非常严重，需要工程师们紧急处理。

亚马逊对内部讨论的回应是淡化员工提出的关切的重要性。一位发言人强调，在亚马逊，通过内部渠道分享反馈是一种常规做法，并坚称没有因为反馈而发现安全问题。公司对收到的反馈表示感激，并保证在从预览产品过渡到正式发布时，会对Q进行微调。