“怎么会有流浪汉进到家里来?”“保安看不到监控吗?”近日,广州番禺某小区业主群内,一张“流浪汉正闯入家门”的图片引发住户恐慌。发图业主称,自家12岁孩子独自在家时遭遇此事。
群内热议不休,直到有业主提醒“这图可能是AI生成的”,才揭穿真相——原来是孩子用AI工具制作的恶作剧。
类似“AI整蛊”近期在多地出现。南方都市报记者调查发现,短视频平台上流传大量此类图片、视频及制作教程。用户只需上传一张家中照片,输入简单指令,几秒内即可生成高度逼真的“流浪汉闯入”画面,操作门槛极低。
类似情况在多地均有发生,有的引发整栋楼排查,有的导致亲属紧急往返,已造成现实影响。
其实这股风潮起源于海外社交媒体。今年10月,TikTok上开始出现“#homelessmanprank”标签下的整蛊视频,青少年群体纷纷模仿:他们用AI生成图片吓唬父母,录下反应后上传博取流量。截至10月底,该标签下视频已超1600段,最高获赞8万余次。国内平台也迅速跟进,出现大量成品视频与“一键同款”教程。
AI整蛊已不止是网络热梗,更成为公共安全负担。美国塞勒姆警方10月初就发布公告,指出此类内容引发多起911误报,批评其“愚蠢且危险”。英国多地警方也将其定性为“浪费宝贵资源”。
部分国家已出现刑事责任案例:美国马里兰州一名女子因伪造“家中有入侵者”AI图片引发警方大规模出动,最终被逮捕并移送法院;俄亥俄州两名未成年人也因同类行为被少年法庭起诉。
在国内,法律界人士指出,明知可能引发误报仍故意制作、传播此类虚假内容,属于“间接故意”报假警,依据《治安管理处罚法》,可处5至10日拘留及500元罚款。若造成社会恐慌,还可能追究刑事责任。浙江嘉兴一男子就曾因利用AI伪造“女儿被人抱走”的寻人启事,被依法行政拘留。
北京市大道政通律师事务所合伙人韩鹏律师表示,这类事件虽危害情节较轻,但折射出AI技术滥用与治理滞后的现实问题。他指出,AI生成内容正不断模糊真实与虚构的边界,公众若仅将其视为“娱乐工具”,极易低估其社会影响。加强AI素养教育,不仅要普及技术使用,更要警示法律与伦理后果,帮助青少年树立技术使用责任意识。
《宝可梦》新作发售日突然官宣!3月5日登陆Switch2
老兄他都能当你妈了!熟女和轻熟女一战的囧图
好评ARPG《泰坦之旅2》价格永涨!之后仍继续涨价
《GTA6》预告片新纪录:超越《复联3》!
国行PS5 Pro冰点价:4000出头就能买!
Faker谈各赛区最佳选手:LPL是UZI!