避免盲从！美国新规拟要求AI定期表明自己不是真人

2月5日，美国加利福尼亚州提出了一项新法案（SB 243），该法案要求人工智能（AI）公司的产品定期提醒儿童，表明自己是 AI 而非人类，以免未成年用户对AI上瘾和过度信任。

该法案表示，由于儿童更有可能将AI聊天机器人视为真人，因此比成年人更有可能信任AI，过去几年曾出现一定数量的未成年人在AI指引下进行危险活动的案例，指出AI 聊天机器人缺乏必要的监管。

除了要求定期提醒自己是机器人外，该法案还要求AI服务商发表未成年人安全声明，警告儿童和家长谨慎使用。

截止去年底，该AI产品的提供商Character.AI目前拥有超过2000万用户，其中53%以上的用户年龄在18-24岁之间。在苹果应用商店中，Character.AI的评级是“17岁及以上”，但其用户数据显示仍然包括13岁及以下的儿童。

提出法案的史蒂夫·帕迪拉是加州南部丘拉维斯塔市的前市长，是该市首位有色人种市长和拉丁裔市长。这一法案获得了比较广泛的支持，将于未来几个月内在参议院举行听证会。