据新浪科技消息,如果你花59块钱成了百度文心一言的会员,能买到一个它基于某体育平台的“梗”给你的错误荒谬的结果:“孙继海的儿子叫孙兴慜”。
据分析,这其实是“梗”无意间对人工智能发挥了“信息诈骗”的作用。媒体猜测整个过程或许如下:孙继海儿子=SUN的儿子=SUN儿子=孙儿子=孙兴慜。在遭遇“信息诈骗”以后文心一言甚至还给出了孙氏族谱,让孙继海有了一堆孙兴*系列的儿子。
百度搜索呈现的是一堆非常复杂、有干扰的信息,但人类在在这个时候至少还有自主权,因为它至少看起来是开放的,至少能看到多个信息源。虽然在搜索时代前几个结果也是“孙继海的儿子孙兴慜”,但是至少可以获得多个出处或者来源。进行对比验证,同样是“孙继海的儿子孙兴慜”的信息源头也可以区分新闻网站、专业论坛、短视频,用以判断其事实权重。而错误的AI可能造成最强的信息茧房。
(注:孙继海是中国足球运动员,是第一位在英超联赛中进球并入选英格兰足球名人堂的中国球员。孙兴慜是韩国足球运动员,现效力于英超的托特纳姆热刺足球俱乐部。二者无任何血缘关系。)