真扁担挑梦想，假 " 扁担 " 榨流量！广西女孩刘燕靠着一根扁担，" 挑 " 起全网对奋斗青春的敬意；几天后，这张朴实的脸就被 AI" 偷 " 走，塞进了无数虚假视频，成为不法分子的 " 敛财工具 "。
6 月 19 日，公安部网安局官微通报 3 起案例，根据披露，黄某金利用 AI 批量炮制数十个虚假视频，让 AI" 刘燕 " 讲述虚假故事，短短数日疯狂吸粉近 8 万，甚至建立付费会员群，企图收割网友善意；吴某林注册多个高仿 " 扁担女孩 " 账号，博取网友的同情心，发布谣言视频，吸粉引流，扰乱社会公共秩序。好在公安机关及时介入，对黄某金等人处以行政拘留和罚款，暂时斩断了这条黑色利益链。还有一些人为了蹭热度，修改网络昵称，明示或暗示自己是 " 扁担女孩 "，公安机关也予以了批评教育。
刘燕的真实扁担，挑起的是责任担当、是青春梦想、是拼搏锋芒，而不法分子的虚拟 " 扁担 "，挑起的是黑心流量、是欺诈伎俩、是贪婪欲望。网友也怒了，有人说" 年纪轻轻，有手有脚，做什么不好，非要造谣 "。有人说" 哪怕已经全网爆火，刘燕选择在油茶店打工都没想过用流量赚钱，这些人为了流量简直毫无底线 "。有人觉得行政拘留 10 日并处罚款还不够 " 疼 "，认为" 不严厉打击判处会更加肆无忌惮 "。还有人借评论区举报，" 还有很多冒充韦东奕的账号，希望相关部门赶紧查一查 "。
别让 AI" 刘燕 " 们透支公众的善意。从刘燕、北大韦东奕、再到奥运冠军全红婵、医生张文宏、企业家雷军等，热点人物被 AI 仿冒蹭流量的现象屡见不鲜。每一次因善意凝聚的感动，都可能成为不法分子行骗 " 敲门砖 "；每一次因关切聚集的目光，都可能沦为造假者敛财 " 流量靶 "。当大家的关注、点赞、转发以及爱心捐助被反复利用欺骗，长此以往，谁还肯毫无保留地敞开心扉？谁还愿毫无顾忌地奉献真心？最后，真正需要帮助的人和真实感人事迹，就会被怀疑、被忽视。
" 治谣 " 与 " 治 AI" 要齐头并进。AI 极大地拉低了造假门槛，有图有视频，也未必有真相，更关键的是，AI 造假能力几乎没有上限。2024 年，南昌一家 MCN 机构因利用 AI 造谣被查处，高峰时一天能生成 4000 至 7000 篇文章。但话说回来，AI 造的谣，也可以由 AI 来破解。比如平台、生成软件可以规定，AI 必须要有 " 身份 " 标签，让网友心里有数，出了事也好顺藤摸瓜追责。主管部门、平台、科研机构等也可以升级检测系统，建立智能监控网，对冒牌账号、谣言帖，发现一个立马 " 亮红灯 "、封账号。法律法规也得跟上技术发展的 " 快节奏 "，划清责任边界，重拳出击。
唯有让冒充者付出 " 真疼 " 的代价，让平台扛起 " 重责 " 的担子，让技术的 " 慧眼 " 跑在造假 " 黑手 " 前面，才能让每一次真实的感动不被辜负，让善意的清泉在网络空间长流不息。
来源：长江云新闻
版权声明
本文仅代表作者观点，不代表百度立场。
本文系作者授权百度百家发表，未经许可，不得转载。
发表评论