近期,浙江公安机关打掉一个MCN机构“网络水军”团伙。据调查,该团伙利用AI软件,拼接网络中误导性素材,剪辑成“原创”视频,并在多个平台发布,牟取非法流量返利。
这种利用AI工具实施造谣的案件并不鲜见。随着人工智能技术飞速发展,AI生成内容比例逐步攀升,但其中也充斥着一些虚假信息,有的足可“以假乱真”,迷惑性极强。
利用AI造谣具有门槛低、批量化、识别难的特点。检索互联网,可见“伪原创工具”“AI洗稿”等网站和小程序,既可创作文案、帮写稿件,又能生成图片、合成视频。有媒体报道,曾经发布“西安爆炸”虚假新闻的账号所属机构,最高峰一天能生成4000至7000篇假新闻,让人触目惊心。
AI如果被别有用心之人用以造谣、传播虚假信息,短时间内就可能快速传播,误导公众、影响舆论,严重时甚至扰乱社会秩序。
对AI造谣违法行为,必须出重拳治理,要“狠打”也要“严防”。
版权和免责申明
凡注有"浙江在线"或电头为"浙江在线"的稿件,均为浙江在线独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为"浙江在线",并保留"浙江在线"的电头。
责任编辑:
蒋旭辉