近日，有媒体报道一些不法分子通过AI技术生成几百到上千字的文本，再配上貌似和此文本具有相关性的虚假图片，从而形成一段看起来信息量很大，但实际上子虚乌有的谣言，严重扰乱社会秩序。
“AI谣言”有何特点？其一，成本更低。仅仅动动手指键入“关键词”，便可瞬间生成内容猎奇、形式新颖、传播较广的虚假新闻。如，被媒体曝光的某MCN机构在最高峰一天能生成4000至7000条谣言。其二，收益更高。有的网络平台会向流量高的内容和用户支付报酬，这在某种程度上会刺激一些不法分子利用AI技术批量生产谣言。上述MCN机构最高的一条谣言收入有700元，初步估算其每天的收入在1万元以上。其三，更具迷惑性。AI技术生成的文本兼具新闻风格，生成的图片更是精美和高清，颠覆了“有图有真相”的常规认知，不免让人萌生“真假难辨”之感。
作为一种新型谣言传播趋势与犯罪手段，AI谣言的危害亦不容小觑。比如，有报告显示，近两年AI谣言中，涉经济与企业类谣言占比最高，达到43.71%。而近一年来，上述AI谣言的增速更是高达99.91%。长此以往，企业和企业家的形象声誉势必将被严重扭曲，民营经济的发展环境也会遭受重创。再比如，涉及公共秩序、食品安全、民生领域等方面的AI谣言，极易引起公众恐慌，引发社会信任危机。
技术是中性的，但一切技术的使用过程都承载着人们的价值观。AI技术被应用于批量生产谣言，受苛责的不应该是技术本身，而应是背后的“黑手”，即那些受“流量经济”刺激的别有用心者。去年12月以来，全国公安机关累计排查网络谣言线索8万余条，侦办网络谣言类案件1万余起，抓获犯罪嫌疑人1500余名，行政处罚10700余人，开展公开辟谣等4200余次。2024年是打击整治网络谣言专项行动年，以雷霆手段整治那些既无法律观念也无道德底线的不法分子，正逢其时，至关重要。
阻击谣言注定是一项复杂的工作，需要各方携手合作、形成合力。一方面，平台在刺激创作的同时，也应尽到消除虚假信息传播的责任，通过更严格的信息过滤、账号处理等，让流量生意无利可图。另一方面，相关治理手段也要迭代更新，通过利用技术识别伪造内容，让识别谣言的精准度更高、阻击速度更快、打击力度更强，斩断造谣背后的黑灰产业链。此外，广大网民也要严格遵守相关法律法规，自觉规范个人网上言行，不断提升识别防范抵制网络谣言能力。
津公网安备12011002023007号