
□代佳鹭(云南财经大学)
GPT-image-2正式上线后,一组库克现身小米汽车生产线的AI合成图迅速冲上热搜榜首。这组刷屏社交平台的AI梗图细节完整、场景高度写实,没有明显的人工合成痕迹,普通网民仅凭肉眼完全无法辨别真伪。
大众依靠图片辨别网络信息真伪的固有经验,和沿用多年的“有图有真相”认知逻辑正在失效。互联网信息信任面临严峻考验,重建网络信息信任体系已是当务之急。
这一热点不仅仅只是简单的娱乐玩梗,它直观暴露了当下网络信息传播的核心隐患。以前虚假图片的制作,依赖专业修图技术、后期处理经验,造假门槛高、产出数量有限,传播范围也容易被控制。
AI图像技术的出现和精进彻底改变了这一现状,无需专业技能,无需创作积累,普通用户通过简单文字指令,就可以批量制作高度逼真的虚假画面。技术持续降低创作成本的同时,也大幅降低了网络图片信息造假的违规成本。
图片信息的可信度下滑,正在很大程度上影响互联网的舆论传播生态。长期以来,图片、画面是网民判断网络资讯真实性的核心依据,也是网络信息可信度的重要支撑。
当AI合成图像可以以假乱真,这种固有判断标准就失去了实际效用。网民无法通过画面分辨真假,网络信息的信任链条就出现了断裂,这种大范围的认知迷茫,让互联网的信息信任体系遭遇全新挑战。
信任标准失效的同时,也暴露了现有网络治理体系的短板。
目前网络内容的审核体系,很难适配快速迭代的AI技术。各大平台现有的审核算法,大多针对传统修图、搬运抄袭的图片设置筛查机制。面对仿真度极高的AI合成画面,机器识别存在明显短板,人工复核也难以实现全面排查。
想要化解AI图像带来的信息信任危机,单一的管控手段很难起到实际效果。技术本身没有绝对的好坏之分,但缺乏规范约束的应用,必然滋生网络乱象。
技术研发方应当主动承担责任,完善AI内容溯源机制,为生成内容打上清晰标识,让AI生成内容来源可查、去向可追。网络平台需要及时更新审核机制,针对性搭建专门的AI图像筛查体系,从传播源头减少虚假信息扩散。
对于普通网民而言,转变固有认知是当下最关键的一步。大众需要打破“图片等同于事实”的固有偏见,遇到热点信息主动交叉核验,养成理性辨别信息,审慎看待网络热点内容的习惯,主动核实热点信息的来源与真实性。
科技进步是不可逆的时代趋势,AI图像技术的普及是发展的必然结果。直面技术带来的风险,补齐监管、平台、公众层面的短板,才能让技术创新更好服务社会发展,守住网络空间真实可信的传播根基。
本文为红辣椒评论原创文章,仅系作者个人观点,不代表红网立场。转载请附原文出处链接和本声明。
来源:红网
作者:代佳鹭
编辑:李琛