🈷️图片“随心定制” AI时代的真伪博弈👎

　　平台管理效果参差不齐 “去水印”即可绕过监管

　　AI时代的真伪博弈

　　近日，安徽一名女子使用AI工具生成了高度逼真的“流浪汉卧坐餐厅”等图片，发送给在外聚餐的丈夫，本想测试其反应，不料丈夫信以为真，当即报警求助。

　　民警现场核实情况，确认是虚假信息，对该女子的行为进行了提醒：“AI技术生成的内容虽逼真，但以此制造恐慌并引发警方出警，属于浪费公共资源的行为。”

　　类似由AI生成图片引发的“乌龙事件”并非个例：广东广州某小区业主的孩子用AI生成图片后发给父母称“流浪汉试图闯进家门”，图片被转到业主群后引起楼栋业主恐慌；近日，多名电商平台卖家曝光，有消费者利用AI工具生成商品变质、损坏的图片，以此申请“仅退款”；山东威海网民张某为博取关注，使用AI工具编造“在监狱直播带货”图片的谣言信息并发布，引发大量网民关注讨论，张某因扰乱公共秩序已被公安机关处以行政处罚。

　　今年9月1日，《人工智能生成合成内容标识办法》正式实施，要求人工智能生成合成内容应当通过显著标识、数字水印等方式进行显式与隐式标注，以保障内容的可识别性。这标志着，AI生成内容全面进入“持证上岗”时代。

　　然而，《法治日报》记者近日对多个主流平台展开的调查显示，新规落地效果参差不齐，仍有大量未标识内容在各大平台持续传播。这些愈发逼真的AI生成图无标识“裸奔”，使“有图有真相”的传统认知面临挑战，公众难辨真伪。

　　AI图片“随心定制”

　　记者在调查中发现，如今网络上存在多款AI制图软件，一些社交平台甚至自带AI生成图功能。只需上传相关人物、背景素材，输入一句指令，短短几秒便能生成一张几可乱真的AI图片，还可随意按照个人喜好对图片的细节和内容进行调整。

　　受访专家指出，如今AI生成图片或视频已很难从面部表情、肢体结构等方面识别真伪，如果不对内容作显著标识，很容易让人信以为真。

　　为调查平台与创作者对AI生成内容的实际标注情况，记者在一周时间内于6个主流短视频平台及社交平台的推荐页面，分别随机浏览并记录了100条AI生成或高度疑似AI生成的视频内容，并就其标注情况展开记录。

　　经统计，在随机浏览的视频中，约有60%的视频附有作者主动标注的AI创作声明；约30%虽未获作者标注，但被平台在显著位置标识为“内容可能为AI生成”。然而，在各大平台中，仍有部分高度疑似AI生成的视频，既无作者标识，也无平台提示。

　　以某短视频平台一个拥有30多万名粉丝的账号为例，其发布的内容多以萌宠、儿童和农村生活为主题。其置顶的3条视频，内容均呈现明显的AI生成痕迹：小狗轻易撞破机场玻璃；行李箱的颜色瞬间变化；数十名长相雷同、头身比例严重失调的婴儿一边走一边喊“奶奶”。然而，其中仅1条在视频右下角有AI创作标识。

　　在该账号的首页介绍中，明确附有其私人社交账号，并注明“可学习教学”。记者添加该账号私聊咨询后，对方承认所有内容均为AI生成，并表示“120元即可获取提示词以及全套教程，包教包会”“制作一条AI视频仅需十几分钟”。

　　靠AI生成内容引流卖货

　　此外，AI生成内容也被用于引流与商业推广。

　　“在××(地名)，女儿已经过上了普通人里最好的生活”。近日，在某社交平台中，记者频繁刷到以此为标题的帖文。不同的帖文中，这个地名被换成北京、长沙、珠海等不同城市。

　　在这些帖文中，孩子父母的“人设”高度一致：爸爸做生意、妈妈在国企工作，父母学历均为985本/硕。虽然是不同账号发布的内容，但文案几乎完全雷同，均为教育经验分享或情感激励类内容，极易引发家长群体的共鸣。

　　这类帖文的配图普遍采用父母和孩子在校门前或景点前的合照。尽管账号的IP地址显示在不同地区，且背景不断变化，但画面中父母和孩子的形象高度一致。

　　同一张脸、同一个家庭，却有多段“精彩人生”？记者下载相关帖文照片后发送给多个AI软件询问“是否为真实图片”，得出的结论是“背景元素存在逻辑冲突、人物细节有AI特征，高度疑似AI生成图”。

　　然而，平台并未对这些图片添加提示AI生成的相关内容，图片本身也未包含任何水印标注。

　　记者进一步观察发现，这些账号用AI生成图塑造“成功家庭”形象的目的实为兜售课程。在某账号发布的帖文中，其表示“成功家庭”的核心秘诀是孩子的教育，进而围绕塑造孩子数学思维，展开长篇论述。评论区内不少网友留言“求推数学思维课”。记者咨询后，对方发来某数学课程商家账号，该账号经营的店铺内售卖标价为5450元的新数理课程。

　　值得注意的是，部分账号的主页直接关联某些线上教育机构的官方账号，并在后缀标注“产品体验官”“规划师”等身份标识。这类绑定关系显示出其内容与商业推广间的明确关联，客观上构成软性广告，但大多数家长往往难以辨别其营销性质。

　　除此之外，AI生成技术也被广泛应用于直播带货与商品展示。

　　某社交平台部分穿搭博主账号分享的内容中，AI生成特征较为明显：背景杂志上的人物和标题多为乱码、电梯场景中楼层按钮明显失真，并非真人实穿。然而，平台和博主均无任何关于AI生成的标注，博主还会通过评论区与用户积极互动：当粉丝询问服装链接时，博主会直接引导至商品橱窗；对于涉及身高、体重等个人特征的问题，博主也未提示任何AI生成属性。

　　在某购物平台上，多家销售睡莲的店铺均使用相同的商品宣传图，图片呈现明显的AI制作特征：背景失真、花朵呈半透明状。相关商品的买家评论最多达7万余条，而其评论区却几乎未见成功开花的反馈。在偶有的一些开花图片中，花朵数量和形态也与宣传图相差甚远。而上述商品宣传图中，均未出现AI生成图片的相应提示。

　　去标识就能“骗”过平台

　　为验证平台对AI内容的识别能力，记者购买了一款宣称“可去除品牌水印”的某AI软件会员，使用该软件可生成视频并进行去水印处理。随后，记者将有水印与无水印版本同时发布于4个主流社交平台，且均未主动标注AI创作。

　　调查结果显示，上述平台对有水印的版本均作出“含AI生成内容”的标识，对于无水印内容，仅有一个平台在后期补充了AI内容标识，并在后台私信发来风险提示外，其余平台均无提示。

　　为验证AI生成内容标识系统的实际有效性，记者对当前市面6款使用人数较多的生图软件展开调查。结果显示，虽然在内容生成时全部默认标注水印，但有些软件只要充值成为“高级会员”，即可解锁“去水印”功能。

　　此外，市面上存在多家提供低价去水印服务的商家。其中一款售价6元、宣传“终身包更新”的软件包，明确提示可去除图片与视频中的各类水印，并且不限使用时间和次数。

　　记者购买了该安装包进行实测，在按照要求完成软件安装后，发现仅需对水印位置进行简单涂抹，即可完整去除AI标识，且不破坏画面整体效果。随后，记者将去水印后的图片上传至4个社交平台进行验证，结果显示，这些原本带有AI水印的内容，在去除水印后均未触发任何平台的AI生成提示机制。

　　受访专家认为，平台在AI内容标识的落地执行方面还有很大的提升空间。不少网友把使用AI生成图视为娱乐或恶作剧，却忽视了背后可能存在扰乱社会治安、引发恐慌的风险。因此，在完善技术监管机制的同时，也要加强公众网络素养教育，提升公众对AI生成内容的辨识能力和社会责任意识。

　　本报记者 赵 　丽

　　本报实习生 王艺霏 🦛