2月12日，南都N视频记者从“网信中国”获悉，近期，部分网络账号发布AI生成合成信息时，不添加AI标识，存在利用虚假不实内容欺骗误导公众的问题。网信部门依法依约处置账号13421个，清理违法违规信息54.3万余条。
网信中国：有账号发布AI生成合成信息时，不添加AI标识，欺骗误导公众
在“网信中国”披露的部分典型案例中，“澄馫”“玲子爱狗狗”“空空说电影”等账号，发布狗在高铁站救下婴儿、狗拆炸弹救人、鳄鱼伤人等视频时，未添加AI生成标识，借虚构感人故事、猎奇事件恶意博取流量。相关账号已被依法依约处置。
此外，“浮萍9419”“乘风已归来”“东东情感”等账号，以AI换脸、声音克隆等方式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等视频，从中不当牟利。相关账号已被依法依约处置。
利用虚假视频扰乱公共秩序的账号也被依法处置。例如，“巷子里的鱼”“禾粟”“朵姐正能量”“小猪猪”等账号，发布AI生成的虚假火灾现场图片、视频，恶意编造、炒作火灾事故，混淆视听，扰乱公共秩序。相关账号已被依法依约处置。
除此之外，借AI魔改剧情的账号同样被依法处置。“真难我知道”“小奥特曼大智慧”“清崽影视”等账号，借AI魔改未成年人喜爱的动画角色，制作刀切小马宝莉头部、奥特曼怀孕等视频，传播低俗惊悚、血腥暴力内容，宣扬不良价值观，侵扰未成年人身心健康。相关账号已被依法依约处置。
在社交平台售卖去AI标识的账号也受到下架处理。“浪淘达人”“南坤的店”等账号，发布“豆包图片去水印神器”等内容，分享去除AI标识教程、软件。“浙江智意AI”“鼎建祥旗舰店”等店铺，售卖去AI标识教程、软件及服务。相关账号已被依法依约处置，违规商品已下架。
南都此前报道，2025年9月1日起，《人工智能生成合成内容标识办法》正式施行，要求对人工智能生成合成内容进行显式标识和隐式标识。有专业人士告诉南都记者，执法部门应提高执法能力、配备相应技术，以快速有效识别利用人工智能等新型手段欺骗消费者的行为。
“网信中国”发文称，下一步，网信部门将对无AI标识的虚假不实信息保持高压严管态势，发现即处置，严厉打击违规行为。同时，也呼吁广大网络内容创作者按照相关规定主动添加AI标识，避免误导公众。
小红书：AI生成合成内容如未标识，将限制推荐
2月12日，小红书薯管家发布公告，呼吁站内用户对AI生成合成内容进行主动标识。以下为公告全文：
近期，平台收到多例利用AI生成合成技术仿冒公众人物形象、制作虚假视频的用户举报。此类未经本人授权制造的内容，即侵害了公众人物的合法权益，也因部分内容未主动做AI生成/合成标识，有损社区用户的信任。
为此，我们呼吁用户在发布由AI生成合成的图文或视频内容时，主动添加AI生成合成标识，便于用户甄别。标明AI创作手段不仅不会减损作品价值，反而能让交流更透明。
依据《人工智能生成合成内容标识办法》要求，平台将持续加强AI生成合成内容的识别检测能力，如创作者在发布环节未主动对AI生成合成内容做标记，平台将基于检测结果对未声明内容添加标识。此类未主动标识的AI生成合成内容，平台将限制分发。
对于借由AI生产虚假仿冒信息、魔改经典、宣扬不良价值观的内容，发布教唆去除AI标识的教程，平台将予以严厉打击。
接下来，平台将继续完善AI标识和AI造假内容的识别工作，也欢迎小红薯们积极参与平台共治，如发现AI生成不良内容，请第一时间通过举报按钮向平台反馈。
长宏网-长宏网官网-配资投资平台-股票配资平台排行提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
