(网经社讯)近期，涉及多家汽车品牌的不雅视频及图片在网络传播，后被证实为利用人工智能（AI）技术生成的虚假内容。小鹏汽车于2025年11月报警，警方查明相关“车展不雅视频”系李某为炫耀技术利用AI合成，其已被行政拘留。此外，理想汽车、保时捷等品牌也曾遭遇类似攻击，如伪造“车内摄像头泄露隐私”谣言或合成销售人员的虚假不雅视频。据蔚来汽车法务部透露，2025年上半年此类关联攻击对其品牌形象造成的损失评估超过28亿元，并导致销售额下降。
除企业外，个人受害案例也频繁出现。有网红指控自己的照片被恶意合成并出售，香港大学一名法律系学生亦被发现存有大量利用同学、老师照片生成的AI不雅图像，此事曾引起香港特别行政区行政长官李家超的关注。
据网经社数字生活台（DL.100EC.CN）了解，利用AI技术制作并传播色情内容已形成产业链。技术门槛降低使得制作成本极低，而通过境外网站、加密通讯工具进行的分发则增加了监管难度。该产业甚至渗透至交友软件、互动小说等应用，通过AI聊天机器人进行暧昧互动牟利，部分软件缺乏年龄限制机制，对未成年人造成危害。
在市场需求推动下，AI驱动的成人内容市场规模持续增长。与此同时，部分海外科技公司被指涉及相关内容的训练或应用。例如，Meta公司曾被两家成人电影公司起诉，指控其擅自下载影片用于AI模型训练；其聊天机器人功能也曾被指允许用户进行涉及性暗示的角色扮演。马斯克旗下xAI发布的Grok也因推出可进行露骨对话的“AI伴侣”功能引发讨论。
为应对此类问题，国家网信办已于2025年12月宣布将从严整治利用网络传播不实信息、诋毁企业等违法违规行为。报道认为，防范AI技术滥用需从技术、法律与社会层面协同治理。
