央视网消息（记者/卢洋 剪辑/杨绎霏 编辑/阚纯裕）：近日，网络上流传一则关于张文宏医生推销蛋白棒的视频，让不少网友信以为真，他们在跟单购买的同时还积极将视频转发到家族群。据部分网友反馈，视频中的“张文宏”形象画面模糊、口型不符。张文宏本人随后对此事进行了澄清，确认该视频非其本人参与录制，系AI合成。该账号的商品橱窗截图曾显示，这款蛋白棒已售出1180件，目前涉事视频已从发布账号中移除，且该账号已被微信平台永久封禁。
图片来源/视频截图
针对利用AI合成视频假冒他人形象进行商业推广的行为，法律是如何界定的？此类行为是否涉嫌欺诈消费者或构成诈骗罪？相关AI视频合成软件是否存在违规之处？央视网《新闻+》记者邀请到大成律师事务所高级合伙人、AI法律领域专家肖飒律师对上述问题进行了解读。以下为采访实录整理。
央视网《新闻+》记者：当AI合成技术被用于伪造名人带货视频时，在法律上应该如何定性？即使商品本身不存在质量问题，这种行为是否也涉嫌诈骗或欺诈消费者？
肖飒：使用张文宏医生的形象制作AIGC（人工智能生成内容），实际上是侵犯了其肖像权。根据《中华人民共和国民法典》，如果侵犯肖像权的行为给受害人造成了相应地损害，侵权人需要进行赔偿。这一侵权事件发生后，如果张文宏医生决定提起诉讼，根据现有证据，他可以得到较为满意的判决结果。
至于AI视频的制作方是否构成犯罪，需要依据具体法定要件进行判断，包括涉嫌金额、主观故意程度、造成的实际损害、消费者的自愿性及财产损失等。我国刑法具有谦抑性，因此在处理此类案件时，执法部门一般会详细调查消费者的购买动机，消费者是基于真实的消费需求，还是完全受到名人效应的影响。此外，商家制作AI视频的意图是作为营销噱头还是为了牟取非法利益，这些因素将直接影响到事件的定性和量刑。
央视网《新闻+》记者：国内市场上存在多种提供AI生成视频服务的新型软件，这类工具的合法边界在哪里？
肖飒：目前市面上出现了一些手机换脸软件，用户可以挑选软件里的众多网红及明星形象，点击即可实现“换脸”效果，购买软件会员后还可以无水印导出“换脸”视频。AI生成视频的效率很高，用户可以通过在软件里输入口播内容生成，也可以通过多个账号宣发形成分润。
但是这类AIGC软件如果被用来欺骗不知情受众，用于人脸识别、盗取密码等，那么开发者或销售者可能成为诈骗共犯，可能构成“非法控制计算机信息系统罪”。
AIGC软件的开发者也许会认为卖这个有什么错呢？就像刀具被用于杀人还是切水果，跟生产刀的人有什么关系呢？但是《中华人民共和国刑法》中有一个罪名叫作“帮助信息网络犯罪活动罪”。例如2024年5月，江西省鹰潭市余江区人民法院公开宣判了全国首例“AI外挂”案，该案被告因提供侵入、非法控制计算机信息系统程序、工具被判处有期徒刑三年，缓刑五年，并处罚金，同时没收违法所得及作案工具。
图片来源/视觉中国
央视网《新闻+》记者：当个人发现自己的形象被AI克隆并用于不当用途时，可以采取哪些措施保护自身权益？平台在此过程中应承担怎样的责任？
肖飒：当事人一旦发现自己的形象被未经授权地使用，首先应立即通知平台，提交书面声明要求删除侵权内容，并可委托专业律师协助维权。平台法务团队一般会评估事件造成的影响，并要求当事人提供初步证据，如截图、录音、当事人的提醒私信或其他能证明侵权行为的材料。若平台在收到合理请求后为了谋取流量不采取行动，当事人有权进一步起诉平台，追究其侵犯肖像权的责任。
根据《生成式人工智能服务管理暂行办法》，提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。然而在实践中，一些内容生产者故意模糊界限，甚至提供去除水印的服务以增强混淆效果。因此，平台负有监督责任，需要确保所有上传内容符合法律规定。杭州互联网法院曾审理过类似案例，通过评估证据，明确了平台在审核和监管方面的责任百分比。
央视网《新闻+》记者：有哪些方法可以帮助公众识别AI生成的虚假信息？我们应该如何防范AI骗局？
肖飒：中老年人作为信息弱势群体，需要由家人、社会进行一些科技方面的引导，比如让他们了解AI技术的更新程度等。在2023年，AI克隆形象的侧脸、下颌线画面还不太稳定，但是2024年就已经攻克这个画面缺点了。获取到相应信息之后，信息弱势群体的防范意识可能就会提高。