为保护用户权益，防止账号被盗，很多社交软件都设置了人脸识别的登录验证环节。然而，这一验证环节可能并不需要本人来操作，在湖北黄石就刚刚破获一起用AI换脸技术解锁社交账号并倒卖获利的诈骗案。

我们常说“眼见为实”，但在AI时代，肉眼所看见的也不一定是真相。一些不法分子利用“AI换脸”技术实施诈骗，已成为一种新型骗局。一张“肖像照片”、一段“貌似熟人的视频”，都可能被不法分子利用作为诈骗的手段和工具。

利用AI技术制作换脸视频或合成声音来实施诈骗的确让人防不胜防，那么如何防范这种风险呢？有关部门正在开发相关的反制技术和手段。