近来，内蒙古包头警方发布一同运用人工智能换脸技能施行欺诈的案子。相较于传统电信欺诈，此类欺诈运用AI换脸技能绕过面庞核验等防备措施，更具欺骗性。为AI换脸技能加装安全网尤为必要。

人工智能技能在促进社会经济发展的一起，也暴露出必定危险。以AI换脸技能为例，普通用户获取教程并不难。除被用作电信欺诈，AI换脸还被用于假充名人直播带货，组成视频贩卖盈利，乃至诋毁、敲诈勒索别人等。

AI换脸技能打破了眼见为实的传统认知，如不加干涉，跟着技能迭代晋级，AI换脸或将益发传神，反诈防骗难度进一步加大，因验证身份带来的交易成本也将提高。技能研制者、渠道运营方以及监管部分等有职责堵住缝隙，防备AI换脸粗野成长。

要为AI换脸技能划定红线。现在，对生成式人工智能的管理，已离别无法可依。生成式人工智能技能的运用准则、规矩得以建立，各方权力、职责与职责根本清晰，有利于AI技能乱用的源头管理。各类科技企业、开发者也应自动展开合规自查，引导技能向善。

要从本源根除AI换脸欺诈赖以生存的土壤。人脸的深度假造，离不开对方针人脸的模型学习与面庞组成、通信协议破解技能的合作。公安、网信等部分应构成合力，从数据安全、技能研制、图画传达等方面全链条冲击AI技能乱用行为。各渠道也应对用户上传的图画进行技能处理。

要以科技赋能提高用户反诈才能。AI换脸虽可暂时蒙哄人眼，但在技能层面的留痕却难以被掩盖。要加速推进AI生成图画识别、鉴真技能的使用，短视频渠道、交际软件等要对组成图画进行明显标示，协助用户区分真伪，让欺诈无处遁形。

（文章来历：经济日报）