中国政法大学传播法研究中心副主任朱巍分析，这个过程中，可能存在核心个人信息泄露的风险：“首先‘换脸’技术，包括在搜集过程中左脸右脸转动、眨眼，本质是搜集了你的面部的识别信息，这个是一个用户最核心的个人信息。个人信息一旦被比对之后，如果落到坏人的手里面，有可能涉及到财产安全和人身安全的问题。”
AI换脸两大风险
软件宣称，照片提交上传后，会对照片进行非公众人物验证和肖像权验证，确保符合相关法规才能使用。没有经过自拍验证的照片会有使用次数限制，也无法被分享或下载。虽然相关措施一定程度上可以起到防止用户滥用他人照片恶搞，但朱巍指出：“这种东西看似是以娱乐为目的，因为大家笑一笑不会产生什么伤害。但是技术的发展道高一尺魔高一丈，如果被坏人利用这个技术，盗取了你换脸的这些信息，包括你的个人信息，一旦匹配成功了，轻则是精准诈骗，重则的话有可能你的账号、密码都是一个不安全的状态。所以平台的责任实际是更大的。软件的影响范围越大、越火，平台的社会责任和道德责任层面的法律责任也就越高。”
