社会管理的有效进行，建立在可以对行为的实施者进行识别并对之进行追踪的基础上的。政府可以运用社会的认证体系提升行为人的责任意识，可以利用证据等找到真正的罪犯或者说实施者，这是社会管理得以运行的基础。这类App很容易产生深度伪造(deepfake)的现象，以假乱真的视频、音频挑战了公众“眼见为实”认知，也挑战着现有社会管理的基础。从这个软件使用的情况来看，如果不严格限定其使用范围和使用方式，它完全有可能为各种各样的违法者提供技术上的便利，并给政府的有效监管带来意想不到的挑战。

刚上线的换脸软件“ZAO”一夜爆红，同时也带来很多争议。除容易想到的版权、肖像权问题之外，还引发人们对用户隐私和数据安全的担忧。而隐私和个人数据安全出问题的话，又会产生社会管理问题。刚开始大家可能更多关注的是它对用户产生的影响，而用户使用软件过程中又可能对第三方产生大规模侵权，并引发更多的社会管理问题。

实际上，对于类似的新技术新应用我们国家是有相关规定的，国家互联网信息办公室对新技术新应用，尤其是具有新闻属性和社会动员功能的新技术新应用，需要在上线之前进行安全评估。这个软件具有很明确的社交功能和社交诉求，将其纳入评估范围是没有任何问题的。不清楚这个软件有没有进行安全评估，如果没有评估，非常有必要对其启动安全评估程序。

虽然目前它已经修改了用户协议中过度使用“肖像权”的内容，BT页游私服，但这并不能解决它所存在的安全问题。换句话说，能不能有效保护消费者的隐私和数据安全不是通过用户协议来实现的，用户协议只是一个方面，更关键的问题是用户协议如何落实。用户数据的使用方式和保护方式，也非常重要。如果不对其进行有效监管，很可能会出现数据被非法使用并对消费者产生更多次生灾害的情况。此外，随着平台用户和数据的增多，平台网络安全措施是否足以应对用户激增以后产生的管理风险，也是一个问题。

当然我们也不必过于悲观，通过监管部门的严格监管和企业社会责任的认真履行，“ZAO”所引发的担忧，是可以得到缓解甚至从根本上解决的。将新技术真正纳入到法治、人文、伦理的框架内，是能更好地服务于社会的。(作者是中国传媒大学政法学院副院长、教授)