3月18日，網信辦、公安部宣布，針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術的應用，國家互聯網信息辦公室、公安部指導地方網信部門、公安機關依法約談映客、阿里等11家企業。
當下不少語音社交和AI換臉的產品一上線就成為爆款，但涉及用戶隱私泄露、內容是否合規等問題也被曝光，隨即被下架。針對此類產品，相關部門強化安全評估，這給平臺提出了更高的安全挑戰，但對保護用戶個人信息、打擊違法違規內容傳播則是直接利好。
開展安全評估
據國家互聯網信息辦公室官方微信公眾號“網信中國”披露：針對近期未履行安全評估程序的語音社交軟件和涉“深度偽造”技術的應用，國家互聯網信息辦公室、公安部指導北京、天津、上海、浙江、廣東等地方網信部門、公安機關依法約談映客、小米、快手、字節跳動、鯨準數服、云賬戶、喜馬拉雅、阿里巴巴、網易云音樂、騰訊、去演等11家企業，督促其按照《網絡安全法》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等法律法規及政策要求，認真開展安全評估，完善風險防控機制和措施，并對安全評估中發現的安全隱患及時采取有效整改措施，切實履行企業信息內容安全主體責任。
根據《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》要求，出現具有輿論屬性或社會動員能力的信息服務上線，或者信息服務增設相關功能;使用新技術新應用，使信息服務的功能屬性、技術實現方式、基礎資源配置等發生重大變更;用戶規模顯著增加等情形，互聯網信息服務提供者應當自行開展安全評估，對評估結果負責，并向網信部門和公安機關提交報告。網信部門和公安機關根據對安全評估報告的書面審查情況，認為有必要的，應當依據各自職責對互聯網信息服務提供者開展現場檢查。
截至北京商報記者發稿，上述企業并未就此次約談對外回應。
亂象愈演愈烈
說到語音社交和AI換臉，2021年國內最火的應用非“對話吧”和“螞蟻呀嘿”莫屬，前者是“Clubhouse中國版”，后者類似之前爆紅的“ZAO”。
按照對話吧項目負責人江宇航透露的信息，對話吧是2月3日晚上立項的，2月10日對話吧在蘋果和安卓應用商店全部上線進行內測。2月20日，對話吧母公司映客CEO奉佑生邀請金沙江創投董事總經理朱嘯虎、昆侖萬維CEO周亞輝等大佬在對話吧討論。當天，對話吧在互聯網圈走紅。
沒過幾天，對話吧在蘋果和安卓應用商店下架，對話吧相關人士對北京商報記者的解釋是：“目前是在進行整體技術和形態的升級調整，技術產品人員在加班加點進行更新。”截至北京商報記者發稿，對話吧沒有恢復上架。
2月底3月初，互聯網圈再因一系列“螞蟻呀嘿”搞笑短視頻沸騰。用戶在AI換臉軟件Avatarify上傳一張照片，就可以讓任何人實現變臉特效。操作簡單、畫面魔性諸多因素讓“螞蟻呀嘿”視頻在各大社交平臺瘋狂傳播，但不到一個星期，Avatarify遭遇下架。
Avatarify的經歷和2019年上線的ZAO如出一轍。當年ZAO上線僅一天，就在各大社交平臺刷屏，隨后在蘋果應用商店的免費App下載登頂。但3天后，ZAO被下架。
“Avatarify和ZAO涉及的問題一樣，主要是可能存在個人隱私數據泄露、侵權等隱患，也不排除數據被不法分子用于偽造照片或視頻實施詐騙等。”比達咨詢分析師李錦清向北京商報記者表示。
他進一步說，“相比圖文社交，語音社交，尤其是像對話吧這樣的多人參與的語音群聊，在內容安全性上更難把控，涉黃涉非等違法違規內容更容易出現，且在現有技術條件下，隱蔽性更強，給平臺提出了安全合規挑戰”。
監管未雨綢繆
事實上，上述問題一直是相關部門的關注重點。2019年9月，針對媒體公開報道和用戶曝光的ZAO App用戶隱私協議不規范，存在數據泄露風險等網絡數據安全問題，工業和信息化部網絡安全管理局9月3日對北京陌陌科技有限公司相關負責人進行了問詢約談，要求其嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，采取有效措施防范自有業務平臺被利用實施電信網絡詐騙等風險隱患。
“相比之下，傳統的圖文是審核最嚴格、流程最成熟的，巨頭互聯網公司都有上萬人巨大的審核團隊，基本上杜絕了大的欺騙事件發生。短視頻時代出現了新的問題，比如騙子冒充明星行騙，監管部門、視頻平臺還沒有做好確認身份，剔除假信息的流程。不過2018-2019年視頻平臺加大投入，用AI和人工審核，基本上擦邊的色情暴力以及詐騙等審核也成熟很多。現在語音和人臉AI合成又出現了新問題，如果流行開來，肯定會造成假消息泛濫，沖擊正常的輿論空間，甚至被不法分子利用詐騙。”文淵智庫創始人王超總結。
王超還告訴北京商報記者，“目前來看，這類惡意語音和人臉AI合成制造假消息和詐騙還沒苗頭，但隨著這些技術進一步發展，肯定會出現這一問題。監管層未雨綢繆，很有遠見，而且這個詐騙的逼真程度更高，就連高學歷高知識人群也辨別不了。不過，一定有技術可以識別這些虛假合成的語音和視頻，平臺總會想到簡單易行、成本較低的鑒別辦法的”。
國家互聯網信息辦公室、公安部表示，下一步將繼續指導各地網信部門和公安機關加大巡查檢查力度，督促屬地互聯網企業嚴格遵守相關法律法規，積極主動履行安全管理義務，切實履行企業主體責任，共同維護網絡傳播秩序，營造良好網絡生態。
