隨著ChatGPT迅速破圈，AIGC（AI Generated Content)被看作繼PGC、UGC之后新型利用AI技術自動生產內容的生產方式。而AIGC的快速迭代演變，讓大模型應用落地有了新領域，國內企業紛紛跟進大模型研究應用。大模型在帶來變革性體驗的同時，也帶來內容安全、隱私保護、侵權、結果合法性等諸多隱憂，在鼓勵創新的同時，如何規范科技向善？

大突破帶來新問題

(資料圖片僅供參考)

AIGC推動人工智能從感知理解世界到生產創造世界。內容創作模式由早期專業制作（PGC）、用戶制作（UGC）發展到AI輔助用戶制作（AIUGC），再到目前AIGC(人工智能創作內容)。備受關注的OpenAI近日發布的GPT-4，即是一個多模態大模型（接受圖像和文本輸入，生成文本）。

在國內，大型互聯網公司早已進入大模型研究領域，隨著AIGC的火熱，國內企業在大模型的布局也紛紛浮出水面。我國超大模型不僅不落后于國外同類產品，在某些領域還能實現反超。

專家預測，到2030年，合成數據（Synthetic data）將取代真實數據成為AI模型所使用數據的主要來源。“架構統一、模態統一、任務統一的通用多模態大模型逐漸成為人工智能研究的一大趨勢。”京東集團副總裁、IEEE Fellow何曉冬在接受《通信產業報》全媒體記者采訪時表示，多模態大模型是人工智能技術從限定領域的弱人工智能邁向通用人工智能路徑的重要途徑。通用多模態大模型將逐漸在人工智能領域扮演著基礎模型的角色。

當前人工智能技術三要素包括數據、算法、算力，然而數據往往是靜態的、算法是單一任務驅動。何曉冬認為，未來會升級為場景、系統、算力新三要素，包括復雜交互智能場景及其產生的動態數據、多任務協同和多算法融合的系統和能支撐復雜場景與系統的新型算力，從而讓計算機能深度地理解真實世界及解決重大的真實問題，提升智能系統的通用性、適應性和任務完成率。新一代融合性智能需要能基于“活的”交互場景去迭代和發展，包括人與智能體的交互、以及多智能體之間的交互，將成為人工智能的一個新發展趨勢。

盡管大模型本身還存在一些技術挑戰和不完善，但人們已經看到了其威力，甚至已對現行治理帶來了不利影響。

隱私、偏見、侵權……

全球前2%頂尖科學家榜單入選者、聯通數科首席AI科學家廉士國向《通信產業報》全媒體記者表示，一方面，它并不是按照人類創作內容的方式學習的，并未學習到創作的本質，貌似有對已有內容的風格模仿和元素重組，其產生的內容可能存在版權侵權風險。例如，仿照畢加索風格繪畫，仿照某作家風格寫小說，合成一段明星人物的語音，將圖片或視頻中人物面部替換，生成某人的高仿數字化身等。

另一方面，它是以數據驅動為主構建的，依然存在深度學習的不可解釋性、不公平性等問題，其產生的內容可能存在不真實、不合規等的風險。例如，同樣的問題不同的問法，ChatGPT會給出不同的回答、繪畫AI會產生不同的畫作，甚至會生成違背事實的、歧視性的文字/圖畫內容等。

與PGC、UGC相比，AIGC提升了內容生產效率，但當AIGC內容不可控時，相應的應用風險也會增大。例如，AIGC技術讓內容創作更容易了，這也會降低侵權、造假等的成本，而增加監管的成本；AIGC技術使得批量快速生成內容成為現實，這可能帶來蓄意控制輿情走向的潛在風險。

何曉冬表示，隨著人工智能應用的深入，其自身的技術缺陷以及帶來的隱私倫理、決策偏見、使用安全等問題引發了信任危機。技術上，算法脆弱易受攻擊帶來的危險性；黑箱模型導致算法不透明，使得人們無法直觀理解決策背后的原因。應用上，訓練數據中存在的偏見導致公平性缺失；以人臉識別技術為代表的生物識別信息的頻繁使用增加了隱私泄露的可能。倫理上，人工智能系統決策復雜，難以界定責任主體，帶來倫理安全問題。

用AI治理AI

通信行業法律觀察家伍霞表示，雖然監管層面已緊密跟蹤了新技術新業態，針對互聯網信息服務算法推薦、深度合成等出臺了相關管理規定，但隨著實踐創新加速，立法與執法都需要結合具體場景加強預判性。

“人工智能領域的專家們已經開始考慮用技術手段來鑒別AI生成的內容。”廉士國表示，通過人工規則來判斷內容合法性、通過文本內容統計分析及添加文本水印等方法來鑒權等。我們相信，除了技術手段之外，相關的數字治理制度也將啟動建立。

“我們需要構建安全可信的人工智能治理體系”何曉冬表示。

所謂“道高一尺，魔高一丈”，技術演進需要有相應的治理配套技術的跟進。廉士國認為，AIGC的健康發展依賴于通過提升技術成熟度、升級監管手段、健全政策法規等來完善可控性，包括AIGC可解釋性技術創新、AIGC內容合規檢測、AIGC內容盜版監測、AIGC內容溯源、AIGC適用法律法規配套、AIGC用戶風險意識培訓等。

何曉冬認為，加強魯棒性、可解釋性、隱私保護等方面的技術研究，解決當前應用人工智能時所遇到的問題，增強大眾對人工智能的信任，確保應用和服務在最大程度上減少偏見，促進人工智能健康高質量發展。

此外，國家知識產權局專家王雷表示，大模型健康有序發展，從專利方面需要從兩個角度開展工作。一是利用專利文獻，梳理AIGC的技術發展脈絡、技術硬核、技術未來發展的趨勢。通過專利文獻的梳理具有很大的價值，可以幫助中國產業界從全景（Big Picture）看整個技術體系，尋找有利的切入點和生發點。二是專利是一種獨占性的保護權利，其實施要獲得專利權人的許可。發展技術需要早期就關注到專利權的分布，避開雷區和禁區，或者在有利條件下購買專利許可，避免未來產品和服務面臨的專利風險。

在AI等新興技術應用發展中，統籌好發展與安全尤為重要。伍霞認為，網絡安全方面，當人類無法輕易分辨對話背后究竟是機器還是真人時，電信網絡詐騙等違法犯罪行為打擊的難度和壓力也將陡增。所以，更深層次而言，在AIGC的飛速發展中，還應關注文化安全。

“有理由相信，AIGC的快速發展終將會促進人類的進步”廉士國表示。

科技向善是技術發展的基本倫理，我們有理由相信，AI大模型能“善”解人意，我們也應該擁抱大模型，在發展中完善，在進步中規范。技術沒問題，問題只會出現在用它的人身上。

【關注】第四屆2023中國智慧屏行業發展峰會正在火熱進行中！點擊碼上報名！

責任編輯：房家輝

關鍵詞：