【智慧城市網 市場分析】眾所周知，新興技術的發展是把雙刃劍，當人工智能從1.0時代邁入2.0時代，AIGC(生成式人工智能)為千行百業帶來市場紅利的同時，也催生了不少行業安全隱患。
諸如技術濫用、虛假信息傳播、個人信息權益被侵害、數據泄露或偏見歧視等安全問題，已然成為AIGC產業持續發展的阻礙。因而，基于實際國情，適合我國社會環境、產業發展和技術創新等監管政策的出爐成為當務之急。
一、風險凸顯
眾所周知，AI發展的三駕馬車“算法、算力、數據”，數據尤為重要，其安全性則是重中之重。而作為AI下一個風口的AIGC，更需要海量優質數據為訓練模型提供支撐，其訓練參數量從億級飆升到萬億級。
數據顯示，2018年GPT預訓練模型參數量突破1億，2020年的CPT-3模型參數量達到1750億，GPT-4的參數量高達1.8萬億，GPT-4的參數量規模是GPT-3的10倍以上。
可見，動輒千億、上萬億參數的模型訓練，不僅試錯成本高昂，而且很難在訓練過程中進行修正。AIGC的訓練模型數據需求量大，如若喂給大模型的樣本數據存在虛假、不準確性或涉及到用戶個人隱私安全，其生成內容歸屬難定，或將涉及到安全或隱私糾紛。
當前，AIGC持續大熱，其應用場景不斷拓展，覆蓋千行百業多個領域。當通用大模型向行業大模型轉型升級，對細分行業的數據需求更多，數據質量要求更高，也對海量數據的真實性、準確性、安全性提出更高要求。
二、可信AI的挑戰
聚焦國內市場，伴隨著AI技術的快速迭代和應用場景商業化落地，AIGC的發展也亟待解決可釋性、公平性、魯棒性等核心挑戰。
通俗來講，可釋性就是“知其然不知其所以然”。例如當購物網站為用戶推薦了一個商品，我們不僅希望用戶看到推薦的結果，還要告訴用戶為什么推薦這個商品。就是從“知道這個結果”到“為什么是這個結果”的溯源，但在人工智能的不斷深度學習中，越來越缺少系統的可解釋性。
公平性缺失意味著，在同樣的商品推薦中，基于圖神經網絡結構隱藏在數據中的偏見，對性別、年齡、種族等產生不同的推薦效果，從而降低了對用戶和對推薦物的公平性。
魯棒性的挑戰則指系統、算法或模型在存在異常輸入、算法錯誤或深度偽造數據時，容易被欺騙犯錯，從而造成AI系統的不可控和不準確。
綜上來看，要做到可信AI，需要從可釋性、公平性、魯棒性、倫理性、正確性、安全性等多維度進行考量，才會更好地驅動AIGC的未來發展。
由此可見，AIGC的“超能力”將逐步賦能千行百業，有必要提前預防可能產生的安全風險。因而，為了規避新技術帶來的陷阱，對AIGC或將產生的不良影響，亟待政策層面的保障。
三、多國監管政策出爐
在AIGC技術逐步向細分行業商業化的落地過程中，其引發的安全問題已受到全球關注，并引發監管層面的關注和行動。
今年4月，AI早期創始人馬斯克聯合業內千名高管和專家發布公開信，倡議所有人工智能實驗室應立即暫停訓練至少6個月，以應對AI脫離人類掌控的威脅。
5月，美國政府機構強調對ChatGPT在倫理道德方面的監管，研究和制定針對ChatGPT的監管政策和指南，以確保ChatGPT的發展和應用符合法律法規和倫理標準。
6月，歐盟議會宣布《人工智能法案》進入最終討論階段，對AIGC生成圖像和文本的智能模型制定限制性規則。意大利、愛爾蘭、德國、法國等或將停用ChatGPT，并調查它是否符合通用數據保護條例。
7月，聯合國安理會也在開展AI風險問題研討。這是該機構第一次舉行類型會議，各國政府積極探討如何降低新興AI技術在全球經濟和國際安全方面帶來的風險。
同是7月，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局發布《生成式人工智能服務管理暫行辦法》(以下簡稱《辦法》)，自8月15日正式施行。
從上述各國對待AIGC技術帶來的風險挑戰和應對措施來看，在AIGC帶來“超能力”之時，也需要對其引發的多重風險“立規矩”，助力AIGC更好地落地應用。
四、《辦法》打造護城河
歷時3個月，伴隨著AIGC產業發展的高歌猛進，其監管政策也從征求意見階段進階到正式落地階段，助力AIGC成為真正的“可信AI”。正如業內人士所言：“《辦法》的出臺，就是打造可信AI的護城河”。
《辦法》的出臺，可謂順勢而為。其中，第七條提到生成式人工智能服務提供者需“使用具有合法來源的數據和基礎模型；采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。
具體規定包括：1)使用具有合法來源的數據和基礎模型；2)涉及知識產權的，不得侵害他人依法享受的知識產權；3)涉及個人信息的，應用取得個人同意或符合法律、行政法規規定的其他情形；4)采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；5)《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。
可以說，《辦法》的出臺，即是在政策認可前提下的風險管控，可以為大數據確權、云計算自主性、網絡安全等AI配套產業打造增量需求和服務，更好地實現“技術向善”。
隨著AIGC技術端的突破，將能更好地解決“安防+AI”遇到的個性化需求少、交付速度慢、長尾需求的算法精度差、定制化算法成本高等壁壘，助推“安防+AI”的二次變革，也助力安防產業收獲第一波AIGC應用市場的紅利。
而安防產業在享受大數據、云計算、物聯網、AIGC算法生成等帶來的紅利時，也必須更高效地應對數據安全帶來的安全挑戰。特別是安防設備對圖片、視頻等數據的真實性和防偽性要求級別更高，《辦法》的出臺，為AIGC在安防行業的落地應用提供了監管保障。
國家互聯網信息辦公室有關負責人也表示，出臺《辦法》，旨在促進AIGC健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
總結：
縱觀AIGC的發展軌跡，當前其應用領域側重于to-C領域，涵蓋對話、圖片、音頻、視頻等內容生成，而未來涉及to-B領域的更多落地化應用場景對行業大模型的需求也不少，但苦于資金、技術和算力的掣肘，還需要“通用大模型+應用場景+訓練調優”進行迭代，從而提升行業大模型能力，深化技術和應用場景。
可預見的是，基于AIGC應用場景的普及和商業化落地，保護隱私和數據安全已刻不容緩。在此時間點，《辦法》的出臺則及時也很必要，可以降低AIGC發展引發的多重風險，以促進行業整體健康發展。
移動版
智慧城市網APP
智慧城市網小程序
微信公眾號
