未來已來。在生成式人工智能迅猛發展并深刻重塑產業格局的當下，安全與治理已成為關乎經濟高質量發展、技術創新可持續性的核心議題。作為中國開放程度最高、經濟活力最強的區域之一，粵港澳大灣區正率先探索系統性應對之策。
9月15日，粵港澳大灣區生成式人工智能安全發展聯合實驗室（以下簡稱“聯合實驗室”）在河套深港科技創新合作區正式揭牌。作為適應人工智能時代敏捷、彈性、高效的創新治理聯合體，聯合實驗室將通過一系列安全服務舉措，為大灣區AI產業的高質量發展注入新動能、提供新支撐。
9月15日，粵港澳大灣區生成式人工智能安全發展聯合實驗室在河套深港科技創新合作區正式揭牌。
適應AI時代
打造創新治理聯合體
當前，人工智能已成為全球科技競爭與產業變革的焦點。作為國家經濟發展與科技創新的重要引擎，粵港澳大灣區憑借多重優勢，已發展成為國內人工智能與機器人產業鏈最完整、生態最豐富、應用場景最廣泛的集聚區。
在技術底座方面，廣東擁有鵬城實驗室、琶洲實驗室等一批高能級科研平臺，以及5家高水平人工智能與先進計算研究院、25個省級以上人工智能開放創新平臺。應用場景方面，廣東已發布首批人工智能終端產品、行業大模型和應用解決方案名單。截至今年9月，全省已完成92款生成式人工智能服務備案，其中近半為“場景化定制”，在教育、工業、政務、交通、農業等領域實現深度融合。
然而，生成式人工智能帶來生產力革新的同時，也伴生出新的治理挑戰，數據安全、倫理對齊、內容治理等問題都有待創新應對?！吨泄矎V東省委關于貫徹落實黨的二十屆三中全會精神進一步全面深化改革、在推進中國式現代化建設中走在前列的意見》《廣東省推動人工智能與機器人產業創新發展若干政策措施》，均明確“加快建設粵港澳大灣區生成式人工智能安全發展聯合實驗室”。
9月15日，粵港澳大灣區生成式人工智能安全發展聯合實驗室正式成立。這是貫徹落實習近平總書記關于人工智能的重要論述的具體行動，是落實黨的二十屆三中全會精神的重要任務，是踐行國務院“人工智能+”行動意見的創新舉措，是省委十三屆五次全會作出的改革部署，更是大灣區立足“一點兩地”全新定位、以科技創新賦能“一國兩制”實踐的積極探索。
據聯合實驗室相關負責人介紹，其本質上是一種為適應人工智能時代而構建的“動態敏捷、多元協同”的創新治理聯合體。期待能通過探索出一套有效適配粵港澳三地政策、法律與技術標準的創新機制，為全國乃至全球的跨區域AI治理提供“大灣區方案”；通過提升安全能力釋放產業動能，打造世界級AI產業集群，驅動產業應用創新，助力產業集聚發展，成為產業發展的“安全引擎”和“創新催化劑”；通過構建“政產學研用”深度融合、正向循環的創新生態，成為打通創新鏈、產業鏈、人才鏈的連接樞紐，形成一個能夠自我演進、持續創新的生命共同體；通過建立高效協同機制，打造共同受益的價值循環，培育出活躍的生態社區，促進大灣區人工智能產業健康發展、向善而行。
服務企業，推動產業
加強安全監管
目前，全省已布局建設11個省級人工智能產業園。廣州、深圳先后獲批國家級人工智能創新應用先導區，廣東成為全國唯一擁有兩個先導區的省份。產業規模方面，廣東人工智能核心產業規模突破2200億元，穩居全國第一方陣；人工智能核心企業超1500家，人工智能領域國家專精特新“小巨人”企業147家，數量全國第一。
粵港澳大灣區AI產業基礎良好、優勢突出、前景廣闊，廣大企業、科研院所大顯身手正當其時。聯合實驗室將在大灣區AI產業生態構建中扮演怎樣的角色？相關負責人透露，立足粵港澳大灣區科技創新高地，聯合實驗室將從三個方面發揮獨特優勢：
一是服務企業發展。為屬地企業提供覆蓋生成式人工智能全生命周期的安全評估服務，實現高效精準的風險識別與防控，幫助企業建立安全管理機制，針對對抗攻擊、數據泄露等突出安全風險，提供定制化安全解決方案，助力企業增強自身安全能力。針對企業內容安全短板，打造純凈基礎語料庫，增強企業大模型內容基礎安全及運行安全。
二是推動產業落地。打造生成式人工智能賦能千行百業咨詢平臺，強化屬地大模型企業和各行業企業的鏈接對接，助力大模型企業精準定位市場，同時為培育新型需求的企業匹配優質產品。制定行業安全發展標準，形成屬地化安全標準體系，為企業提供合規指引，并同步探索與國際標準接軌的認證機制，助力屬地生成式人工智能產品“走出去”。
三是加強安全監管。開發建設生成式人工智能安全評測系統，加強前瞻評估和監測處置，防范模型的黑箱、幻覺、算法歧視等帶來的風險，協同建立健全人工智能技術監測、風險預警、應急響應體系，為“包容審慎、分類分級”監管提供有力的技術支撐，推進人工智能應用合規、透明、可信賴。組織開展人工智能安全知識公益普及活動，提高公眾對人工智能安全的認識，推動形成社會共治格局。
“政產學研用”協同
形成治理合力
據悉，聯合實驗室由國家互聯網應急中心作為指導單位，廣東省委網信辦和國家互聯網應急中心廣東分中心聯合牽頭，粵港澳有關部門、AI應用龍頭企業和AI專精特新企業、高校、科研機構和主流媒體共同參與建設，將構建起“技術協同+敏捷治理+傳播服務”的全新治理模式。建設運行過程中，聯合實驗室將協調各方資源，形成治理合力。
聯合實驗室相關負責人介紹，聯合實驗室將以企業為主，多方共同參與運行，充分利用本土人才，構建企業主導的產學研用協同創新體系，形成“政府引導+依托企業+產學協同”的建設模式，共同推動大灣區生成式人工智能安全健康有序發展。
聚焦企業面臨的實際困難和長期發展需要，將聯合開展科研攻關，統籌大灣區生成式人工智能領域資源，整合技術和人文，用好產業界、學術界技術力量，匯聚哲學、心理學、語言學等人文學科人才，探索建立跨學科、跨領域的聯合攻關模式，圍繞生成式人工智能安全發展基礎理論、前沿技術、治理管理開展科研攻關。充分發揮粵港澳大灣區獨特優勢，用好港澳國際科研合作網絡，利用港澳國際化、市場化優勢，調動、整合全球優秀人才、先進技術助力大灣區生成式人工智能發展。
此外，聯合實驗室還將視情在香港、澳門、廣州、珠海、東莞等地設立地方服務站。地方服務站負責對接地方具體工作并面向社會提供政策咨詢、技術評測等安全相關服務，支持相關產業園區生成式人工智能領域企業發展、產業落地等工作。
回應AI治理挑戰
探索系統性解決方案
當下，AI安全風險正呈現跨領域、復合型、動態化特征。如在技術層面存在動態演化的黑盒風險，生成式AI的隨機性輸出導致傳統安全防護失效，傳統規則引擎無法覆蓋大模型深度偽造內容、隱蔽性數據泄露等風險。在生態層面存在產業安全能力斷層，多數市場主體（尤其是中小微企業）的安全防御技術儲備不足。而在治理層面，面臨跨區域安全治理協同不足、多重合規壁壘等問題。
據了解，通過資源整合與機制創新，聯合實驗室將探索系統性解決方案。
聯合實驗室已初步研究出一套“安全可信+量化評級”的服務行業框架,以權威性、公平性、前瞻性為準則，將定期對國內外主流的大模型進行六大方面36個維度的深入評測，發現內在隱患、甄別存在不足、提出客觀建議，以幫助大模型企業及時修復不足、降低合規成本、健康有序發展。
在標準協同方面，聯合實驗室將整合粵港澳政府、高校、科研機構及龍頭企業資源，積極推動國家相關標準與區域法規的適配轉化，構建安全評估體系，為建立區域統一的安全標準提供實踐支撐。
在技術防御方面，聯合實驗室將依托騰訊等的算力支撐、中山大學等高校的科研力量、深信服等專業能力，推動安全防護技術的進步，向中小微企業輸出輕量化防御方案，降低技術應用門檻。
構建AI安全發展標準體系
訓練大模型安全智能評測引擎
在傳統“事后監管”模式難以應對復雜挑戰的現今，構建生成式人工智能安全評測體系與產業監管的深度融合機制，也將成為保障社會經濟穩定運行的關鍵舉措。
據了解，聯合實驗室將構建分級分類的標準體系，其中的AI安全評測體系將建立“基礎共性+行業特性”的雙層標準架構，實現與產業監管的精準對接，包括結合大灣區特點轉化形成區域統一的評測基準、針對不同產業特性制定差異化評測指標。
同時，將構建多元參與的生態體系，形成從基礎研究到產業應用的完整鏈條。此外，還將不斷提升技術迭代賦能監管能力，建設本地化安全評測系統、訓練智能評測引擎等核心能力，形成覆蓋模型全生命周期的安全防護體系。
對于人工智能安全標準體系，聯合實驗室相關負責人介紹表示，其核心內容將涵蓋從基礎理論到具體應用的全生命周期安全要求，包括基礎共性標準、安全管理標準、關鍵技術標準、測試評估標準、產品與應用標準、數據、算法和模型安全、安全管理與服務、安全測試與評估、安全治理與倫理等九大方面，旨在保障人工智能技術的安全、可靠和可控發展。
對于大模型安全智能評測引擎，該負責人表示，廣東備案大模型服務已近百款，目前還保持著快速上升態勢，依靠傳統以人工為主的測試評估方式難以與之適配。因此，聯合實驗室創新性提出“AI評測AI”的思路，以智能應對智能，以技術管控技術，構建能夠自動化、智能化評測大模型的安全智能評測引擎。
據了解，測試題集自動生成、測試結果自動研判是安全智能評測引擎的兩個重要組成部分，測試題集用來生成大模型服務的輸入內容，特別是模擬具有不同價值體系和具有惡意攻擊目的的用戶提問，結果研判則是用來評判大模型回答是否符合社會主義核心價值觀和其它法律法規要求。測試題集自動生成、測試結果自動研判的組合正好覆蓋了大模型服務一進一出兩部分內容，這將大大降低人力消耗，從而實現大模型全流程自動化、智能化的閉環評測效果。
“希望通過這個自研的智能評測引擎，能為人工智能在粵港澳大灣區海量應用場景‘落地生根’中保駕護航，通過應用的規?；铀偌夹g能力的迭代，形成‘越用越好用’”的正循環?！甭摵蠈嶒炇邑撠熑吮硎?。
具有大灣區特色的人工智能治理新范式，正在旺盛展開?！罢a學研用”深度融合，生成式人工智能產業向安全、高效、集群化發展的未來值得期待。
（來源：南方都市報）
