未來已來。在生成式人工智能迅猛發(fā)展并深刻重塑產(chǎn)業(yè)格局的當(dāng)下，安全與治理已成為關(guān)乎經(jīng)濟(jì)高質(zhì)量發(fā)展、技術(shù)創(chuàng)新可持續(xù)性的核心議題。作為中國開放程度最高、經(jīng)濟(jì)活力最強(qiáng)的區(qū)域之一，粵港澳大灣區(qū)正率先探索系統(tǒng)性應(yīng)對(duì)之策。

9月15日，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室（以下簡稱“聯(lián)合實(shí)驗(yàn)室”）在河套深港科技創(chuàng)新合作區(qū)正式揭牌。作為適應(yīng)人工智能時(shí)代敏捷、彈性、高效的創(chuàng)新治理聯(lián)合體，聯(lián)合實(shí)驗(yàn)室將通過一系列安全服務(wù)舉措，為大灣區(qū)AI產(chǎn)業(yè)的高質(zhì)量發(fā)展注入新動(dòng)能、提供新支撐。

適應(yīng)AI時(shí)代

打造創(chuàng)新治理聯(lián)合體

當(dāng)前，人工智能已成為全球科技競爭與產(chǎn)業(yè)變革的焦點(diǎn)。作為國家經(jīng)濟(jì)發(fā)展與科技創(chuàng)新的重要引擎，粵港澳大灣區(qū)憑借多重優(yōu)勢(shì)，已發(fā)展成為國內(nèi)人工智能與機(jī)器人產(chǎn)業(yè)鏈最完整、生態(tài)最豐富、應(yīng)用場景最廣泛的集聚區(qū)。

在技術(shù)底座方面，廣東擁有鵬城實(shí)驗(yàn)室、琶洲實(shí)驗(yàn)室等一批高能級(jí)科研平臺(tái)，以及5家高水平人工智能與先進(jìn)計(jì)算研究院、25個(gè)省級(jí)以上人工智能開放創(chuàng)新平臺(tái)。應(yīng)用場景方面，廣東已發(fā)布首批人工智能終端產(chǎn)品、行業(yè)大模型和應(yīng)用解決方案名單。截至今年9月，全省已完成92款生成式人工智能服務(wù)備案，其中近半為“場景化定制”，在教育、工業(yè)、政務(wù)、交通、農(nóng)業(yè)等領(lǐng)域?qū)崿F(xiàn)深度融合。

然而，生成式人工智能帶來生產(chǎn)力革新的同時(shí)，也伴生出新的治理挑戰(zhàn)，數(shù)據(jù)安全、倫理對(duì)齊、內(nèi)容治理等問題都有待創(chuàng)新應(yīng)對(duì)?！吨泄矎V東省委關(guān)于貫徹落實(shí)黨的二十屆三中全會(huì)精神進(jìn)一步全面深化改革、在推進(jìn)中國式現(xiàn)代化建設(shè)中走在前列的意見》《廣東省推動(dòng)人工智能與機(jī)器人產(chǎn)業(yè)創(chuàng)新發(fā)展若干政策措施》，均明確“加快建設(shè)粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室”。

9月15日，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室正式成立。這是貫徹落實(shí)習(xí)近平總書記關(guān)于人工智能的重要論述的具體行動(dòng)，是落實(shí)黨的二十屆三中全會(huì)精神的重要任務(wù)，是踐行國務(wù)院“人工智能+”行動(dòng)意見的創(chuàng)新舉措，是省委十三屆五次全會(huì)作出的改革部署，更是大灣區(qū)立足“一點(diǎn)兩地”全新定位、以科技創(chuàng)新賦能“一國兩制”實(shí)踐的積極探索。

據(jù)聯(lián)合實(shí)驗(yàn)室相關(guān)負(fù)責(zé)人介紹，其本質(zhì)上是一種為適應(yīng)人工智能時(shí)代而構(gòu)建的“動(dòng)態(tài)敏捷、多元協(xié)同”的創(chuàng)新治理聯(lián)合體。期待能通過探索出一套有效適配粵港澳三地政策、法律與技術(shù)標(biāo)準(zhǔn)的創(chuàng)新機(jī)制，為全國乃至全球的跨區(qū)域AI治理提供“大灣區(qū)方案”；通過提升安全能力釋放產(chǎn)業(yè)動(dòng)能，打造世界級(jí)AI產(chǎn)業(yè)集群，驅(qū)動(dòng)產(chǎn)業(yè)應(yīng)用創(chuàng)新，助力產(chǎn)業(yè)集聚發(fā)展，成為產(chǎn)業(yè)發(fā)展的“安全引擎”和“創(chuàng)新催化劑”；通過構(gòu)建“政產(chǎn)學(xué)研用”深度融合、正向循環(huán)的創(chuàng)新生態(tài)，成為打通創(chuàng)新鏈、產(chǎn)業(yè)鏈、人才鏈的連接樞紐，形成一個(gè)能夠自我演進(jìn)、持續(xù)創(chuàng)新的生命共同體；通過建立高效協(xié)同機(jī)制，打造共同受益的價(jià)值循環(huán)，培育出活躍的生態(tài)社區(qū)，促進(jìn)大灣區(qū)人工智能產(chǎn)業(yè)健康發(fā)展、向善而行。

服務(wù)企業(yè)，推動(dòng)產(chǎn)業(yè)

加強(qiáng)安全監(jiān)管

目前，全省已布局建設(shè)11個(gè)省級(jí)人工智能產(chǎn)業(yè)園。廣州、深圳先后獲批國家級(jí)人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，廣東成為全國唯一擁有兩個(gè)先導(dǎo)區(qū)的省份。產(chǎn)業(yè)規(guī)模方面，廣東人工智能核心產(chǎn)業(yè)規(guī)模突破2200億元，穩(wěn)居全國第一方陣；人工智能核心企業(yè)超1500家，人工智能領(lǐng)域國家專精特新“小巨人”企業(yè)147家，數(shù)量全國第一。

粵港澳大灣區(qū)AI產(chǎn)業(yè)基礎(chǔ)良好、優(yōu)勢(shì)突出、前景廣闊，廣大企業(yè)、科研院所大顯身手正當(dāng)其時(shí)。聯(lián)合實(shí)驗(yàn)室將在大灣區(qū)AI產(chǎn)業(yè)生態(tài)構(gòu)建中扮演怎樣的角色？相關(guān)負(fù)責(zé)人透露，立足粵港澳大灣區(qū)科技創(chuàng)新高地，聯(lián)合實(shí)驗(yàn)室將從三個(gè)方面發(fā)揮獨(dú)特優(yōu)勢(shì)：

一是服務(wù)企業(yè)發(fā)展。為屬地企業(yè)提供覆蓋生成式人工智能全生命周期的安全評(píng)估服務(wù)，實(shí)現(xiàn)高效精準(zhǔn)的風(fēng)險(xiǎn)識(shí)別與防控，幫助企業(yè)建立安全管理機(jī)制，針對(duì)對(duì)抗攻擊、數(shù)據(jù)泄露等突出安全風(fēng)險(xiǎn)，提供定制化安全解決方案，助力企業(yè)增強(qiáng)自身安全能力。針對(duì)企業(yè)內(nèi)容安全短板，打造純凈基礎(chǔ)語料庫，增強(qiáng)企業(yè)大模型內(nèi)容基礎(chǔ)安全及運(yùn)行安全。

二是推動(dòng)產(chǎn)業(yè)落地。打造生成式人工智能賦能千行百業(yè)咨詢平臺(tái)，強(qiáng)化屬地大模型企業(yè)和各行業(yè)企業(yè)的鏈接對(duì)接，助力大模型企業(yè)精準(zhǔn)定位市場，同時(shí)為培育新型需求的企業(yè)匹配優(yōu)質(zhì)產(chǎn)品。制定行業(yè)安全發(fā)展標(biāo)準(zhǔn)，形成屬地化安全標(biāo)準(zhǔn)體系，為企業(yè)提供合規(guī)指引，并同步探索與國際標(biāo)準(zhǔn)接軌的認(rèn)證機(jī)制，助力屬地生成式人工智能產(chǎn)品“走出去”。

三是加強(qiáng)安全監(jiān)管。開發(fā)建設(shè)生成式人工智能安全評(píng)測(cè)系統(tǒng)，加強(qiáng)前瞻評(píng)估和監(jiān)測(cè)處置，防范模型的黑箱、幻覺、算法歧視等帶來的風(fēng)險(xiǎn)，協(xié)同建立健全人工智能技術(shù)監(jiān)測(cè)、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)體系，為“包容審慎、分類分級(jí)”監(jiān)管提供有力的技術(shù)支撐，推進(jìn)人工智能應(yīng)用合規(guī)、透明、可信賴。組織開展人工智能安全知識(shí)公益普及活動(dòng)，提高公眾對(duì)人工智能安全的認(rèn)識(shí)，推動(dòng)形成社會(huì)共治格局。

“政產(chǎn)學(xué)研用”協(xié)同

形成治理合力

據(jù)悉，聯(lián)合實(shí)驗(yàn)室由國家互聯(lián)網(wǎng)應(yīng)急中心作為指導(dǎo)單位，廣東省委網(wǎng)信辦和國家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心聯(lián)合牽頭，粵港澳有關(guān)部門、AI應(yīng)用龍頭企業(yè)和AI專精特新企業(yè)、高校、科研機(jī)構(gòu)和主流媒體共同參與建設(shè)，將構(gòu)建起“技術(shù)協(xié)同+敏捷治理+傳播服務(wù)”的全新治理模式。建設(shè)運(yùn)行過程中，聯(lián)合實(shí)驗(yàn)室將協(xié)調(diào)各方資源，形成治理合力。

聯(lián)合實(shí)驗(yàn)室相關(guān)負(fù)責(zé)人介紹，聯(lián)合實(shí)驗(yàn)室將以企業(yè)為主，多方共同參與運(yùn)行，充分利用本土人才，構(gòu)建企業(yè)主導(dǎo)的產(chǎn)學(xué)研用協(xié)同創(chuàng)新體系，形成“政府引導(dǎo)+依托企業(yè)+產(chǎn)學(xué)協(xié)同”的建設(shè)模式，共同推動(dòng)大灣區(qū)生成式人工智能安全健康有序發(fā)展。

聚焦企業(yè)面臨的實(shí)際困難和長期發(fā)展需要，將聯(lián)合開展科研攻關(guān)，統(tǒng)籌大灣區(qū)生成式人工智能領(lǐng)域資源，整合技術(shù)和人文，用好產(chǎn)業(yè)界、學(xué)術(shù)界技術(shù)力量，匯聚哲學(xué)、心理學(xué)、語言學(xué)等人文學(xué)科人才，探索建立跨學(xué)科、跨領(lǐng)域的聯(lián)合攻關(guān)模式，圍繞生成式人工智能安全發(fā)展基礎(chǔ)理論、前沿技術(shù)、治理管理開展科研攻關(guān)。充分發(fā)揮粵港澳大灣區(qū)獨(dú)特優(yōu)勢(shì)，用好港澳國際科研合作網(wǎng)絡(luò)，利用港澳國際化、市場化優(yōu)勢(shì)，調(diào)動(dòng)、整合全球優(yōu)秀人才、先進(jìn)技術(shù)助力大灣區(qū)生成式人工智能發(fā)展。

此外，聯(lián)合實(shí)驗(yàn)室還將視情在香港、澳門、廣州、珠海、東莞等地設(shè)立地方服務(wù)站。地方服務(wù)站負(fù)責(zé)對(duì)接地方具體工作并面向社會(huì)提供政策咨詢、技術(shù)評(píng)測(cè)等安全相關(guān)服務(wù)，支持相關(guān)產(chǎn)業(yè)園區(qū)生成式人工智能領(lǐng)域企業(yè)發(fā)展、產(chǎn)業(yè)落地等工作。

回應(yīng)AI治理挑戰(zhàn)

探索系統(tǒng)性解決方案

當(dāng)下，AI安全風(fēng)險(xiǎn)正呈現(xiàn)跨領(lǐng)域、復(fù)合型、動(dòng)態(tài)化特征。如在技術(shù)層面存在動(dòng)態(tài)演化的黑盒風(fēng)險(xiǎn)，生成式AI的隨機(jī)性輸出導(dǎo)致傳統(tǒng)安全防護(hù)失效，傳統(tǒng)規(guī)則引擎無法覆蓋大模型深度偽造內(nèi)容、隱蔽性數(shù)據(jù)泄露等風(fēng)險(xiǎn)。在生態(tài)層面存在產(chǎn)業(yè)安全能力斷層，多數(shù)市場主體（尤其是中小微企業(yè)）的安全防御技術(shù)儲(chǔ)備不足。而在治理層面，面臨跨區(qū)域安全治理協(xié)同不足、多重合規(guī)壁壘等問題。

據(jù)了解，通過資源整合與機(jī)制創(chuàng)新，聯(lián)合實(shí)驗(yàn)室將探索系統(tǒng)性解決方案。

聯(lián)合實(shí)驗(yàn)室已初步研究出一套“安全可信+量化評(píng)級(jí)”的服務(wù)行業(yè)框架,以權(quán)威性、公平性、前瞻性為準(zhǔn)則，將定期對(duì)國內(nèi)外主流的大模型進(jìn)行六大方面36個(gè)維度的深入評(píng)測(cè)，發(fā)現(xiàn)內(nèi)在隱患、甄別存在不足、提出客觀建議，以幫助大模型企業(yè)及時(shí)修復(fù)不足、降低合規(guī)成本、健康有序發(fā)展。

在標(biāo)準(zhǔn)協(xié)同方面，聯(lián)合實(shí)驗(yàn)室將整合粵港澳政府、高校、科研機(jī)構(gòu)及龍頭企業(yè)資源，積極推動(dòng)國家相關(guān)標(biāo)準(zhǔn)與區(qū)域法規(guī)的適配轉(zhuǎn)化，構(gòu)建安全評(píng)估體系，為建立區(qū)域統(tǒng)一的安全標(biāo)準(zhǔn)提供實(shí)踐支撐。

在技術(shù)防御方面，聯(lián)合實(shí)驗(yàn)室將依托騰訊等的算力支撐、中山大學(xué)等高校的科研力量、深信服等專業(yè)能力，推動(dòng)安全防護(hù)技術(shù)的進(jìn)步，向中小微企業(yè)輸出輕量化防御方案，降低技術(shù)應(yīng)用門檻。

構(gòu)建AI安全發(fā)展標(biāo)準(zhǔn)體系

訓(xùn)練大模型安全智能評(píng)測(cè)引擎

在傳統(tǒng)“事后監(jiān)管”模式難以應(yīng)對(duì)復(fù)雜挑戰(zhàn)的現(xiàn)今，構(gòu)建生成式人工智能安全評(píng)測(cè)體系與產(chǎn)業(yè)監(jiān)管的深度融合機(jī)制，也將成為保障社會(huì)經(jīng)濟(jì)穩(wěn)定運(yùn)行的關(guān)鍵舉措。

據(jù)了解，聯(lián)合實(shí)驗(yàn)室將構(gòu)建分級(jí)分類的標(biāo)準(zhǔn)體系，其中的AI安全評(píng)測(cè)體系將建立“基礎(chǔ)共性+行業(yè)特性”的雙層標(biāo)準(zhǔn)架構(gòu)，實(shí)現(xiàn)與產(chǎn)業(yè)監(jiān)管的精準(zhǔn)對(duì)接，包括結(jié)合大灣區(qū)特點(diǎn)轉(zhuǎn)化形成區(qū)域統(tǒng)一的評(píng)測(cè)基準(zhǔn)、針對(duì)不同產(chǎn)業(yè)特性制定差異化評(píng)測(cè)指標(biāo)。

同時(shí)，將構(gòu)建多元參與的生態(tài)體系，形成從基礎(chǔ)研究到產(chǎn)業(yè)應(yīng)用的完整鏈條。此外，還將不斷提升技術(shù)迭代賦能監(jiān)管能力，建設(shè)本地化安全評(píng)測(cè)系統(tǒng)、訓(xùn)練智能評(píng)測(cè)引擎等核心能力，形成覆蓋模型全生命周期的安全防護(hù)體系。

對(duì)于人工智能安全標(biāo)準(zhǔn)體系，聯(lián)合實(shí)驗(yàn)室相關(guān)負(fù)責(zé)人介紹表示，其核心內(nèi)容將涵蓋從基礎(chǔ)理論到具體應(yīng)用的全生命周期安全要求，包括基礎(chǔ)共性標(biāo)準(zhǔn)、安全管理標(biāo)準(zhǔn)、關(guān)鍵技術(shù)標(biāo)準(zhǔn)、測(cè)試評(píng)估標(biāo)準(zhǔn)、產(chǎn)品與應(yīng)用標(biāo)準(zhǔn)、數(shù)據(jù)、算法和模型安全、安全管理與服務(wù)、安全測(cè)試與評(píng)估、安全治理與倫理等九大方面，旨在保障人工智能技術(shù)的安全、可靠和可控發(fā)展。

對(duì)于大模型安全智能評(píng)測(cè)引擎，該負(fù)責(zé)人表示，廣東備案大模型服務(wù)已近百款，目前還保持著快速上升態(tài)勢(shì)，依靠傳統(tǒng)以人工為主的測(cè)試評(píng)估方式難以與之適配。因此，聯(lián)合實(shí)驗(yàn)室創(chuàng)新性提出“AI評(píng)測(cè)AI”的思路，以智能應(yīng)對(duì)智能，以技術(shù)管控技術(shù)，構(gòu)建能夠自動(dòng)化、智能化評(píng)測(cè)大模型的安全智能評(píng)測(cè)引擎。

據(jù)了解，測(cè)試題集自動(dòng)生成、測(cè)試結(jié)果自動(dòng)研判是安全智能評(píng)測(cè)引擎的兩個(gè)重要組成部分，測(cè)試題集用來生成大模型服務(wù)的輸入內(nèi)容，特別是模擬具有不同價(jià)值體系和具有惡意攻擊目的的用戶提問，結(jié)果研判則是用來評(píng)判大模型回答是否符合社會(huì)主義核心價(jià)值觀和其它法律法規(guī)要求。測(cè)試題集自動(dòng)生成、測(cè)試結(jié)果自動(dòng)研判的組合正好覆蓋了大模型服務(wù)一進(jìn)一出兩部分內(nèi)容，這將大大降低人力消耗，從而實(shí)現(xiàn)大模型全流程自動(dòng)化、智能化的閉環(huán)評(píng)測(cè)效果。

“希望通過這個(gè)自研的智能評(píng)測(cè)引擎，能為人工智能在粵港澳大灣區(qū)海量應(yīng)用場景‘落地生根’中保駕護(hù)航，通過應(yīng)用的規(guī)?；?，加速技術(shù)能力的迭代，形成‘越用越好用’”的正循環(huán)?！甭?lián)合實(shí)驗(yàn)室負(fù)責(zé)人表示。

具有大灣區(qū)特色的人工智能治理新范式，正在旺盛展開。“政產(chǎn)學(xué)研用”深度融合，生成式人工智能產(chǎn)業(yè)向安全、高效、集群化發(fā)展的未來值得期待。