1月3日,中央直屬黨報《經(jīng)濟日報》在10智庫版發(fā)表劉鵬教授署名文章《探索共享與監(jiān)管動態(tài)平衡》。劉鵬教授與多位專家在該版面共同探討了“如何推動人工智能安全發(fā)展”這一話題。
相關(guān)鏈接:
● 劉鵬教授文章鏈接:
https://proapi.jingjiribao.cn/detail.html?id=500124
● 其他專家智庫圓桌討論文章鏈接:
https://proapi.jingjiribao.cn/readnews.html?id=299131
以下為劉鵬教授文章全文:
以ChatGPT為代表的生成式人工智能掀起新一輪熱潮。與此同時,數(shù)據(jù)泄露、隱私竊取、算法歧視等數(shù)字安全風(fēng)險不斷顯現(xiàn),迫切需要尋找共享與監(jiān)管并重的動態(tài)平衡范式,守住人工智能時代的數(shù)字安全底線。
縱觀全球,中國、美國和歐盟作為探索數(shù)字安全和數(shù)字治理的先行者,無論是技術(shù)創(chuàng)新還是立法規(guī)范都走在世界前列,同時也存在差異。在相同點方面,均高度重視算法治理,將算法安全嵌套在數(shù)據(jù)安全中,實行數(shù)據(jù)與算法協(xié)同治理;在差異性方面,雖然同樣強調(diào)個人隱私安全,美國以鼓勵創(chuàng)新為核心,更注重數(shù)據(jù)自由流動,傾向于以行業(yè)自律進行治理。歐盟注重個人隱私保護和立法,探索和引入人工智能監(jiān)管沙盒機制,并發(fā)布首部人工智能監(jiān)管法案。這些經(jīng)驗做法,對我國數(shù)字安全治理具有一定參考價值。
我國加快推動人工智能發(fā)展,需形成政府、企業(yè)、社會組織和個人合力,在協(xié)同數(shù)據(jù)和算法治理、保障生成式人工智能安全等方面實現(xiàn)重點突破。
第一,啟動國家人工智能數(shù)據(jù)和算法工程。建立安全標準,分門別類對數(shù)據(jù)和算法進行管理,提升數(shù)據(jù)互操作性以及算法透明度,改變過去個人或企業(yè)單打獨斗的局面。
自動檢索風(fēng)險指標。開發(fā)針對人工智能應(yīng)用網(wǎng)絡(luò)的早期預(yù)警系統(tǒng),對網(wǎng)絡(luò)資源進行常規(guī)監(jiān)控和過濾,對于不符合政策要求的危險因素、劣質(zhì)數(shù)據(jù)和不良信息,及時清除或屏蔽。通過該預(yù)警系統(tǒng)自動檢索關(guān)鍵風(fēng)險指標,及時補救,防止再出現(xiàn)類似安全漏洞。
甄別人工智能生成內(nèi)容。從源頭上,為人工智能生成內(nèi)容打上標記。深度合成服務(wù)提供者提供深度合成服務(wù),可能導(dǎo)致公眾混淆或者誤認的,應(yīng)在生成或編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識,向公眾提示深度合成情況。
加大人工智能生成內(nèi)容檢測工具開發(fā)和優(yōu)化。目前針對人工智能生成的圖像、文本等已出現(xiàn)相應(yīng)檢測工具,用于區(qū)分人工智能生成的內(nèi)容和人類創(chuàng)造的內(nèi)容,但準確率不高。亟需加大對數(shù)據(jù)、算法、模型的研究,開發(fā)精準的生成式人工智能檢測工具,真正實現(xiàn)“以AI測AI”。
加強人工智能數(shù)據(jù)共享。數(shù)據(jù)、算法、算力是驅(qū)動人工智能發(fā)展的“三駕馬車”,其中數(shù)據(jù)是人工智能發(fā)展的養(yǎng)料,例如僅GPT-4的訓(xùn)練數(shù)據(jù)集就包含約13萬億個詞元。如果缺乏足夠的數(shù)據(jù),人工智能發(fā)展無異于“無米之炊”。
推動中文數(shù)據(jù)集共享。由于語言特點、獲取成本、開源程度以及數(shù)據(jù)集質(zhì)量要求等原因,相較于英文數(shù)據(jù),目前中文數(shù)據(jù)集規(guī)模較小?;谥形牡娜斯ぶ悄荛_發(fā),可通過國家人工智能數(shù)據(jù)工程匯總高質(zhì)量中文數(shù)據(jù)集,并促進數(shù)據(jù)分類分級有序共享,使安全性和服務(wù)質(zhì)量得到大幅提升。
第二,加強生成式人工智能監(jiān)管。推進全球溝通和探討,通過網(wǎng)絡(luò)數(shù)據(jù)安全管理、個人信息保護、數(shù)據(jù)審計等法律法規(guī)進一步完善生成式人工智能監(jiān)管。統(tǒng)籌數(shù)據(jù)安全與算法治理,針對金融、醫(yī)療等不同行業(yè)領(lǐng)域以及算法歧視、算法黑箱等問題,開展多層次和精細化監(jiān)管。開展多模態(tài)智能分析,在大模型領(lǐng)域引入文本、圖像、語音等,在訓(xùn)練和應(yīng)用過程中細化對不同元素的監(jiān)管,通過功能模塊設(shè)計,及時發(fā)現(xiàn)問題并防范風(fēng)險。
切實保障數(shù)據(jù)安全。使用生成式人工智能產(chǎn)品過程中,也在同步收集用戶數(shù)據(jù)和信息,可能引發(fā)潛在隱私安全問題。對此,應(yīng)擴大安全使用指南宣傳。例如,不主動分享敏感信息、關(guān)閉聊天記錄等,基于專門的云服務(wù)運行,從訪問控制、數(shù)據(jù)加密、網(wǎng)絡(luò)連接等方面加強保護。對于數(shù)據(jù)敏感度較高的用戶,通過敏感信息過濾一體機進行識別篩選,可有效避免大模型產(chǎn)品在提供服務(wù)時產(chǎn)生不可控信息。
構(gòu)建特定知識庫?;谔囟ㄖR庫提供人工智能服務(wù),可在一定程度上避免虛假錯誤信息,提升準確性和安全性。建議借助大模型訓(xùn)練推理一體機,通過本地化訓(xùn)練和推理,在保護用戶數(shù)據(jù)隱私的前提下構(gòu)建特定知識庫。
第三,在國際層面,積極與聯(lián)合國及主要國家溝通交流,達成全球規(guī)避人工智能風(fēng)險共識,推動對所有大型人工智能科研項目實施備案和風(fēng)險評估制度。在國家層面,組織專家團隊潛心進行人工智能風(fēng)險評估和研究相關(guān)立法,加強網(wǎng)絡(luò)安全關(guān)鍵技術(shù)研發(fā),加快人工智能安全技術(shù)創(chuàng)新,提升網(wǎng)絡(luò)安全產(chǎn)業(yè)綜合競爭力。
(作者系中國大數(shù)據(jù)應(yīng)用聯(lián)盟人工智能專家委員會主任)