|
不久前出臺的《生成式人工智能服務(wù)管理暫行辦法》，意在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。可見，當(dāng)前如何更好地防范生成式人工智能安全風(fēng)險(xiǎn)，做到既鼓勵(lì)相關(guān)領(lǐng)域創(chuàng)新的“七十二變”，又要勒緊保護(hù)用戶隱私和消費(fèi)者權(quán)益的“緊箍咒”，值得分析。
眼下，獲益于豐富多樣的數(shù)據(jù)資源、參數(shù)以及不錯(cuò)的學(xué)習(xí)能力，大模型有效增強(qiáng)了人工智能的通用性。從與人類暢聊到撰寫文案、合同，從監(jiān)測并檢驗(yàn)程序安全漏洞到輔助創(chuàng)作影視劇……生成式人工智能正處于快速發(fā)展的過程中。而我國的人工智能大模型也已經(jīng)達(dá)到了一定水平。前不久發(fā)布的《中國人工智能大模型地圖研究報(bào)告》顯示，中國人工智能大模型正呈現(xiàn)蓬勃發(fā)展態(tài)勢。據(jù)不完全統(tǒng)計(jì)，截至目前，全國10億級參數(shù)規(guī)模以上的大模型已發(fā)布79個(gè)。研究表明，我國在大模型方面已建立起涵蓋理論價(jià)值和軟硬件技術(shù)的體系化研發(fā)水平。不過也要看到，生成式人工智能技術(shù)是把“雙刃劍”，其在推動(dòng)社會(huì)進(jìn)步的同時(shí)，也有可能帶來技術(shù)、設(shè)計(jì)、算法以及數(shù)據(jù)等方面的安全風(fēng)險(xiǎn)。因此，必須做好前瞻研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德，在重視防范風(fēng)險(xiǎn)的同時(shí)，同步建立容錯(cuò)、糾錯(cuò)機(jī)制，努力實(shí)現(xiàn)規(guī)范與發(fā)展的動(dòng)態(tài)平衡。
一方面，抓住生成式人工智能最根本的元素——數(shù)據(jù)和算法，以此為突破口，堅(jiān)持問題導(dǎo)向，在創(chuàng)新思維上下功夫，把控大數(shù)據(jù)源頭治理，提前布局和構(gòu)建系統(tǒng)性大數(shù)據(jù)防火墻，控制和防范數(shù)據(jù)泄密。應(yīng)及時(shí)啟動(dòng)并優(yōu)化國家級自主研發(fā)數(shù)據(jù)庫系統(tǒng)和備份系統(tǒng)，抓緊布局和研發(fā)人工智能大數(shù)據(jù)控制系統(tǒng)、分級分層享用系統(tǒng)、網(wǎng)絡(luò)風(fēng)險(xiǎn)防范系統(tǒng)以及由此產(chǎn)生的AI智能管控監(jiān)督架構(gòu)系統(tǒng)。
另一方面，采取多種舉措推動(dòng)生成式人工智能的技術(shù)發(fā)展與治理。鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場景，構(gòu)建應(yīng)用生態(tài)體系。支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展協(xié)作。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數(shù)據(jù)分類分級有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。鼓勵(lì)采用安全可信的芯片、軟件、工具、算力和數(shù)據(jù)資源。此外，還要從速從嚴(yán)構(gòu)建和推廣實(shí)施生成式人工智能相關(guān)知識的普及宣傳，尤其是條例、法規(guī)宣傳和監(jiān)督機(jī)構(gòu)的完善和構(gòu)建。
原文標(biāo)題：嚴(yán)防生成式人工智能安全風(fēng)險(xiǎn)
文章鏈接：http://www.ce.cn/cysc/tech/gd2012/202308/11/t20230811_38668532.shtml
|
