提高人工智能安全治理水平的探討并實(shí)踐“六個轉(zhuǎn)變”

人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，具有技術(shù)屬性與社會屬性高度融合的特點(diǎn)，在推動生產(chǎn)力發(fā)展的同時，也帶來新的風(fēng)險和挑戰(zhàn)。習(xí)近平總書記強(qiáng)調(diào)：“要堅(jiān)持促進(jìn)發(fā)展和依法管理相統(tǒng)一，既大力培育人工智能、物聯(lián)網(wǎng)、下一代通信網(wǎng)絡(luò)等新技術(shù)新應(yīng)用，又積極利用法律法規(guī)和標(biāo)準(zhǔn)規(guī)范引導(dǎo)新技術(shù)應(yīng)用。”黨的二十屆三中全會《決定》提出“完善生成式人工智能發(fā)展和管理機(jī)制”“建立人工智能安全監(jiān)管制度”。堅(jiān)持發(fā)展與治理、創(chuàng)新與安全并重，全面提升人工智能安全治理水平，既是保障人工智能健康有序發(fā)展的迫切需要，也是推進(jìn)國家治理體系和治理能力現(xiàn)代化的重要內(nèi)容。

提高人工智能安全治理水平需從法律框架、技術(shù)研發(fā)、多方協(xié)作、倫理教育及國際合作五方面入手，構(gòu)建系統(tǒng)性治理體系。以下從具體措施角度展開分析

一、構(gòu)建法律框架與監(jiān)管機(jī)制

制定專門性法律是治理的基礎(chǔ)。需明確人工智能開發(fā)、部署各環(huán)節(jié)的責(zé)任主體，建立覆蓋數(shù)據(jù)收集、算法設(shè)計、應(yīng)用場景的全流程規(guī)范。例如，通過立法要求高風(fēng)險AI系統(tǒng)(如自動駕駛、醫(yī)療診斷)必須通過安全評估與認(rèn)證。同時，設(shè)立動態(tài)監(jiān)管機(jī)制，針對生成式AI等新技術(shù)建立分級分類管理制度，確保法律適應(yīng)技術(shù)發(fā)展速度。

二、強(qiáng)化安全技術(shù)研發(fā)能力

提升隱私計算、可解釋算法等核心技術(shù)。發(fā)展聯(lián)邦學(xué)習(xí)技術(shù)實(shí)現(xiàn)數(shù)據(jù)“可用不可見”，利用區(qū)塊鏈技術(shù)建立算法決策追溯機(jī)制。構(gòu)建AI安全測試平臺，對深度偽造、算法歧視等風(fēng)險進(jìn)行模擬攻擊測試。企業(yè)應(yīng)建立“安全左移”機(jī)制，在研發(fā)初期嵌入安全設(shè)計，例如微軟推出的AI安全風(fēng)險檢測框架Counterfit。

三、建立多方協(xié)同治理體系

政府需搭建企業(yè)、科研機(jī)構(gòu)、公眾的對話平臺，建立聯(lián)合實(shí)驗(yàn)室攻克共性技術(shù)難題。設(shè)立第三方審計機(jī)構(gòu)，對AI系統(tǒng)進(jìn)行獨(dú)立評估認(rèn)證。美國NIST的AI風(fēng)險管理框架、歐盟的AI監(jiān)管沙盒等實(shí)踐表明，政企協(xié)同能有效平衡創(chuàng)新與安全。公眾參與方面，可建立AI事故舉報平臺和意見反饋通道。

四、深化倫理教育與人才培養(yǎng)

高校應(yīng)設(shè)置AI倫理必修課程，培養(yǎng)兼具技術(shù)能力和倫理意識的復(fù)合型人才。MIT的負(fù)責(zé)任AI課程體系值得借鑒，涵蓋算法公平性、社會影響評估等內(nèi)容。開展全民數(shù)字素養(yǎng)教育，通過科普活動提升公眾對AI風(fēng)險的辨識能力。建立行業(yè)倫理委員會，制定《人工智能倫理指南》等自律規(guī)范。

五、推動國際標(biāo)準(zhǔn)協(xié)同互認(rèn)

參與ISO/IEC等國際標(biāo)準(zhǔn)制定，推動各國檢測認(rèn)證結(jié)果互認(rèn)。在聯(lián)合國框架下建立AI治理多邊對話機(jī)制，協(xié)調(diào)數(shù)據(jù)跨境流動規(guī)則。借鑒歐盟《人工智能法案》與我國《生成式AI服務(wù)管理辦法》的銜接經(jīng)驗(yàn)，建立跨境爭端解決機(jī)制。通過APEC、G20等平臺分享治理經(jīng)驗(yàn)，形成全球協(xié)同治理網(wǎng)絡(luò)。

無論是微觀層面的風(fēng)險，中觀層面的難點(diǎn)，還是宏觀層面的壓力，都亟待各方協(xié)同應(yīng)對，以實(shí)現(xiàn)人工智能安全、穩(wěn)健且可持續(xù)發(fā)展。應(yīng)堅(jiān)持問題導(dǎo)向，在治理模式上積極探索并實(shí)踐“六個轉(zhuǎn)變”，逐步實(shí)現(xiàn)高水平安全與高質(zhì)量發(fā)展的良性互動。

一、從“政府主導(dǎo)”邁向“多元共治”，轉(zhuǎn)變主體，凝聚合力。要積極構(gòu)建政府、企業(yè)、科研機(jī)構(gòu)、行業(yè)組織和公眾多方參與的協(xié)同治理格局。網(wǎng)信部門發(fā)揮引領(lǐng)作用，制定政策與規(guī)則，搭建平臺，牽頭建立人工智能安全治理體系。主管部門在管行業(yè)的同時管安全，促進(jìn)行業(yè)高質(zhì)量應(yīng)用和業(yè)務(wù)合規(guī)管理并舉;企業(yè)履行主體責(zé)任，強(qiáng)化自律和能力建設(shè)，加強(qiáng)技術(shù)和應(yīng)用創(chuàng)新，賦能千行百業(yè);重點(diǎn)科研機(jī)構(gòu)、高校、測評機(jī)構(gòu)等貢獻(xiàn)技術(shù)智慧，建設(shè)人工智能安全測評體系，提供公共安全供給;人工智能行業(yè)協(xié)會、互聯(lián)網(wǎng)業(yè)聯(lián)合會等行業(yè)組織發(fā)揮紐帶監(jiān)督功能，促進(jìn)行業(yè)規(guī)范，加強(qiáng)交流與合作;鼓勵公眾積極參與監(jiān)督與建言，舉報不良情況，形成全民治理氛圍。此外，主動投身國際人工智能治理進(jìn)程，用好世界人工智能大會等平臺，提升中國在全球人工智能治理中的影響力，攜手共建國際安全治理網(wǎng)絡(luò)。

二、從“單一管理”到“系統(tǒng)治理”，轉(zhuǎn)變體系，統(tǒng)籌全局。人工智能安全涉及內(nèi)容安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全各層面和技術(shù)、法律、倫理多維度，與經(jīng)濟(jì)、文化、社會、公共衛(wèi)生等各領(lǐng)域相關(guān)，需加強(qiáng)頂層設(shè)計，強(qiáng)化系統(tǒng)治理。支持企業(yè)在合法合規(guī)軌道上，突破新的技術(shù)路徑，探索新商業(yè)模式;優(yōu)化政策環(huán)境，提供產(chǎn)業(yè)和生態(tài)基金扶持，助力創(chuàng)業(yè)企業(yè)跨越發(fā)展“溝壑”;推動加強(qiáng)科研成果轉(zhuǎn)化落地。強(qiáng)化各類人才引育和匯聚，提升行業(yè)整體技術(shù)與創(chuàng)新水平，為可持續(xù)發(fā)展注入“源動力”。針對黨政機(jī)關(guān)、重點(diǎn)行業(yè)及企事業(yè)單位的高層、業(yè)務(wù)和技術(shù)人員，開展多層面針對性培訓(xùn)，正確理解人工智能的“能”與“不能”，為使用和管理夯實(shí)基礎(chǔ)。通過媒體、網(wǎng)絡(luò)、社區(qū)等渠道加強(qiáng)科普宣傳和培訓(xùn)，增強(qiáng)公眾理解、提高應(yīng)用能力。加強(qiáng)安全教育，防范潛在風(fēng)險，營造健康安全的社會環(huán)境。

三、從“技術(shù)至上”到“負(fù)責(zé)任創(chuàng)新”，轉(zhuǎn)變導(dǎo)向，以人為本。加強(qiáng)算法備案和算法機(jī)理機(jī)制公示公開，督導(dǎo)各類算法服務(wù)平臺保障所有用戶的知情權(quán)、選擇權(quán)、關(guān)閉權(quán)、個人信息刪除權(quán);推動個性化推薦算法增加信息提供的多樣性、提升正能量內(nèi)容精準(zhǔn)有效的觸達(dá)率;促進(jìn)調(diào)度決策類算法盡可能公平公正地保障勞動者和消費(fèi)者的權(quán)益;根據(jù)未成年人、老年人的特點(diǎn)，促進(jìn)算法保護(hù)特殊群體的權(quán)益，推動算法向上向善。推動相關(guān)主體在技術(shù)創(chuàng)新過程中充分考慮倫理、社會影響和可持續(xù)性等問題。指導(dǎo)組建人工智能倫理委員會和行業(yè)倫理委員會，制定發(fā)布契合時代、技術(shù)發(fā)展和行業(yè)特點(diǎn)的倫理指南，防范濫用惡用，引領(lǐng)技術(shù)以人為本、智能向善，造福人民、保障公民權(quán)益。

四、從“事后應(yīng)對”轉(zhuǎn)向“事前預(yù)防”，轉(zhuǎn)變理念，關(guān)口前移。在法律法規(guī)的大框架下，網(wǎng)信等部門牽頭制定人工智能安全監(jiān)管制度，推動安全關(guān)口前移。對具有輿論屬性或社會動員能力的模型或服務(wù)，明確安全評估、算法備案等合規(guī)流程，提升模型安全性、算法透明度，提升公眾的信任度。指導(dǎo)企業(yè)深化安全自評估，監(jiān)管部門組織專業(yè)機(jī)構(gòu)開展安全測試，確保模型在向公眾提供服務(wù)前風(fēng)險基本可控。當(dāng)好安全治理知識的學(xué)習(xí)者、匯聚者、傳播者，點(diǎn)面結(jié)合，持續(xù)深化人工智能安全框架、技術(shù)方法、實(shí)踐經(jīng)驗(yàn)的交流和專業(yè)供給，逐步提升行業(yè)的安全意識與能力。指導(dǎo)企業(yè)強(qiáng)化“三同步”，建立健全符合人工智能系統(tǒng)研發(fā)和應(yīng)用特點(diǎn)的網(wǎng)絡(luò)安全和數(shù)據(jù)安全管理制度，加強(qiáng)個人信息保護(hù)，保障數(shù)據(jù)全生命周期安全。各層面探索智能化的風(fēng)險預(yù)警，提升實(shí)時監(jiān)測與精準(zhǔn)評估能力，及時發(fā)現(xiàn)潛在安全風(fēng)險。指導(dǎo)企業(yè)建立可實(shí)操、應(yīng)對各類風(fēng)險的應(yīng)急預(yù)案，定期演練，提升快速響應(yīng)與處置突發(fā)事件能力，將風(fēng)險影響控制在最小范圍。

五、從“靜態(tài)安全”進(jìn)階“動態(tài)安全”，轉(zhuǎn)變策略，契合創(chuàng)新。依托持續(xù)監(jiān)測與評估機(jī)制，定期復(fù)盤、動態(tài)調(diào)整安全措施，使其契合現(xiàn)實(shí)需求。例如，在重大活動保障期間，服務(wù)主體需提高安全閾值、加大安全投入，守牢安全底線;監(jiān)管部門加強(qiáng)專項(xiàng)監(jiān)測與監(jiān)督管理。同時，動態(tài)安全需要具備一定的預(yù)見性和靈活性，能應(yīng)對未來可能出現(xiàn)的新風(fēng)險。指導(dǎo)模型企業(yè)強(qiáng)化內(nèi)容安全能力，結(jié)合企業(yè)、模型、應(yīng)用特點(diǎn)，在語料、模型、輸入輸出各層面，嚴(yán)防違法、虛假信息生成傳播。防范排序精選、個性化推送算法操縱輿論和純流量導(dǎo)向，守護(hù)網(wǎng)絡(luò)空間風(fēng)清氣正。針對未依法開展安全評估、出現(xiàn)較大風(fēng)險的，依法予以處置處罰，堅(jiān)決守牢安全底線。在嚴(yán)守安全底線的前提下，為技術(shù)創(chuàng)新預(yù)留一些“彈性空間”，激發(fā)創(chuàng)新活力、驅(qū)動產(chǎn)業(yè)升級;借助科學(xué)管理手段和技術(shù)創(chuàng)新，深化敏捷治理，保障安全與社會穩(wěn)定。

六、從“傳統(tǒng)治理”升級“智能治理”，轉(zhuǎn)變方法，賦能安全。支持科研機(jī)構(gòu)、高校、有能力的企業(yè)，持續(xù)加大對算法、架構(gòu)創(chuàng)新、安全對齊、芯片等核心技術(shù)研發(fā)投入，突破技術(shù)瓶頸，筑牢安全基礎(chǔ)。推進(jìn)人工智能安全技術(shù)標(biāo)準(zhǔn)化進(jìn)程，構(gòu)建自主可控技術(shù)體系。堅(jiān)持極限思維，加快技術(shù)自主創(chuàng)新、供應(yīng)鏈安全可控，提升人工智能的宏觀安全。匯聚專業(yè)力量，搭建集成安全測評、技術(shù)咨詢、安全能力等多元功能的安全公共服務(wù)平臺，為行業(yè)整體安全能力提升賦能。激勵企業(yè)、科研機(jī)構(gòu)等開展安全技術(shù)研發(fā)應(yīng)用，形成創(chuàng)新“生態(tài)群”，為安全治理注入持久動力。

初級注冊安全工程師備考人員，為了幫助考生及時獲得報名和考試信息，小編建議考生立即填寫本文頂部提供 免費(fèi)預(yù)約短信提醒服務(wù)，屆時會及時通知考生初級注冊安全工程師報名時間、考試時間，請及時預(yù)約。

已進(jìn)入初級安全工程師備考階段，小編為考生提供免費(fèi)資料，點(diǎn)擊下列文字即可獲知，供考生學(xué)習(xí)。

點(diǎn)擊查看>>2025年初級注冊安全工程師《安全生產(chǎn)法律法規(guī)》考試大綱

點(diǎn)擊查看>>2025年初級注冊安全工程師《安全生產(chǎn)實(shí)務(wù)》考試大綱

可點(diǎn)擊直接獲取>>初級注冊安全工程師《安全生產(chǎn)法律法規(guī)》三色筆記

可點(diǎn)擊直接獲取>>初級注冊安全工程師《建筑施工安全》三色筆記

可點(diǎn)擊直接獲取>>初級注冊安全工程師《化工安全》三色筆記

可點(diǎn)擊直接獲取>>初級注冊安全工程師《其他安全》三色筆記

備考初級安全工程師的人員可以通過做題進(jìn)行查漏補(bǔ)缺，可點(diǎn)擊下列圖片進(jìn)入初級注冊安全工程師章節(jié)習(xí)題、模擬試題的在線練習(xí)。

以上就是“提高人工智能安全治理水平的探討”相關(guān)內(nèi)容，小編已上傳更多2025年初級安全工程師考試大綱、考點(diǎn)、模擬題及歷年真題等資料，大家可以點(diǎn)擊下方按鈕免費(fèi)下載使用。