2024年12月24日，由中國(guó)信息通信研究院(簡(jiǎn)稱“中國(guó)信通院”)主辦，以“共筑安全屏障，共謀善治未來(lái)”為主題的2025中國(guó)信通院深度觀察報(bào)告會(huì)“人工智能安全治理分論壇”在北京召開(kāi)。
中國(guó)信通院院長(zhǎng)余曉暉、工業(yè)和信息化部科技司副司長(zhǎng)杜廣達(dá)出席會(huì)議并致辭，中國(guó)信通院人工智能研究所所長(zhǎng)魏凱主持會(huì)議。北京航空航天大學(xué)法學(xué)院教授、人文與社會(huì)科學(xué)高研院院長(zhǎng)龍衛(wèi)球，中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅，中國(guó)電信網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛以及來(lái)自人工智能領(lǐng)域的專家學(xué)者和企業(yè)代表共百余人參會(huì)。
杜廣達(dá)表示，人工智能技術(shù)加快演進(jìn)，已成為新質(zhì)生產(chǎn)力的引領(lǐng)性、戰(zhàn)略性驅(qū)動(dòng)力量。安全是發(fā)展的前提，發(fā)展是安全的保障。如何促進(jìn)人工智能更好造福人類、牢牢守住安全底線、以“智”促“治”，是我們邁向智能時(shí)代共同解決的重大問(wèn)題。工業(yè)和信息化部愿與產(chǎn)業(yè)界一道，共同推動(dòng)人工智能高質(zhì)量發(fā)展和高水平安全良性互動(dòng)：一是加強(qiáng)政策引導(dǎo)，推動(dòng)行業(yè)自律，提升行業(yè)安全水位;二是推進(jìn)技術(shù)攻關(guān)，加快建設(shè)人工智能安全風(fēng)險(xiǎn)防護(hù)工具箱，擴(kuò)大安全公共產(chǎn)品供給;三是強(qiáng)化開(kāi)放合作，圍繞人工智能安全治理優(yōu)秀實(shí)踐加強(qiáng)交流互鑒，向世界貢獻(xiàn)“中國(guó)方案”和“中國(guó)智慧”。
余曉暉表示，人工智能安全治理的重要性已得到全球高度重視，正在從原則走向?qū)嵺`，中國(guó)信通院將在工業(yè)和信息化部領(lǐng)導(dǎo)下，緊緊圍繞國(guó)家戰(zhàn)略需求，推動(dòng)相關(guān)研究和實(shí)踐，完善人工智能風(fēng)險(xiǎn)管理體系，建立更加精準(zhǔn)的安全風(fēng)險(xiǎn)識(shí)別機(jī)制;構(gòu)建人工智能安全技術(shù)能力，通過(guò)技術(shù)來(lái)治理技術(shù);推動(dòng)國(guó)內(nèi)產(chǎn)業(yè)協(xié)同共治，完善安全治理的標(biāo)準(zhǔn)體系，構(gòu)建威脅情報(bào)共享機(jī)制，加強(qiáng)國(guó)際交流合作。
主旨分享環(huán)節(jié)，龍衛(wèi)球從技術(shù)與法益雙重視角對(duì)人工智能規(guī)制進(jìn)行深入剖析，指出現(xiàn)有科技風(fēng)險(xiǎn)法律制度在一定程度上適用于人工智能，但人工智能獨(dú)特的風(fēng)險(xiǎn)特性顯著增加了規(guī)范的復(fù)雜性與挑戰(zhàn)性，制定專門(mén)的應(yīng)對(duì)機(jī)制成為關(guān)鍵。曾毅深入探討了在人工智能技術(shù)快速發(fā)展背景下的倫理與安全問(wèn)題，強(qiáng)調(diào)不僅應(yīng)將安全視為人工智能發(fā)展的首要原則，還應(yīng)從被動(dòng)應(yīng)對(duì)轉(zhuǎn)向主動(dòng)理解和踐行道德，為人工智能的未來(lái)發(fā)展注入更多倫理思考。谷紅勛分享了中國(guó)電信在人工智能安全治理中的實(shí)踐經(jīng)驗(yàn)，詳細(xì)闡述了從技術(shù)實(shí)現(xiàn)到管理機(jī)制的全面安全保障措施，展示了企業(yè)如何以安全測(cè)評(píng)等具體舉措為抓手，提升主動(dòng)識(shí)別和應(yīng)對(duì)人工智能風(fēng)險(xiǎn)的能力，為行業(yè)發(fā)展提供了有力參考。
論壇期間，中國(guó)信通院發(fā)布了系列成果——深入研究人工智能安全治理方法論的“道”與技術(shù)工具的“術(shù)”，旨在為應(yīng)對(duì)人工智能技術(shù)變革帶來(lái)的復(fù)雜挑戰(zhàn)提供有力支撐。會(huì)上正式發(fā)布《人工智能風(fēng)險(xiǎn)治理報(bào)告(2024年)——構(gòu)建面向產(chǎn)業(yè)的人工智能安全治理實(shí)踐方案》，中國(guó)信通院人工智能研究所呼娜英從風(fēng)險(xiǎn)認(rèn)知、全球?qū)嵺`、產(chǎn)業(yè)實(shí)踐、展望建議等方面對(duì)報(bào)告進(jìn)行了解讀。
此外，本論壇還邀請(qǐng)到中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝、對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授張欣、中興通訊高級(jí)算法工程師楊柳、騰訊研究院首席數(shù)據(jù)法律專家王融以及中國(guó)信通院人工智能研究所工程師黑一鳴、郭蘇敏、孫小童圍繞人工智能的風(fēng)險(xiǎn)治理路徑，大模型服務(wù)、智能體、AI手機(jī)等新應(yīng)用的安全實(shí)踐方案，以及生成式人工智能合規(guī)工具和MaaS數(shù)據(jù)可信研究等方面進(jìn)行主題分享。
在圓桌討論環(huán)節(jié)，21世紀(jì)經(jīng)濟(jì)報(bào)道王俊、中國(guó)信通院何波、阿里研究院傅宏宇、騰訊研究院趙子飛，以及行業(yè)代表朱玲鳳、吳少卿圍繞“產(chǎn)業(yè)對(duì)話：AI治理實(shí)踐與未來(lái)發(fā)展愿景”展開(kāi)了深入探討。嘉賓們就技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控的平衡進(jìn)行了熱烈交流，分享了在全球化背景下如何應(yīng)對(duì)不同法律體系和安全合規(guī)挑戰(zhàn)。討論內(nèi)容為企業(yè)構(gòu)建可持續(xù)的人工智能風(fēng)險(xiǎn)管理生態(tài)提供了寶貴的指導(dǎo)思路。
未來(lái)，人工智能的安全治理亟需加強(qiáng)多方協(xié)同，凝聚各界智慧與力量。中國(guó)信通院將繼續(xù)推動(dòng)人工智能技術(shù)的安全發(fā)展，為產(chǎn)業(yè)界打造更加完善、高效的治理框架。與會(huì)各方表示，將在長(zhǎng)期合作中攜手應(yīng)對(duì)人工智能技術(shù)帶來(lái)的安全挑戰(zhàn)，共同推動(dòng)人工智能產(chǎn)業(yè)的健康可持續(xù)發(fā)展。
（來(lái)源：中國(guó)信通院CAICT）
