9月3日，北京人工智能安全與治理實(shí)驗(yàn)室在中關(guān)村科技園門(mén)頭溝園京西智谷揭牌成立。該實(shí)驗(yàn)室是面向人工智能安全發(fā)展與治理的新型研發(fā)機(jī)構(gòu)。實(shí)驗(yàn)室致力于構(gòu)建系統(tǒng)化的安全與治理體系，為人工智能的創(chuàng)新和應(yīng)用提供堅(jiān)實(shí)的安全保障，引領(lǐng)人工智能安全與治理的新趨勢(shì)。

實(shí)驗(yàn)室在北京市多個(gè)委辦局的指導(dǎo)與支持下建立，與中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理中心、中國(guó)信通院人工智能研究所共建，并得到來(lái)自清華大學(xué)、北京大學(xué)等高校和科研機(jī)構(gòu)研究團(tuán)隊(duì)的合作支持。揭牌儀式上，實(shí)驗(yàn)室主任曾毅介紹了北京人工智能安全與治理實(shí)驗(yàn)室的成立背景與發(fā)展愿景。他強(qiáng)調(diào)實(shí)驗(yàn)室是打通人工智能安全與治理前沿研究及產(chǎn)業(yè)自律自治、政府引導(dǎo)與監(jiān)管的全新探索。實(shí)驗(yàn)室與共建單位發(fā)布了“人工智能安全與治理公共服務(wù)平臺(tái)”，平臺(tái)可在人工智能倫理安全政策、安全風(fēng)險(xiǎn)監(jiān)測(cè)、倫理安全評(píng)測(cè)方面提供服務(wù)。近期，實(shí)驗(yàn)室正與共建單位、合作機(jī)構(gòu)共同打造人工智能倫理與安全評(píng)測(cè)體系、構(gòu)建安全人工智能基礎(chǔ)模型。

曾毅表示，我國(guó)不僅要逐步完善人工智能安全與治理相關(guān)政策體系，更要布局人工智能安全與治理各級(jí)研究機(jī)構(gòu)、測(cè)評(píng)與賦能中心的建立推進(jìn)前沿研究與實(shí)踐，并在此基礎(chǔ)上完善人工智能安全合作網(wǎng)絡(luò)的構(gòu)建，打通政產(chǎn)研共建的中國(guó)人工智能安全與治理體系。據(jù)他介紹，自2023年開(kāi)始，英國(guó)和美國(guó)等十余個(gè)國(guó)家相繼成立人工智能安全研究所。我國(guó)此前由學(xué)者和產(chǎn)業(yè)共同發(fā)起成立了人工智能安全合作網(wǎng)絡(luò)。2024年世界人工智能大會(huì)期間上海人工智能安全治理實(shí)驗(yàn)室成立。此次北京人工智能安全與治理實(shí)驗(yàn)室的成立在首都作為人工智能原始創(chuàng)新的先發(fā)地和策源地，進(jìn)一步完善了我國(guó)人工智能安全與治理體系的布局。曾毅說(shuō)：“實(shí)驗(yàn)室不僅僅是立足北京，服務(wù)北京，更會(huì)將北京人工智能安全與治理的探索與全國(guó)各省市積極分享，共同探討與促進(jìn)。并與全國(guó)的相關(guān)機(jī)構(gòu)一道促進(jìn)人工智能安全與治理的中國(guó)實(shí)踐，發(fā)出中國(guó)聲音，融入和貢獻(xiàn)于全球人工智能的穩(wěn)健發(fā)展”。