新京報(bào)貝殼財(cái)經(jīng)訊（記者白昊天）今年的北京兩會(huì)上，北京市政協(xié)常委、民盟北京市委副主委、國際宇航科學(xué)院院士張振軍與民盟同仁一起帶來了《關(guān)于我市在發(fā)展人工智能產(chǎn)業(yè)中加強(qiáng)風(fēng)險(xiǎn)防控的提案》，建議建立人工智能重點(diǎn)領(lǐng)域質(zhì)量保障體系，構(gòu)建人工智能重點(diǎn)產(chǎn)品應(yīng)用推廣機(jī)制。

北京市政協(xié)常委、民盟北京市委副主委、國際宇航科學(xué)院院士張振軍。新京報(bào)記者 王貴彬 攝

人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力。近年來北京積極搶占戰(zhàn)略先機(jī)，大力推動(dòng)人工智能產(chǎn)業(yè)發(fā)展。張振軍介紹，2024年民盟北京市委對(duì)人工智能產(chǎn)業(yè)進(jìn)行專題調(diào)研發(fā)現(xiàn)，人工智能作為戰(zhàn)略性新興產(chǎn)業(yè)，一些前所未有的新風(fēng)險(xiǎn)逐步顯現(xiàn)，例如技術(shù)濫用風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、知識(shí)產(chǎn)權(quán)保護(hù)風(fēng)險(xiǎn)等。

面對(duì)這些風(fēng)險(xiǎn)，張振軍建議北京率先建立人工智能重點(diǎn)領(lǐng)域質(zhì)量保障體系，嚴(yán)把人工智能技術(shù)產(chǎn)品供給準(zhǔn)入關(guān)，明確對(duì)人工智能企業(yè)、產(chǎn)品、研發(fā)過程等的安全要求，包括人工智能企業(yè)應(yīng)具備的設(shè)計(jì)驗(yàn)證、安全保障等能力，人工智能產(chǎn)品應(yīng)具備的預(yù)期功能安全、數(shù)據(jù)記錄與分析等功能，以及人工智能技術(shù)產(chǎn)品研發(fā)過程中應(yīng)建立必要的質(zhì)量保障體系，多維度確保供給質(zhì)量。

同時(shí)，要針對(duì)垂直大模型、智能機(jī)器人等人工智能產(chǎn)品的應(yīng)用示范及推廣需要，制定相關(guān)地方標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)，明確應(yīng)用準(zhǔn)入、退出和過程中的安全保障要求、配套條件要求和安全監(jiān)測要求。對(duì)可能出現(xiàn)的安全和倫理問題，需要規(guī)范事件調(diào)查程序、責(zé)任判定方法和救濟(jì)措施。

此外，張振軍期待北京針對(duì)算力安全、算法安全、數(shù)據(jù)安全等人工智能產(chǎn)業(yè)關(guān)鍵環(huán)節(jié)的安全風(fēng)險(xiǎn)，組織隱私保護(hù)、算法防御加固、虛假信息檢測等技術(shù)和產(chǎn)品研發(fā)，打造人工智能安全解決方案、安全保障平臺(tái)，為人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展保駕護(hù)航。

編輯 程子姣

校對(duì) 王心