近日，阿里巴巴集團(tuán)與清華大學(xué)簽訂協(xié)議，啟動智能體與多模態(tài)安全產(chǎn)學(xué)研深度融合專項(xiàng)合作。雙方此次合作為期5年，聚焦智能體與多模態(tài)大模型在真實(shí)應(yīng)用場景中的核心安全挑戰(zhàn)展開攻關(guān)研究。中國科學(xué)院院士張鈸、中國工程院院士戴瓊海、阿里巴巴集團(tuán)副總裁錢磊出席簽約儀式。

　　張鈸院士表示，清華大學(xué)與阿里巴巴集團(tuán)啟動重大研究專項(xiàng)，旨在通過“從0到1”的基礎(chǔ)理論與“從1到N”的產(chǎn)業(yè)場景深度融合，協(xié)同攻克多模態(tài)安全核心難題，筑牢下一代人工智能發(fā)展的安全基石。戴瓊海院士表示，雙方攜手攻關(guān)“智能體與多模態(tài)安全”，將合力貫通“創(chuàng)新策源”與“產(chǎn)業(yè)轉(zhuǎn)化”，是AI領(lǐng)域產(chǎn)學(xué)研深度融合的關(guān)鍵之舉。

　　據(jù)介紹，雙方將圍繞兩大方向展開系統(tǒng)性研究：一是智能體安全問題，涵蓋AI智能體在人機(jī)交互、自主決策、多模態(tài)環(huán)境中的行為可信性、隱私保護(hù)與風(fēng)險(xiǎn)防控；二是多模態(tài)大模型自身的安全問題，包括模型魯棒性、價(jià)值觀對齊等基礎(chǔ)安全能力。項(xiàng)目將研發(fā)“AI智能體安全中樞”“高階大模型內(nèi)生安全架構(gòu)”等關(guān)鍵技術(shù)，構(gòu)建從底層模型到上層應(yīng)用的全棧安全體系。

　　阿里巴巴集團(tuán)副總裁錢磊表示，清華大學(xué)擁有國際領(lǐng)先的AI科研能力，阿里巴巴具備豐富的AI應(yīng)用場景和實(shí)踐經(jīng)驗(yàn)，雙方的產(chǎn)學(xué)研合作實(shí)現(xiàn)了優(yōu)勢疊加，圍繞“負(fù)責(zé)任科技”理念開展前瞻性研發(fā)，并通過開源開放生態(tài)惠及全行業(yè)。

　　據(jù)了解，阿里巴巴集團(tuán)與清華大學(xué)在安全領(lǐng)域的產(chǎn)學(xué)研合作由來已久，在 CVPR、ICML、NeurIPS 等國際頂級學(xué)術(shù)會議發(fā)表近20篇高水平論文，多項(xiàng)技術(shù)從實(shí)驗(yàn)室創(chuàng)新轉(zhuǎn)化為產(chǎn)業(yè)級應(yīng)用。