4月23日，西南石油大學(xué)計(jì)算機(jī)與軟件學(xué)院“夢(mèng)溪湖論壇”春季第七講在明理樓B306舉行，西南財(cái)經(jīng)大學(xué)24級(jí)博士生俞皓帶來(lái)一場(chǎng)精彩講座，圍繞聯(lián)邦持續(xù)學(xué)習(xí)展開(kāi)深入探討，其相關(guān)成果已發(fā)表于IEEETKDE、CVPR等頂級(jí)期刊與會(huì)議，為人工智能協(xié)同領(lǐng)域提供了全新范式。
講座中，俞皓詳細(xì)闡釋了聯(lián)邦持續(xù)學(xué)習(xí)的核心特點(diǎn)——它創(chuàng)新性地融合聯(lián)邦學(xué)習(xí)與持續(xù)學(xué)習(xí)，在空間維度實(shí)現(xiàn)跨平臺(tái)知識(shí)集成，在時(shí)間維度達(dá)成跨任務(wù)知識(shí)整合，有效解決了數(shù)據(jù)隱私與訓(xùn)練效率難題。然而，這一前沿技術(shù)也面臨嚴(yán)峻挑戰(zhàn)，其中“時(shí)空災(zāi)難性遺忘”問(wèn)題尤為突出：時(shí)間遺忘表現(xiàn)為客戶(hù)端訓(xùn)練新任務(wù)時(shí)，先前任務(wù)的重要參數(shù)被覆蓋；空間遺忘則因客戶(hù)端數(shù)據(jù)異構(gòu)，導(dǎo)致模型異構(gòu)，簡(jiǎn)單聚合會(huì)使精度大幅下降，兩者相互作用，進(jìn)一步加劇模型性能惡化。
俞皓分享了針對(duì)上述挑戰(zhàn)的系列研究工作。在應(yīng)對(duì)策略上，通過(guò)知識(shí)融合、多粒度提示、原型特征知識(shí)轉(zhuǎn)移等方法，探索解決路徑；同時(shí)，還提及聯(lián)邦大模型存在的十大問(wèn)題，為該領(lǐng)域后續(xù)研究指明方向。
此次講座內(nèi)容豐富、干貨滿(mǎn)滿(mǎn)，不僅展現(xiàn)了聯(lián)邦持續(xù)學(xué)習(xí)領(lǐng)域的前沿動(dòng)態(tài)，也為師生們開(kāi)展相關(guān)研究提供了新思路，對(duì)推動(dòng)人工智能協(xié)同技術(shù)的發(fā)展具有重要意義。
