摘要： 離線強(qiáng)化學(xué)習(xí)(Offline RL)中，智能體不與環(huán)境交互而是從一個固定的數(shù)據(jù)集中獲得數(shù)據(jù)進(jìn)行學(xué)習(xí)，這是強(qiáng)化學(xué)習(xí)領(lǐng)域研究的一個熱點。目前多數(shù)離線強(qiáng)化學(xué)習(xí)算法對策略訓(xùn)練過程進(jìn)行保守正則化處理，訓(xùn)練策略傾向于選擇存在于數(shù)據(jù)集中的動作，從而解決離線強(qiáng)化學(xué)習(xí)中對數(shù)據(jù)集分布外(OOD)的狀態(tài)-動作價值估值錯誤的問題。保守Q學(xué)習(xí)算法(CQL)通過值函數(shù)正則賦予分布外狀態(tài)-動作較低的價值來避... （共8頁）