進(jìn)化強(qiáng)化學(xué)習(xí)是機(jī)器學(xué)習(xí)中令人興奮的前沿,它結(jié)合了兩種不同方法的優(yōu)勢(shì):強(qiáng)化學(xué)習(xí)和進(jìn)化計(jì)算。在進(jìn)化強(qiáng)化學(xué)習(xí)中,智能代理通過(guò)積極探索不同的方法并獲得成功表現(xiàn)的獎(jiǎng)勵(lì)來(lái)學(xué)習(xí)最佳策略。
這種創(chuàng)新范式將強(qiáng)化學(xué)習(xí)的試錯(cuò)學(xué)習(xí)與進(jìn)化算法模仿自然選擇的能力相結(jié)合,從而產(chǎn)生了一種強(qiáng)大的人工智能開(kāi)發(fā)方法,有望在各個(gè)領(lǐng)域取得突破。
(相關(guān)資料圖)
IntelligentComputing上發(fā)表了進(jìn)化強(qiáng)化學(xué)習(xí)的綜述文章。它闡明了進(jìn)化計(jì)算與強(qiáng)化學(xué)習(xí)相結(jié)合的最新進(jìn)展,并全面介紹了最先進(jìn)的方法。
強(qiáng)化學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)子領(lǐng)域,側(cè)重于開(kāi)發(fā)學(xué)習(xí)根據(jù)環(huán)境反饋?zhàn)龀鰶Q策的算法。成功強(qiáng)化學(xué)習(xí)的顯著例子包括AlphaGo和最近踢足球的GoogleDeepMind機(jī)器人。
然而,強(qiáng)化學(xué)習(xí)仍然面臨一些挑戰(zhàn),包括探索和開(kāi)發(fā)權(quán)衡、獎(jiǎng)勵(lì)設(shè)計(jì)、泛化和信用分配。
進(jìn)化計(jì)算模擬自然進(jìn)化過(guò)程來(lái)解決問(wèn)題,為強(qiáng)化學(xué)習(xí)問(wèn)題提供了一種潛在的解決方案。通過(guò)結(jié)合這兩種方法,研究人員創(chuàng)建了進(jìn)化強(qiáng)化學(xué)習(xí)領(lǐng)域。
進(jìn)化強(qiáng)化學(xué)習(xí)包括六個(gè)關(guān)鍵研究領(lǐng)域:
超參數(shù)優(yōu)化:進(jìn)化計(jì)算方法可用于超參數(shù)優(yōu)化。也就是說(shuō),它們可以自動(dòng)確定強(qiáng)化學(xué)習(xí)系統(tǒng)的最佳設(shè)置。由于涉及多種因素,例如算法的學(xué)習(xí)速度及其對(duì)未來(lái)獎(jiǎng)勵(lì)的傾向,手動(dòng)發(fā)現(xiàn)最佳設(shè)置可能具有挑戰(zhàn)性。此外,強(qiáng)化學(xué)習(xí)的性能在很大程度上取決于所采用的神經(jīng)網(wǎng)絡(luò)的架構(gòu),包括其層數(shù)和大小等因素。
策略搜索:策略搜索需要通過(guò)在神經(jīng)網(wǎng)絡(luò)的幫助下嘗試不同的策略來(lái)找到完成任務(wù)的最佳方法。這些網(wǎng)絡(luò)類(lèi)似于強(qiáng)大的計(jì)算器,近似執(zhí)行任務(wù)并利用深度學(xué)習(xí)的進(jìn)步。由于存在多種任務(wù)執(zhí)行可能性,搜索過(guò)程就像在一個(gè)巨大的迷宮中導(dǎo)航。隨機(jī)梯度下降是訓(xùn)練神經(jīng)網(wǎng)絡(luò)和在迷宮中導(dǎo)航的常用方法。進(jìn)化計(jì)算提供了基于進(jìn)化策略、遺傳算法和遺傳編程的替代“神經(jīng)進(jìn)化”方法。這些方法可以確定用于強(qiáng)化學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)的最佳權(quán)重和其他屬性。
探索:強(qiáng)化學(xué)習(xí)代理通過(guò)與環(huán)境交互來(lái)改進(jìn)。探索太少會(huì)導(dǎo)致錯(cuò)誤的決策,而探索太多則代價(jià)高昂。因此,在代理人發(fā)現(xiàn)良好行為的探索與代理人對(duì)已發(fā)現(xiàn)的良好行為的利用之間存在權(quán)衡。代理人通過(guò)為其行為添加隨機(jī)性來(lái)進(jìn)行探索。高效探索面臨挑戰(zhàn):大量可能的行動(dòng)、稀有和延遲的獎(jiǎng)勵(lì)、不可預(yù)測(cè)的環(huán)境和復(fù)雜的多智能體場(chǎng)景。進(jìn)化計(jì)算方法通過(guò)促進(jìn)競(jìng)爭(zhēng)、合作和并行化來(lái)應(yīng)對(duì)這些挑戰(zhàn)。他們鼓勵(lì)通過(guò)多樣性和引導(dǎo)進(jìn)化進(jìn)行探索。
獎(jiǎng)勵(lì)塑造:獎(jiǎng)勵(lì)在強(qiáng)化學(xué)習(xí)中很重要,但它們通常很少見(jiàn),而且代理人很難從中學(xué)習(xí)。獎(jiǎng)勵(lì)塑造增加了額外的細(xì)粒度獎(jiǎng)勵(lì),以幫助代理更好地學(xué)習(xí)。然而,這些獎(jiǎng)勵(lì)可能會(huì)以意想不到的方式改變代理人的行為,要弄清楚這些額外獎(jiǎng)勵(lì)應(yīng)該是什么、如何平衡它們以及如何在多個(gè)代理人之間分配信用通常需要手頭任務(wù)的具體知識(shí)。為了應(yīng)對(duì)獎(jiǎng)勵(lì)設(shè)計(jì)的挑戰(zhàn),研究人員使用進(jìn)化計(jì)算來(lái)調(diào)整單代理和多代理強(qiáng)化學(xué)習(xí)中的額外獎(jiǎng)勵(lì)及其設(shè)置。
元強(qiáng)化學(xué)習(xí):元強(qiáng)化學(xué)習(xí)旨在開(kāi)發(fā)一種通用的學(xué)習(xí)算法,該算法可以利用以前的知識(shí)適應(yīng)不同的任務(wù)。這種方法解決了傳統(tǒng)強(qiáng)化學(xué)習(xí)中需要大量樣本從頭開(kāi)始學(xué)習(xí)每個(gè)任務(wù)的問(wèn)題。然而,使用元強(qiáng)化學(xué)習(xí)可以解決的任務(wù)的數(shù)量和復(fù)雜性仍然有限,并且與之相關(guān)的計(jì)算成本很高。因此,利用進(jìn)化計(jì)算的模型不可知和高度并行特性是釋放元強(qiáng)化學(xué)習(xí)全部潛力的一個(gè)有前途的方向,使其能夠在現(xiàn)實(shí)場(chǎng)景中學(xué)習(xí)、泛化并提高計(jì)算效率。
多目標(biāo)強(qiáng)化學(xué)習(xí):在一些現(xiàn)實(shí)世界的問(wèn)題中,存在多個(gè)相互沖突的目標(biāo)。多目標(biāo)進(jìn)化算法可以平衡這些目標(biāo),并在沒(méi)有解決方案看起來(lái)比其他解決方案更好時(shí)提出折衷方案。多目標(biāo)強(qiáng)化學(xué)習(xí)方法可以分為兩種類(lèi)型:將多個(gè)目標(biāo)組合成一個(gè)以找到單個(gè)最佳解決方案的方法和找到一系列好的解決方案的方法。相反,一些單一目標(biāo)問(wèn)題可以有效地分解為多個(gè)目標(biāo),使問(wèn)題解決更容易。
進(jìn)化強(qiáng)化學(xué)習(xí)可以解決復(fù)雜的強(qiáng)化學(xué)習(xí)任務(wù),即使是在具有罕見(jiàn)或誤導(dǎo)性獎(jiǎng)勵(lì)的場(chǎng)景中也是如此。但是,它需要大量的計(jì)算資源,因此計(jì)算成本很高。人們?cè)絹?lái)越需要更有效的方法,包括改進(jìn)編碼、采樣、搜索運(yùn)算符、算法框架和評(píng)估。
雖然進(jìn)化強(qiáng)化學(xué)習(xí)在解決具有挑戰(zhàn)性的強(qiáng)化學(xué)習(xí)問(wèn)題方面已經(jīng)顯示出可喜的成果,但仍有可能取得進(jìn)一步的進(jìn)展。通過(guò)提高其計(jì)算效率并探索新的基準(zhǔn)、平臺(tái)和應(yīng)用程序,進(jìn)化強(qiáng)化學(xué)習(xí)領(lǐng)域的研究人員可以使進(jìn)化方法更加有效和有用地解決復(fù)雜的強(qiáng)化學(xué)習(xí)任務(wù)。
精彩推薦
-
1怎么打開(kāi)電腦路由器設(shè)置?初次設(shè)置無(wú)線路由器方法是什么?
-
2路由器如何設(shè)置提升網(wǎng)速?學(xué)校寢室路由器無(wú)線怎么設(shè)置的?
-
3電腦沒(méi)連路由器卻能進(jìn)入路由器界面?電腦無(wú)法進(jìn)入路由器?
-
4把電腦變成無(wú)線路由器怎么弄?臺(tái)式電腦如何變成無(wú)線路由器?
-
5重新啟用U盤(pán)的技巧有什么?U盤(pán)提速的技巧有哪些?
-
6如何安全的使用U盤(pán)?U盤(pán)日常使用的技巧有哪些?
-
7曲面顯示器怎么選擇?曲面顯示器和平面顯示器的區(qū)別有什么?
-
8安卓設(shè)備型號(hào)和名稱(chēng)可以改嗎?安卓手機(jī)如何修改手機(jī)IMEI串號(hào)?
-
9地址和域名是什么關(guān)系?互聯(lián)網(wǎng)域名是商標(biāo)的一個(gè)組成部分對(duì)錯(cuò)?
-
10Linux獲取文件名稱(chēng)和文件路徑并寫(xiě)入txt?linux下exports文件是什么?
-
離職后被前東家 “反向討薪”71萬(wàn),銀行薪酬追索機(jī)制正在完善 熱點(diǎn)聚焦
-
專(zhuān)家:“二陽(yáng)”發(fā)熱時(shí)間變短,轉(zhuǎn)陰時(shí)間也較短
-
【全球新視野】高空墜物致死案5年找不到責(zé)任人,法院作出責(zé)眾判決
-
焦點(diǎn)播報(bào):在全國(guó)助殘日,為殘障人士舉辦婚禮
-
【世界熱聞】6月起,北京將在節(jié)假日開(kāi)放部分公交專(zhuān)用道,包含京藏高速——
-
愛(ài)在筑城,遇見(jiàn)幸福!貴陽(yáng)青年人才“520”一起“找緣分”|焦點(diǎn)短訊
-
內(nèi)地與澳門(mén)合作研制首顆科學(xué)衛(wèi)星 “澳門(mén)科學(xué)一號(hào)”成功發(fā)射
-
2023年京津冀“愛(ài)長(zhǎng)城·向未來(lái)”暨第八屆“和諧杯”國(guó)際公路自行車(chē)挑戰(zhàn)賽開(kāi)賽
-
內(nèi)地與澳門(mén)合作研制首顆科學(xué)衛(wèi)星 “澳門(mén)科學(xué)一號(hào)”成功發(fā)射
-
美光公司在華銷(xiāo)售的產(chǎn)品未通過(guò)網(wǎng)絡(luò)安全審查
-
注意!今天夜間至24日,貴州多陣雨或雷雨~|環(huán)球微速訊
-
趣味勞動(dòng)享童年 北湖幼兒園開(kāi)展義賣(mài)活動(dòng)|全球熱文
-
環(huán)球熱頭條丨AMD RX 7600公版卡曝光:雙風(fēng)扇也迷你可愛(ài)!國(guó)內(nèi)會(huì)賣(mài)嗎?
-
海爾智家(06690.HK)已累計(jì)回購(gòu)A股435萬(wàn)股_天天報(bào)資訊
-
石景山區(qū)紅衛(wèi)路社區(qū)舉辦科技體驗(yàn)日主題活動(dòng)
-
全球觀焦點(diǎn):獨(dú)山縣興農(nóng)中學(xué)舉行2023屆高三成人禮暨第八屆校園文化藝術(shù)節(jié)
-
告別3.5元?飲料巨頭被曝又漲價(jià)! 環(huán)球觀點(diǎn)
-
每日消息!【長(zhǎng)三角觀察】以梵凈山為拍攝地,黔籍作家山峰執(zhí)導(dǎo)院線電影《云在江口》在上海首映
-
視訊!坐著高鐵看貴州|我們和成貴高鐵一起過(guò)生!一同成長(zhǎng)!
-
坐著高鐵看貴州|我們和成貴高鐵一起過(guò)生!一同成長(zhǎng)! 世界熱資訊
-
“刷掌”乘地鐵 全球熱聞
-
河北地質(zhì)大學(xué)2023年科技活動(dòng)周開(kāi)幕|天天新動(dòng)態(tài)
-
快資訊丨2023年全國(guó)科技周活動(dòng)暨北京科技周掠影——零距離體驗(yàn)科技賦能生產(chǎn)生活
-
干冰特效加持,夏日“圍爐冰茶”成市民新寵
-
貴陽(yáng)明天開(kāi)啟“一鍵式”降溫
-
杜絕盲目放生!北京劃定四處水生生物定點(diǎn)放流平臺(tái)-世界觀天下
-
南通石港鎮(zhèn):千年古鎮(zhèn)唱新韻 高質(zhì)量發(fā)展譜新章
-
斗獸棋技巧講解_斗獸棋技巧
-
我國(guó)首個(gè)量子計(jì)算產(chǎn)業(yè)聯(lián)盟成員突破80家 當(dāng)前視訊
-
“奔馬入筑”!已有1000人預(yù)約“貴馬專(zhuān)列”-每日聚焦
-
俄媒:過(guò)去5年美國(guó)共發(fā)生1000多起校園槍擊案|環(huán)球視訊
-
《京津冀建筑史綱》新書(shū)發(fā)布|今日訊
-
天天百事通!暴雨!突發(fā)地質(zhì)災(zāi)害!山洪災(zāi)害!湖南三預(yù)警齊發(fā)
-
“奔馬入筑”!已有1000人預(yù)約“貴馬專(zhuān)列”
-
天天熱點(diǎn)評(píng)!豐臺(tái)南苑街道開(kāi)展“幸福鄰里市集”活動(dòng)
-
圓滿(mǎn)落幕!2023中國(guó)未來(lái)金融分析師大賽決賽榜單出爐 焦點(diǎn)關(guān)注
-
【世界播資訊】交通運(yùn)輸部:從失事漁船“魯蓬遠(yuǎn)漁028”船長(zhǎng)艙內(nèi)發(fā)現(xiàn)并打撈起1具遇難者遺體
-
西班牙一架F-18戰(zhàn)斗機(jī)墜毀|全球觀熱點(diǎn)
-
貴州施秉:解難紓困助力縣域經(jīng)濟(jì)高質(zhì)量發(fā)展_當(dāng)前訊息
-
定制公交陸續(xù)新開(kāi)64條線路,燕郊至國(guó)貿(mào)望京等通勤線將上線 消息
-
白小T張勇:一件白T打出10億市場(chǎng),“品類(lèi)即品牌”造就白小T差異化之路|MS2022靈眸大賞第42期_全球熱聞
-
鍵盤(pán)怎么打下劃線符號(hào)_下劃線是什么符號(hào)_全球觀點(diǎn)
-
多地公布520婚姻登記數(shù)據(jù) 相較去年大幅降低
-
國(guó)際茶日特別策劃|10省區(qū)網(wǎng)媒大聯(lián)動(dòng),貴州普安請(qǐng)您喝一杯好茶! 全球熱資訊
-
腹瀉、中暑、痛經(jīng)……高考考生常見(jiàn)病“防病指南”來(lái)了
-
【獨(dú)家】西城區(qū)舉辦全民健身運(yùn)動(dòng)會(huì)暨職工運(yùn)動(dòng)會(huì),吸引近2000人參加
-
快資訊:西城區(qū)舉辦“愛(ài)讀書(shū) 讀好書(shū) 善讀書(shū)”讀書(shū)沙龍
-
天天看點(diǎn):七國(guó)集團(tuán)廣島峰會(huì)炒作涉華議題,中國(guó)駐英使館回應(yīng)
-
世界看點(diǎn):新華全媒+丨黑眼睛樂(lè)隊(duì):用音樂(lè)尋找光明
-
【懷柔新聞】著力推動(dòng)高質(zhì)量發(fā)展 我區(qū)將打造全國(guó)首個(gè)國(guó)家級(jí)高端科學(xué)儀器領(lǐng)域示范區(qū)
-
北京監(jiān)測(cè)發(fā)現(xiàn)極危物種黃胸鹀|天天報(bào)資訊
-
折疊式箱房、炒菜機(jī)器人……部隊(duì)這套新型系統(tǒng),亮相!_環(huán)球即時(shí)看
-
第13次捧杯!中國(guó)隊(duì)擊敗韓國(guó)隊(duì)實(shí)現(xiàn)蘇迪曼杯三連冠
-
鴿子蛋市場(chǎng)價(jià)格多少錢(qián)一個(gè)_鴿子蛋的市場(chǎng)價(jià)格|焦點(diǎn)關(guān)注
-
Promethean將通過(guò)新的合并協(xié)議作為一家獨(dú)立公司運(yùn)營(yíng)_熱門(mén)
-
中關(guān)村國(guó)際前沿科技創(chuàng)新大賽涌現(xiàn)一批國(guó)際首創(chuàng)前沿技術(shù)成果
-
世界速訊:北京科技周開(kāi)幕,多個(gè)“黑科技”產(chǎn)品亮相
-
熱門(mén):斗羅大陸:為何唐三成神前就能擊敗比比東,可成神后卻不敵了呢?
-
每日熱文:今日份22°日暈來(lái)了!房山、延慶拍到了
-
每日短訊:【天眼數(shù)觀】貴州氣溫入夏了嗎?別急,小滿(mǎn)抓緊了20℃的尾巴
-
快報(bào):相約林間花海,攜手跑向“魏”來(lái)2023北京花馬正式開(kāi)跑
-
【天眼數(shù)觀】貴州氣溫入夏了嗎?別急,小滿(mǎn)抓緊了20℃的尾巴
-
國(guó)網(wǎng)英大下屬公司擬納入湖北省2023年新型儲(chǔ)能電站試點(diǎn)示范項(xiàng)目名單公示
-
第三屆貴陽(yáng)工博會(huì)|工業(yè)領(lǐng)航 “智”造未來(lái)
-
16.99萬(wàn)起,深藍(lán)S7預(yù)售,NID3.0加持、6.7s破百
-
今日熱搜:研究發(fā)現(xiàn)新設(shè)備輕輕移動(dòng)食道使心臟消融更安全
-
焦點(diǎn)觀察:蘇杯決賽對(duì)陣表出爐,今天下午一起為國(guó)羽加油!
-
網(wǎng)絡(luò)平臺(tái)現(xiàn)“幽靈民宿”,商家為何不敢留真地址
-
放假通知:端午節(jié)休三上六! 世界要聞
-
海淀上線小程序,“萬(wàn)人億步”邀市民“點(diǎn)亮”創(chuàng)森 全球簡(jiǎn)訊
-
每日動(dòng)態(tài)!不掃碼、不刷卡,北京地鐵大興機(jī)場(chǎng)線“刷掌”乘車(chē)服務(wù)上線
-
全球短訊!懷化遭遇大范圍暴雨,各部門(mén)開(kāi)啟防汛模式
-
微信支持刷掌支付,服務(wù)接入北京軌道交通大興機(jī)場(chǎng)線_焦點(diǎn)熱訊
-
蘇杯決賽對(duì)陣表出爐,今天下午一起為國(guó)羽加油! 當(dāng)前滾動(dòng)
-
沙特:阿拉伯國(guó)家將繼續(xù)在俄烏沖突中中立-世界熱聞
-
每日短訊:國(guó)乒德班世乒賽最新動(dòng)態(tài),馬龍樊振東下下簽,孫穎莎運(yùn)氣爆棚!
-
天天消息!蘇丹沖突雙方達(dá)成為期7天的?;饏f(xié)議
-
焦點(diǎn)快看:人最多感染8次新冠?專(zhuān)家回應(yīng)
-
世界快消息!北京啟動(dòng)通用人工智能產(chǎn)業(yè)創(chuàng)新伙伴計(jì)劃,39家成員單位入選首批名單
-
世界信息:蘇丹沖突雙方達(dá)成為期7天的停火協(xié)議
-
“吃微辣火鍋淚如雨下”,辣度標(biāo)準(zhǔn)該統(tǒng)一嗎?專(zhuān)家這樣說(shuō)
-
小龍蝦來(lái)了!全國(guó)最大小龍蝦產(chǎn)出縣進(jìn)入收購(gòu)高峰-天天熱資訊
-
2023機(jī)電專(zhuān)業(yè)是學(xué)什么的 就業(yè)前景如何-全球觀點(diǎn)
-
中泰證券回應(yīng)自營(yíng)部門(mén)解散傳聞:對(duì)證券投資部門(mén)部分人員進(jìn)行了調(diào)整_每日播報(bào)
-
每日熱訊!中國(guó)首都邁向生物多樣性之都
-
天天實(shí)時(shí):2023密云生態(tài)馬拉松鳴槍開(kāi)跑,共1萬(wàn)人參加
-
世界級(jí)重大考古發(fā)現(xiàn)!我國(guó)南海發(fā)現(xiàn)兩處古代沉船
-
世界級(jí)重大考古發(fā)現(xiàn)!我國(guó)南海發(fā)現(xiàn)兩處古代沉船|當(dāng)前熱訊
-
“愛(ài)心傳遞 溫暖前行”不放棄任何一個(gè)小群體|環(huán)球頭條
-
蘇杯決賽對(duì)陣表出爐,今天下午一起為國(guó)羽加油!
-
男子連變四車(chē)道致追尾:我是前車(chē),憑什么全責(zé)?
-
2023“北京花馬”開(kāi)賽 6000人在林間花海中奔跑
-
每日關(guān)注!這種絲瓜以前很被嫌棄 如今吃的人多了 5種吃法都不嫌多
-
環(huán)球觀察:早上起床,應(yīng)該先吃早飯還是先刷牙?答案來(lái)了
-
專(zhuān)業(yè)引領(lǐng),乘風(fēng)而起 中國(guó)太保全力守護(hù)人民健康生活
-
全球新消息丨千人進(jìn)萬(wàn)家,昌平區(qū)開(kāi)展城鄉(xiāng)結(jié)合部消防安全集中整治行動(dòng)
-
扶殘助殘,愛(ài)心暖三湘-環(huán)球即時(shí)看
-
全球短訊!住建部:我國(guó)已建成11批共145個(gè)國(guó)家節(jié)水型城市
-
朝陽(yáng)一小區(qū)有人半夜敲墻擾民,持續(xù)2年!誰(shuí)干的?
-
世界動(dòng)態(tài):【跟著24節(jié)氣閱貴州】小滿(mǎn):深山詩(shī)行美景藏 稻花香里有魚(yú)鴨