Inflearn brand logo image
Inflearn brand logo image
์ฑ„๋„ํ†ก ์•„์ด์ฝ˜
BEST

ํ”„๋กœ๊ทธ๋ž˜๋จธ๋ฅผ ์œ„ํ•œ ๊ฐ•ํ™”ํ•™์Šต(์ €์ž ์ง๊ฐ•)

๋น„์ฆˆ๋‹ˆ์Šค ํ˜์‹ ์˜ ํ•ต์‹ฌ ๊ธฐ์ˆ  ๊ฐ•ํ™”ํ•™์Šต์— ๊ด€ํ•œ ๊ฐ€์žฅ ์‰ฝ๊ณ  ์ƒ์„ธํ•œ ๊ฐ•์˜!!! ํ•˜๋ฃจ 2์‹œ๊ฐ„(2๊ฐœ ๊ฐ•์˜) 17์ผ ์•ˆ์— ๊ฐ•ํ™”ํ•™์Šต์„ ๋‹น์‹ ์˜ ์†์•ˆ์— ๋„ฃ์–ด๋“œ๋ฆฝ๋‹ˆ๋‹ค. ์ง€๊ธˆ ์ด ์‹œ๊ฐ„๋ถ€ํ„ฐ ๊ฐ•ํ™”ํ•™์Šต์€ ์ดํ•ดํ•˜๊ธฐ ์–ด๋ ค์šด ๋ฌธ์ œ๊ฐ€ ์•„๋‹Œ ๋‹น์‹ ์„ ์œ„ํ•œ ํ›Œ๋ฅญํ•œ ๋„๊ตฌ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค.

Thumbnail

์ดˆ๊ธ‰์ž๋ฅผ ์œ„ํ•ด ์ค€๋น„ํ•œ
[๋ฐ์ดํ„ฐ ๋ถ„์„, ๋”ฅ๋Ÿฌ๋‹ ยท ๋จธ์‹ ๋Ÿฌ๋‹] ๊ฐ•์˜์ž…๋‹ˆ๋‹ค.

์ด๋Ÿฐ ๊ฑธ ๋ฐฐ์šธ ์ˆ˜ ์žˆ์–ด์š”

  • ๊ฐ•ํ™”ํ•™์Šต ๊ธฐ์ดˆ ์ด๋ก (์ˆ˜ํ•™, ํ†ต๊ณ„, MDP)

  • ์ธ๊ณต์‹ ๊ฒฝ๋ง ๊ฐœ๋…(์‹ ํ˜•ํšŒ๊ท€, ๋ถ„๋ฅ˜๋ถ„์„, ์ธ๊ณต์‹ ๊ฒฝ๋ง)

  • ๊ฐ•ํ™”ํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜(DQN, REINFORCE, A2C, PPO)

  • ๊ฐ•ํ™”ํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜ ํŠœ๋‹(๊ทธ๋ฆฌ๋“œ์„œ์น˜, ๋ฒ ์ด์ง€์•ˆ ์ตœ์ ํ™”)

  • ์ธ๊ณต์‹ ๊ฒฝ๋ง ํŠœ๋‹(์ตœ์ ํ™”, ํ™œ์„ฑํ™”ํ•จ์ˆ˜, ์ „์ฒ˜๋ฆฌ)

๋ฏธ๋ž˜ ๋น„์ฆˆ๋‹ˆ์Šค์˜ ํ•ต์‹ฌ ๊ธฐ์ˆ  '๊ฐ•ํ™”ํ•™์Šต'
๊ธฐ๋ณธ ๊ฐœ๋…๋ถ€ํ„ฐ ์‰ฝ๊ณ  ์ž์„ธํ•˜๊ฒŒ ์•Œ๋ ค๋“œ๋ฆฝ๋‹ˆ๋‹ค. ๐Ÿฆพ

โ–  ๊ณผ์ • ๊ฐœ์š”

๋ณธ ๊ฐ•์˜๋Š” โ€œํ”„๋กœ๊ทธ๋ž˜๋จธ๋ฅผ ์œ„ํ•œ ๊ฐ•ํ™”ํ•™์Šตโ€ ๋„์„œ๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ๋งŒ๋“ค์–ด์กŒ์Šต๋‹ˆ๋‹ค. ์ง€๋ฉด์— ๋ชจ๋‘ ๋‹ด์„ ์ˆ˜ ์—†์—ˆ๋˜ ๋‚ด์šฉ์„ ์ €์ž๊ฐ€ ์ง์ ‘ ๊ฐ•์˜ํ•ด ๋“œ๋ฆฝ๋‹ˆ๋‹ค. ํ•˜๋ฃจ์— 2์‹œ๊ฐ„์”ฉ 17์ผ์ด๋ฉด ๊ฐ•ํ™”ํ•™์Šต์„ ๋‚˜๋งŒ์˜ ๊ธฐ์ˆ ๋กœ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ง€๊ธˆ ์ด ์ˆœ๊ฐ„๋ถ€ํ„ฐ ๊ฐ•ํ™”ํ•™์Šต์€ ์–ด๋ ต๊ณ  ์ดํ•ดํ•  ์ˆ˜ ์—†๋Š” ๋„˜์‚ฌ๋ฒฝ์ด ์•„๋‹Œ ์ž์œ ๋กญ๊ฒŒ ํ™œ์šฉํ•ด์„œ ๋‚˜์˜ ๊ฐ€์น˜๋ฅผ ๋†’์—ฌ์ฃผ๋Š” ์•„์ฃผ ํ›Œ๋ฅญํ•œ ๋„๊ตฌ๊ฐ€ ๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค.

๊ฐ•์˜์— ์‚ฌ์šฉ๋œ ์˜ˆ์ œ๋Š” https://github.com/multicore-it/rl ์‚ฌ์ดํŠธ์—์„œ ๋‹ค์šด๋กœ๋“œ ๋ฐ›์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

blankblankblankblankblankblank

โ–  ์™œ ๊ฐ•ํ™”ํ•™์Šต์ธ๊ฐ€?

๊ฐ•ํ™”ํ•™์Šต์€ ์ž๋ณธ์ด ์•„๋‹Œ ์‹ค๋ ฅ ์ค‘์‹ฌ

๊ฐ•ํ™”ํ•™์Šต์€ ๋ฏธ๋ฆฌ ๋ผ๋ฒจ๋ง๋œ ๋ฐ์ดํ„ฐ๋ฅผ ํ•™์Šตํ•˜๋Š” ๊ฒƒ์ด ์•„๋‹ˆ๋ผ ์—์ด์ „ํŠธ๋ฅผ ์‹คํ–‰ํ•˜๋ฉด์„œ ๋ฐ์ดํ„ฐ๋ฅผ ์Šค์Šค๋กœ ๋งŒ๋“ค์–ด ๋‚ด๊ธฐ ๋•Œ๋ฌธ์— ๋ฐ์ดํ„ฐ ์ž‘์—…์— ๋Œ€ํ•œ ๋ถ€๋‹ด์ด ์ ๊ณ , ์ปดํ“จํŒ… ํŒŒ์›Œ๊ฐ€ ์ƒ๋Œ€์ ์œผ๋กœ ์ ๊ฒŒ ๋“ญ๋‹ˆ๋‹ค. ๊ฐ•ํ™”ํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜์— ๋Œ€ํ•œ ๊นŠ์€ ์ดํ•ด์™€ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•œ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์‹ค๋ ฅ์— ๋งŽ์€ ๊ฒƒ์ด ๋‹ฌ๋ ค์žˆ๊ธฐ ๋•Œ๋ฌธ์— ์‹ค๊ฒฉ์œผ๋กœ ์Šน๋ถ€ํ•  ์ˆ˜ ์žˆ๋Š” ๋ถ„์•ผ์ž…๋‹ˆ๋‹ค.

๊ฐ•ํ™”ํ•™์Šต์€ ๋ฏธ๋ž˜ ๋น„์ฆˆ๋‹ˆ์Šค ํ˜์‹ ์˜ ํ•ต์‹ฌ ๊ธฐ์ˆ 

๊ฐ•ํ™”ํ•™์Šต์€ ๋Œ€ํ•œ๋ฏผ๊ตญ๊ณผ ๊ฐ™์ด ์ž๋ณธ๋ ฅ์ด ๋ถ€์กฑํ•œ ํ™˜๊ฒฝ์—์„œ ์ ํ•ฉํ•œ ์ธ๊ณต์ง€๋Šฅ ๊ธฐ์ˆ ์ž…๋‹ˆ๋‹ค. ๋น„์ฆˆ๋‹ˆ์Šค ํ™˜๊ฒฝ์—์„œ ๋ฐœ์ƒํ•˜๋Š” ๋งŽ์€ ๋ฌธ์ œ๋“ค์„ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ์‹ค๋ ฅ๊ณผ ๊ฐ•ํ™”ํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜์œผ๋กœ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ๊ณ , ์ด๋Ÿฌํ•œ ํŠน์„ฑ์„ ๊ธฐ๋ฐ˜์œผ๋กœ ๋ณด๋‹ค ํ–ฅ์ƒ๋œ ์„œ๋น„์Šค์™€ ์ œํ’ˆ์„ ๋งŒ๋“ค์–ด ๋‚ผ ์ˆ˜ ์žˆ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

โ–  ๊ฐ•์˜ ํŠน์ง•

โ–  ํ•™์Šต ๋‚ด์šฉ

๊ฐ•ํ™”ํ•™์Šต ๊ธฐ์ดˆ๊ฐœ๋… ๋ถ€๋ถ„์—์„œ๋Š” ๊ฐ•ํ™”ํ•™์Šต์— ํ•„์š”ํ•œ ํ†ต๊ณ„ ๋ฐ ์ˆ˜ํ•™ ์ด๋ก ์„ ๋จผ์ € ์„ค๋ช…ํ•œ ๋‹ค์Œ, MDP์—์„œ DQN ์•Œ๊ณ ๋ฆฌ์ฆ˜์— ์ด๋ฅด๋Š” ๊ณผ์ •์„ ์ž์„ธํ•˜๊ฒŒ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค.

์ธ๊ณต์‹ ๊ฒฝ๋ง ๋ถ€๋ถ„์—์„œ๋Š” ์ธ๊ณต์‹ ๊ฒฝ๋ง์— ๋Œ€ํ•ด ์ค‘์ ์ ์œผ๋กœ ์„ค๋ช…ํ•˜๊ธฐ ๋ณด๋‹ค๋Š” ์ธ๊ณต์‹ ๊ฒฝ๋ง์œผ๋กœ ์ด๋ฅด๋Š” ๊ณผ์ •์„ ์„ ํ˜•ํšŒ๊ท€๋ถ€ํ„ฐ ์ฐจ๊ทผ์ฐจ๊ทผ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. ์ธ๊ณต์ง€๋Šฅ์— ๋Œ€ํ•œ ๊ฐœ๋…์ด ์ „ํ˜€ ์—†๋Š” ์‚ฌ๋žŒ๋„ ์ดํ•ดํ•  ์ˆ˜ ์žˆ๋„๋ก ๊ธฐ์ดˆ๋ถ€ํ„ฐ ์„ค๋ช…ํ•˜๊ธฐ ๋•Œ๋ฌธ์— ํ”„๋กœ๊ทธ๋ž˜๋ฐ์— ๋Œ€ํ•œ ์•ฝ๊ฐ„์˜ ์ง€์‹๋งŒ ์žˆ์œผ๋ฉด ์–ด๋А ๋ˆ„๊ตฌ๋„ ์‰ฝ๊ฒŒ ์ดํ•ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ฐ€์น˜๊ธฐ๋ฐ˜ ๊ฐ•ํ™”ํ•™์Šต ๋ถ€๋ถ„์—์„œ๋Š” DQN ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ์ฝ”๋“œ ์ค‘์‹ฌ์œผ๋กœ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. ๋‹ค์–‘ํ•œ ๊ฐ•ํ™”ํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜ ์ค‘ ๊ฐ€์น˜๊ธฐ๋ฐ˜ ๊ฐ•ํ™”ํ•™์Šต์ด ์ƒ๋Œ€์ ์œผ๋กœ ์ดํ•ดํ•˜๊ธฐ ์‰ฝ๊ธฐ ๋•Œ๋ฌธ์— ๋จผ์ € ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค.

์ •์ฑ…๊ธฐ๋ฐ˜ ๊ฐ•ํ™”ํ•™์Šต ๋ถ€๋ถ„์—์„œ๋Š” REINFORCE, A2C, PPO ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ์ฝ”๋“œ๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ์„ค๋ช…ํ•˜๊ณ  ์ง์ ‘ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ๋„๋ก ์•ˆ๋‚ดํ•ฉ๋‹ˆ๋‹ค. ์ •์ฑ…๊ธฐ๋ฐ˜ ์•Œ๊ณ ๋ฆฌ์ฆ˜์€ ๊ฐ€์น˜๊ธฐ๋ฐ˜ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ๋ณด๋‹ค ์ดํ•ด๊ฐ€ ์–ด๋ ต์ง€๋งŒ ๋น„๊ต์  ์•ˆ์ •์ ์ธ ์„ฑ๋Šฅ์„ ๋ณด์—ฌ์ฃผ๊ธฐ ๋•Œ๋ฌธ์— ๋งŽ์€ ์‹œ๊ฐ„์„ ํ• ์• ํ•ด์„œ ์„ค๋ช…ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

๋งˆ์ง€๋ง‰์œผ๋กœ ๊ฐ•ํ™”ํ•™์Šต ํŠœ๋‹์„ ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. ํŠœ๋‹์— ํ•„์ˆ˜์ ์ธ ์ธ๊ณต์‹ ๊ฒฝ๋ง ์„ธ๋ถ€ ์ด๋ก ๋ถ€ํ„ฐ ์‹œ์ž‘ํ•ด์„œ ์•Œ๊ณ ๋ฆฌ์ฆ˜ ํŒŒ๋ผ๋ฏธํ„ฐ ํŠœ๋‹์„ ํšจ์œจ์ ์œผ๋กœ ๋•๋Š” ๋ฒ ์ด์ง€์•ˆ ์ตœ์ ํ™” ๊ธฐ๋ฒ•๊นŒ์ง€ ๊ตฌ์ฒด์ ์œผ๋กœ ๋‹ค๋ฃจ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

โ–  ํ”„๋กœ๊ทธ๋žจ ์˜ค๋ฅ˜์กฐ์น˜

์ƒˆ์†Œ์‹ "ํ”„๋กœ๊ทธ๋žจ ์˜ค๋ฅ˜ ์กฐ์น˜ ์•ˆ๋‚ด(2022๋…„ 12์›” 10์ผ)" ์ฐธ๊ณ ํ•˜์„ธ์š”

์ด๋Ÿฐ ๋ถ„๋“ค๊ป˜
์ถ”์ฒœ๋“œ๋ ค์š”!

ํ•™์Šต ๋Œ€์ƒ์€
๋ˆ„๊ตฌ์ผ๊นŒ์š”?

  • ์ธ๊ณต์ง€๋Šฅ์œผ๋กœ ์—…๋ฌด๋ฅผ ๊ฐœ์„ ํ•˜๊ณ  ์‹ถ์œผ์‹  ๋ถ„

  • ๋‚˜๋ฅผ ๋„์™€์ค„ ์ง€๋Šฅํ™”๋œ ์†Œํ”„ํŠธ์›จ์–ด ๋ด‡์„ ๋งŒ๋“ค๊ณ  ์‹ถ์œผ์‹  ๋ถ„

  • ์ธ๊ณต์ง€๋Šฅ ๊ธฐ์ˆ ์„ ํ™œ์šฉํ•ด์„œ ํ˜์‹ ์  ์ œํ’ˆ์„ ๋งŒ๋“ค๊ณ ์ž ํ•˜๋Š” ๋ถ„

์„ ์ˆ˜ ์ง€์‹,
ํ•„์š”ํ• ๊นŒ์š”?

  • ํ”„๋กœ๊ทธ๋ž˜๋ฐ(Java, C ๋“ฑ) ๊ฒฝํ—˜๊ณผ ์•ฝ๊ฐ„์˜ ํŒŒ์ด์ฌ ๋ฌธ๋ฒ•

์•ˆ๋…•ํ•˜์„ธ์š”
๋ฉ€ํ‹ฐ์ฝ”์–ด์ž…๋‹ˆ๋‹ค.

989

๋ช…

์ˆ˜๊ฐ•์ƒ

65

๊ฐœ

์ˆ˜๊ฐ•ํ‰

104

๊ฐœ

๋‹ต๋ณ€

4.6

์ 

๊ฐ•์˜ ํ‰์ 

3

๊ฐœ

๊ฐ•์˜

๋ฉ€ํ‹ฐ์ฝ”์–ด(multicore.it@gmail.com)๋Š” ํ”„๋กœ๊ทธ๋ž˜๋จธ์ด์ž ์ธ๊ณต์ง€๋Šฅ ์ „๋ฌธ๊ฐ€์ž…๋‹ˆ๋‹ค. ํ”„๋กœ๊ทธ๋ž˜๋จธ๋กœ์„œ ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์—์„œ ํ™œ๋™ํ–ˆ์œผ๋ฉฐ ํ˜„์žฌ๋Š” ๊ธฐ์—…์—์„œ ๋ฐ์ดํ„ฐ๋ถ„์„๊ณผ ๊ฐ•ํ™”ํ•™์Šต์„ ํ™œ์šฉํ•œ ๋น„์ฆˆ๋‹ˆ์Šค ํ™˜๊ฒฝ ๊ฐœ์„  ์—…๋ฌด๋ฅผ ๋‹ด๋‹นํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ธ๊ณต์ง€๋Šฅ์ด ํ•™์œ„๋ฅผ ๋ฐ›์€ ์†Œ์ˆ˜์˜ ์ „๋ฌธ๊ฐ€๋งŒ์„ ์œ„ํ•œ ์˜์—ญ์ด ์•„๋‹ˆ๋ผ ํ”„๋กœ๊ทธ๋ž˜๋จธ๋„ ์ถฉ๋ถ„ํžˆ ๋„์ „ํ•  ์ˆ˜ ์žˆ์Œ์„ ํ›„๋ฐฐ๋“ค์—๊ฒŒ ๋ณด์—ฌ์ฃผ๊ธฐ ์œ„ํ•ด ๋ถ€๋‹จํžˆ ๋…ธ๋ ฅํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. "ํ”„๋กœ๊ทธ๋ž˜๋จธ๋ฅผ ์œ„ํ•œ ๊ฐ•ํ™”ํ•™์Šต"์„ ์ง‘ํ•„ํ–ˆ์Šต๋‹ˆ๋‹ค.

์ปค๋ฆฌํ˜๋Ÿผ

์ „์ฒด

35๊ฐœ โˆ™ (6์‹œ๊ฐ„ 48๋ถ„)

ํ•ด๋‹น ๊ฐ•์˜์—์„œ ์ œ๊ณต:

์ˆ˜์—…์ž๋ฃŒ
๊ฐ•์˜ ๊ฒŒ์‹œ์ผ: 
๋งˆ์ง€๋ง‰ ์—…๋ฐ์ดํŠธ์ผ: 

์ˆ˜๊ฐ•ํ‰

์•„์ง ์ถฉ๋ถ„ํ•œ ํ‰๊ฐ€๋ฅผ ๋ฐ›์ง€ ๋ชปํ•œ ๊ฐ•์˜์ž…๋‹ˆ๋‹ค.
๋ชจ๋‘์—๊ฒŒ ๋„์›€์ด ๋˜๋Š” ์ˆ˜๊ฐ•ํ‰์˜ ์ฃผ์ธ๊ณต์ด ๋˜์–ด์ฃผ์„ธ์š”!