![[Rãšãã]æ©æ¢°åŠç¿ã®ããã®çµ±èšåŠã®åºç€ê°ì ìžë€ìŒ](https://cdn.inflearn.com/public/courses/325155/course_cover/d8120723-26f7-4fcc-a25c-a99eef4ea0f6/machine-learning-statistics-r-eng.png?w=420)
[Rãšãã]æ©æ¢°åŠç¿ã®ããã®çµ±èšåŠã®åºç€
coco
æ©æ¢°åŠç¿ãå匷ããããçµ±èšåŠçç¥èãäžè¶³ããŠãã人ã®ããã®è¬çŸ©ã§ãã
ìŽêž
Machine Learning(ML), Statistics, R
Ʞ볞ì ìž ìì°ìŽì²ëЬ êž°ë²(Natural Language Processing)곌 ë¥ë¬ëì íì©í ë€ìí í ì€íž taskì ëíŽ ë€ë£¹ëë€.
ìì°ìŽì²ëЬì Ʞ볞ê°ë
Attentionì ëí ê°ë 곌 ìì©
ìµê·Œ NLPì ëí ížë ë
ë¥ë¬ëì íµí ìì°ìŽ ì²ëЬ êž°ë²
ìžíë°ìì ê°ìí ëŽì©ì ì 늬íì¬ 'íìŽì¬ ë¥ë¬ë íìŽí ì¹' ëŒë ì± ìŒë¡ ì¶ê°íììµëë€.
ë§ì êŽì¬ ë¶íë늜ëë€ : )
(2020.10.06 êž°ì€ ìžíë° ê°ì ì ë°ìŽíž ëììµëë€. ì§ìì ìž ê°ì ì ë°ìŽíž íëë¡ íê² ìµëë€)
http://m.yes24.com/Goods/Detail/93376077?ozsrank=10
http://mbook.interpark.com/shop/product/detail?prdNo=339742291&is1=book&is2=product
[PyTorch] ìœê³ ë¹ ë¥Žê² ë°°ì°ë ë¥ë¬ë ê°ì륌 íµíŽ, ë¥ë¬ëì Ʞ볞ì ëíŽ ë°°ì ìµëë€.
ìŽì ê°ìì ëíŽì, ë¹êµì ì ì ë¶ëì ìì°ìŽ ì²ëЬì íìí Ʞ볞 ì§ìì ë°°ì°ë©°, ë¥ë¬ë êž°ì ì íì©íì¬ ìì°ìŽ ë°ìŽí°ë¥Œ ë¶ìí ì ìë êž°ì ì ë°°ìž ì ìë ê°ìì
ëë€.
ìì°ìŽ ì²ëЬì êŽì¬ìŽ ììŒì ë¶ì Transformer, BERT 몚ëžë€ì ë€ìŽë³Žì
šì ê²ëë€.
íì§ë§, Transformer, BERT 몚ëžë€ì ìë ì늬ì ëíŽìë ìœê² ìŽíŽíìì§ ëª»íì
šì ê±°ëŒ ììí©ëë€.
ê·ž ìŽì ë ìì°ìŽ ì²ëЬì ëí Ʞ볞 ì§ììŽ ë¶ì¡±íêž° ë묞ì
ëë€.
ë°ëŒì, ìŽë² ê°ìììë ìì°ìŽì²ëЬì ëí Ʞ볞 ì§ìì ìì ì ìë ëŽì©ë€ì íìµíŽ ëŽ ëë€.
ìì°ìŽë¥Œ ííí ë ë²ì£Œí ë³ìë¡ íííìë Ʞ졎 ë°©ë²ë¡ ì ëíŽì íê³ì ì ì ìíê³ ,
ìŽë¥Œ 극복í ì ìë ìì°ìŽ íí ë°©ë²ë¡ ì ëíŽ ì€ëª
í©ëë€.
ë°©ë²ë¡ ì ëí íµì¬ì ìž ëŽì©ì ìì£Œë¡ ë€ë£šë©°, ì€ì ë¡ ìŽë»ê² ìŽì©í ì ìëì§ ì€ìµì ì§ííë©° ì€ëª
í©ëë€.
ìì°ìŽì í¹ì§ì ì ë°ìí ì ìë Recurrent Neural Network (RNN ; ìí ì 겜ë§) ë¥ë¬ë 몚ëžì ëíŽì ë°°ìëë€.
RNN 몚ëžì Feeding 곌ì ì ììì ìŒë¡ ë°°ì°ë©°, ìŽì ëíŽ ë°ì ë Long Term Short Memory (LSTM), Gated Recurrent Unit (GRU) ëªšëž ìì ììì ìŒë¡ Feeding 곌ì ì ì€ëª í©ëë€.
ìì°ìŽ ì²ëЬ ë¶ìŒììë ë§ì Taskê° ì¡Žì¬í©ëë€.
ê·ž ì€ ê°ì¥ ëíì ìŒë¡ ëœíë Tagging, Neural Machine Translationê° ìŽë€ Taskìžì§ë¥Œ ë°°ìëë€.
ê° Task ë³ êµ¬ì²Žì ìž ììì ëë¶ìŽ ë¶ì ë°©ë²ì ëí ëíì ìž ë¥ë¬ë ëªšëž êµ¬ì¡°ë¥Œ ì ìíë©°,
ë°ìŽí°ì Weight Feeding 곌ì ì ì€ëª
í©ëë€.
RNN 몚ëžì íê³ì ì ì ìíê³ , ìŽë¥Œ ê°ì íêž° ìí ë°©ë²ë¡ ì€
ìì°ìŽ ì²ëЬ ë¶ìŒìì ìµê·Œ ë ì€ë¥Žê³ ìë ë©ì»€ëìŠìž Attention êž°ë²ì ìê°í©ëë€.
Attention Mechanismì ìŽì©í Neural Machine Translation곌,
Attention Mechanismì íì©í Tagging ê°ê°ì ëíŽ ìŽë í ë°©ììŒë¡ ì ì©í ì ìëì§ ì€ëª
í©ëë€.
ì§ìê³µì ìì ì
ì¥ìì, ìµê·Œ ìì°ìŽ ì²ëЬ ë¶ìŒì ëíŽì 죌ìíê² ì°êµ¬ëê³ ìë ë¶ìŒë¥Œ ìê°í©ëë€.
볞 ê°ì륌 ìê°í ìŽí, ìì°ìŽ ì²ëЬì ëíŽì ìŽë í ë°©ììŒë¡ ê³µë¶í멎 ì¢ìì§ ë°©í¥ì±ì ì ìí©ëë€.
Q. 볞 ê°ììì Transformer, BERT 몚ëžë€ì ëíŽì ì€ëª
íŽì£Œìëì?
â 볞 ê°ìë ìì°ìŽì²ëЬì ëí êž°ìŽ ê°ìì
ëë€. Transformer, BERT 몚ëžë€ì ëíŽì ê³µë¶í ë íìí Ʞ볞 ì§ìë€ì ì€ë¹í ì ìë ê²ìŽ ë³ž ê°ìì 목íì
ëë€. ë°ëŒì, Transformer, BERT 몚ëžë€ì ëíŽ ê°ëµí ìê°ë¥Œ ë늬ì§ë§, 구첎ì ìž ëŽì©ì ë€ë£šì§ ììµëë€.
Q. ê°ì륌 ìê°íêž° ì , íìí ì§ìì ìŽëì ë ìžê°ì?
â [PyTorch] ìœê³ ë¹ ë¥Žê² ë°°ì°ë ë¥ë¬ë ìì
ì ë£ë ê²ì ì¶ì²í©ëë€. ê·ž ìžìë, ë¥ë¬ë ìê³ ëŠ¬ìŠì ëí Ʞ볞 ì§ìì ê°ê³ ììŒì멎, ì¶©ë¶í ìê°íì€ ì ììµëë€.
Q. ì€ìµ ìì
ì ìŽë»ê² ì§íëëì?
â ìŽë¡ ëŽì©ì êŽë šë ì€ìµ ìœë륌 ì€ë¹íŽì ê°ìí©ëë€. ìœë륌 ê³µì íë, ëŒìž ë°ìŽ ëŒìžìŒë¡ ìœë륌 ìì±íë©° ë³µìµíŽë³Žìë ê²ì ì¶ì²í©ëë€. (ì€ìµ ìœë : [https://github.com/Justin-A/](https://github.com/Justin-A/torch_nlp_basic)torch_nlp_basic)
Justin
íìµ ëìì
ë구ìŒê¹ì?
ìì°ìŽì²ëЬ ë¥ë¬ëìŒë¡ ë€ë£šê³ ì¶ìŒì ë¶
í ì€íž, NLP 쪜ì ë°°ì°ê³ ì¶ìŒì ë¶
ì ì ì§ì,
íìí ê¹ì?
ë¥ë¬ë êž°ìŽ
Pytorch êž°ìŽ
8,206
ëª
ìê°ì
489
ê°
ìê°í
136
ê°
ëµë³
4.4
ì
ê°ì íì
20
ê°
ê°ì
íë¶ììë íµê³íì ì ê³µíê³ ì°ì ê³µí(ìžê³µì§ë¥) ë°ì¬ë¥Œ ë°ê³ ì¬ì í ê³µë¶ì€ìž ë°±ìì ëë€.
ìì
ã ì 6í ë¹ ìœí ì€íž ê²ìì ì ìŽí ìê³ ëŠ¬ìŠ ê°ë° / ììšìíížì(2018)
ã ì 5í ë¹ ìœí ì€íž ëì¶ ì°ì²Žì ììž¡ ìê³ ëŠ¬ìŠê°ë° / íêµì 볎íµì ì§í¥ííì¥ì(2017)
ã 2016 ë ìš ë¹ ë°ìŽí° ìœí ì€íž/ êž°ìì°ì ì§í¥ìì¥ì(2016)
ã ì 4í ë¹ ìœí ì€íž 볎íì¬êž° ììž¡ ìê³ ëŠ¬ìŠ ê°ë° / 볞ì ì§ì¶(2016)
ã ì 3í ë¹ ìœí ì€íž ìŒêµ¬ 겜Ʞ ììž¡ ìê³ ëŠ¬ìŠ ê°ë° / 믞ë찜조곌íë¶ ì¥êŽì(2015)
* blog : https://bluediary8.tistory.com
ì£Œë¡ ì°êµ¬íë ë¶ìŒë ë°ìŽí° ì¬ìŽìžì€, ê°ííìµ, ë¥ë¬ë ì ëë€.
í¬ë¡€ë§ê³Œ í ì€ížë§ìŽëì íì¬ë ì·šë¯žë¡ íê³ ììµëë€ :)
í¬ë¡€ë§ì ìŽì©íŽì ìžêž°ìë 컀뮀ëí° êžë§ ìì§íŽì 볎ì¬ì£Œë ë§ë¡±ìŽëŒë ì±ì ê°ë°íìê³
ì êµì ë§ì§ëЬì€ížì ëžë¡ê·žë¥Œ ìì§íŽì ë§ì§ ì¶ì² ì±ë ë§ë€ììì£ :) (ììíê² ë§ìëš¹..)
ì§êžì ìžê³µì§ë¥ì ì°êµ¬íë ë°ì¬ê³Œì ìì ëë€.
ì 첎
15ê° â (5ìê° 44ë¶)
íŽë¹ ê°ììì ì ê³µ:
ì 첎
16ê°
4.3
16ê°ì ìê°í
ìê°í 3
â
íê· íì 5.0
5
æ·±ãå 容ã倧åãªéšåãäžå¿ã«æ¯éãšã£ãŠèª¬æããŠããã ãããããšãããããŸãããããã§ç®æ¬¡ã®æµããçè§£ããããšãšãã©ããªéšåã«éç¹ã眮ãã¹ãããæããã®ã«ãå€ãã®å©ããåããŸããã
ããã«ã¡ã¯ãJustinã§ãã èªç¶èšèªåŠçã«ã€ããŠæãåºæ¬çãªå 容ãéç¹ãšããŠåãäžããæµããææ¡ããããšã«çŠç¹ãåœãŠãŠè¬çŸ©ãå¶äœããŸããããè¯ãèŠãŠããã ãããããšãããããŸãã
ìê°í 2
â
íê· íì 5.0
5
åºç€ããäžã€ãã€ç©ã¿éããè¬çŸ©æ¹åŒã奜ãã§ãã
ããã«ã¡ã¯ãJustinã§ããä»åã®è¬çŸ©ãéããŠãèªç¶èšèªåŠçã®åºæ¬åºãç¯ããããšãããšã«ãæ·±åãããå 容ãŸã§å匷ããŠãèªç¶èšèªåŠçãäžæã«ã§ããèœåãè²ãŠãŠã»ãããšæããŸããåè¬ããŠããã ãããããšãããããŸãã
ìê°í 1
â
íê· íì 5.0
ìê°í 9
â
íê· íì 5.0
ìê°í 1
â
íê· íì 5.0
ì§ìê³µì ìëì ë€ë¥ž ê°ì륌 ë§ë볎ìžì!
ê°ì ë¶ìŒì ë€ë¥ž ê°ì륌 ë§ë볎ìžì!
ê°ìê° í¬íšë ë¡ëë§µìŒë¡ íìµíŽ ë³Žìžì!
â©55,000