์ธํ”„๋Ÿฐ ์˜๋ฌธ ๋ธŒ๋žœ๋“œ ๋กœ๊ณ 
์ธํ”„๋Ÿฐ ์˜๋ฌธ ๋ธŒ๋žœ๋“œ ๋กœ๊ณ 

์ƒ์„ฑ๋ชจ๋ธ ํŠœ๋‹ ์–ด๋””๊นŒ์ง€ ์™”๋‚˜? - Langcon 2024

์ž์—ฐ์–ด์ฒ˜๋ฆฌ ์ปจํผ๋Ÿฐ์Šค <Langcon 2024> ๋ฐœํ‘œ ์„ธ์…˜ ์˜์ƒ์ž…๋‹ˆ๋‹ค

Thumbnail

์ค‘๊ธ‰์ž๋ฅผ ์œ„ํ•ด ์ค€๋น„ํ•œ
[์ž์—ฐ์–ด ์ฒ˜๋ฆฌ, AI ยท ChatGPT ํ™œ์šฉ] ๊ฐ•์˜์ž…๋‹ˆ๋‹ค.

์ด๋Ÿฐ ๊ฑธ
๋ฐฐ์›Œ์š”!

  • LLM ์ตœ์‹  ์—ฐ๊ตฌ๋™ํ–ฅ๊ณผ ๊ธฐ์ˆ  ์ ์šฉ๋ฐฉ์•ˆ

  • LLM ํ™œ์šฉ ๋ฐ ํŠœ๋‹ ์‚ฌ๋ก€

์ƒ์„ฑ ๋ชจ๋ธ ํŠœ๋‹ ์–ด๋””๊นŒ์ง€ ์™”๋‚˜

์ดˆ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ๊ณผ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ

์ž์—ฐ์–ด์ฒ˜๋ฆฌ(NLP) ๊ทธ๋ฆฌ๊ณ  ๊ทธ ์ค‘์‹ฌ์— ์žˆ๋Š” ๊ฑฐ๋Œ€์–ธ์–ด๋ชจ๋ธ(LLM)์„ ๋‘˜๋Ÿฌ์‹ผ ์—…๊ณ„ ๋ฐ ํ•™๊ณ„์˜ ๋‹ค์–‘ํ•œ ๊ฒฝํ—˜๋‹ด๊ณผ ์ƒ๊ฐ๋“ค์„ ๊ณต์œ ํ•œ <Langcon2024>! ๊ทธ ์ƒ์ƒํ•œ ๋ฐœํ‘œํ˜„์žฅ์„ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค

์ด๋Ÿฐ ๋ถ„๋“ค๊ป˜ ์ถ”์ฒœํ•ด์š”

โœ… ์ž์—ฐ์–ด์ฒ˜๋ฆฌ(NLP)์—
๊ด€์‹ฌ์žˆ๋Š” ๋ถ„

โœ… ์ธ๊ณต์ง€๋Šฅ ๋ถ„์•ผ ํ˜„์žฅ์˜ ๋ชฉ์†Œ๋ฆฌ๋ฅผ ๋“ฃ๊ณ  ์‹ถ์€ ๋ถ„

โœ… ์ดˆ๊ฑฐ๋Œ€ ์–ธ์–ด ๋ชจ๋ธ ํŠœ๋‹์— ๋Œ€ํ•œ ์ดํ•ด๊ฐ€ ํ•„์š”ํ•œ ๋ถ„

์ปจํผ๋Ÿฐ์Šค ๋ฐœํ‘œ ์ฃผ์ œ

1) LLM์„ ํ™œ์šฉํ•œ ๋‚˜๋งŒ์˜ ๊ฒ€์ƒ‰ ๋งŒ๋“ค๊ธฐ

๋‚ด๊ฐ€ ์›ํ•˜๋Š” ์ •๋ณด๋ฅผ ์ฐพ๊ณ , ๋‹ต๋ณ€ํ•ด์ฃผ๋Š” ๋‚˜๋ฅผ ์œ„ํ•œ ์ธ๊ณต์ง€๋Šฅ ์„œ๋น„์Šค(GPTs)๋ฅผ ๋งŒ๋“ค๊ธฐ ์œ„ํ•ด์„œ๋Š” ์–ด๋–ป๊ฒŒ ํ•ด์•ผํ• ๊นŒ์š”? ์„œ๋ฒ„์—ฐ๊ฒฐ, ๋ฐ์ดํ„ฐ ์ €์žฅ, Google API๋ฅผ ํ™œ์šฉํ•œ ๊ฒ€์ƒ‰๊ธฐ๋Šฅ ์ถ”๊ฐ€ ๋“ฑ LLM์„ ํ™œ์šฉํ•˜์—ฌ ๋‚˜๋งŒ์˜ ์„œ๋น„์Šค๋ฅผ ๋งŒ๋“ค์—ˆ๋˜ ์ผ๋ จ์˜ ๊ณผ์ •์„ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค.

2) ์˜์–ด ์ž˜ํ•˜๋Š” ๋ชจ๋ธ์„ ํ•œ๊ตญ์–ด ์ž˜ํ•˜๋Š” ๋ชจ๋ธ๋กœ ๋ฐ”๊พธ๋Š” ๋ ˆ์‹œํ”ผ

์˜์–ด๋ชจ๋ธ์— ํ•œ๊ตญ์–ด๋ฅผ ์–น์œผ๋ฉด ์„ฑ๋Šฅ์˜ ํ•œ๊ณ„๊ฐ€ ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค. ํ˜น์€ 'ํ•œ๊ตญ์–ด๋งŒ' ์ž˜ํ•˜๊ฒŒ ๋˜๋Š” ๋ฌธ์ œ๊ฐ€ ์ƒ๊ธฐ๊ธฐ๋„ ํ•ฉ๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ๋ฌธ์ œ๋ฅผ ๊ทน๋ณตํ•˜๊ธฐ ์œ„ํ•œ ์ƒˆ๋กญ๊ฒŒ ์ ์šฉํ–ˆ๋˜ ๋ชจ๋ธ(KoMistLlama-Pro-9B)์„ ๊ณต์œ ํ•ฉ๋‹ˆ๋‹ค. ๋˜ํ•œ LLM ํ•™์Šต์„ ์œ„ํ•œ ํ”„๋ ˆ์ž„์›Œํฌ EasyLM์˜ ํŠน์ง•๊ณผ ๊ธฐ๋Šฅ์„ ์†Œ๊ฐœํ•ฉ๋‹ˆ๋‹ค.

3) ์ง„์งœ ์‚ฌ์šฉ์ž์™€ ํ•จ๊ป˜ ์ง„ํ™”ํ•˜๋Š” Agent ์šด์˜๊ธฐ

ํ˜•๊ด‘ํŽœ ์œ ํ‹ธ๋ฆฌํ‹ฐ๋กœ ์‹œ์ž‘ํ•˜์—ฌ ์‚ฌ์šฉ์ž๋ฅผ ๋•๋Š” ์—์ด์ „ํŠธ๋กœ ์„œ๋น„์Šค๋ฅผ ๋ฐœ์ „์‹œ์ผœ ๋‚˜๊ฐ€๊ณ  ์žˆ๋Š” ์Šคํƒ€ํŠธ์—… ๋ผ์ด๋„ˆ! ์ด๋ฒˆ ๋ฐœํ‘œ์—์„œ๋Š” ๋ผ์ด๋„ˆ(Liner)์˜ Agent๊ธฐ๋ฐ˜ ํ”„๋กœ๋•ํŠธ๋ฅผ 1๋…„ ์—ฌ๊ฐ„ ์šด์˜ํ•˜๋ฉฐ ์–ป์€ ๋ฐฐ์›€๊ณผ ๋…ธํ•˜์šฐ, Data Flywheel ๊ตฌ์ถ•์„ ํ–ฅํ•œ ์—ฌ์ •์„ ๋‹ค๋ฃน๋‹ˆ๋‹ค.

4) ๋‹น์‹ ์˜ ์ธ๊ณต์ง€๋Šฅ ์ €์ž‘๊ถŒ์€ ์•ˆ๋…•ํ•˜์‹ญ๋‹ˆ๊นŒ?

๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM) ์‹œ๋Œ€์˜ ๊ฐœ๋ง‰๊ณผ ํ•จ๊ป˜ ์ €์ž‘๊ถŒ ๋ฌธ์ œ๊ฐ€ ํ™”๋‘๋กœ ๋– ์˜ค๋ฅด๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฒˆ ๋ฐœํ‘œ์—์„œ๋Š” LLM ๋ชจ๋ธ์—์„œ ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘๊ณผ ํ•™์Šต, ๊ทธ๋ฆฌ๊ณ  ๋ชจ๋ธ์ด ์ƒ์„ฑํ•œ ๊ฒฐ๊ณผ๋ฌผ์— ๋Œ€ํ•œ ์ €์ž‘๊ถŒ ์ด์Šˆ๋ฅผ ๋‹ค๋ฃจ๊ณ , ์ด๋Ÿฌํ•œ ๋ชจ๋ธ์˜ ๋‹ค์–‘ํ•œ ๋ผ์ด์„ ์Šค์™€ ์ƒ์—…์  ์ด์šฉ ๊ฐ€๋Šฅ์„ฑ์„ ์•Œ์•„๋ณด๊ณ  ํ•จ๊ป˜ ์‚ดํŽด๋ด…๋‹ˆ๋‹ค.

5) ๋” ๋น ๋ฅธ ๋Œ€๊ทœ๋ชจ ๋ฒกํ„ฐ ์—ฐ์‚ฐ์„ ์œ„ํ•ด FPGA๋ฅผ ์ด์šฉํ•ด ๊ฐ€์†์„ ํ•ด๋ณผ๊นŒ?

RAG์™€ ๊ฐ™์€ ๊ณ ๊ธ‰ ๋ฌธ์„œ์ฒ˜๋ฆฌ ๊ธฐ๋ฒ•๋“ค์ด ์ฃผ๋ชฉ์„ ๋ฐ›์œผ๋ฉด์„œ Vector DB (VDB)์˜ ์ค‘์š”์„ฑ๋„ ๋‚ ๋กœ ์ปค์ง€๊ณ  ์žˆ์ง€๋งŒ, ์•„์ง ์—ฌ๋Ÿฌ๊ฐ€์ง€ ๊ธฐ์ˆ ์  ๋‚œ๊ด€์— ๋ถ€๋”ชํžˆ๊ณ  ์žˆ๋Š” ๊ฒƒ์ด ํ˜„์‹ค์ž…๋‹ˆ๋‹ค. Sionic AI๋Š” MetisX์™€์˜ ํ˜‘์—…์œผ๋กœ FPGA ๊ฐ€์†์„ ํ†ตํ•˜์—ฌ ๋ฒกํ„ฐ ์—ฐ์‚ฐ์˜ ์ตœ์ ํ™” ๋ฐฉ๋ฒ•์„ ์ฐพ์•„๊ฐ€๊ณ  ์žˆ์œผ๋ฉฐ, ์ด๋ฒˆ ๋ฐœํ‘œ๋ฅผ ํ†ตํ•ด ๊ทธ ๊ธฐ์ˆ ์  ์ฒญ์‚ฌ์ง„์„ ์ œ์‹œํ•˜๊ณ ์ž ํ•ฉ๋‹ˆ๋‹ค.

์ž์—ฐ์–ด์ฒ˜๋ฆฌ ๋ชจ์ž„ Langcon2024์˜ ๋ฐœํ‘œ ์ž๋ฃŒ ๋ฐ ์˜์ƒ์€ ๋‹ค์Œ ๋งํฌ์—์„œ๋„ ์ฐธ๊ณ ํ•˜์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ˆ˜๊ฐ• ์ „ ์ฐธ๊ณ  ์‚ฌํ•ญ

  • ๋ณธ ๊ฐ•์˜๋Š” Lancon2024 ์ปจํผ๋Ÿฐ์Šค ํ˜„์žฅ์„ ๋…นํ™”ํ•œ ์˜์ƒ์ž…๋‹ˆ๋‹ค.

  • ๋‹น์ผ ์ปจํผ๋Ÿฐ์Šค 16๊ฐœ ์„ธ์…˜ ์ค‘ 5๊ฐœ ์„ธ์…˜์„ ๋‹ด์•˜์Šต๋‹ˆ๋‹ค.

  • ํŠน๋ณ„ํ•œ ์‹ค์Šตํ™˜๊ฒฝ์ด ํ•„์š”ํ•˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ด๋Ÿฐ ๋ถ„๋“ค๊ป˜
์ถ”์ฒœ๋“œ๋ ค์š”!

ํ•™์Šต ๋Œ€์ƒ์€
๋ˆ„๊ตฌ์ผ๊นŒ์š”?

  • LLM ํŠธ๋ Œ๋“œ๋ฅผ ์•Œ๊ณ  ์‹ถ์€ ๋ถ„

  • LLM๊ด€๋ จ ์—…๊ณ„ ๋ฐ ํ•™๊ณ„์˜ ๋‹ค์–‘ํ•œ ์ƒ๊ฐ์ด ๊ถ๊ธˆํ•œ ๋ถ„

์„ ์ˆ˜ ์ง€์‹,
ํ•„์š”ํ• ๊นŒ์š”?

  • ๋”ฅ๋Ÿฌ๋‹, ๋จธ์‹ ๋Ÿฌ๋‹ ๊ธฐ์ดˆ์ง€์‹

์•ˆ๋…•ํ•˜์„ธ์š”
Young Sook Song์ž…๋‹ˆ๋‹ค.

์ปค๋ฆฌํ˜๋Ÿผ

์ „์ฒด

5๊ฐœ โˆ™ (1์‹œ๊ฐ„ 57๋ถ„)

์ˆ˜์—… ์ž๋ฃŒ

๊ฐ€ ์ œ๊ณต๋˜๋Š” ๊ฐ•์˜์ž…๋‹ˆ๋‹ค.

๊ฐ•์˜ ๊ฒŒ์‹œ์ผ: 
๋งˆ์ง€๋ง‰ ์—…๋ฐ์ดํŠธ์ผ: 

์ˆ˜๊ฐ•ํ‰

์•„์ง ์ถฉ๋ถ„ํ•œ ํ‰๊ฐ€๋ฅผ ๋ฐ›์ง€ ๋ชปํ•œ ๊ฐ•์˜์ž…๋‹ˆ๋‹ค.
๋ชจ๋‘์—๊ฒŒ ๋„์›€์ด ๋˜๋Š” ์ˆ˜๊ฐ•ํ‰์˜ ์ฃผ์ธ๊ณต์ด ๋˜์–ด์ฃผ์„ธ์š”!

๋ฌด๋ฃŒ