1) LLM을 활용한 나만의 검색 만들기

내가 원하는 정보를 찾고, 답변해주는 나를 위한 인공지능 서비스(GPTs)를 만들기 위해서는 어떻게 해야할까요? 서버연결, 데이터 저장, Google API를 활용한 검색기능 추가 등 LLM을 활용하여 나만의 서비스를 만들었던 일련의 과정을 공유합니다.

2) 영어 잘하는 모델을 한국어 잘하는 모델로 바꾸는 레시피

영어모델에 한국어를 얹으면 성능의 한계가 발생합니다. 혹은 '한국어만' 잘하게 되는 문제가 생기기도 합니다. 이러한 문제를 극복하기 위한 새롭게 적용했던 모델(KoMistLlama-Pro-9B)을 공유합니다. 또한 LLM 학습을 위한 프레임워크 EasyLM의 특징과 기능을 소개합니다.

3) 진짜 사용자와 함께 진화하는 Agent 운영기

형광펜 유틸리티로 시작하여 사용자를 돕는 에이전트로 서비스를 발전시켜 나가고 있는 스타트업 라이너! 이번 발표에서는 라이너(Liner)의 Agent기반 프로덕트를 1년 여간 운영하며 얻은 배움과 노하우, Data Flywheel 구축을 향한 여정을 다룹니다.

5) 더 빠른 대규모 벡터 연산을 위해 FPGA를 이용해 가속을 해볼까?

RAG와 같은 고급 문서처리 기법들이 주목을 받으면서 Vector DB (VDB)의 중요성도 날로 커지고 있지만, 아직 여러가지 기술적 난관에 부딪히고 있는 것이 현실입니다. Sionic AI는 MetisX와의 협업으로 FPGA 가속을 통하여 벡터 연산의 최적화 방법을 찾아가고 있으며, 이번 발표를 통해 그 기술적 청사진을 제시하고자 합니다.