인프런 영문 브랜드 로고
인프런 영문 브랜드 로고

LLM Finetuning : RunPod와 Multi-GPU 실습

실리콘밸리 LLM 프로젝트 현업자에게 배우는 LLM Fine-Tuning 노하우를 가득 담았습니다

초급자를 위해 준비한
[RunPod, Fine-Tuning] 강의입니다.

이런 걸 배울 수 있어요

  • LLM Fine Tuning

  • Multi GPUs

  • OpenAI API

  • Ollama

  • Hugging Face

AI 커스터마이징의 핵심
파인튜닝 & Multi-GPU

똑같은 AI는 이제 그만!
실리콘밸리 LLM 프로젝트 리드의 AI 커스터마이징 실전 노하우를 공유합니다.

API&파인튜닝&멀티GPU를 한 번에

실전 LLM 개발에 필요한 핵심 스킬인 API 활용, 데이터셋 생성, 파인튜닝, 멀티 GPU 설정 등 핵심 스킬을 하나의 강의에 담았습니다.

RunPod 사용법을 쉽고 빠르게

멀티 GPU 활용의 핵심, RunPod! 공식문서에서 필요한 부분만 콕 집어 시간 낭비 없이 효율적으로 멀티 GPU 환경을 구축합니다.

AI 개발의 효율을 높이는
GPU 솔루션, RunPod!



RunPod는 클라우드에서 가상의 GPU를 빌려 AI 모델을 훈련하고 배포할 수 있는 서비스입니다. 멀티 GPU 환경을 손쉽게 구축하여 대규모 학습과 추론을 효율적으로 실행할 수 있으며, 시간당 과금 방식으로 원하는 만큼만 사용 가능해 비용 절감 효과도 뛰어납니다. 또한 복잡한 인프라 없이 최신 GPU를 즉시 활용하여 AI 성능을 극대화할 수 있습니다.

이런 내용을 배워요

Multi GPU 파인튜닝: 최적의 LLM 훈련 환경 만들기

Multi GPU를 사용하여 하드웨어 제한 없이 LLM 훈련을 효율적으로 진행하는 방법을 배울 수 있습니다. RunPod 서비스를 통해 Multi GPU 환경을 구축하고 SSH로 로컬 환경에서 Pod로 연결하는 방법을 상세하게 안내합니다.


나만의 LLM 만들기: 파인튜닝을 활용한 AI 커스터마이징 모델

챗GPT처럼 똑똑한 AI, 이제 직접 만들어 보세요! 이 강의에서는 한국어를 입력하면 셰익스피어처럼 말하는 영어로 바꿔주는 AI 모델파인튜닝으로 만드는 방법을 배웁니다.

OpenAI API 활용 : 모델 학습에 필요한 데이터셋 구축

OpenAI API를 활용하여 데이터 부족 문제를 해결하고, 모델 학습에 필요한 양질의 데이터를 효율적으로 확보할 수 있습니다.

from openai import OpenAI client = OpenAI() completion = client.chat.completions.create( model="gpt-4o", messages=[ {"role": "developer", "content": "You are a helpful assistant."}, { "role": "user", "content": "Translate the following English text into a Shakespearean style." } ] ) print(completion.choices[0].message)


AI 개발 실습: 최신 기술 스택으로 LLM 파인튜닝 완성하기

OpenAI API로 데이터 생성, Hugging Face에서 LLM 다운로드, Ollama로 모델 실행, RunPod GPU로 최적화까지! 최신 AI 기술 스택을 한 번에 경험하며, LLM 파인튜닝의 실전 흐름을 익힐 수 있습니다.


수강 전 참고 사항

실습 환경

  • 운영 체제 및 버전(OS): Windows, macOS, Linux 등 모든 OS가 가능합니다.

  • 사용 도구: Visual Studio Code, Ollama, Hugging Face Api, OpenAI API, llama.cpp

  • PC 사양: 인터넷 접속이 가능한 기본 사양의 PC

학습 자료

  • 제공하는 학습 자료 형식: Jupyter Notebook, 강의 Script

  • 모든 강의 내용은 text 파일로 제공됩니다. 수업 이후에 검색 기능을 사용하여 필요한 부분을 빠르게 찾아볼 수 있습니다.

선수 지식 및 유의사항

  • 선수 지식은 필요하지 않습니다.

  • 강의에서 다루는 허깅 페이스 api 사용법이 익숙하지 않으신 분들에게는 조금 어렵게 느껴질 수 있으나 수업 내용을 따라하시면서 chatgpt 검색 등을 통해서 충분히 해결할 수 있는 부분입니다.

  • 게시판 활용을 장려합니다. 수업과 관련된 어떠한 내용이든 심도 있고 디테일하게 질문에 대해서 답변을 드릴 예정입니다.

이런 분들께
추천드려요!

학습 대상은
누구일까요?

  • 나만의 Chat 모델을 만들어보고 싶은 개발자

  • Multi GPU 모델 트레이닝을 배우고 싶은 모두

선수 지식,
필요할까요?

  • (Optional) Chatgpt 검색을 통한 문제 해결 능력

안녕하세요
다니엘입니다.

552

수강생

53

수강평

67

답변

4.8

강의 평점

7

강의

  • LLM 기반 AI 기업에서 Pod Lead로 활동

  • 서울대학교 기계항공 공학부 졸업

  • 유럽 소재 대학원에서 기계항공공학 석사

  • 독일 소재 공학 연구기관에서 박사 과정 연구 수행

  • 유럽 대형 에너지 기업에서 Senior Data Scientist 경험

  • 영국 소재 에너지 컨설팅 기업에서 Senior Consultant 활동

  • Databricks 기반 데이터 엔지니어링 프로젝트 수행

  • Kaggle 주식 거래 AI 대회 Top 3% 성과

  • AI Agent 개발팀장으로 현재 활동 중

더보기

커리큘럼

전체

20개 ∙ (3시간 26분)

해당 강의에서 제공:

수업자료
강의 게시일: 
마지막 업데이트일: 

수강평

아직 충분한 평가를 받지 못한 강의입니다.
모두에게 도움이 되는 수강평의 주인공이 되어주세요!