Advanced concepts for Deep learning

Advanced concepts for Deep learning

"SOTA 논문까지 봤는데 이제 뭐하죠?"

"Tensorflow를 써보셨다고요? 제 16살 딸도 Tensorflow로 머신 러닝 모델을 만들줄 알죠."

"국제학술대회 발표를 들어보라고요? 그걸 도대체 어떻게?"

차이의 핵심은 바로 "딥러닝 연구에 대한 Follow-up 능력"

제아무리 딥러닝 연구가 매우 빠르게 발전한다 해도, 최신 연구는 기존에 정의된 문제들을 기반으로 하고 있습니다. 이런 문제들을 테마별로 잘 이해한다면, 최신 연구의 가치, 의의를 바로 캐치할 수 있습니다. 따라서 이번 강의를 통해 최근 딥러닝의 획기적인 진보에는 어떤 점이 핵심이었는지, 또 현재 딥러닝 학계/산업계에게 주어진 난제는 무엇인지 직관적으로 전달하고자 합니다.

강의 커리큘럼 구성

Representation learning

• Representation learning이 등장하게 된 배경

• 학습 기법을 효과적으로 발전시키기 위한 요소

• Transferability, Uniformity와 같은 추상적이고 난해한 개념에 대한 이해

Generative models

• Generative models의 발전 단계 및 담론의 발전 과정

• Large Language Model이 등장하게 된 배경

Knowledge in deep models

• LLM에 계속해서 요구되는 두 기준, Interpretability와 Knowledge의 구분

• Knowledge와 Memory의 관계

Adversarial learning

• Adversarial gradient의 특성

• Gradient, Representation, Model 각 요소간의 adversarial한 상호작용

이 강의를 만든 사람 : 지승현

• 가짜연구소 활동 등 지식공유의 가치를 지향하여, 직관적이면서 정확한 컨셉을 전달하고자 하는 다양한 세미나 경험을 해왔습니다.

• SIGUL 2024 workshop Program Committee, ACL 2023 emergency reviewer, EMNLP 2023 Invited reviewer, 정보과학회논문지 출판이력 등 다양한 연구 및 실무이력이 있습니다.

• 좀 더 상세한 내용은 notion resume를 참고 바랍니다.