Session 1

Artificial Intelligence Math 2025 가을 커리큘럼

🙂
세션 시간 목요일 오후 7시 ~ 9시
모집 기간 3~4명 (1개 팀)
과제 및 면접 과제 X | 면접 O
팀장 김호재, 김용 / 소프트웨어 22, 20
멘토 비어 있음
노션 페이지 비어 있음

📌
모집 인원 | 3~4명 (1개 팀)
활동 시간 | (오프라인) 목요일 오후 7시 ~ 9시
(온라인) 토요일 오후 2시 ~ 4시
활동 방법 | 주 1회 정기 세션(대면, 비대면 혼합) + 주 1회 필수 팀별 미팅(비대면)

챌린지 소개

이 세션은 인공지능 수학 세션으로, 인공지능 관련 수학에 관심이 있으신 분들을 위한 세션입니다.
1팀(3~4명)을 모집할 예정이고 수학에 대해서 관심이 있고, 수식 이해에 어려움이 없으신 분들을 위주로 진행하고자 합니다. 팀원 분들의 수요에 따라서 Diffusion 모델을 포함한, 큰 주제들을 정할 예정입니다.
세션 모집의 경우, 수학에 대한 주제로 과제는 없으며, 간단한 면접과 학회 지원 서류를 기반으로 뽑을 예정입니다.

커리큘럼(기간별)

Artificial Intelligence Math Challenge 활동은 기간별로 2가지 활동으로 나눌 수 있습니다. 기본적인 선형대수학을 비롯한 기초적인 내용은 알고 있다고 가정합니다. 처음 3주동안은 모델에 대한 수학적 이해를 다루는 논문을 기반으로 공부를 하고, 나머지 기간동안 프로젝트를 위한 공부를 합니다.
  • 1-3주: 딥러닝 수학 논문 스터디, 주제 선정
  • 4-11주: 프로젝트 준비, 프로젝트에 적용될 비전 특정 task 공부

세션 안내

매 세션은 1️⃣ + 2️⃣의 활동으로 진행됩니다.
활동 1️⃣ : 처음 3-4주 동안은 딥러닝의 수학적인 부분을 다루는 논문을 스터디하는 시간을 갖고, 그 후에는 매주 이해한 수학적인 내용을 기반으로 프로젝트를 구성/진행하는 시간을 갖습니다. (약 1시간)
→ 팀장이 강의 혹은 세미나 형식으로 발표를 진행합니다.
활동 2️⃣ : 1주간 공부해온 것을 발표하는 시간을 갖습니다. 모든 팀원이 발표에 참여할 예정입니다. (30분~1시간) 그리고나서 다음주 세션 전까지 어떤 것을 해올지 계획하는 시간을 갖습니다. (30분)
→ 팀원 분들이 발표를 진행합니다.
  • 처음 3-4주 동안은 세션때 배운 것을 바탕으로 공부한 것주제에 대하여 고민하고 알아온 것을 공유하는 시간을 갖습니다.
  • 그 후에는 프로젝트를 기반으로 어떤 공부를 했고 어떤 고민과 시도를 했는지 공유하는 시간을 갖습니다.

프로젝트 안내

  • 인공지능 수학 챌린지는 프로젝트보다 공부에 조금 더 치중이 될 계획입니다. 즉, 좋은 프로젝트를 하나 끝내는 것보단 공부를 최대한 많이 하고 이해를 하는 것이 인공지능 수학 챌린지의 목표입니다.
  • 주제가 조금 어려운 만큼, 프로젝트에 사용하는 개념에 대한 깊은 이해를 바탕으로 프로젝트를 진행할 계획입니다.
  • 계획중인 프로젝트 (전부가 아닌 하나를 선택할 예정입니다!)
    • Arc3 (https://arcprize.org/arc-agi/3/)
      • 인공지능을 이용해 퍼즐을 푸는 competition입니다. 물론 알고리즘과 같이 규칙 기반의 풀이법도 있을 수 있지만, 인공지능을 이용해서 푸는 것이 목표인 프로젝트입니다.
    • optical flow, time series forecast, NLP 등 다양한 태스크에 대하여 Diffusion model로 구현하기
프로젝트에 적용할 예상 task 범위
: image generation, 데이콘이나 케글과 같은 공모전 .. 중 하나

🤗 이런 분들이면 더 좋습니다!

  • 주체적으로 스스로 프로젝트를 생각하고 구현해갈 분 - 처음부터 끝까지 스스로 어떻게서든 해낼 때 가장 많이 성장한다고 생각합니다!
  • 팀원들과 함께 성장하고 싶으신 분
  • 딥러닝에 대한 수학적 지식을 잘 쌓아서 배운 것 바탕으로 프로젝트를 하고 싶은 분
  • 디퓨전 기반의 생성 모델에 대해서 잘 알고 싶으신 분
  • 이것저것 인공지능 플젝을 해봤지만 인공지능 수학에 대해 제대로 공부하고 싶으신 분
  • 의문/질문이 많은 분
  • 인공지능 쪽으로 진로를 정하신 분

커리큘럼(주차별)

주차
세션 진행 방법
세션 내용(세미나)
과제 - 해당 주차 세션 전까지 할 일
1주차(9/11)
오프라인
다양한 모델에 대한 수학 소개(VAE, HVAE, Diffusion 등)
- 인공지능에 대해 얼마나 알고있고 이번 세션을 통해 얻고 싶은것, 하고 싶은 주제 생각해오기
2주차(9/18)
오프라인
딥러닝 수학 논문 스터디
- Denoising Diffusion Probabilistic Models(DDPM)
- Diffusion Models Beat GANs on Image Synthesis(Classifier Guidance를 제시함으로써 diffusion 모델의 조건부 이미지 생성 방식 도입)
- Denoising Diffusion Implicit Models(DDPM에서의 Marcov Chain을 끊고 Deterministic한 sampling 방식으로 추론 속도를 높임)
- Generative Modeling by Estimating Gradients of the Data Distribution(NCSN, Score based Model의 근본 논문)
- Classifier-Free Diffusion Guidance(기존 Classifier Guidance 방식의 단점을 제시하며 새로운 조건부 이미지 생성 방식 제안)
- 주제 관련 조사 발표
3주차(9/25)
오프라인
딥러닝 수학 논문 스터디
- Score-Based Generative Modeling through Stochastic Differential Equations(DDPM과 NCSN을 SDE로 묶은 논문)
- Variational Diffusion Models (Diffusion Model을 VAE로 재해석)
- Elucidating the Design Space of Diffusion-Based Generative Models(어떻게 Diffusion model을 설계하면 좋은가에 대한 논문)
- 공부한 내용, 주제 관련 조사 발표
- 프로젝트에 사용할 task 결정
4주차(10/2)
오프라인
프로젝트에 사용할 task의 기본적인 내용
- optical flow
- time series forecasting
- Text Generation
- Music Generation
- 공부한 내용, 주제 관련 조사 발표,
- 다음 주차까지 주제 결정
5주차(10/9)
오프라인
중간발표회 리허설
- 중간 발표회 준비한 것 리허설
6주차(10/30)
오프라인
프로젝트에 사용할 task의 주요 논문 3개
- 관련 task survey 조사(어떤 방법들이 있는지)
7주차(11/6)
오프라인
(미정) image generation
- 어떤 방법을 써야하는지 생각해서 찾기
- 프로젝트에 사용할 task의 특정 방법론 중 중요한 논문 읽기
8주차(11/13)
오프라인
(미정) anomaly detection
- 해당 논문 구현해서 성능 돌려보기 (데이터 적용해서)
9주차(11/20)
오프라인(1/4)
(미정) transformer
- 더 좋은 성능의 모델 논문 각자 하나씩 읽고 돌려보기
10주차(11/27)
오프라인(1/11)
(미정) Neural Architecture Search
- 전체적인 파이프라인 진행하여 구현하기.
- 최종 발표회 자료 만들기
11주차(12/4)
SKKAI 가을기수 최종 발표회(미정)
 
추가 문의는 팀장(김호재)에게 개인 문자 또는 개인톡으로 부탁드립니다!