Machine Learning


Week Topics Slides
Week 1
(9/3)

머신러닝 개요

  • 학습시스템의 정의
  • 감독, 무감독, 강화 학습
  • 머신러닝의 특성
  • 프로그래밍과 머신러닝
  • 역사와 최근 발전 동향
 
(9/5)

[실습] Introduction

  • 수업 소개
  • 기말 프로젝트 소개
 
Week 2
(9/10)

신경망과 델타학습

  • 컴퓨터와 뇌
  • 퍼셉트론 구조
  • 델타규칙 학습
  • LMS, 최적화
  • 무감독학습: K평균, SOM
 
(9/12)

추석 연휴

 
Week 3
(9/17)

MLP와 오류역전파학습

  • 다층퍼셉트론(MLP) 구조
  • 오류역전파 알고리듬(BP)
  • BP의 문제점
  • 모멘텀법, 가중치쇄퇴법, 조기중단법
  • 지지벡터머신(SVM)과 커널머신
 
(9/19)

모델복잡도와 정규화

  • 과다학습과 오캄의 면도날
  • 모델복잡도와 정규화
  • 구조위험최소화(SRM)와 MDL
  • 베이즈규칙과 MAP
  • 편항분산 분석
 
Week 4
(9/24)

딥러닝 구조

  • 심층신경망의 문제점
  • 경사도소멸문제
  • 딥러닝의 혁신점
  • 딥러닝 아키텍쳐 세가지
  • 딥러닝 모델의 비교
 
(9/26)

[실습] 기본 프레임워크

  • colab 사용법
  • numpy 기초
  • Pytorch 기초
 
Week 5
(10/1)

휴강

 
(10/3)

개천절

 
Week 6
(10/8)

컨볼루션 신경망

  • 고양이 시각신경계
  • 컨볼루션 신경망
  • AlexNet과 GPU
  • DeepFace
  • GoogLeNet
 
(10/10)

딥빌리프넷

  • 볼쯔만머신, 시뮬레이티드어닐링
  • 자가연합넷, 오토인코더
  • RBM 구조와 학습
  • 딥빌리프넷(DBN) 구조
  • 대조다이버전스, MCMC
 
Week 7
(10/15)

[실습] DNN, CNN

  • MNIST classification
 
(10/17)

중간고사

 
Week 8
(10/22)

딥하이퍼넷

  • 구조학습문제와 에너지, 확률, 엔트로피
  • 홉필드넷, 마코프넷, 베이즈넷
  • 하이퍼넷 구조
  • 하이퍼넷 학습, GMC, 진화알고리듬
  • 딥하이퍼넷 구조와 학습
 
(10/24)

순환신경망

  • 순차학습문제, 시계열문제
  • 순환신경망 구조
  • 순환신경망 학습
  • 장단기 메모리망(LSTM)
  • 장단기 메모리망의 변형과 확장
 
Week 9
(10/29)

딥강화학습

  • MDP 문제, 벨만식, 강하확습
  • MC 학습과 TD 학습
  • Sarsa와 Q학습 알고리듬
  • 딥큐넷(DQN)
  • 딥강화학습의 활용: AlphaGo
 
(10/31)

[실습] RNN, GAN

  • 형태소 분석, Word embedding
  • GloVe
  • RNN 실습
  • GAN 실습
 
Week 10
(11/5)

뉴럴튜링머신

  • 신경망모델의 문제점
  • 뉴럴튜링머신(NTM)의 구조
  • NTM의 읽기 및 쓰기 연산
  • NTM의 주소지정 메커니즘
  • 메모리넷(MemNet)
 
(11/7)

종단학습모델

  • 분할정복, 결합, 복잡계
  • 인코더디코더모델(EncDec)
  • 문장대문장모델(Seq2Seq)
  • 종단학습메모리넷(MemN2N)
  • 뉴럴기계번역(NMT)
 
Week 11
(11/12)

목적함수와 정보이론

  • 변별모델과 생성모델
  • 정보, 엔트로피, 불확실성
  • 교차엔트로피, 상대엔트로피
  • KL 다이버전스, 상호정보량(MI)
  • 결정트리와 정보이득(IG)
 
(11/14)

[실습] 기말 프로젝트 실습(1)

  • 여러 딥러닝 모델, 데이터셋 소개
 
Week 12
(11/19)

대립학습모델

  • 게임이론, 경쟁학습
  • 생성대립넷(GAN)
  • 영상스타일변환, 가짜사진
  • 딥컨볼루션 생성대립넷(DCGAN)
  • 양방향 생성대립넷(BiGAN)
 
(11/21)

[실습] 기말 프로젝트 실습(2)

  • optimizer
  • activation functions
  • pdb 사용법
  • visualization tools - Visdom
 
Week 13
(11/26)

잔차학습모델

  • 앙상블학습, 커미터머신
  • 딥잔차넷(DRN)
  • 암묵적 앙상블 잔차넷
  • 멀티모달 잔차넷(MRN)
  • 시각대화 챗봇
 
(11/28)

[실습] 기말 프로젝트 QnA

 
Week 14
(12/3, 12/5)

기말고사

 
Week 15
(12/10, 12/12)

프로젝트 발표, 최종보고서 마감