안녕하세요! AI Cruise의 HY입니다.
11월 3일 기말고사를 마지막으로 딥러닝개론 수업이 끝났습니다.
학우분들 모두 수고 많으셨습니다.
딥러닝개론 수업 형식
한양대학교 인공지능융합대학원은 5주, 10주, 15주짜리 강의를 다양하게 운영하고 있는데요,
이번에 수강을 완료한 딥러닝개론 과목은 10주동안 진행되는 수업이었습니다.
구체적으로는
1주차 - 대면 강의
2~9주차 - 실시간 화상 강의
10주차 - 기말고사 (대면)
형식으로 진행되었습니다.
그렇다면 딥러닝개론 수업에서 어떤 것들을 배웠는지? 대략적으로 요약해서 정리해 보겠습니다.
딥러닝개론 수업 내용
<1주차>
인공지능 기본 개념, 인공지능 발전 역사, 딥러닝 개념
Logistic regression
선형 변환, 비선형 변환, Loss function, Gradient descent
<2주차>
1주차 내용 이어서
딥러닝 학습 목표
Back propagation
한계: Local minima
Shallow Neural Network
Neural Network의 기본 구조, layer, parameter, feature 개념
Activation function 종류, 장단점
<3주차>
Deep Neural Network
Intuition about deep representation
Circuit theory and deep learning
hyperparameter
Activation function 종류, 장단점 확장
딥러닝 학습 시의 dataset 분류, Train/Dev/Test Sets
성능 검증 기법 K-Fold Cross-Validation
Bias and Variance 개념
Overfitting을 줄이기 위한 Regularization
<4주차>
3주자 내용 이어서
Regularization for Logistic Regression
그 외 overfitting을 막기 위한 기법들
- Dropout Regularization
- Data augmentation
- Early stopping
Batch Normalization
mini batch 개념, 효과
Batch Norm 수식
<5주차>
4주차 내용 이어서
Batch Normalization
Convolutional filter - Point Spread Function(PSF)
Convolution vs Correlation
Conv사용 예 - Denoising, Edge detection, Sharpening
Convolution의 properties
Padding
<6주차>
Convolution Neural Networks(CNN)
2D Convolution
1D Convolution
Computer Vision Problems - Image Classification, Face detection, Object detection
이미지에서 MLP vs CNN
Padding 사용 이유, 사이즈 계산식
Strided convolution
CNN의 특징 - Local connectivity, Weight sharing
CNN with multiple input channels
CNN with multiple output maps
Pooling layer - Max pooling, Average pooling
<7주차>
Case Studies and Practical Advices for using ConvNets
- LeNet-5
- AlexNet
- ZFNet
- VGG - receptive field
- GoogLeNet - 1x1 conv bottleneck layers
- ResNet - skip connection, residual block
<8주차>
Supervised learning vs Unsupervised learning
Generative Models - GAN
GAN의 학습 목표, 학습 원리
Mode collapse problem
Evaluating Generative models - IS, FID
<9주차>
Applications of GANs
- Deep Convolutional GAN(DCGAN) - interpolation
- Laplacian Pyramid GAN
- Conditional GAN
- Pix2Pix
- Cycle GAN
- Super-Resolution GAN(SRGAN)
- StyleCAN
- GLEAN
딥러닝개론 강의평
총평: 기본에 충실했던 강의
난이도:
-가장 기초가 되는 수업이기 때문에 처음 배우는 사람도 문제 없이 따라갈 수 있다.
-쉽게 풀어서 설명하려는 교수님의 노력이 보임
수업의 퀄리티:
-무난함
-매주 이전 강의에서 배운 내용에 대해 퀴즈를 보는데, 중요 개념을 한 번 더 복습하는 효과가 있어 좋았음
-있을 건 다 있는 느낌이지만 수식 증명 등 더 깊게 공부하고 싶은 사람은 개인적으로 공부해야 할 듯
-같은 전공필수 과목인 AI프로그래밍간의 시너지가 좋음
-이미지 처리 위주로 구성되어 있음
본 대학원에 재학중이시거나, 관심이 있으신 분에게 도움이 되길 바라며 이만 마치겠습니다.
