[CS231n] 강의11 Attention and Transformers 리뷰
cs231n
스탠포드 CS231n 11강 Attention and Transformers 강의를 바탕으로 Seq2Seq 모델의 병목 현상과 어텐션 메커니즘의 등장 배경을 정리하고, Query·Key·Value 기반 Self-Attention, Multi-Head Attention, Positi...
CS231n(CNN with DL)
[CS231n] 강의10 Long Short Term Memory 리뷰
cs231n
본 글은 2022년 4월에 강의한 스탠포드 대학의 Recurrent Neural Networks 2022년 강의를 듣고 정리한 내용입니다. Lecture 10 RNN, LSTM 등이 그 예입니다.
[CS231n] 강의10 Recurrent Neural Networks 리뷰
cs231n
본 글은 2022년 4월에 강의한 스탠포드 대학의 Recurrent Neural Networks 2022년 강의를 듣고 정리한 내용입니다. Lecture 10 RNN, LSTM 등이 그 예입니다.
[CS231n] 강의9. Object Detection and Image Segmentation 리뷰
cs231n
스탠포드 대학의 CS231n 강의를 바탕으로 이미지 내 픽셀 단위 분류를 수행하는 Semantic Segmentation과 물체의 위치 탐지 및 분류를 아우르는 Object Detection의 핵심 원리를 정리합니다. FCN, Downsampling/Upsampling 구조부터 R...
[CS231n] 강의8. Training Neural Networks (Optimizer, Regularization, Hyperparameter) 리뷰
cs231n
스탠포드 대학의 CS231n Lecture 8 강의를 바탕으로 신경망 학습 과정을 심층 정리합니다. SGD의 한계를 극복하는 고급 옵티마이저(Momentum, AdaGrad, RMSProp, Adam)와 학습률 스케줄링부터 오버피팅을 방지하는 다양한 규제 기법(Dropout, Da...
[CS231n] 강의7. Training Neural Networks (Activation Function, Weight Initialization, Batch Normalization, Transfer Learning) 리뷰
cs231n
스탠포드 CS231n 7강 신경망 학습(Training Neural Networks)의 핵심 원리인 활성화 함수(Sigmoid, ReLU, ELU 등), 데이터 전처리, 가중치 초기화(Xavier, He) 기법, 배치 정규화(Batch Normalization) 및 전이 학습(Tr...
[CS231n] 강의6. Hardware and Software with Pytorch 리뷰
cs231n
본 글은 2021년 4월에 강의한 스탠포드 대학의 Convolutional Neural Networks for Visual Recognition 2021년 강의를 듣고 정리한 내용입니다. Lecture6 소프트웨어, 특히 pytorch에 대해 정리했습니다.
[CS231n] 강의5. Convolutional Neural Networks 리뷰
cs231n
본 글은 2021년 4월에 강의한 스탠포드 대학의 Convolutional Neural Networks for Visual Recognition 2021년 강의를 듣고 정리한 내용입니다. Lecture5 합성곱 신경망에 대해 정리했습니다.
[CS231n] 강의4. Neural Networks and Backpropagation 리뷰
cs231n
본 글은 2021년 4월에 강의한 스탠포드 대학의 Convolutional Neural Networks for Visual Recognition 2021년 강의를 듣고 정리한 내용입니다. Lecture4 신경망과 역전파 알고리즘에 대해 정리했습니다.
[CS231n] 강의3. Loss Functions and Optimization 리뷰
cs231n
스탠포드 CS231n 3강에서는 이미지 분류 모델의 예측 성능을 정량화하는 손실 함수(Multiclass SVM loss, Softmax loss)와 과적합을 방지하는 정규화 기법을 다룹니다. 나아가 최적의 가중치를 탐색하기 위한 수치적/해석적 경사(Gradient) 계산 원리와 ...
[CS231n] 강의2. Image Classification 리뷰
cs231n
본 글은 2021년 4월에 강의한 스탠포드 대학의 Convolutional Neural Networks for Visual Recognition 2021년 강의를 듣고 정리한 내용입니다. Lecture2 이미지 분류에 대해 정리했습니다.