문맥적 임베딩: ELMo부터 BERT까지
정적 임베딩의 다의어 문제를 해결하는 문맥적 임베딩의 원리, ELMo의 양방향 LSTM 레이어 표현, BERT의 트랜스포머 기반 서브워드 임베딩 추출법을 수식과 코드로 완전히 해설한다.
PALDYN LEARN
고전 머신러닝부터 신경망 학습과 RNN까지, 딥러닝의 밑바닥을 쌓습니다.
정적 임베딩의 다의어 문제를 해결하는 문맥적 임베딩의 원리, ELMo의 양방향 LSTM 레이어 표현, BERT의 트랜스포머 기반 서브워드 임베딩 추출법을 수식과 코드로 완전히 해설한다.
FastText가 문자 n-gram 기반의 부분 단어 모델로 OOV 문제를 해결하는 방법, 한국어 형태론에서의 강점, 실전 학습과 추론 코드를 완전히 해설한다.
GloVe가 공기 행렬의 전역 통계와 국소 문맥 창의 장점을 결합하는 방법, 목적 함수의 수학적 의미, 사전 학습 벡터 활용법을 깊이 있게 다룬다.
CBOW와 Skip-gram 아키텍처부터 네거티브 샘플링, 계층적 소프트맥스, 단어 유추 태스크까지 — Word2Vec의 작동 원리를 수식과 gensim 코드로 완전히 해설한다.
임베딩이 이산적인 토큰을 연속적인 고차원 벡터로 변환하는 원리, 임베딩 행렬의 구조, 코사인 유사도로 의미 관계를 측정하는 방법을 수식과 PyTorch 코드로 완전히 해설한다.
양방향 RNN(Bidirectional RNN)이 Forward·Backward 두 방향으로 시퀀스를 처리해 각 토큰에 풍부한 문맥을 부여하는 원리와 구현을 살펴본다.
Bahdanau Attention의 핵심 아이디어—Context Vector를 동적으로 계산하기—와 Luong Attention, Scaled Dot-Product Attention의 차이를 코드와 시각화로 완전히 이해한다.
GRU(Gated Recurrent Unit)의 Reset·Update 게이트 구조를 LSTM과 비교해 이해하고, 언제 GRU를 선택해야 하는지 실용적 기준을 제시한다.
LSTM의 세 게이트(Forget·Input·Output)와 셀 상태 흐름을 수식·코드·시각화로 완벽히 이해한다. 기울기 소실을 왜 LSTM이 해결하는지 수학적으로 확인한다.
순환 신경망(RNN)의 기본 개념부터 셀 구조, 시간에 따른 전개(BPTT), 기울기 소실까지 코드와 시각화로 완전히 이해한다.
RNN 계열(RNN·LSTM·GRU)의 세 가지 본질적 한계—기울기 소실, 순차 처리, 장거리 의존성—를 정리하고, Transformer가 어떻게 이를 한꺼번에 해결하는지 살펴본다.
Seq2Seq 아키텍처의 인코더-디코더 구조, Teacher Forcing, Beam Search를 이해하고, 기계 번역·요약·대화 시스템에 어떻게 적용하는지 코드로 살펴본다.
신경망 학습 성패를 좌우하는 가중치 초기화를 완전히 이해한다. 제로 초기화의 위험, Xavier/Glorot 초기화, He/Kaiming 초기화의 수학적 근거와 PyTorch 구현, 실무 선택 기준을 다룬다.
깊은 신경망 학습을 방해하는 기울기 소실(Vanishing Gradient)과 기울기 폭발(Exploding Gradient)의 수학적 원인을 이해한다. ReLU, 잔차 연결, 배치 정규화, Gradient Clipping 등 현대적 해결책을 코드와 함께 정리한다.
2014년 Srivastava et al.이 제안한 드롭아웃(Dropout)의 원리, Inverted Dropout 구현, 훈련/추론 모드 차이, Dropout2d·DropPath 변형, 실무 사용 가이드를 코드와 함께 완전히 이해한다.
배치 정규화의 한계를 극복하고 트랜스포머 시대를 이끈 레이어 정규화(Layer Normalization)를 이해한다. BN·LN·IN·GN의 차이, Pre-LN 패턴, RMSNorm까지 정규화 방법을 완전히 정리한다.
2015년 딥러닝 학습을 혁신한 배치 정규화(Batch Normalization)의 작동 원리, 수식, PyTorch 구현, 훈련/추론 모드 차이, 배치 크기의 영향, Pre-BN vs Post-BN 선택까지 실전 중심으로 완전히 이해한다.
신경망 학습의 핵심인 순전파(Forward Pass)와 역전파(Backpropagation)를 수식과 코드로 완전히 이해한다. 연쇄 법칙(Chain Rule)이 어떻게 다층 신경망의 기울기를 계산하는지, PyTorch Autograd가 이를 어떻게 자동화하는지를 설명한다.
신경망의 구성 요소인 층(Layer), 가중치(Weight), 편향(Bias), 활성화 함수를 수학과 코드로 이해한다. 순전파(Forward Pass)가 어떻게 예측을 만드는지, 파라미터 수는 어떻게 계산하는지를 완전히 파악한다.
1957년 Rosenblatt의 퍼셉트론부터 학습 규칙, 수렴 정리, 한계(XOR 문제)까지. 딥러닝 시대를 연 최초의 학습 가능한 뉴런 모델을 코드와 함께 완전히 이해한다.
신경망의 비선형성을 담당하는 활성화 함수를 완전 정복한다. Sigmoid, Tanh, ReLU, Leaky ReLU, GELU, Swish의 수식·특성·한계를 비교하고, 실무에서 어떤 상황에 어떤 함수를 선택해야 하는지를 알아본다.
다층 퍼셉트론(MLP)의 구조와 보편 근사 정리를 이해한다. 깊이와 너비의 트레이드오프, MNIST 분류기 완전 구현, 하이퍼파라미터 선택 가이드까지 실전 중심으로 MLP를 완전히 파악한다.
과대적합의 원인과 증상, 학습 곡선·검증 손실로 탐지하는 방법, L1·L2 정규화·드롭아웃·조기 종료·데이터 증강 등 해결 전략을 실전 코드와 함께 완전히 이해한다.
K-겹 교차 검증의 원리와 편향-분산 트레이드오프, Stratified·Time-Series·Leave-One-Out 등 다양한 변형, GridSearchCV와의 결합까지 완전히 이해한다.