RESULT / 16

수학2026.11.1746 MIN

다양체 위의 최적화: 직교 제약과 Muon의 직교화가 하는 일

차트·접공간·리만 계량·측지선·후퇴로 다양체를 세우고, 스티펠·그라스만·양정치 행렬·확률 단체의 접공간과 사영을 계산한 뒤, 리만 그래디언트가 유클리드 그래디언트의 접공간 사영임을 증명하고 극분해 후퇴와 뉴턴–슐츠 반복의 수렴 조건을 다룹니다.

수학2026.11.1741 MIN

프리컨디셔닝의 이론: Adam에서 K-FAC·Shampoo·Muon까지 한 줄로

갱신 −ηP⁻¹∇를 노름의 최급강하로 읽고 헤세·가우스–뉴턴·피셔·경험적 피셔의 관계를 정리한 뒤, 준뉴턴과 3차 정규화, K-FAC의 크로네커 인수분해와 그 독립 가정, Shampoo의 −1/4 지수, Muon의 스펙트럴 노름 유도를 차례로 세워 이들이 어디서 일치하는지 보입니다.

수학2026.11.1748 MIN

확률적 근사와 SGD의 연속 극한: 수렴한다는 말의 정확한 뜻

로빈스–먼로 조건과 마팅게일 잡음으로 SGD의 수렴을 정확히 정의하고, 볼록·강볼록·PL·비볼록에서의 수렴률과 오라클 하한을 계산한 뒤, SGD를 확률미분방정식으로 읽어 학습률/배치가 온도가 되는 관점과 안정성의 가장자리를 다룹니다.

수학2026.11.1348 MIN

근접 연산자와 거울 하강: 기하를 바꿔서 내려가기

L1·핵노름·가중치 감쇠를 근접 연산자 하나로 묶어 소프트 임계값을 유도하고 ISTA·FISTA·ADMM을 세운 뒤, 브레그만 발산으로 기하를 바꿔 단체 위 거울 하강이 지수가중 갱신이 되는 것과 KL 제약 최적 정책이 그 한 걸음이라는 것을 보입니다.

수학2026.11.1348 MIN

르장드르–펜첼 변환과 쌍대성: 문제를 뒤집어 푸는 법

켤레함수를 접선의 절편으로 세우고 펜첼–영 부등식·이중 켤레·쌍대 노름을 증명한 뒤, 음의 엔트로피의 켤레가 log-sum-exp이고 그 기울기가 softmax라는 계산으로 KL 정규화 정책의 닫힌 해를 다시 얻습니다. 라그랑주 쌍대, 약쌍대·강쌍대, 쌍대 간극까지 다룹니다.

수학2026.11.1350 MIN

볼록해석: 하위기울기, 강볼록성, 매끄러움의 쌍대

미분이 없는 점에서 기울기를 대신하는 하위미분을 세우고 최적성 조건 0 ∈ ∂f를 증명합니다. L1과 ReLU가 0에서 갖는 것, 클라크 미분과 자동미분의 선택, 강볼록성과 L-매끄러움이 켤레에서 자리를 바꾼다는 쌍대까지 다룹니다.

수학2026.11.1265 MIN

이중 하강과 양성 과적합: 보간해도 일반화되는 이유

최소노름 보간 해의 폐형을 세우고 등방 가우스 특징에서 위험을 정확히 계산해, 보간 문턱에서 위험이 치솟고 그 너머에서 다시 내려가는 이유를 최소 특잇값과 마르첸코–파스투르로 보입니다. 잡음을 외워도 해가 없는 공분산 스펙트럼 조건과 경사하강의 암묵적 편향까지 다룹니다.

수학2026.11.1271 MIN

일반화 경계: 고전 이론이 공허해지는 자리와 PAC-Bayes

균등수렴의 틀에서 성장함수·VC 차원·Sauer 보조정리와 Rademacher 대칭화를 증명하고, 무작위 라벨을 외우는 신경망 앞에서 그 경계가 왜 1을 넘는지 계산합니다. 이어 도노스커–바라단 변분식으로 PAC-Bayes 정리를 증명하고, KL 항과 평평한 최소점으로 1보다 작은 경계를 직접 얻습니다.

수학2026.11.1262 MIN

집중부등식: 표본 하나가 기댓값에서 얼마나 벗어나는가

마르코프·체비쇼프에서 체르노프 방법으로 올라가 서브가우시안·서브지수와 오를리츠 노름을 세우고, 회프딩·베른슈타인·맥디아미드와 합집합 경계를 증명합니다. 각 부등식이 요구하는 문항 수를 정규 근사와 나란히 계산해 그 근사가 무너지는 자리를 가립니다.

수학2026.11.1168 MIN

란초스로 헤세 스펙트럼을 재고 랜덤 행렬로 잡음을 걷어 내기

헤세-벡터 곱만으로 크릴로프 부분공간을 쌓아 란초스로 극단 고윳값과 스펙트럼 밀도를 재고, 켤레경사법의 √조건수 수렴과 유령 고윳값의 함정을 계산합니다. 그렇게 얻은 스펙트럼을 마르첸코–파스투르 벌크와 BBP 문턱에 대 보아 어느 고윳값이 신호인지 가립니다.

수학2026.11.1156 MIN

스케치와 행렬 집중부등식: 큰 행렬을 줄여도 스펙트럼이 남는 이유

행렬 베른슈타인·체르노프 부등식으로 무작위 스케치가 열공간을 보존하는 조건을 세우고, 레인지 파인더와 무작위 SVD의 알고리즘·오차 상계·거듭제곱 보정을 유도합니다. 4096×11008 가중치의 상위 16개 특잇값을 전체 분해의 백분의 일 연산으로 구해 PiSSA 초기화에 씁니다.

수학2026.11.1160 MIN

조건부 기댓값은 사영이다, 그리고 마팅게일

σ-대수에 대한 조건부 기댓값을 정의하고 그것이 L² 직교 사영과 같음을 증명해, 확산 모델의 최적 디노이저가 조건부 평균인 이유와 손실의 바닥을 계산합니다. 타워 성질·전분산·조건부 젠센에서 마팅게일, 옵셔널 스토핑, 수렴 정리, 둡 부등식, 아주마–회프딩까지 갑니다.

수학2026.11.1055 MIN

라돈–니코딤 도함수: KL·중요도 비율·측도 변환의 공통 정의

절대연속성과 라돈–니코딤 정리로 dP/dQ를 밀도비의 일반형으로 세우고, 잘린 행동 정책의 중요도 무게를 끝점의 원자까지 계산합니다. KL이 정확히 +∞가 되는 조건과 기브스 부등식을 증명하고, 지지집합이 어긋난 두 분포에서 무엇이 무너지는지 봅니다.

수학2026.11.1076 MIN

측도와 르베그 적분: ∇와 E를 언제 바꿔 써도 되는가

σ-대수·측도·비가측 집합에서 르베그 적분을 세우고, 단조수렴·파투·지배수렴과 미분-적분 교환을 끝까지 증명합니다. 불연속 보상과 움직이는 지지집합이 그 조건을 깨는 자리, 네 가지 수렴과 반례, 린데베르그 CLT·슬러츠키·델타 방법까지 계산으로 확인합니다.

수학2026.11.0462 MIN

거리공간·노름공간·축약사상: '수렴한다'를 정확히 말하기

거리공간·코시 수열·완비성·콤팩트성·립시츠 연속을 세우고 바나흐 고정점 정리를 끝까지 증명한 뒤, Lᵖ 공간과 횔더·민코프스키 부등식, 무한차원에서 노름 동치가 깨지는 자리, 쌍대공간과 약수렴까지 평형 층 하나를 예로 계산합니다.