RESULT / 80

수학2026.11.0449 MIN

멱법칙과 로그-로그 직선: 스케일링 곡선 읽기와 외삽의 한계

y = ax^(−b)가 로그-로그에서 직선이 되는 이유와 기울기가 곧 지수라는 것, 로그 변환이 최소제곱의 오차 가정을 바꾸는 방식, 환원 불가 항 c가 국소 기울기와 예측을 어떻게 바꾸는지를 다섯 점짜리 모의 스케일링 실험으로 계산하고, 두 자릿수 밖 외삽이 어디서 깨지는지 확인합니다.

수학2026.11.0449 MIN

보정: 모델이 말하는 확률을 믿어도 되는가

신뢰도 0.9라고 한 답 중 실제로 90%가 맞는지를 묻는 보정을 신뢰도-정확도 도표, ECE, Brier 점수와 그 분해로 재고, 온도 스케일링으로 고칩니다. ECE가 빈 개수와 표본 수에 따라 흔들리는 폭까지 모의 분류기 5,000건으로 계산합니다.

수학2026.11.0353 MIN

Elo와 아레나 순위: Bradley–Terry로 리더보드 읽기

Elo 갱신식이 Bradley-Terry 로그가능도에 대한 확률적 경사상승 한 걸음임을 유도하고, K 계수가 무엇을 맞바꾸는지, 경기 순서에 흔들리는 온라인 갱신과 최대가능도 일괄 추정이 어떻게 다른지를 모의 아레나 4만 경기로 확인합니다. 순위마다 구간을 붙여 몇 위 차이가 실제로 갈리는지 계산으로 판정합니다.

수학2026.11.0352 MIN

몬테카를로 추정과 pass@k: 샘플 n개로 무엇을 말할 수 있나

표본평균의 오차가 1/√n로 줄어드는 이유와 그 비용을 세우고, n번 생성해 c번 통과했을 때 pass@k의 불편 추정량 1 − C(n−c,k)/C(n,k)를 부분집합 세기로 유도합니다. 흔한 추정이 어느 쪽으로 치우치는지, 문제 수와 생성 수가 오차를 어떻게 나눠 갖는지를 numpy로 확인합니다.

수학2026.10.2846 MIN

부트스트랩: 분포 가정 없이 신뢰구간 만들기

가진 표본에서 다시 뽑아 표본분포를 근사하는 원리를 세우고, 300문항 F1 0.769에 오차막대를 붙여 봅니다. 백분위수 구간과 BCa가 언제 갈리는지, 재표집을 몇 번 해야 끝점이 멈추는지, 그리고 문항·문서·문제 중 무엇을 다시 뽑아야 하는지를 numpy 실험으로 확인합니다.

수학2026.10.2845 MIN

추정량과 표준오차: eval 점수에 오차막대 붙이기

500문항에서 82%와 84%는 다른 점수일까요? 추정량의 불편성과 일치성을 세우고, 정답률의 표준오차 √(p(1−p)/n)에서 정규 근사 구간과 Wilson 구간을 유도해 그 질문에 직접 답합니다. 오차막대 없이 발표된 벤치마크 표를 읽는 순서까지 정리했습니다.

수학2026.10.2838 MIN

점근 표기와 연산량 손계산: O·Θ·Ω, 파라미터 수, 어텐션의 O(n²)

행렬의 shape만 보고 곱셈과 덧셈의 횟수를 세어, 트랜스포머 블록 하나의 파라미터 12d²와 FLOPs 24nd² + 4n²d를 손으로 유도합니다. 시퀀스 길이를 두 배로 늘리면 무엇이 두 배가 되고 무엇이 네 배가 되는지, 어텐션이 선형층을 앞지르는 n = 6d가 어디서 나오는지까지 계산합니다.

수학2026.09.0745 MIN

양자화 오차: 격자 사상, 오차 분산, 이상치 채널

실수를 2^b개 격자에 사상할 때 오차의 분산이 왜 Δ²/12인지 유도하고, 그것이 비트당 6.02dB라는 SNR로 번역되는 과정을 실측과 대조했습니다. 이상치 하나가 나머지 값의 유효 비트를 어떻게 먹는지, 그리고 int4에서 성능이 무너지는 지점을 오차 예산으로 미리 계산하는 법까지.

수학2026.09.0744 MIN

수치적으로 안정한 계산 패턴 모음

최댓값 빼기, 로그 공간, log1p·expm1, 분산의 두 공식, 정규화의 ε, fp32 누산, 역행렬 대신 solve — 프레임워크가 몰래 해 주는 일곱 가지를 하나씩 꺼내 각각 어떤 고장을 막는지 직접 재 봤습니다. 수식을 그대로 옮긴 코드가 왜 라이브러리보다 나쁜지에 대한 목록입니다.

수학2026.09.0744 MIN

부동소수점은 어디서 새는가: 반올림, 상쇄, 더하는 순서

0.1 + 0.2가 0.3이 아닌 이유부터 시작해 머신 엡실론을 유도하고, 같은 16비트인데 fp16과 bf16이 서로 다른 지점에서 터지는 이유, 비슷한 수를 뺄 때 유효자리가 사라지는 파괴적 상쇄, 그리고 1,000만 개를 순서만 바꿔 더했을 때 오차가 백만 배 갈리는 실험까지 직접 재 봤습니다.

수학2026.09.0746 MIN

커널과 그람 행렬: 내적을 바꾸면 무엇이 달라지나

그람 행렬의 정의와 양반정치성부터 시작해, 커널이 왜 「만들지 않은 특징공간의 내적」인지를 다항 커널로 손계산해 확인하고, RBF의 γ가 유효 랭크를 어떻게 정하는지 300×300 그람 행렬로 재 봅니다. 어텐션 점수 행렬이 같은 자리에 있으면서 어디가 다른지까지.

수학2026.09.0744 MIN

임베딩 분포의 이방성: 공분산으로 재고 whitening으로 펴기

검색 결과의 코사인 유사도가 전부 0.8 근처에 몰려 순위가 흐려지는 현상을 공분산 행렬의 고윳값 분포로 측정하고, 평균 제거와 whitening이 그 분포를 어떻게 바꾸는지 4,000개 벡터로 직접 재 봤습니다. 후처리가 무엇을 대가로 치르는지까지 숫자로 확인합니다.

수학2026.09.0633 MIN

무작위 초평면 해싱: 충돌 확률을 유도하고 recall을 확률로 읽기

무작위 초평면 하나로 두 벡터가 같은 쪽에 놓일 확률이 1 − θ/π라는 것을 유도하고, 비트 k개와 테이블 L개를 쓸 때의 1 − (1−p^k)^L 곡선에서 recall과 후보 수의 트레이드오프를 읽는 법을 정리합니다. 유도한 값을 128차원 시뮬레이션과 소수 셋째 자리까지 대조했습니다.

수학2026.09.0629 MIN

랜덤 사영과 존슨–린덴스트라우스 보조정리

무작위 행렬 하나를 곱해 차원을 줄여도 모든 쌍의 거리가 (1±ε) 안에서 보존됩니다. 필요한 차원이 k = O(log n / ε²)이라는 결과와 유도 개요를 적고, 점 개수에는 로그로만 의존하고 원래 차원에는 아예 의존하지 않는다는 것을 4096차원 실험으로 확인합니다.

수학2026.09.0651 MIN

고차원에서 직관이 무너지는 지점: 거리 집중과 부피 쏠림

1024차원 임베딩 공간은 3차원과 다르게 행동합니다. 초구의 부피가 껍질로 빠져나가는 계산, 무작위 두 벡터가 거의 항상 직교하는 이유, 최근접과 최원거리의 거리 비가 1로 수렴하는 거리 집중을 시뮬레이션으로 확인하고, 그럼에도 벡터 검색이 되는 이유를 내재 차원으로 설명합니다.

수학2026.09.0648 MIN

흐름 매칭과 최적수송: 확률 경로를 직선으로 펴기

두 분포를 잇는 확률 경로와 그것을 만드는 속도장을 정의하고, 조건부 흐름 매칭 목적식이 왜 주변 속도장을 학습하는지 유도합니다. 바서슈타인 거리를 KL이 못 하는 자리에서 정의하고, 짝짓기를 최적수송으로 바꾸면 오일러 한 스텝이 곧 바닥이 되는 것을 1차원에서 확인합니다.

수학2026.09.0642 MIN

classifier-free guidance는 스코어 공간의 외삽이다

guidance_scale=7.5의 7.5가 무엇을 곱하는 숫자인지 유도합니다. 두 노이즈 예측의 차를 w배 미는 한 줄이 조건부 분포를 p(y|x)^w로 기울이는 것과 같음을 스코어 공간에서 보이고, w를 올리면 왜 선명해지다가 채도와 다양성이 무너지는지를 정확히 풀리는 가우시안 예제로 계산합니다.

수학2026.09.0545 MIN

SDE·ODE와 이산화 오차: 스텝 수가 품질을 정한다

num_inference_steps를 20에서 50으로 올리면 왜 그림이 나아질까요. 확산을 연속시간 SDE로 적고 대응하는 확률 흐름 ODE를 세운 뒤, 오일러 이산화의 국소·전역 오차 차수를 유도하고 DDIM이 왜 결정적인지, 고차 solver가 무엇을 벌고 무엇을 치르는지를 계산으로 답합니다.

수학2026.09.0542 MIN

스코어 ∇log p: '노이즈를 예측한다'가 곧 스코어 추정인 이유

확산 모델의 손실은 잡음의 MSE 한 줄인데 왜 그것이 분포를 배우는 일이 될까요. 스코어 함수의 정의와 정규화 상수가 미분에서 사라지는 성질, 가우시안 스코어가 −(x−μ)/σ²라는 계산, 그리고 ε 예측과 스코어가 상수배로 이어진다는 denoising score matching의 유도를 수치로 확인합니다.

수학2026.09.0543 MIN

ELBO: 못 구하는 로그가능도를 아래에서 받치기

VAE 손실이 재구성 항과 KL 항의 합인 이유를 끝까지 유도합니다. log p(x) = ELBO + KL(q‖사후분포)라는 분해를 젠센 부등식과 KL 정의 두 경로로 세우고, 하한이 얼마나 헐거운지를 무엇이 정하는지, VAE와 확산과 EM이 왜 같은 뼈대 위에 있는지를 장난감 모형의 숫자로 확인합니다.

수학2026.09.0528 MIN

재매개변수화 트릭과 폐형 forward 과정

x = μ + σz라는 한 줄이 표집을 미분 가능하게 만듭니다. 이 추정량이 로그 미분 트릭보다 왜 분산이 작은지를 차원별로 재 보고, 가우시안을 t번 더한 결과가 다시 가우시안이라는 성질로 q(x_t|x_0)의 폐형을 유도해 임의의 t에서 학습이 가능해지는 이유까지 따라갑니다.

수학2026.09.0544 MIN

중요도 비율과 클리핑: 예전 정책의 샘플을 재사용하는 대가

PPO 로그의 clip_frac과 approx_kl은 왜 나란히 찍힐까요. 중요도 표집이 왜 불편추정량인지, 두 분포가 멀어질 때 유효 표본 수가 왜 지수적으로 무너지는지를 e^(Δ²) 계산으로 확인하고, clip이 목적함수를 조각별 선형으로 바꿔 한 걸음을 막는 방식까지 따라갑니다.

수학2026.09.0441 MIN

KL 제약 보상 최대화의 닫힌 해, 그리고 거기서 떨어져 나오는 DPO 손실

KL 벌점이 붙은 보상 최대화는 반복 없이 답이 나옵니다. 최적 정책이 참조 모델을 exp(r/β)로 기울인 볼츠만 분포임을 유도하고, 그 식을 보상에 대해 뒤집어 Bradley-Terry 손실에 넣으면 분배함수가 소거되며 DPO 손실이 남는 과정을 끝까지 따라갑니다.