플랫폼 변경
COMPANY UPDATES
글로벌 AI 기업 소식
Anthropic
91 UPDATES플랫폼 변경
과학 AI
OpenAI
283 UPDATES모델 보안
지역 강사 양성
개발자 행사
AI 생물보안
AI 영화 공모전
프라이버시 설계
MODEL NEWS
AI 모델 소식
새로 나온 모델과 계열 확장, 가격·가용성 변화를 최근 순으로 봅니다.
GPT 새 모델신규 모델 · 공개
Claude 새 모델신규 모델 · 공개
Gemini 새 모델모델 패밀리 · 공개
Gemini 새 모델신규 모델 · 공개
PALDYN LEARN
새로 올라온 학습 글
양자화 오차: 격자 사상, 오차 분산, 이상치 채널
실수를 2^b개 격자에 사상할 때 오차의 분산이 왜 Δ²/12인지 유도하고, 그것이 비트당 6.02dB라는 SNR로 번역되는 과정을 실측과 대조했습니다. 이상치 하나가 나머지 값의 유효 비트를 어떻게 먹는지, 그리고 int4에서 성능이 무너지는 지점을 오차 예산으로 미리 계산하는 법까지.
수치적으로 안정한 계산 패턴 모음
최댓값 빼기, 로그 공간, log1p·expm1, 분산의 두 공식, 정규화의 ε, fp32 누산, 역행렬 대신 solve — 프레임워크가 몰래 해 주는 일곱 가지를 하나씩 꺼내 각각 어떤 고장을 막는지 직접 재 봤습니다. 수식을 그대로 옮긴 코드가 왜 라이브러리보다 나쁜지에 대한 목록입니다.
부동소수점은 어디서 새는가: 반올림, 상쇄, 더하는 순서
0.1 + 0.2가 0.3이 아닌 이유부터 시작해 머신 엡실론을 유도하고, 같은 16비트인데 fp16과 bf16이 서로 다른 지점에서 터지는 이유, 비슷한 수를 뺄 때 유효자리가 사라지는 파괴적 상쇄, 그리고 1,000만 개를 순서만 바꿔 더했을 때 오차가 백만 배 갈리는 실험까지 직접 재 봤습니다.
커널과 그람 행렬: 내적을 바꾸면 무엇이 달라지나
그람 행렬의 정의와 양반정치성부터 시작해, 커널이 왜 「만들지 않은 특징공간의 내적」인지를 다항 커널로 손계산해 확인하고, RBF의 γ가 유효 랭크를 어떻게 정하는지 300×300 그람 행렬로 재 봅니다. 어텐션 점수 행렬이 같은 자리에 있으면서 어디가 다른지까지.
PALDYN RESEARCH
새로 올라온 리서치
전처리가 BM25에는 듣고 dense에는 안 듣는 자리: 남은 것은 소문자화 하나였다
소문자화·구두점 제거·불용어 제거를 BM25와 dense에 각각 걸어 영어와 한국어에서 쟀다. 값을 한 것은 영어 BM25의 소문자화 하나뿐이었고, 그것마저 dense 토크나이저가 이미 공짜로 하고 있었다.
질의를 앞에서부터 자르면 검색은 몇 토큰에서 무너지는가: 공짜 구간은 없었다
KorQuAD 질의 5,774개를 앞에서부터 4~28토큰으로 잘라 가며 Recall@1을 쟀다. 어디까지가 사실상 공짜인지 찾으려 했는데, 마지막 12%의 꼬리를 자른 28토큰조차 신뢰구간이 0을 배제했다.
Recall@k·MRR·nDCG는 언제 서로 다른 결론을 내는가 — 1위가 갈린 두 자리, 그중 하나는 잡음이었다
같은 검색 결과에 다섯 지표를 전부 적용해 1위가 뒤바뀌는 자리를 전수로 찾고, 짝지은 부트스트랩으로 판정했다. 반전 하나는 진짜였고 하나는 300질의가 만든 잡음이었다. 앞선 글들의 결론도 이 자로 다시 쟀다.
근사 최근접 인덱스 다섯의 recall-지연 지도 — 같은 설정이 난수에서 0.29, 실제 임베딩에서 0.97
HNSW·IVF·Annoy·ScaNN을 크기와 차원이 똑같은 두 코퍼스에 걸었다. 파라미터를 한 글자도 바꾸지 않았는데 recall이 3.3배 갈렸고, 난수 쪽에서는 ANN이 완전탐색을 이기는 칸이 하나도 없었다.

