PALDYNAI LAB

PALDYN LEARN

AI 학습

AI가 어떻게 작동하는지 배웁니다. 모델의 원리부터 그 아래를 떠받치는 수학, 실제로 굴리는 방법까지.

466편
전체

RESULT / 19

AI 기초2026.08.1943 MIN

가드레일을 테스트한다는 것

가드레일 테스트는 단위 테스트와 성질이 다릅니다. 세트를 두 벌로 나누는 이유, 통과 기준을 절대값 대신 기준선으로 잡는 법, 세트가 오염되는 경로, 표본 크기가 결정에 미치는 영향을 정리합니다.

AI 기초2026.08.1941 MIN

거절도 설계한다: 안 된다고 말하는 법

거절은 안전 장치의 마지막 동작이면서 사용자가 제품을 평가하는 순간입니다. 켜고 끄는 스위치 대신 다섯 칸 사다리를 쓰는 법, 좋은 거절 문구의 조건, 과잉 거절을 재는 방법을 정리합니다.

AI 기초2026.08.1950 MIN

콘텐츠 조정: 정책을 판정 가능한 것으로 만들기

정책 문서가 있어도 판정은 안 됩니다. 두 사람이 같은 라벨을 붙일 수 있게 정책을 쪼개는 법, 임계값을 둘로 두는 이유, 검토 큐가 터지지 않게 설계하는 법, 라벨마다 따로 봐야 하는 지표를 정리합니다.

AI 기초2026.08.1940 MIN

탈옥 방어는 기능이 아니라 운영이다

탈옥 방어를 한 번 세우는 기능으로 다루면 반드시 뒤처집니다. 뚫린 것을 관측하고 재현하고 고쳐서 회귀 테스트에 고정하는 고리를 어떻게 돌리는지, 그리고 무엇을 지표로 삼아야 하는지 정리합니다.

AI 기초2026.08.1845 MIN

개인정보를 지우는 자리는 출력이 아니다

출력에서 마스킹하면 이미 늦습니다. 원문이 어디에 복사되는지, 자리표로 치환하고 되돌리는 방식이 왜 실무의 기본값인지, 그리고 지운 것을 어떻게 검증하는지를 정리합니다.

AI 기초2026.08.1837 MIN

출력 가드: 답이 사용자에게 닿기 전에

출력 검사는 답이 다 만들어진 뒤에야 돌 수 있습니다. 무엇을 어떤 순서로 검사할지, 걸렸을 때 재생성·수정·차단 중 무엇을 고를지, 스트리밍과 어떻게 함께 쓸지를 정리합니다.

AI 기초2026.08.1829 MIN

입력 가드: 모델에 닿기 전에 거르는 것들

입력 단계에서 실제로 효과가 있는 검사와, 열심히 만들어도 지는 검사가 갈립니다. 신뢰 경계를 세우는 법, 정규화가 왜 먼저 와야 하는지, 금칙어 목록이 어디서 무너지는지를 정리합니다.

AI 기초2026.08.1839 MIN

가드레일: 모델을 믿는 대신 둘러싸는 구조

프롬프트에 '하지 마세요'를 적는 것은 가드레일이 아닙니다. 입력·행동·출력 세 자리에 무엇을 세우는지, 어떤 순서로 세워야 싸게 끝나는지, 그리고 가드가 죽었을 때 무엇을 할지까지 정리합니다.

AI 기초2026.05.2535 MIN

AI 규제: 전 세계 AI 법안과 거버넌스 현황

EU AI Act 위험 분류 체계를 중심으로 미국·중국·한국의 AI 거버넌스 접근법을 비교하고, 실무자가 알아야 할 규정 준수 의무를 정리합니다.

AI 기초2026.05.2531 MIN

AI 워터마킹: AI 생성 콘텐츠를 추적하는 기술

토큰 편향·의미론적·주파수 도메인 등 AI 워터마킹 기법을 분류하고, Kirchenbauer의 LLM 워터마크 원리와 Google SynthID를 코드와 함께 설명합니다.

AI 기초2026.05.2538 MIN

AI 탈옥(Jailbreak): 공격 유형과 방어 전략

롤플레이·프롬프트 인젝션·인코딩 우회 등 LLM 탈옥 공격 패턴을 분류하고, 입력 가드·시스템 프롬프트 강화·출력 필터로 구성된 다층 방어 아키텍처를 코드와 함께 다룹니다.

AI 기초2026.05.2547 MIN

AI와 프라이버시: 개인정보를 지키는 기술

멤버십 추론·모델 역추론·학습 데이터 추출 등 AI 프라이버시 공격 유형을 분석하고, 차분 프라이버시·연합학습·동형암호 세 가지 보호 기술을 코드와 함께 비교합니다.

AI 기초2026.05.2546 MIN

편향과 설명: 모델의 결정을 열어 보고 고르게 만들기

데이터·모델·배포 단계에서 편향이 스며드는 경로와 네 가지 공정성 정의, 불가능성 정리, 전처리·인처리·후처리 완화 기법을 정리하고, 편향의 원인을 찾고 설명 요구권에 답하기 위한 SHAP·LIME·Grad-CAM·어텐션 맵을 한 편에서 다룬다.

AI 기초2026.05.2449 MIN

AI 안전성과 정렬: 무엇이 어긋나고 무엇으로 맞추는가

환각·보상 해킹·명세 게임·분포 이동이 어디서 오는지 갈라 보고, RLHF·Constitutional AI·DPO가 그것을 학습으로 어떻게 맞추는지, 그리고 확장 가능한 감독과 가치 다원성처럼 학습이 못 푸는 문제가 무엇인지 한 편에서 정리한다.

AI 기초2026.04.2848 MIN

기호주의에서 데이터 중심으로: AI가 지식을 얻는 방식이 바뀐 70년

사람이 규칙을 쓰던 기호주의 AI에서 데이터가 규칙을 만드는 통계적 AI로 넘어온 과정을 따라가고, 그 전환이 왜 데이터 플라이휠·스케일링 법칙·데이터 품질 경쟁으로 이어졌는지, 두 패러다임이 LLM 안에서 어떻게 다시 만나는지 정리한다.

AI 기초2026.04.2239 MIN

AI 역사 — 1956년 다트머스에서 LLM 시대까지

AI의 70년 역사를 두 번의 겨울과 세 번의 부흥으로 정리합니다. 왜 AI는 실패를 반복했고, 딥러닝 혁명은 어떻게 가능했는지 맥락으로 이해합니다.