모델 & 학습
모델과 데이터를 설계합니다
기술
AI 시스템을 만드는 방법을 기술 노트로 공개합니다.
모델 학습부터 평가, 추론 인프라와 업무 적용까지. Patty가 실제 프로젝트에서 사용하는 판단 기준, 구현 방법, 검증 절차와 실패 경계를 21개의 기술 모노그래프로 정리했습니다.
- 기술 노트
- 21
- 기술 영역
- 4
- 언어
- KR / EN
하나의 시스템으로 이어지는 네 개의 기술 층
좋은 모델만으로 운영 가능한 AI가 되지는 않습니다. 학습의 계보가 평가로 이어지고, 평가된 모델이 예측 가능한 인프라에서 동작하며, 권한과 증거가 있는 업무 흐름에 연결되어야 합니다.
평가 & 벤치마크
업무 기준으로 검증합니다
추론 & 인프라
운영 조건에서 서빙합니다
AI 응용
통제된 업무로 연결합니다
모델 & 학습
사전학습 & CPT
도메인 코퍼스 진단부터 혼합, 토크나이저, 분산 실행, 체크포인트와 서빙 수용까지 이어지는 CPT 설계 역량입니다.
SFT 데이터 파이프라인
원천 수집부터 스키마, 중복 제거, 오염 방지, 사람 감사, 캘리브레이션과 불변 내보내기를 설계합니다.
강화학습 정렬 GRPO · RLHF
과제 적합성, rollout, 보상 설계, GRPO·RLHF 선택, reward hacking과 평가·복구를 함께 설계합니다.
학습용 데이터셋 생성
원천 분류, 합성 생성, 독립 감사, 민감정보 제거, 커버리지와 사람 표본 검사를 설계합니다.
한국어 특화 모델링
형태소·어미·띄어쓰기, 토큰 효율, 한영 혼용, 긴 한국어 세션과 평가 공백을 함께 다룹니다.
커스텀 모델 개발
구축·적응 판단부터 조직 전용 계층, 버전, 안전 게이트와 배포 경계를 설계합니다.
추론 & 인프라
분산 GPU 서빙 & 스케줄링
요청 형상, 병렬화, 배치, 라우팅과 장애 도메인을 함께 모델링해 서비스 수준을 설계합니다.
KV 캐시 아키텍처
블록 수명주기, 접두어 재사용, 계층형 저장, 퇴거와 테넌트 경계를 워크로드에 맞춰 설계합니다.
MoE 서빙 (wide EP)
넓은 expert parallel 구성에서 배치, 라우팅, all-to-all 통신과 장애 범위를 함께 최적화합니다.
멀티모달 추론
이미지·문서·음성 입력의 해상도, 순서, 캐시, 배치와 출력 근거를 서비스 수준에서 설계합니다.
RL rollout 가속
추론 워커, 샘플 버퍼, 보상 계산과 학습기의 비동기 경계를 측정 가능한 수명주기로 구성합니다.
GPU 팜 운영
용량 계획, 텔레메트리, 작업 격리, 유지보수와 복구 훈련을 하나의 운영 모델로 만듭니다.
AI 응용
한국어 특화 RAG
한글 문서 수집부터 구조 보존 청킹, 혼합 검색, 재순위, 답변 근거와 접근 제어까지 설계합니다.
문서 이해 파이프라인
HWP·HWPX·PDF·이미지의 레이아웃, 표, 양식과 서명을 보존하며 추출·검증·승인을 연결합니다.
LLM 네이티브 브라우저
DOM·접근성 트리·시각 상태, 세션 격리, 도구 권한, 승인과 재현 가능한 실행 기록을 설계합니다.
에이전트 오케스트레이션
작업 분해, 도구 계약, 상태 저장, 승인, 재시도와 보상 트랜잭션을 관측 가능한 그래프로 설계합니다.
AI 워크포스 전환
업무 분해, 위험 등급, 역할·승인, 품질 측정과 변화 관리를 운영 모델로 연결합니다.
ViewSpec 렌더링
타입이 있는 컴포넌트 어휘, 데이터 바인딩, 접근성 규칙, 정책 검증과 시각 회귀를 렌더링 경계에 둡니다.
온프레미스 배포
망 경계, 공급망, 비밀, 모델 반입, 관측, 패치, 백업과 운영 인수를 위협 모델에서 출발해 설계합니다.