PATTY TECHNOLOGY INDEX · 2026.09
AI 시스템을 만드는 방법을 기술 노트로 공개합니다.
모델 학습부터 평가, 추론 인프라와 업무 적용까지. Patty가 실제 프로젝트에서 사용하는 판단 기준, 구현 방법, 검증 절차와 실패 경계를 21개의 기술 모노그래프로 정리했습니다.
- 기술 노트
- 21
- 기술 영역
- 04
- 언어
- KR / EN
좋은 모델만으로 운영 가능한 AI가 되지는 않습니다. 학습의 계보가 평가로 이어지고, 평가된 모델이 예측 가능한 인프라에서 동작하며, 권한과 증거가 있는 업무 흐름에 연결되어야 합니다.
- 01모델과 데이터를 설계합니다→
- 02업무 기준으로 검증합니다→
- 03운영 조건에서 서빙합니다→
- 04통제된 업무로 연결합니다
기술 노트
모델 & 학습
- A.01노트 읽기
사전학습 & CPT
도메인 코퍼스 진단부터 혼합, 토크나이저, 분산 실행, 체크포인트와 서빙 수용까지 이어지는 CPT 설계 역량입니다.
- A.02노트 읽기
SFT 데이터 파이프라인
원천 수집부터 스키마, 중복 제거, 오염 방지, 사람 감사, 캘리브레이션과 불변 내보내기를 설계합니다.
- A.03노트 읽기
강화학습 정렬 GRPO · RLHF
과제 적합성, rollout, 보상 설계, GRPO·RLHF 선택, reward hacking과 평가·복구를 함께 설계합니다.
- A.04노트 읽기
학습용 데이터셋 생성
원천 분류, 합성 생성, 독립 감사, 민감정보 제거, 커버리지와 사람 표본 검사를 설계합니다.
- A.05노트 읽기
한국어 특화 모델링
형태소·어미·띄어쓰기, 토큰 효율, 한영 혼용, 긴 한국어 세션과 평가 공백을 함께 다룹니다.
- A.06노트 읽기
커스텀 모델 개발
구축·적응 판단부터 조직 전용 계층, 버전, 안전 게이트와 배포 경계를 설계합니다.
기술 노트
평가 & 벤치마크
기술 노트
추론 & 인프라
- C.01노트 읽기
분산 GPU 서빙 & 스케줄링
요청 형상, 병렬화, 배치, 라우팅과 장애 도메인을 함께 모델링해 서비스 수준을 설계합니다.
- C.02노트 읽기
KV 캐시 아키텍처
블록 수명주기, 접두어 재사용, 계층형 저장, 퇴거와 테넌트 경계를 워크로드에 맞춰 설계합니다.
- C.03노트 읽기
MoE 서빙 (wide EP)
넓은 expert parallel 구성에서 배치, 라우팅, all-to-all 통신과 장애 범위를 함께 최적화합니다.
- C.04노트 읽기
멀티모달 추론
이미지·문서·음성 입력의 해상도, 순서, 캐시, 배치와 출력 근거를 서비스 수준에서 설계합니다.
- C.05노트 읽기
RL rollout 가속
추론 워커, 샘플 버퍼, 보상 계산과 학습기의 비동기 경계를 측정 가능한 수명주기로 구성합니다.
- C.06노트 읽기
GPU 팜 운영
용량 계획, 텔레메트리, 작업 격리, 유지보수와 복구 훈련을 하나의 운영 모델로 만듭니다.
기술 노트
AI 응용
- D.01노트 읽기
한국어 특화 RAG
한글 문서 수집부터 구조 보존 청킹, 혼합 검색, 재순위, 답변 근거와 접근 제어까지 설계합니다.
- D.02노트 읽기
문서 이해 파이프라인
HWP·HWPX·PDF·이미지의 레이아웃, 표, 양식과 서명을 보존하며 추출·검증·승인을 연결합니다.
- D.03노트 읽기
LLM 네이티브 브라우저
DOM·접근성 트리·시각 상태, 세션 격리, 도구 권한, 승인과 재현 가능한 실행 기록을 설계합니다.
- D.04노트 읽기
에이전트 오케스트레이션
작업 분해, 도구 계약, 상태 저장, 승인, 재시도와 보상 트랜잭션을 관측 가능한 그래프로 설계합니다.
- D.05노트 읽기
AI 워크포스 전환
업무 분해, 위험 등급, 역할·승인, 품질 측정과 변화 관리를 운영 모델로 연결합니다.
- D.06노트 읽기
ViewSpec 렌더링
타입이 있는 컴포넌트 어휘, 데이터 바인딩, 접근성 규칙, 정책 검증과 시각 회귀를 렌더링 경계에 둡니다.
- D.07노트 읽기
온프레미스 배포
망 경계, 공급망, 비밀, 모델 반입, 관측, 패치, 백업과 운영 인수를 위협 모델에서 출발해 설계합니다.
현재 시스템의 병목부터 함께 진단하겠습니다.
대표 업무, 시스템 제약과 수용 증거를 먼저 지도화한 뒤 필요한 기술 개입을 제안합니다.