기술
모델부터 인프라와 조직까지, 우리는 전부 만듭니다
같은 오픈 모델을 쓰면 같은 결과가 나옵니다. 차이를 만드는 것은 시스템입니다. Patty의 역량 카탈로그를 메커니즘 수준까지 공개합니다.
모델 & 학습
한국어 도메인 모델을 만들고 다듬는 전 과정
사전학습 & 지속 사전학습 (CPT)한국어 중심 도메인 코퍼스에 대한 처음부터의 사전학습과 기존 모델의 지속 사전학습. 토크나이저 설계부터 코퍼스 믹싱, 체크포인트 검증까지 전 과정을 자체 파이프라…SFT 데이터 파이프라인지도 미세조정(SFT)용 데이터를 만들고 관리하는 엔지니어링. 데이터셋 빌더, 감사 도구, 보정 세트 구축, 중복 제거·클렌징 패스, 버전 있는 익스포트까지를 하…강화학습 정렬 GRPO · RLHF모델의 행동을 의도한 방향으로 정렬하는 강화학습 단계. 행동 하네스 데이터셋 큐레이션 → 롤아웃 생성 → 보상 신호 설계까지 포함합니다.…학습용 데이터셋 생성합성 데이터 생성부터 품질 감사, 스크러빙까지. 학습 데이터가 부족하거나 민감해서 확보하기 어려운 영역을 채우는 엔지니어링입니다.…한국어 특화 모델링형태소·어미 처리를 포함한 한국어 토크나이제이션 전략과 형태소 인지 커리큘럼. 학습과 검색 양쪽에 동일하게 적용합니다.…커스텀 모델 개발 (Company Distro)특정 기업·조직을 위한 전용 모델. 공유 실행 코어 위에 조직 고유의 지식·정책·도구를 올린 배포 형태입니다.…
추론 & 인프라
같은 모델, 몇 배의 비용 효율
분산 GPU 서빙 & 스케줄링여러 GPU·노드에 걸친 대규모 LLM 추론을 지능적으로 스케줄링하는 인프라 역량. KV 캐시 위치를 아는 라우팅, prefill/decode 분리 실행, 카나리…KV 캐시 아키텍처LLM 추론의 병목인 KV 캐시를 체계적으로 관리하는 아키텍처. 신원 기반 캐시 디렉터리, 계층 오프로드, P2P 프리픽스 공유를 포함합니다.…MoE 서빙 (wide EP)대형 MoE(Mixture of Experts) 모델을 여러 노드에 expert-parallelism으로 나눠 서빙하는 역량.…멀티모달 추론텍스트를 넘어 이미지·음성 등 미디어를 다루는 추론 인프라. E/P/D(Encode/Prefill/Decode) 분리 토폴로지와 미디어 인지 라우팅을 포함합니다.…RL rollout 가속강화학습 학습 루프에서 샘플 생성(rollout)을 추론 문제로 다뤄 가속하는 역량. 버스트 스케줄링, 프리픽스 공유 샘플 그룹, straggler 완화를 포함합…GPU 팜 운영GPU 클러스터를 SLO 아래에서 운영하는 역량. 큐 깊이·in-flight·KV 압력 신호 기반의 선제적 오토스케일링, 빠른 모델 actuation, 멀티테넌시…
AI 응용
조직 안에서 실제로 일하는 AI 시스템
한국어 특화 RAG형태소 인지 검색, 권한 인지 플래닝, DLP 마스킹된 근거 답변, 인용 규율을 갖춘 한국어 검색증강생성.…문서 이해 파이프라인문서를 구조화된 지식으로 바꾸는 파이프라인. 품질 계약 기반 OCR, 파싱·청킹, 출처 보존 수집(ingestion)을 포함합니다.…LLM 네이티브 브라우저브라우저 엔진 안에 에이전트를 넣은 방식의 웹 자동화 역량. DOM을 밖에서 해석하는 대신 엔진 수준에서 시맨틱 스냅숏과 통제된 dispatch를 제공합니다.…에이전트 오케스트레이션여러 AI 에이전트를 조직적으로 움직이게 하는 실행 체계. 하트비트 구동 실행, 원자적 작업 클레임, 위임 트리, 임의 런타임용 어댑터 표면을 포함합니다.…AI 워크포스 전환AI 에이전트가 동료로 일하는 조직을 설계하는 역량. 역할과 보고선, 예산, 승인 체인, 감사까지 조직 설계의 언어로 다룹니다.…ViewSpec 렌더링역할·맥락에 따라 다르게 보이는 화면을 spec-driven 게이트로 생성하는 렌더링 체계. Model → Gate → Compiler → Gate → UI 흐름…온프레미스 배포폐쇄망 환경에서의 모델 서빙과 AI 시스템 운영. 오프라인 카탈로그, edge 제약 대응을 포함합니다.…