비싼 GPU가 노는 시간을 줄이는 법
수천만 달러짜리 GPU 클러스터가 절반만 일하는 이유를 따라가며 gang scheduling과 topology 배치와 bin packing과 탄력적 스케줄링이 실제 처리량을 어떻게 바꾸는지 풀어낸 실용 해설
기술 & 혁신
기업 AI를 작동하게 하는 기술
모델, 추론, 에이전트 실행과 시스템 설계에서 직접 확인한 원리, 구현 선택과 새로운 가능성을 설명합니다.
글 목록
페이지 2
최대 3.2배 빠른 추론, LFM2.5-DSpark가 가리키는 방향
Liquid AI의 LFM2.5-DSpark가 말하는 최대 3.2배 빠른 추론의 조건과 구조를 해설합니다. 어텐션과 KV 캐시, 양자화와 희소성, 하드웨어 맞춤 커널이 서빙 비용을 어떻게 바꾸는지 짚어봅니다.
NCCL 없이 버킷과 프록시로 잇는 비동기 GRPO와 LoRA
Hugging Face Jobs 환경에서 NCCL 대신 버킷과 프록시로 롤아웃과 학습을 분리하고 LoRA 어댑터만 주고받는 비동기 GRPO 구조를 따라가며 왜 이런 설계가 나왔는지 읽는다.
흩어진 커널을 허브로 모으겠다는 선언
Hugging Face의 Kernels 업데이트를 따라가며 버전 관리 허브, 실행 시점 디스패치, autotuning과 캐시, Transformers 통합이 추론 현장에서 무엇을 바꾸는지 해설합니다.
LeRobot v0.6.0, 상상하고 재고 고치는 로봇 학습
Hugging Face의 LeRobot v0.6.0이 묶은 Imagine, Evaluate, Improve 고리를 따라가며 데이터 규격과 평가, 반복 개선이 로봇 학습을 어떻게 바꾸는지 읽어봅니다.
어느 클라우드에서 돌리든 저장은 허깅페이스에
SkyPilot으로 멀티클라우드 GPU를 오가며 Hugging Face Hub에 데이터와 체크포인트를 두는 제로 이그레스 패턴을 따라가 봅니다.
PRX 4편, 데이터 전략을 다시 읽다
Photoroom의 PRX 연재 네 번째 글에 담긴 데이터 수집과 평가, 계보 관리와 운영 피드백의 연결을 따라가며 실무 관점에서 해석합니다.
OlmoEarth 임베딩 출시, Studio에서 고른 구역과 기간을 벡터로 꺼내는 이유
AllenAI의 OlmoEarth 임베딩과 Studio 맞춤형 임베딩 익스포트를 해설합니다. 전이 가능한 벡터 피처가 분류와 클러스터링, 변화 탐지와 검색으로 이어지는 과정, 지리참조와 메타데이터, 버전 관리와 재현성, 규모가 커질 때의 저장과 계산과 정규화, 그리고 라벨이 부족한 검증의 어려움을 다룹니다.
Gradio Workflow로 AUTOMATIC1111을 다시 지으면 생기는 일
한때 Stable Diffusion의 얼굴이었던 AUTOMATIC1111을 요즘 Gradio와 Diffusers로 다시 만들면 구조와 운영이 어떻게 바뀌는지 풀어봅니다.
100번의 GRPO 스텝으로 350M 모델의 구조화된 출력을 바로잡는 법
그룹 상대 정책 최적화로 350M 소형 모델의 JSON 유효성과 스키마 준수율을 100 스텝 만에 끌어올리는 실용적 미세조정 해설
작품 위에 지어진 모델을 지워달라는 요구
Seattle Times와 Newsday가 OpenAI와 Microsoft를 상대로 낸 침해 소송 소식을 따라가며 작품 이용 주장과 모델 파기 청구라는 대목이 거버넌스에서 무엇을 묻는지 풀어봅니다.
전쟁 속 뉴스룸을 지키는 일에 AI가 기여하는 방식
OpenAI와 AIRPPU, WAN-IFRA가 우크라이나 독립 언론을 돕기 위해 시작한 AI 프로그램의 취지와 뉴스룸에서의 실제 의미를 해석합니다.