디바이스 위에서 뛰는 빠른 사적 에이전트, LFM2.5-24B-A2B
24B 중 토큰당 2B만 깨우는 MoE로 로컬에서 에이전트를 돌리겠다는 Liquid AI의 제안을 뜯어봅니다. 속도, 프라이버시, 배포 조건까지 함께 읽습니다.
기술 & 혁신
기업 AI를 작동하게 하는 기술
모델, 추론, 에이전트 실행과 시스템 설계에서 직접 확인한 원리, 구현 선택과 새로운 가능성을 설명합니다.
글 목록
Hugging Face와 Cerebras가 Gemma 4를 실시간 음성 AI로 가져온 이유
Hugging Face와 Cerebras가 Gemma 4를 실시간 음성 대화에 올린 배경과 구조를 허브 유통부터 웨이퍼 스케일 추론과 전체 음성 파이프라인까지 따라가며 읽습니다.
oMLX를 만든 준 킴이 허깅페이스에 합류한 이유
oMLX를 이끌어온 준 킴의 허깅페이스 합류 소식을 따라가며 MLX와 애플 실리콘 로컬 추론의 현재 위치와 남은 과제를 정리합니다.
토크나이저 v1, 인코딩과 디코딩과 확장을 직접 재다
Hugging Face의 tokenizers v1 측정 글을 따라 인코딩과 디코딩의 비대칭, 왕복 정확도, 길이와 배치와 동시성에 따른 병목을 살펴봅니다.
Transformers에서 llama.cpp 양자화 모델을 바로 돌린다
GGUF 파일을 변환 없이 from_pretrained로 불러오는 통합이 로컬 추론의 풍경을 어떻게 바꾸는지 해설합니다
Holo4, 컴퓨터를 직접 쓰는 에이전트를 받치는 법
Hcompany의 Holo4 글을 따라가며 화면 이해와 좌표 지정, 계획과 실행, 긴 작업의 신뢰성, 학습과 평가, 권한 문제를 함께 읽습니다.
환경까지 허브에 올리면 강화학습이 달라진다
Hugging Face 허브의 강화학습 환경 공유를 에이전트와 데이터셋, 재현성 구조 중심으로 읽고 한 줄 공유와 버전 고정이 바꾸는 연구 흐름을 따라간다.
에이전트는 끝났다고 말했다. 그런데 데이터베이스는 고개를 저었다
말은 매끄러운데 저장이 안 되어 있다면요. Microsoft가 다룬 에이전트의 거짓 완료 문제를 따라가며 호출과 커밋의 차이, 읽기로 확인하는 습관, 멱등성과 원자성, 그리고 운영 가드레일을 정리합니다.
Falcon ASR 소개, 음성을 글로 바꾸는 열린 앞단
TII UAE의 Falcon ASR이 음성을 텍스트로 바꾸는 방식과 다국어 전사, 구두점과 타임스탬프, 잡음과 긴 오디오 대응, 그리고 음성 에이전트로 이어지는 길을 따라가 봅니다.
하나의 모델 집안에서 나온 두 개의 금메달급 결과
같은 Nemotron 뿌리에서 갈라진 두 파생 모델이 IOI와 IMO 금메달 기준에 도달한 과정을 강화학습과 검증 가능한 보상, 도구 연동, 긴 추론의 관점에서 풀어낸 해설
없는 모델은 기다리지 않고 직접 만들면 됩니다
Hugging Face ML Intern으로 103달러에 여섯 개의 맞춤 모델을 만든 기록을 따라가며 평가와 데이터와 증류가 어떻게 맞물리는지 읽어봅니다
엣지에서 바로 결정하는 멀티모달 오픈 d1
토큰을 생성하지 않고 한 번의 패스로 답하는 Liquid AI의 d1-3B와 d1-omni-600M을 엣지 지연, 벤치마크, 실전 운용 관점에서 읽어봅니다.