llama.cpp 1.0 출시 — 버전 번호만 보고 업데이트 위험을 알 수 있게 됐다

llama.cpp와 ggml이 11월 13일 v1.0.0을 냈습니다. 주·부·패치 버전 규칙, 이번에 정리된 API, 새 음성 엔드포인트, Windows에서 받는 방법, 학생 문서를 로컬 AI로 다룰 때의 의미를 공식 블로그와 릴리스 노트 기준으로 정리했습니다.

한 줄로. 내 컴퓨터에서 AI 모델을 돌리는 오픈소스 도구 llama.cpp가 11월 13일(UTC) v1.0.0이 됐습니다. 기능이 갑자기 늘었다기보다, “업데이트해도 내 프로그램이 깨지지 않을지”를 버전 번호만 보고 알 수 있게 약속했다는 점이 핵심입니다.

내용은 Hugging Face의 공식 블로그 글과 GitHub v1.0.0 릴리스 노트를 기준으로 했습니다. 제가 이 PC에서 직접 실행해 속도를 재 본 결과는 아닙니다.

왜 1.0이 중요한가

llama.cpp는 3년 반 동안 많은 앱의 바닥에 깔린 엔진이 됐습니다. 문제는 업데이트할 때마다 함수 이름이 바뀌거나 사라질 수 있어서, 이 엔진을 가져다 쓰는 앱이 갑자기 깨질 위험이 있었다는 점입니다. 공식 블로그는 앞으로 llama.cpp와 ggml이 호환이 깨지는 변화를 주 버전 번호로 드러내겠다고 밝혔습니다.

버전 숫자 세 자리에 담긴 약속

바뀌는 자리 뜻 (공식 블로그 기준) 해야 할 일
첫째 (주 버전) ./include의 공개 C API가 호환되지 않게 바뀜 연동 코드를 다시 점검
둘째 (부 버전) 기능·백엔드·모델 지원 추가, 기존 코드는 그대로 동작 대부분 그대로 업데이트
셋째 (패치) API 변화 없는 버그 수정 안심하고 업데이트

예를 들어 1.0.0 → 1.1.0 → 1.1.3은 “안심 구간”이고, 1.x → 2.0.0은 “점검 구간”입니다. 다만 1.0이 “앞으로 바뀌지 않는다”는 뜻은 아닙니다. 모델을 불러오고 결과가 제대로 나오는지는 업데이트 뒤에도 직접 확인해야 합니다.

v1.0.0에서 실제로 바뀐 것

릴리스 노트에서 눈에 띄는 것만 골랐습니다.

  • 낡은 API 정리. llama.h에서 오래전에 ‘곧 없어짐’ 표시가 붙었던 함수 35개와 llama_set_warmup 등을 지웠습니다. 추측 디코딩(NextN) API는 정식 헤더인 llama.h로 올라왔습니다. 1.0을 내기 전에 묵은 짐을 한 번에 치운 셈입니다.
  • 음성 엔드포인트. llama-server에 OpenAI 호환 /v1/audio/speech 엔드포인트가 생겼고, 음성 합성 모델 drama-3 TTS 지원이 들어왔습니다.
  • 서버 보안 강화. llama-server의 SSRF, CORS, DNS 리바인딩 대응을 손봤습니다.
  • 새 웹 화면. 대화를 묶는 채팅 그룹과 마크다운 편집기가 있는 웹 UI로 바뀌었습니다.

공식 블로그는 지금 150개가 넘는 모델 구조 변형을 지원한다고 밝혔습니다.

Windows에서는 어디서 받나

조금 헷갈리는 부분이 있습니다. v1.0.0 태그 릴리스에는 첨부 파일이 사실상 없습니다(11월 15일 확인 기준 nightly-tag.txt 하나). 실행 파일은 매일 나오는 빌드 번호 릴리스(예: b12387)에 있습니다. 거기에 Windows x64용 CPU, Vulkan, CUDA 12.4·13.5, SYCL, OpenVINO, ROCm 빌드 zip이 올라와 있습니다.

공식 블로그가 밝힌 배포 경로는 GitHub 릴리스 외에 Winget, conda-forge, Docker(Linux), Homebrew 등이 있고, 같은 팀이 만든 데스크톱 앱 Llama도 macOS와 Windows로 나와 있습니다.

학원·학교 문서에는 어떤 의미인가

제가 가장 주목한 부분은 데이터가 컴퓨터 밖으로 나가지 않는다는 점입니다. 학생 이름과 성적이 들어간 상담 메모, 학습 보고서 초안을 클라우드 AI에 보내기 부담스러울 때, 로컬 모델로 요약해 보는 선택지가 생깁니다. llama-server는 OpenAI 호환 API를 주기 때문에, 기존 자동화 스크립트의 주소만 바꿔 시험해 볼 수도 있습니다.

그래도 기대치는 낮게 잡는 게 맞습니다.

  1. 결과 품질은 llama.cpp가 아니라 고른 모델에 달려 있습니다. 같은 주에 한 커뮤니티에는 작은 비전 모델로 오래된 책을 OCR했다가 느리고 결과도 나빴다는 실패기가 올라왔습니다(그 글은 llama.cpp가 아니라 Ollama 사용기입니다).
  2. 작은 모델로 먼저 재 보세요. 몇 쪽, 메모 한 건으로 속도와 품질을 본 다음에 전체를 돌립니다.
  3. 설치 스크립트를 바로 실행하기보다 릴리스 페이지에서 내 PC에 맞는 zip(Windows x64면 CPU 또는 Vulkan)을 받아 정해진 폴더에 풀어 쓰는 편이 관리하기 쉽습니다. arm64 빌드는 x64 PC에서 돌지 않습니다.

확인한 것과 확인하지 않은 것

항목 상태 근거
v1.0.0 출시(2026-11-13 UTC), 주·부·패치 규칙 확인 공식 블로그, GitHub 릴리스
함수 35개 제거, /v1/audio/speech, 서버 보안 강화 확인 v1.0.0 릴리스 노트
Windows x64 빌드는 빌드 번호 릴리스에 있음 확인 b12387 릴리스 첨부 파일
MIT 라이선스, GitHub 별 약 13.5만 개 확인 GitHub API (2026-11-15)
이 PC에서의 실제 속도·품질 미확인 직접 실행하지 않음

출처

Comments

댓글

GitHub 계정으로 의견을 남길 수 있습니다. 댓글은 GitHub Discussions에 저장됩니다.