ML Intern 전용 모델 개발 가이드: Pocket Rewriter 평가·비용·배포 조건

작은 모델을 회사 업무에 붙일 때 중요한 질문은 ‘얼마나 작은가’보다 ‘같은 일을 검증 가능한 비용으로 끝내는가’입니다. Hugging Face의 10월 8일 ML Intern 사례를 바탕으로 전용 모델 제작과 배포 검토 기준을 정리합니다.

 

ML Intern은 학습 작업을 조율하는 에이전트이고, Pocket Rewriter는 그 과정에서 만들어진 결과물입니다. 도구의 편의성, 모델의 성능, 서비스 운영 조건을 나누어 읽어야 합니다. 자료 확인 기준일은 2026년 10월 10일입니다.

 

---

 

1. 목표보다 먼저 평가 계약을 정합니다

 

개발 요청에는 입력 형식과 기대 출력, 사용할 데이터, 비용 상한을 명확히 적습니다. ‘잘 분류해줘’보다 부서 목록과 애매한 문의의 처리 방법을 지정하는 편이 평가하기 쉽습니다. 학습 전 모델의 결과를 같은 시험 자료에 남겨야 개선 여부를 비교할 수 있습니다.

 

 

 

이 구조에서 담당자는 평가 기준을 승인하고 결과를 검토합니다. 에이전트가 실행에 성공했다고 보고해도 저장한 가중치가 실제로 바뀌었는지, 검증 데이터가 학습 데이터와 섞이지 않았는지 확인해야 합니다. 비용 상한도 재시도를 포함해 관리합니다.

 

---

 

2. Pocket Rewriter의 평가 수치를 읽는 법

 

Pocket Rewriter는 이미지 생성 모델 자체를 작게 만든 것이 아니라, 이미지 요청을 재작성하는 앞단의 텍스트 모델입니다. 출력은 설명과 화면 비율을 담은 JSON입니다. 이후 이미지를 생성하는 모델의 연산 비용은 별도로 남습니다.

 

공식 모델 카드에서 교사 9B와 학생 0.8B를 각각 300개 요청으로 평가했습니다. 0.8B의 JSON 유효 비율은 99.7%, 허용 화면 비율을 출력한 비율은 99.3%였지만, 인용 문구 보존율은 53.1%였습니다. 형식 검사와 내용 검사에 서로 다른 지표가 필요한 이유입니다.

 

학생 모델의 평균 생성 길이는 453.1토큰, 교사는 1,630.8토큰으로 보고됐습니다. 토큰 감소를 API 청구액의 동일한 절감률로 바꾸어 해석해서는 안 됩니다. 로컬 실행에서는 하드웨어·처리량·대기 시간을 함께 측정해야 합니다.

 

---

 

3. 공개된 프롬프트와 재현 자료를 살펴보세요

 

아래는 사례 작성자가 공개한 ml-intern-prompts 저장소의 실제 화면입니다. 작업 요청서와 완성 모델·데이터·실행 앱으로 이어지는 자료를 확인할 수 있습니다. 저장소는 요청서가 9월에 작성됐다고 밝히므로, 10월 8일 사례 공개를 모든 모델의 최초 출시일로 해석하지 않습니다.

 

 

 

감귤 이미지 분류 모델은 공식 카드의 335개 시험 사진에서 학습 전 14.9%, 학습 후 52.8%를 보고했습니다. 같은 시험 자료에서 개선됐다는 점은 의미가 있지만, 절대 정확도와 오분류 사례도 함께 봐야 합니다. 높은 개선 배수만으로 자동 진단 서비스의 적합성을 판단하기는 어렵습니다.

 

---

 

4. 배포는 검증과 예외 전달까지 포함합니다

 

적용 기능을 고를 때에는 반복 입력, 확인 가능한 결과, 담당자 검토 흐름을 함께 봅니다. 아래는 업무 배포를 위한 설계 예시입니다. 작은 모델의 응답을 그대로 업무 시스템에 반영하기보다 허용 값과 형식을 검사하는 계층을 둘 수 있습니다.

 

 

 

예를 들어 접수 내용을 정해진 필드로 추출할 때에는 필수 값과 날짜 형식, 원문에 값이 존재하는지를 검사합니다. 검사에 실패한 항목은 큰 모델에 재요청하거나 담당자에게 전달합니다. 최종 결과에는 원문 위치를 남겨 확인 시간을 줄입니다.

 

처음에는 민감 정보를 제거한 과제로 평가하고 읽기 전용 또는 초안 생성 범위로 운영합니다. 오류 유형이 확인되면 데이터와 평가 기준을 보완한 뒤 범위를 넓힐 수 있습니다. 자동 처리율보다 최종 검증 통과율과 사람의 수정 시간을 먼저 기록하세요.

 

---

 

5. 16달러와 CPU 실행의 실제 의미

 

공개 작업 요청서의 Pocket Rewriter 프로젝트 연산 비용은 16.05달러입니다. 이는 해당 세션의 CPU·GPU 작업 요금이며 인건비·데이터 권리 확보·서비스 구축·상시 운영비를 포함한 견적이 아닙니다. 같은 작업을 다른 데이터와 설정으로 실행하면 비용도 달라집니다.

 

공식 카드는 CPU용 Q8 GGUF 파일 약 812MB를 안내하지만 파일 크기는 실행 메모리 전체가 아닙니다. Xeon 8375C 12스레드 측정에서는 평균 길이의 재작성에 약 66초가 걸렸습니다. CPU 실행은 가능성의 근거이며 실시간 서비스 성능 보장은 아닙니다.

 

---

 

6. 라이선스와 운영 지표로 최종 판단합니다

 

Pocket Rewriter는 교사 출력의 이용 조건을 이어받아 비상업적 연구용으로 배포됩니다. 상업 서비스에는 별도 허가 또는 이용 조건이 맞는 다른 학습 구성을 검토해야 합니다. 기반 모델의 Apache 2.0 표기만 보고 파생 모델도 동일하게 이용할 수 있다고 판단하면 안 됩니다.

 

기업 도입에서는 학습 자료의 외부 전송 가능 여부와 완성 모델의 배포 위치를 따로 정합니다. PoC에서는 검증 통과 건수, 실패 후 재처리 비용, 담당자 검토 시간, 목표 지연 시간을 기록합니다. 이 결과가 기존 API와 자체 운영 중 어느 구성이 적합한지 판단할 근거가 됩니다.

 

---

 

공식 출처·참고 자료

 

Hugging Face — ML Intern 실제 개발 사례

 

Pocket Rewriter 공식 모델 카드 — 평가·CPU 실행·라이선스

 

Citrus Doctor 공식 모델 카드 — 학습 전후 평가

 

사례 작성자의 공개 개발 프롬프트 저장소

 

공개 저장소 화면 출처: yuvraj sharma, ml-intern-prompts, GitHub. 개발 요청서 저장소를 직접 캡처했으며 모델 실행 결과 화면과 구분합니다.

 

---

 

(주)제로원정보기술

 

AI 서비스 개발부터 GPU 서버 공급과 IT 인프라 구축까지 지원합니다.

 

주요 사업
AI 챗봇 · 내부 업무용 AI 서비스 · GPU 및 GPU 서버 공급 · 서버·클라우드 인프라 구축

 

상담 및 구축 문의
전화: 070-8095-9791
이메일: LCH@zerooneit.co.kr

 

본사: 경상북도 영천시 괴연1길 24-24, 경북테크노파크 하이브리드부품연구소 304-2호
지점: 대구광역시 수성구 알파시티1로 42길 11, 태왕알파시티수성 B동 1018호