THINKING MACHINES 대형 모델 Inkling 발표 소식과 Colibri의 GLM 5.2-INT4 모델과 동일하지만 INT8 MTP head를 가져서 더 나은 성능을 보여주는 새 모델이 나왔습니다.
THINKING MACHINES, 첫 Open weight 대형 모델 Inkling 975B (MoE 41GB) 공개
THINKING MACHINES은 7월15일, 총 parameter 975B, 활성 parameter 41GB, 1M context를 가지는 Open Weight 멀티 모달 모델 Inkling을 Huggingface에 공개했습니다. 최근 공개 모델 중, 755B parameter의 GLM 5.2가 Text 입력 위주 모델인데 반해서 Text, image, video, audio 입력 받고, Text 출력합니다.
타 모델 대비 장점:
- 오픈-웨이트 공개: 전체 체크포인트(및 NVFP4 변환본)를 공개해 사용자가 직접 파인튜닝·배포·검증 가능.
멀티모달 범용성: 텍스트뿐 아니라 이미지·오디오 입력을 네이티브로 다룸(예: dMel 스펙트로그램 입력, 40×40 이미지 패치 hMLP 인코딩). - 최대 1M 토큰 컨텍스트(제품 제공에선 64K/256K 옵션 표기) — 장문·문맥 유지에 유리.
- 추론 비용 및 성능 조절: ‘controllable thinking effort (예: 0.2→0.99)’ 파라미터로 토큰 사용량(추론 비용)과 성능 사이의 균형을 조절.
예시: 특정 벤치마크에서 Nemotron 3 Ultra와 비슷한 점수를 더 적은 토큰으로 달성. - 에이전틱/Tool 사용에 강함: 툴셋·스키마 랜덤화로 툴 민감도 감소, 브라우저/코드/에이전트 작업능력 시연(원샷 웹앱 생성·폼 자동작성 등).
- 파인튜닝 친화적: Tinker 플랫폼 통합 및 모델 자체의 ‘자가 재학습’(self-retraining) 데모로 커스터마이즈 사례 제시.
벤치마크:
자체적으로 실시한 벤치 결과를 보면 Agentic Coding 부분에서 GLM 5.2 나 타 Frontier 모델 보다 낮은 점수를 보이기는 합니다.
- 전반적으로 ‘광범위하고 균형 잡힌’ 성능 지향: 텍스트 추론·에이전틱 코드·비전·오디오 등 여러 분야에서 경쟁력 있는 수치
- 비용 효율 측면에서 같은 성능을 더 적은 토큰으로 달성 가능한 경우가 있어 대규모 운영 환경에서 총비용 절감 장점.
보다 자세한 내용은 THINKING MACHINES 발표 내용을 참고하시기 바랍니다.
모델 다운로드:
※ Huggingface: https://huggingface.co/thinkingmachines/Inkling
※ UnSloth 양자화 모델: https://huggingface.co/unsloth/inkling-GGUF (1-bit/2-bit/3-bit/4-bit/8-bit)
(참고) UnSloth 양자화 모델 하드웨어 사양은 아래와 같습니다.
(보너스) mateogrgic/GLM-5.2-colibri-int4-with-int8-mtp
지난 AI 뉴스 훑어보기 – 2026.7.13 에서 소개했던 GLM 5.2-colibri-int4 모델과 완전 동일한 모델입니다. 차이점은 INT4 모델에 비해 INT8 MTP Head를 가지고 있어서 더 나은 인식과 추론 성능을 나타낸다고 합니다. 부가적으로 영어 외 언어도 지원이 된다고 합니다. INT4 모델은 한글 입력하면 오류가 발생하기는 했었습니다.
※ 지난 게시글:
- AI 뉴스 훑어보기 – 2026.7.15
- AI 뉴스 훑어보기 – 2026.7.13
- AI 뉴스 훑어보기 – 2026.7.10
- AI 뉴스 훑어보기 – 2026.7.9
- AI 뉴스 훑어보기 – 2026.7.1
※ 출처: r/LocalLLM, r/openclaw, r/unsloth, r/opencode, r/claude
