Tech Life

Nvidia에서 Qwen3.6-27B-FP8의 양자화 모델인 Qwen3.6-27B-NVFP4 모델을 공개했습니다. 파라미터수와 파일 크기는 줄어들었지만 성능은 원 모델 성능과 대등한 결과를 보인다고 합니다. Local Ollama 사용하시는 분들을 위한...

Baidu에서 공개한 Unlimited-OCR. 기존 OCR 모델들이 가지는 제약 사항인 100페이지나 되는 대용량 문서 분석도 가능하다고 해서 기대하고 있습니다. Baidu, Unlimited-OCR 공개 2일 전, Baidu에서 Unlimited-OCR을 발표했습니다....

Unsloth에서 GLM 5.2 양자화 모델을 공개했습니다. 개인 기기는 2-bit 모델(82% 정확도)이 최대일 것 같고, 가성비로는 4-bit 모델(98% 정확도)일 것 같습니다. Unsloth, GLM 5.2 실행 가이드 Unsloth에서...

오픈 모델인 GLM 5.2 지식 증류를 통해서 보다 작게 경량화 모델을 Local에서 실행하면서 확인한 VRAM 사용량입니다. GLM 5.2는 최고의 Local AI 어제 AI 뉴스 훑어보기 –...

Claude Fable 5에 필적한다는 오픈 모델인 GLM 5.2 발표 소식으로 X가 뜨겁습니다. 753B 파라메터를 가진 1M context지원하고, 오픈 모델 중, 코딩 성능은 #1이라고 합니다....

실제 Balatro 게임을 이용해서 LLM 성능을 벤치하는 도구인 Evalatro. 재미난 아이디어가 아닐 수 없습니다. 실제 Balatro 게임을 보유하고 계신 분들께서는 한 번 실험해 보시기...

Gemma4+Ollama+Obsidian이용한 자신만의 로컬 지식 저장소 구축 방법, Unsloth로 Gemma4-12B-QAT 훈련한 모델에서 도구 호출이 안되는 문제, QAT 성능이 좋지 않을 수도 있다는 시험 결과, 3090에서...

OpenClaw와 Claude Code/Codex를 조합해서 사용하는 방법, Strix Halo, AMD Ryzen AI MAX+ 395 로컬 LLM 시험 결과, agmsg와 동일하게 Claude Code agent간 대화가 가능하게...

ollama.com 모델별 TPS 성능 시험한 결과가 흥미롭습니다. Claude의 Dynamic Workflow를 Codex에서도 사용 가능하도록 만들어 주는 Skill도 흥미롭습니다. ollamatps.com - ollama 모델별 TPS(요청 처리 속도)를 벤치마크 작성자는...

로컬 추론 성능이 메모리 대역폭에 좌우되는 시대라는 분석, AI로 수익을 창출할 수 있는 것은 무엇일지, AI 에이전트를 위한  HTML-비디오 변환 도구 HyperFrames 리뷰, Opus...