AI 동향

Local LLM 구성하실 때 참고하실 실리콘 MAC 관련 벤치마크 정보와 네이티브 MTP 추론 엔진 MTPLX, Ollama Cloud 모델별 응답 성능을 보여 주는 대시보드 사이트...

OpenClaw AI API 호출 비용 절감해 주는 오픈 소스 AI Router인 Manifest, GLM 5.1의 장단점 사용 후기, Qwen3.5 모델 사용 실패 사례와 수정 방안,...

 OpenClaw, Hermes 를 설치하고 실제 사용해 본 사용자 경험담입니다. 막상 OpenClaw, Hermes 설치하고도 어디에 어떻게 사용할 지 몰라서 설치만 하는 분이 많을텐데 실제 사용자...

오늘 소식은 Hermes 게시판에서 가져왔습니다. 올 초 OpenClaw 광풍이 불더니 현재는 Hermes로 관심사가 이전해서 많은 사람이 OpenClaw 언급 보다 Hermes 언급을 많이 하고 시도하고...

Nvidia에서 Qwen3.6-27B-FP8의 양자화 모델인 Qwen3.6-27B-NVFP4 모델을 공개했습니다. 파라미터수와 파일 크기는 줄어들었지만 성능은 원 모델 성능과 대등한 결과를 보인다고 합니다. Local Ollama 사용하시는 분들을 위한...

Unsloth에서 GLM 5.2 양자화 모델을 공개했습니다. 개인 기기는 2-bit 모델(82% 정확도)이 최대일 것 같고, 가성비로는 4-bit 모델(98% 정확도)일 것 같습니다. Unsloth, GLM 5.2 실행 가이드 Unsloth에서...

오픈 모델인 GLM 5.2 지식 증류를 통해서 보다 작게 경량화 모델을 Local에서 실행하면서 확인한 VRAM 사용량입니다. GLM 5.2는 최고의 Local AI 어제 AI 뉴스 훑어보기 –...

ollama 0.22.0 버전까지 해당하는 보안 취약점 발견 보고입니다. Gemma 4 MTP(Multi-token Prediction) 사용이 가능한 llama.cpp MTP 신규 옵션 관련 소식들이 늘어나고 있습니다. ollama도 MTP...

Baidu에서 공개한 Unlimited-OCR. 기존 OCR 모델들이 가지는 제약 사항인 100페이지나 되는 대용량 문서 분석도 가능하다고 해서 기대하고 있습니다. Baidu, Unlimited-OCR 공개 2일 전, Baidu에서 Unlimited-OCR을 발표했습니다....

Gemma4+Ollama+Obsidian이용한 자신만의 로컬 지식 저장소 구축 방법, Unsloth로 Gemma4-12B-QAT 훈련한 모델에서 도구 호출이 안되는 문제, QAT 성능이 좋지 않을 수도 있다는 시험 결과, 3090에서...