Tech Life

THINKING MACHINES 대형 모델 Inkling 발표 소식과 Colibri의 GLM 5.2-INT4 모델과 동일하지만 INT8 MTP head를 가져서 더 나은 성능을 보여주는 새 모델이 나왔습니다. THINKING MACHINES,...

오늘은 Claude Code 관련 소식이 많네요. Claude Code 행동 관찰자 앱 AgentWatch, 안드로이드 Local AI Coding agent CODEY-V2, Google TurboQuant 구현 사례 소개, LLM이...

  본 글은 CentOS 6.x 기본 방화벽인 IPTable 과 함께 추가적인 Fail2ban 을 사용하여 DDoS 나 Bruetfoce 공격과 같은 침해 시도를 방어하기 위한 보안...

OpenClaw AI API 호출 비용 절감해 주는 오픈 소스 AI Router인 Manifest, GLM 5.1의 장단점 사용 후기, Qwen3.5 모델 사용 실패 사례와 수정 방안,...

ollama 0.22.0 버전까지 해당하는 보안 취약점 발견 보고입니다. Gemma 4 MTP(Multi-token Prediction) 사용이 가능한 llama.cpp MTP 신규 옵션 관련 소식들이 늘어나고 있습니다. ollama도 MTP...

Part 1. Firmware update ※ 준비물: Raspberry Pi 2 or 3 혹시, 기기를 산 이 후 OS 그대로 사용하고 계시지는 않은가요? 그렇다면, 다음 명령으로 간단하게 Raspberry...

Local LLM 구축의 동기많은 AI 서비스 제공 업체들이 무료/유료 서비스를 제공하고 있기에 간단하게 여러가지 AI를 쉽게 사용 가능합니다. 반대로 Local LLM과 같은 On-Prem AI...

1개 GPU로는 불가능한 대용량 모델 추론을 복수 기기를 이용할 수 있도록 하는 분산 추론 프로젝트 "mesh"가 있습니다. 아직 시작 단계이지만 실제 구현 방안이 소개되어...

이전 글, 라즈베리 파이 전용 키오스크 OS 이용한 대시보드에서는 키오스크 전용 OS 를 이용했습니다. 가장 손쉽게 키오스크 대시보드를 만드는 방법이긴 합니다만 웹 서버를 별도로...

Unsloth 새 버전은 ChatGPT, Claude, Ollama와 같은 외부 모델을 동시 사용 가능하게 바뀌었습니다. Ollama는 GGML 모델이 아닌 GGUF 모델을 바로 사용할 수 있는 Pre-release...