Tech Life

 OpenClaw, Hermes 를 설치하고 실제 사용해 본 사용자 경험담입니다. 막상 OpenClaw, Hermes 설치하고도 어디에 어떻게 사용할 지 몰라서 설치만 하는 분이 많을텐데 실제 사용자...

개인 장비에서 다양한 AI 모델을 시험하다 보니 GPU 자원을 얼마나 사용하는지 소비 전력이나 온도 상승은 어느 정도인지 GPU 모니터링 필요성이 느껴졌습니다. 이에 간단히 구성...

한빛+ 도서 증정 이벤트 놓치지 마십시오. OpenAI에서 4월 22일에 발표한 Workspace Agent, Privacy Filter 소식을 읽어 보십시오. mm find, mm grep, mm cat 이용해서...

오늘 소식은 Hermes 게시판에서 가져왔습니다. 올 초 OpenClaw 광풍이 불더니 현재는 Hermes로 관심사가 이전해서 많은 사람이 OpenClaw 언급 보다 Hermes 언급을 많이 하고 시도하고...

ollama 0.22.0 버전까지 해당하는 보안 취약점 발견 보고입니다. Gemma 4 MTP(Multi-token Prediction) 사용이 가능한 llama.cpp MTP 신규 옵션 관련 소식들이 늘어나고 있습니다. ollama도 MTP...

Nvidia에서 Qwen3.6-27B-FP8의 양자화 모델인 Qwen3.6-27B-NVFP4 모델을 공개했습니다. 파라미터수와 파일 크기는 줄어들었지만 성능은 원 모델 성능과 대등한 결과를 보인다고 합니다. Local Ollama 사용하시는 분들을 위한...

요즘은 바야흐로 영상의 시대라고 할 정도입니다. 미디어 세대라고 불릴 정도로 문자 위주의 검색이 아닌 동영상 위주의 검색이 활발하다고 합니다. 이러다가는 기존 검색 업체들이 문을...

CUDA 지원 ffmpeg 빌드ffmpeg의 decode/encode에 Nvidia GPU를 사용하면 변환 속도를 향상 할 수 있습니다. CUDA를 지원하도록 빌드한 ffmpeg은 없는지 소스 빌드를 하도록 안내를 하고...

오늘은 Local AI 모델 사용 후기입니다. 12GB VRAM에서 Qwen3.6-35B-A3B Q5_K_M 모델 실행하기 위한 llama.cpp 옵션, 7900 XTX 에서 TurboQuant + MTP 를 위한 llama.cpp...

※ 이전 글: On-Prem AI 서비스-(1) dcgm-exporter 구성개인 장비에서 다양한 AI 모델을 시험하다 보니 GPU 자원을 얼마나 사용하는지 소비 전력이나 온도 상승은 어느 정도인지...