Tech Life

AI 모델을 양자화한 Q4,Q5,Q6 모델이 Context 길이에 비례해서 성능 저하 발생 구간이 어디인지 시험한 결과를 정리한 글입니다. Vibe Coding용 무료 AI 모델 자동 전환...

OpenCode에서 최신 Qwen3.6:35B 사용 방법을 알려 드립니다. Kimi K2.6이 Opus 4.7 대안으로 사용할 만한 후기도 재미있습니다. OpenCode에서 Qwen3.6:35B 사용하기 Qwen 최신 모델인 Qwen3.6:35B를 OpenCode와 사용하기...

Claude Fable 5에 필적한다는 오픈 모델인 GLM 5.2 발표 소식으로 X가 뜨겁습니다. 753B 파라메터를 가진 1M context지원하고, 오픈 모델 중, 코딩 성능은 #1이라고 합니다....

 OpenClaw, Hermes 를 설치하고 실제 사용해 본 사용자 경험담입니다. 막상 OpenClaw, Hermes 설치하고도 어디에 어떻게 사용할 지 몰라서 설치만 하는 분이 많을텐데 실제 사용자...

집에서 사용하는 Linux용 PC 는 없고, Mac Mini (High Sierra) 에서의 docker 는 이러저러한 제약이 있다는 것을 알고서는 Raspberry PI (이하, RPi) 를 이용해서...

  본 글은 CentOS 6.x 기본 방화벽인 IPTable 과 함께 추가적인 Fail2ban 을 사용하여 DDoS 나 Bruetfoce 공격과 같은 침해 시도를 방어하기 위한 보안...

※ 이전 글: On-Prem AI 서비스-(1) dcgm-exporter 구성개인 장비에서 다양한 AI 모델을 시험하다 보니 GPU 자원을 얼마나 사용하는지 소비 전력이나 온도 상승은 어느 정도인지...

※ 이전 글:On-Prem AI 서비스-(1) dcgm-exporter 구성On-Prem AI 서비스-(2) prometheus + grafana 설정On-Prem AI 서비스-(3) Local LLM은 왜 필요할까?On-Prem AI 서비스-(4) OllamaOpen WebUI...

Ollama cloud 사용량을 보여 주는 Chrome 확장입니다. ollama clude 사용량 확인을 위해서는 ollama.com 설정을 방문해야 했는데 이 확장 설치하고 나면 손쉽게 사용량 확인 할...

OpenCode Cheet Sheet,LLM  Fine-Tuning Guide입니다.최강의 LLM Fine-Tuning GuideFull-SFT(완전 파인튜닝), LoRA, QLoRA 등 다양한 파인튜닝 기법 설명. NVIDIA 단일 GPU 환경을 기준으로 설명(향후 멀티-GPU, AMD, 프리트레이닝...