Tech Life

AI 모델을 양자화한 Q4,Q5,Q6 모델이 Context 길이에 비례해서 성능 저하 발생 구간이 어디인지 시험한 결과를 정리한 글입니다. Vibe Coding용 무료 AI 모델 자동 전환...

OpenClaw 기반 AI 에이전트가 "대화 중 기억을 잃어 버리는" 문제를 5일간 분석·수정하여 문제를 개선한 방법들을 정리했다.I Spent 5 Days Fixing My AI Agent's Memory....

  평소 부하가 적은 대시보드로 사용 중인 장비인데 부하가 점점 증가해서 전체적으로 성능이 저하되는 문제가 반복되었습니다. CPU 부하를 보니 kidle_inject 라는 프로세스가 CPU 부하를...

Local LLM 구축의 동기많은 AI 서비스 제공 업체들이 무료/유료 서비스를 제공하고 있기에 간단하게 여러가지 AI를 쉽게 사용 가능합니다. 반대로 Local LLM과 같은 On-Prem AI...

OS: Ubuntu 20.04.3현상Ubuntu 설치 이미지에 포함되어 있는 패키지는 최신 버전이 아닌 상태일 가능성이 크기 때문에 Ubuntu 설치하고 나서 바로 설치 패키지 업데이트해야 합니다....

socOCRbench, vLLM 모델들의 OCR 벤치 결과를 이용하면 적절한 비용으로 원하는 품질을 얻을 수 있는 모델을 선택하기 쉬울 겁니다. 또, Local AI 모델 훈련/실행할 수...

※ 이전 글: On-Prem AI 서비스-(1) dcgm-exporter 구성개인 장비에서 다양한 AI 모델을 시험하다 보니 GPU 자원을 얼마나 사용하는지 소비 전력이나 온도 상승은 어느 정도인지...

 Ollama Cloud Pro/Max 사용량을 Free Tier 사용량을 이용해 추정했다고 합니다. 추정치를 보면 Local AI agent 또는 coding agent 운영에 ollama cloud도 충분히 매력적입니다. 3월...

인터넷을 통한 기업 홍보, 판매를 하는 대부분 기업의 주요 관심은 인터넷 매장을 찾는 방문자를 늘리거나, 온라인 매장에서 보다 오랜 시간 동안 머무르게 하거나, 보다...

흥미로운 AI 기술 자료를 수집/정리했습니다. 오늘은 OpenClaw 신규 버전 출시,OpenClaw AI Token 사용료 절감 방법, AI agent를 위한 instagram인 Agentgram, Qwen 3.5의 Fine Tuning...