AI 동향

Batch Size가 커질 수록 Speculative decoding 사용이 성능 저하를 가져온다고 합니다. vLLM은 이 문제를 해결할 수 있는 기능이 포함되어 있다 합니다. PrismML의 Bonsai 27B...

MOE 시각화 - 토큰이 MoE 모델을 통해 실제로 어떻게 흐르는지 확인할 수 있는 도구 구축 AI 모델 내부의 토큰 흐름을 시각적으로 보여 주는 것은 AI...

한빛+ 도서 증정 이벤트 놓치지 마십시오. OpenAI에서 4월 22일에 발표한 Workspace Agent, Privacy Filter 소식을 읽어 보십시오. mm find, mm grep, mm cat 이용해서...

오늘 Reddit발 OpenClaw 흥미로운 글이 별로 없었습니다. 대신 Local LLM의 PgAdmin 4 v9.13의 AI Assistant query 도구 관련 내용이 있어서 소개합니다.PgAdmin 4 v9.13 -...

 Ollama Cloud Pro/Max 사용량을 Free Tier 사용량을 이용해 추정했다고 합니다. 추정치를 보면 Local AI agent 또는 coding agent 운영에 ollama cloud도 충분히 매력적입니다. 3월...

최신 OpenClaw 2026.3.22 에서 Whatsapp, Control UI 기능의 심각한 오류가 발견되었다고 합니다. OpenClaw 메모리 관리를 위한 설정법으로 꼽은 것은 무엇일까요? 사용해 볼만한 plugin 은?최고의...

LLM 파인튜닝(SFT/RL)과 RAG 구축을 위해 잡음(노이즈) 데이터를 정제/가공해 주는 DataFlow 소식입니다. 파인튜닝 시도하시는 분들이라면 관심을 가져 보면 좋겠습니다.DataFlow: LLM 데이터 정제·전처리를 위한 오픈소스 데이터...

chatGPT, Claude, Gemini, Perplexity 등과 같은 웹사이트 AI 모델을 하나의 프로젝트나 AI 에이전트 워크스페이스에 REST API나 Websocket SDK 등으로 연결하는 로컬 멀티 AI 서버인...