AI 동향

실제 Local LLM 사용 후기를 읽는 것은 즐겁습니다. Local OCR 정확도를 높이기 위해 Andrej Karpathy's Autosearch 적용해 본 이야기, 서로 다른 세대의 GPU 2대...

socOCRbench, vLLM 모델들의 OCR 벤치 결과를 이용하면 적절한 비용으로 원하는 품질을 얻을 수 있는 모델을 선택하기 쉬울 겁니다. 또, Local AI 모델 훈련/실행할 수...

On-device용 tool routing에 활용 가능한 MiniCPM5-1B, 코드를 지식 Graph로 변경해 주는 Graphify, CodeGraph, 동영상 아바타 제작 오픈 소스 모델인 LongCat-Video-Avatar 1.5, 공급자 공격 노출...

1개 GPU로는 불가능한 대용량 모델 추론을 복수 기기를 이용할 수 있도록 하는 분산 추론 프로젝트 "mesh"가 있습니다. 아직 시작 단계이지만 실제 구현 방안이 소개되어...