블로그
- Local LLM 모델에 대한 내용이해 Local LLM 모델에 대한 내용 이 내용은 LM Studio를 이용하여 google/gemma-4-e4b 모델을 이용하여 나타난 대화의 내용을 가져와서 정리한 것입니다. 박중희 연세대 심리학과 겸임교수 생성형 인공지능의 이해 local llm, ollama, lm studio. open-webui등을 사용하여 chat을 동작시키는 것과 이를 이용한
- 메모리 바꾸면 LLM 속도 얼마나 빨라질까? (고든의 과학 TV) #고든의과학TV#유튜브#메모리#DDR5#LLM
- OpenCode 환경에서 비교하는 로컬 LLM 3종 코딩 테스트 결과 왜 단순 코딩 능력이 아닌 에이전트 능력인가? 로컬 LLM의 코딩 능력이 상향 평준화되면서, OpenCode 같은 에이전트 환경에서 문제를 알아서 끝까지 해결하는 능력이 실사용 만족도를 좌우하게 되었습니다. 여기서 말하는 에이전트 능력이란 단순히 코드를 잘 작성하는 능력이 아니라, 주어
- 인공지능 AI 최신 LLM 모델 대규모 언어 모델 (large language model, LLM) 오픈형 모델 앤트로픽 Anthropic : 클로드 페이블 5 (Claude Fable 5) 클로드 미토스 5 (Claude
- 각종 local llm 에러들.. 이라고 썼지만 기억나는 것들 위주로. token이 넘어셨다는 에러.. 특히나 context가 적을 때 발생한다. 그리고 100K가 넘으면 발생율이 떨어지는 것은 확실하다. 그리고 parallel = 2이상할 때 context의 반 되는 시점에 input token이 context 크기의
- gemma4 local llm 연동 참고 우리집 openclaw가 문서를 찾은게 있어 적어둔다.. 내가 보긴 해야 할 것 같아서. https://codex.danielvaughan.com/2026/04/10/gemma-4-local-model-codex-cli-complete-setup-guide/
- [LLM] Reasoning Model 기존의 LLM Reasoning Model이 제시되기 전의 LLM들은 단순하고 직관적인 형태를 거쳤다. 물론 LLM 특유의 구조 때문에 내부적으로 Token과 Attention 단위의 병렬 추론과 예측을 이래저래 돌리긴 하지만, 거기서 더.......
- ollama 임베딩 하는 것이 LLM 모델에 따라 다른가? ollama 임베딩 하는 것이 LLM 모델에 따라 다른가? Ollama 에서 LLM 와 대화하는데 필요한 임베딩 처리된 내용이 호환 되는지 알고 싶다 LLM 모델을 변경하더라도 기존에 생성된 벡터 데이터베이스의 인덱스를 그대로 사용할 수 있습니다
- 랭체인으로 LLM 기반의 AI 서비스 개발하기 - 서지영 실제 LLM 서비스를 OpenAI 나 다른 API 서비스를 받으면 비용이 발생하니까, 로컬 LLM 으로 Ollama 나 LM Studio 도 알아보게 되고, 이들 기반의 예제 코드도 로컬 LLM 에서 사용되는 언어모델도 굉장히 많은 모델들이 있는데, 플랫폼(?)
- 전문가 라우팅 기반 고충실도/고효율 LLM 워터마킹 WaterMoE 전문가 라우팅 기반 고충실도/고효율 LLM 워터마킹 WaterMoE AI 텍스트의 출처를 확인하며 성능과 효율을 동시에 잡는 워터마킹 기술 대규모 언어모델은 우리 일상의 곳곳에 빠르게