블로그
-
[LLM] mlx로 모델 올려서 사용해보기 (MacOS)
MacOS 환경에서 로컬 LLM을 서빙해서 사용하는 방법을 간단히 정리해본다. 서빙 도구로는 mlx-lm&mlx-vlm을 선택했다. MacOS 환경에서는 Ollama보다는 mlx 자체 스택이 kv 캐시 같은 최적화 대응이 좀 더 잘 되어있기 때문이다. 서빙 도구 Ollama를 쓰
blog.naver.com · 2026.07.21
-
온디바이스 LLM 구성
모델 포맷: LLM 모델의 구조와 4비트 양자화 가중치를 하나의 파일로 통합한 GGUF 포맷을 사용합니다. 말씀하신 '압축 파일 형태'에 정확히 부합합니다.
blog.naver.com · 2026.06.23
-
Qwen 3.8 27B - 강력해진 로컬 LLM. 코딩/에이전트 가성비 킹?
지난 8월 14일 공개된 알리바바의 Qwen 3.8 27B Dense 모델이 27B 모델 가운데서도 놀라운 수준의 에이전트/코딩 성능으로 화제를 일으키고 있습니다. 개인적으로 받아서 사용 중인데, 실제 R 코딩에서도 연구 분석에 필요한 코딩 작업에 이전 모델보다 훨씬 나은 성능을 보여주
blog.naver.com · 2026.08.18
-
내 사업은 LLM 중력권 안에 있는가?
[기고] 내 사업은 LLM 중력권 안에 있는가? “언젠가 거대언어모델(LLM)이 내 서비스를 잡아먹는 것 아닐까?” 얼마 전 지인으로부터 “LLM 중.......
blog.naver.com · 2026.07.17
-
LLM 거대 언어 모델 등장 이후 철학 논쟁
그러나 대형언어모델(LLM)의 등장은 이 오랜 신뢰의 계약을 단숨에 파기했습니다. 기계는 인간보다 더 매끄러운 문장을 구사하고, 시를 쓰며, 철학적 토론을 나눕니다.
blog.naver.com · 2026.08.02
-
Google AI Pro 월 7,300원 AI LLM 경쟁심화
구글이 2026년 8월 20일 대학생 및 대학원생을 대상으로 새로운 제미나이 학생 혜택을 발표했습니다. 자격을 갖춘 대학생이라면 Google AI Plus를 12개월 동안 무료로 이용할 수 있고, Google AI Pro는 최대 74% 할인된 월 7,300원에 최대 4년간 이용할 수 있
blog.naver.com · 2026.08.21
-
Google AI Pro 월 7,300원 AI LLM 경쟁심화
구글이 2026년 8월 20일 대학생 및 대학원생을 대상으로 새로운 제미나이 학생 혜택을 발표했습니다. 자격을 갖춘 대학생이라면 Google AI Plus를 12개월 동안 무료로 이용할 수 있고, Google AI Pro는 최대 74% 할인된 월 7,300원에 최대 4년간 이용할 수 있
blog.naver.com · 2026.08.21
-
AI Basic - LLM 길들이기
2022년 말 챗 GPT의 등장 이후 대규모 언어 모델(LLM)은 가장 빠르게 발전하는 기술 중 하나로 자리 잡았다. LLM 길들이기 최근 AI 열풍과 함께 GPU, HBM, 엔비디아, 삼성전자, SK하이닉스 같은 키워드가 뉴스에 자주 등장한다.
blog.naver.com · 2026.06.27
-
로컬 LLM 과 AI 에이전트를 내 손안에, 아두이노 우노 Q 파헤치기!
안녕하세요, 나도메이커입니다:) 요즘 AI 는 어디를 가나 매일같이 들려옵니다. 최근 엣지 AI 트렌드는 한 걸음 더 나아가고 있는데요. "지금 여기서 무슨 일이 벌어지고 있지?" "이 정보가 뭘 의미하지?" "다음에 어떤 행동을 해야하지?" 까지 스스로 판단하는 방향으로 가고 있습니다
blog.naver.com · 2026.08.19
-
최선단 LLM, 해자가 있나?(Kimi 3 코멘트)
최근 중국모델 Kimi K3가 OpenAI, 앤트로픽의 최고 모델급 성능을 낸다는 소식이 이슈가 되고있음. OpenAI, 앤트로픽은 큰 적자를 감수하면서 운영하고있는 와중에 유저를 모으는 가장 큰 동인이 최고급 모델의 경쟁력이다보니, 위 소식이 사실이라면 두 회사는 큰 타격을 입을 수
blog.naver.com · 2026.07.18
