블로그
-
GPU (Full-Sharded Data Parallel)
DDP와 다르게 GPT-3같은 엄청나게 많은 데이터의 경우 FSDP (Fully sharded data parallel)을 사용하게 됩니다. 아래는 GPT-2 GPU 메모리 필용량 FSDP의 경우 아래와 같이 작용합.......
blog.naver.com · 2026.05.17
-
AI의 진짜 경쟁력은 왜 ‘추론’에서 갈릴까
GPT 이후 초거대 언어모델(LLM) 경쟁이 본격화되면서 파라미터 수, 학습 데이터 규모, GPU 보유량 같은 지표들이 AI 기술력의 상징처럼 여겨졌습니다.
blog.naver.com · 2026.05.11
-
AI 최근 뉴스 스크랩: Open AI 투자 / 5.5버전 출시 / 제미나이 in 크롬
반도체 영향: 30GW는 단순히 GPU 구매를 넘어 자체 칩 개발과 막대한 HBM(고대역폭메모리) 수급이 필수적입니다. ChatGPT 5.5 출시: '워크스페이스 에이전트'와 성능 고도화 GPT-5.5 정식 오픈: 2026년 4월 23일(현지시간) 출시되었.......
blog.naver.com · 2026.04.23
-
“HBM? 다 속았다"… 진짜 부족한 건 ‘SSD’였다
#낸드 #SSD #eSSD #저장장치 #삼성전자 #HBM4 #낸드플래시 #파인튜닝 #공급부족 #연산장치 #병목현상 #데이타창고 #엔비디아 #GPU #CPU #D램 #SK하이닉스 #AI GPT 하나 돌리는데 SSD가 몇 개 들어가는지 아십니까? HBM보다 더 많은 실리콘이… 낸드에 들어갑니다. 지금 이 순간 빅테크들은 HBM이 아니라 S.......
blog.naver.com · 2026.04.17
-
“우주에 데이터센터 띄운다”… AI 시대, 인프라는 이미 바뀌고 있습니다.
스타트업이 실제 위성에 GPU 탑재 AI 모델을 우주에서 직접 구동 창업 2년 만에 기업가치 1조원 돌파 핵심 변화는 명확합니다. “연산력 싸움” GPT, LLM, 자율주행, AI 분석 모든 산업이 데.......
blog.naver.com · 2026.03.31
-
OpenAI 무너지나? SORA2 종료·윤리 붕괴·QUIT GPT운동까지! K-NVIDIA는 반격 시작!-BRANDON TIMES 3월 특집
QUIT GPT 운동부터 성인콘텐츠 논란까지, OpenAI가 흔들리고 있습니다. 대한민국 AI 반도체의 반격! OpenAI의 총체적 위기: Sora 2 종료와 윤리의 붕괴 Sora 2 공식 종료: 천문학적인 GPU 비용 대비 수익성(Monetization) 문제로 인한 전략적 퇴각.
blog.naver.com · 2026.03.30
-
세계 AI 영향력 TOP 10 기업 (엔비디아?, OpenAI)
이유 AI GPU 시장 점유율 약 80~90% 대부분의 AI 모델이 NVIDIA GPU 위에서 작동 CUDA 생태계 장악 대표 제품 H100 B100 AI 서버 칩 OpenAI, Google 대표 기술 GPT 시리즈 DALL-E Sora 특징 ChatGPT로 AI 대중화 멀티모달 AI 선도 AI 스타트업 중 가장 큰 영향력을 가진 회사입니다. 3 Google (특히 Google
blog.naver.com · 2026.03.16
-
아이렌 투자 사유
아이렌의 경우 데이터센터, GPU, 전력, 서버 등 all-inclusive 회사로 다른 AI데이터센터보다 토큰당 비용이 낮아서 경쟁력이 있음. 바이브 코딩 등 AI를 써보면 확실히 가치를 줄 수 있는 서비스이고, 아직까지 일반인들이 쓰는 것은 GPT 정도로 발전할 요소들이 크다고 생.......
blog.naver.com · 2026.03.30
-
[LLM] GPT-OSS-20B 모델로 로컬에서 GPT 모델 구성 (vLLM, Ollama)
목차 개요 vLLM/Ollama 설치 for Windows 11 & WSL GPT-OSS-20B 모델 실행 테스트 스크립트 실행 개요 2025년 8월 5일, GPT-2 이후 첫 번째 오픈소스 모델인 GPT-OSS 시리즈를 OpenAI에서 공개 GPT-OSS-20B 모델 : 16GB 메모리만으로도 실행할 수 있는 강력한 추론 모델, 로컬 환경에서 ChatGPT
blog.naver.com · 2026.02.15
-
‘AI 전쟁’에서 승리하려면
글로벌 AI 평가에서 1위를 차지했다. 4위에 그친 오픈AI의 새 모델 GPT 5.1보다 뛰어나다는 평가를 받았다. 제미나이 3.0이 무서운 것은 엔비디아 그래픽처리장치(GPU)가 아닌, 구글 자체 개발 AI칩 텐서처리장치(TPU)를 중심으로 시스템을 구축한 점이다.
blog.naver.com · 2025.12.02