블로그
- CXL 경쟁 본격화 : AI 추론 시대의 CXL Fabric 경쟁과 차세대 AI 메모리 아키텍처의 진화 Executive Summary 생성형 AI가 학습(Training) 중심에서 추론(Inference) 중심으로 전환되면서, AI 인프라의 병목이 GPU 연산 성능에서 메모리 용량과
- 데이터센터용 GPU(Data Center GPU) 시장 보고서 세계의 데이터센터용 그래픽처리장치(GPU) 시장은 2026년에 354억 달러 규모에 달하고, 예측 기간 동안 CAGR 33.2%로 성장하여 2034년까지 3,510억 달러에 달할 것으로 (Inference and Training), End User and By Geography ⊙ 리서치사 : Stratistics Market Research Consulting
- AI 무게중심 '추론'으로 국산 NPU 시대 열린다 인공지능(AI) 서비스 시장의 패러다임이 거대 모델의 거듭된 '학습(Training)' 단계를 넘어, 실제 사용자에게 서비스를 제공하는 '추론(Inference)' 중심으로 급격히 이러한 흐름 속에서 엔비디아의 독점적인 그래픽처리장치(GPU) 인프라가 초래한 천문학적인 전력 비용과 높은 대기 시간(Latency)을 극복하기 위해, 생성형 AI 추론에 특화된 국산
- 엔비디아 GPU보다 58배 크고 15배 빠른 AI 칩 만들어 시스템즈(Cerebras Systems)가 단일 칩 형태가 아닌 반도체 웨이퍼 전체를 하나의 거대한 칩으로 만드는 ‘웨이퍼 스케일 엔진(WSE)’ 기술을 통해 엔비디아 최고 사양 GPU 이 소식은 최근 테크 업계가 AI 모델 '학습(Training)'을 넘어 실시간 연산 및 응답을 처리하는 '추론(Inference)' 성능 극대화 경쟁에 돌입한 가운데 큰 주목을 받고
- SK텔레콤, NVIDIA와 함께 한국형 AI Factory 시대를 연다 여기서 AI Cloud는 기존 클라우드와는 다른 개념으로, 단순히 서버를 임대하는 것이 아니라 대규모 GPU 인프라를 활용해 AI 모델 학습(Training), 추론(Inference
- 26.4.27.(월)CPU 화려한 귀환… 인텔·AMD 주가 훨훨/AMD 핵심은 단순 반등이 아니라 AI 구조 변화(2단계 진입) * GPU: 학습(Training) * CPU: 실행·판단(Agent, Inference) CPU 수요가 구조적으로 다시 과거 상황 반영 시장 분석 (1) 1차 사이클: GPU 독주 시대 AI 초기 시장은 완전히 NVIDIA 중심 * 대형 모델 학습 → GPU 필수 * 데이터센터 투자 → GPU 몰림
- NVIDIA GTC 정리- 2편 What is the Vera Rubin? (베라 루빈?) Vera Rubin NVL72 Compute Tray (연산 트레이) - 주요 칩셋: 베라(Vera) CPU + 루빈(Rubin) GPU + 그레이스 블루필드(Grace BlueField ) + 커넥트X-9(ConnectX-9) - 핵심 역할: AI 모델의 학습(Training)과 거대 모델 추론을 담당하는 메인 엔진입니다. - 설명: 엔비디아의 최첨단 '루빈 GPU'와
- “메모리 슈퍼사이클 끝 안 난다”…메모리 부족, 이제 시작일 뿐 #메모리슈퍼사이클 #삼성전자 #SK하이닉스 #엔비디아 #GPU #CPU #NAND #eSSD #범용D램 #HBM4 #D램 #AI #AI반도체 #인공지능 #메모리반도체 #메모리부족 # 마이크론 #사이클산업 #AI인프라 #KV-캐쉬 #학습 #Training #추론 #Inference #AI의인간화 지금 시장은 아직도 AI 시대의 주인공을 GPU라고 생각합니다.
- NVIDIA GTC 2026, AI 팩토리와 인퍼런스 경제를 시장은 어떻게 읽어야 할까 NVIDIA GTC 2026 키노트는 새 GPU 발표만으로 읽으면 핵심을 놓치기 쉽습니다. 쉽게 말하면 학습(Training)은 모델을 만드는.......
- AI 에이전트의 확대로 인한 엔비디아 VS 커스텀칩/메모리업체 Gemini AI 에이전트의 생태계가 확장되는 과정에서 엔비디아의 GPU와 대역폭을 확장한 커스텀 칩(NPU, ASIC, LPU 등) 중 어떤 것이 더 중요한지는 **'학습(Training CPU는 양쪽 모두에 필수적입니다 (지휘자 역할) 말씀하신 것처럼 GPU 기반이든 커스텀 칩 기반이든 시스템을 구성할 때 CPU는 반드시 필요.......
1 페이지
다음 →