뉴스
- AI 반도체 전쟁, 학습에서 추론으로… ‘메모리 벽’ 깨는 d-매트릭스[최중혁의 월가를 흔드는 기업들-창업가편] 지난 몇 년간 업계의 관심은 모델을 만드는 ‘학습(training)’에 쏠려 있었다. 더 큰 모델을 더 빨리 훈련하기 위해 그래픽처리장치(GPU)를 얼마나 확보하느냐가 경쟁력의 척도였다.
- GMI Cloud, 글로벌 AI 인프라 확장에 힘입어 ARR 전년 대비 8배 성장 달성 확보된 계약은 신규 전력 및 GPU 인프라가 순차적으로 가동됨에 따라 올해 안에 Live ARR로 단계적으로 전환될 예정입니다. GMI Cloud는 NVIDIA GPU 인프라와 AI에 최적화된 클라우드 및 추론 서비스를 결합해 모델 학습, 포스트 트레이닝(Post-training), 파인튜닝(Fine-tuning
- AI 모델을 설계한 자가 칩을 설계한다 훈련(Training)은 대규모 데이터로 모델을 학습시키는 과정으로 한 번의 대규모 투자로 끝납니다. 반면 ASIC은 추론에 필요한 계산만 하도록 설계되어 범용 GPU 대비 단위 추론당 비용을 30~50% 절감할 수 있습니다.