뉴스
- 화웨이, AI 응답 속도 높였다…“추론 처리량 최대 372% 향상” 화웨이가 차이나모바일 후베이와 함께 AI 추론 가속 솔루션의 상용망 검증을 완료했다. 장문 AI 환경에서 토큰 처리량을 최대 372% 향상시켰다.
- 화웨이, 中 통신사 첫 ‘AI 추론 가속’ 상용망 검증…장문 AI 처리량 최대 372% 향상 화웨이가 차이나모바일 후베이와 함께 중국 통신업계 최초로 ‘AI 추론 가속(AI Inference Acceleration)’ 솔루션의 상용망 검증을 성공적으로 마쳤다. 생성형 AI의 장문 추론 환경에서 토큰(Token) 처리량을 최대 372%까지 높이며 AI 서비스의 대규모 상용화를 위한 핵심 인프라 기술을 입증했다.화웨이는 이번 성과를 지난 24
- 화웨이-차이나모바일 후베이, ‘AI 추론 가속 솔루션’ 상용망 검증 , 64K에서 313%, 128K 장문 환경에서 372% 상승했다.이 결과는 컨텍스트 길이가 길어질수록 AI 추론 가속 솔루션의 강점이 더욱 뚜렷해진다는 점을 보여준다. 설명했다.차이나모바일 후베이 관계자는 “AI 에이전트 상호작용과 코드 생성 같은 시나리오에서 AI 추론 가속 솔루션은 처리량을 50% 이상 높일 수 있어, 차이나모바일 후베이 AI