블로그
- 딥시크, 미니맥스, 바이트댄스 동시에 터진 'AI 빅뱅' DeepSeek V4-Flash: 후반 학습 중심의 코드/에이전트 혁신 핵심 특징: MoE(Mixture of Experts) 아키텍처 기반으로 총 2,840억 개 파라미터 중 130억 개만 활성화하는 경량 구조를 유지하면서, 모델 크기나 구조 변경 없이 후반 학습(Post-training) 재진행만으로 Agent .......
- (속보) 화웨이 어센드 910C 클러스터가 조 단위 모델 “학습”에서 성공적으로 통과:MFU는 30%를 초과했으며, 훈련은 1,500단계 이상 중단 없이 실행되었습니다 V4-Pro의 전체 파라미터 사후 훈련(Post-training). 제로부터 시작하는 사전 훈련(Pre-training)과 비교할 때, 사후 훈련 단계(주로 감독 미세 조정 SFT와 강화 학습 RL을 포함함)은.......