뉴스
- 디노티시아, AI 병목 'KV 캐시' 20배 압축하는 기술 공개 디노티시아는 새로운 KV 캐시 압축 기술 'STAR-KV' 논문과 소스코드를 공개했다고 2일 밝혔다. KV 캐시는 거대언어모델(LLM)이 이전에 읽은 문맥을 다시 계산하지 않도록 그래픽처리장치(GPU)에 저장해두는 임시 기억 공간이다.
- 대구보건대, AI·바이오 융합기술 조명…'STAR+ 미래혁신포럼' 개최 대구보건대학교 신산업STAR사업단은 지난 25일 연마관에서 'STAR+ 미래혁신포럼'을 열고 바이오와 인공지능(AI) 융합 기술의 최신 동향과 미래 바이오 산업 발전 방향을 공유했다.이번 확보 방안을 모색하기 위해 진행됐다.이날 이선재 KAIST 공학생물학대학원 교수는 '바이오 혁신시대-바이오와 AI의 만남'을 주제로 강연에 나서 대규모 생물학 데이터와 거대언어모델(LLM
- 디노티시아, 메모리 병목 해결할 KV 캐시 20배 압축기술 'STAR-KV' 공개 [지디넷코리아]AI 인프라 전문기업 디노티시아가 거대언어모델(LLM) 추론의 최대 병목으로 꼽히는 메모리 용량과 처리 속도 문제를 획기적으로 해결할 수 있는 신기술을 세계적 학회에서 선보인다.디노티시아는 UC 샌디에이고(UCSD) VVIP 랩과 함께 연구한 KV 캐시(KV Cache) 압축 기술인 ‘STAR-KV’ 논문과 소스코드를 공개했다고 2일 밝혔다.
- 중국 AI에서 글로벌 ETF까지: 스타트레이더(STARTRADER), 7개 시장 테마를 아우르는 45종의 신규 24/7 주식 및 ETF CFD 출시 Zhipu는 기업 및 개발자 시장을 위한 대규모 언어 모델(LLM)을 개발합니다. 스타트레이더(STARTRADER) 소개 스타트레이더(STARTRADER)는 MetaTrader, STARTRADER APP, STAR Copy 등 다양한 플랫폼을 통해 개인 및 기관
- [AI 리더스] 셀렉트스타는 어떻게 은행 '신뢰성 검증' 도맡았나 AI 답변을 채점할 때마다 거대언어모델(LLM)을 가져와 쓰면 그만큼 컴퓨팅 비용이 불어난다. 관련 논문은 최근 자연어처리 분야 국제 학회 ACL 2026 워크숍에 채택되기도 했다.김 대표는 "E-Star 12B는 오픈AI 'GPT-5.5' 96% 수준으로 평가하면서도 크기가