뉴스
- BC카드, AI 경량화 기술 개발…사내 서비스 속도 3배 향상 [서울=뉴스핌] 박가연 기자 = BC카드가 인공지능(AI) 모델 크기를 줄이면서 업무 처리 속도는 3배 가까이 향상시킨 기술을 개발해 실제 서비스에 적용했다고 19일 밝혔다. [사진=BC카드] 최근 AI 업계에서 연산 부담을 줄이는 경량화 기술이 주목받고 있다.
- AI 비용폭증 잡는다…스노우플레이크, ‘지출 효율화’ 전략 발표 모든 업무에 최고 성능의 대형 언어 모델(LLM)을 적용할 경우 막대한 비용이 발생하는 반면, 직원이 상황마다 일일이 최적의 모델을 평가해 바꾸는 방식은 업무 부담을 가중시킨다. 단순 반복 작업이나 가벼운 질의는 연산 단가가 낮은 가성비 모델로 처리하고, 고차원적 추론이 요구되는 업무만 고성능 프론티어 모델로 보낸다. 이를 통해 개발자와 사
- 딥시크 V4 내달 정식 출시…업무시간 요금 두 배 부과 딥시크가 V4 정식판 출시를 앞두고 업무 시간대 API 요금을 두 배로 올리는 피크요금제를 도입하기로 했습니다. 딥시크는 정식판 출시와 함께 기능 최적화와 성능 향상이 이뤄지는 만큼, 연산 자원을 더 합리적으로 ...
- 美 젠스파크 AI, 한국 공식진출… ‘AI 녹음기 출시’ 차별화 행보 전개 등 국내 주요 기업과의 파트너십을 바탕으로 접점을 넓히는 한편, 오프라인 음성 수집 장치라는 차별화 요소를 앞세워 시장 주도권을 확보한다는 전략이다.최근 고성능 AI 언어 모델의 연산 기량 격차가 줄어들면서 차세대 AI 경쟁 축은 단순 모델 성능에서 실제 업무 맥락을 얼마나 깊이 이해하고 연결하는지로 이동하고 있다.
- [AI는 지금] '아랍어 AI' 내놓은 코히어, 사우디서 50MW 연산 확보…중동 공략 속도 아랍어 데이터 처리 기술과 현지 연산 기반을 동시에 갖춰 중동 주권 AI와 기업용 AI 시장 공략에 속도를 내는 모습이다.사우디 국부펀드(PIF) 산하 AI 기업 휴메인은 코히어와 대규모 연산 인프라에 코히어의 모델 기술을 결합해 사우디를 아랍어 AI 개발과 운영 거점으로 키운다는 구상이다.코히어는 오픈AI와 앤트로픽 등과의 경쟁에 필요한 연산 기반도 장기간
- 스페이스X, '커서' 공식 인수 완료…개발용 AI 경쟁 본격화 이번 거래는 당시 스페이스XAI와 커서가 발표한 협력 계획의 연장선에서 추진된 인수 절차의 최종 단계다.커서는 이번 합병을 통해 대규모 연산 인프라를 확보하고, 더 강력하면서도 비용 초기에는 코드의 다음 몇 줄을 추천하는 보조 도구에 가까웠지만 최근에는 실제 개발 업무 단위를 위임할 수 있는 AI 에이전트형 도구로 진화했다는 평가다.
- [유미's 픽] 챗GPT, 회사 업무까지 맡는다…CRM·협업툴 주도권 흔드나 [지디넷코리아]오픈AI가 인공지능(AI) 챗봇을 넘어 기업 업무 전반을 수행하는 플랫폼으로 영역을 넓힌다. 오픈AI가 모델과 코딩, 리서치, 문서 제작, 컴퓨터 제어를 하나의 업무 환경에 묶으면서 경쟁 기준이 모델 성능에서 앱 연결성과 업무 완결성으로 넓어졌기 때문이다.업계 관계자는 "챗GPT
- [AI는 지금] AI가 AI 만드는 시대 오나…美·中, 개발 자동화 경쟁 속도전 알리바바는 큐원3.7-맥스가 자체 PPU 하드웨어 환경에서 약 35시간 동안 커널 최적화를 수행해 기준 구현 대비 10배의 연산 속도 향상을 달성했다고 밝혔다.다만 현재 공개된 사례를 실험 실행, 코드 작성, 커널 최적화 같은 개별 업무 자동화와 AI가 스스로 연구 목표를 정하고 개선 방향을 판단하는 것은 다른 문제라는 이유에서다.앤트로픽도 클로드가 AI 연구개발
- 국가대표 AI 컷오프 임박…'모티프 이변' 계속될까 AI가 학습 과정에서 익힌 정보를 담는 수많은 숫자로, 일반적으로 많을수록 더 많은 정보를 학습할 여지가 생기지만 그만큼 연산 부담도 커진다. AAII는 모델의 문제 해결 능력을 비교하는 데 유용하지만 실제 서비스 속도와 비용, 한국어와 국내 업무 환경에서 얼마나 잘 작동하는지까지 모두 보여주는 지표는 아니다.
- 中 문샷, 신형 AI '키미 K3' 공개…오픈AI·앤트로픽 턱밑 추격 키미 K3는 총 2조8천억 개 파라미터를 갖춘 전문가 혼합(MoE) 방식의 초거대 AI 모델이다. 896개의 전문가 네트워크 가운데 일부만 선택적으로 활성화하는 구조를 통해 성능과 연산 텍스트와 이미지를 함께 이해하는 네이티브 멀티모달 기능도 제공한다.문샷AI는 키미 K3를 단순한 챗봇이 아닌 '업무 수행형 AI'로 소개했다.
1 페이지
다음 →