뉴스
-
오픈AI 차세대 '아스트라', 자율 공격 가능…최고 위험단계 도달
[서울=뉴시스]고재은 기자 = 오픈AI의 차세대 인공지능(AI) 모델 '아스트라(Astra)'가 자체 안전 기준상 최고 위험 단계인 '중대(Critical)' 등급을 기록한 것으로 앞서 출시된 'GPT-5.6 솔' 등이 안전 평가에서 '높음(High)' 단계로 분류된 것보다 한 단계 높은 수준으로, 개발 단계 등부터 고도화된 통제가 필요하다는 의미다.
www.newsis.com · 2026.09.02
-
오픈AI, 차세대 AI '아스트라' 개발 늦춘다…사이버보안 우려
활용할 수 있는 사이버 역량을 갖췄을 가능성이 확인되면서, 출시를 서두르기보다 보안 통제를 강화하기로 한 조치다.7일(현지시간) 블룸버그통신에 따르면 오픈AI는 아스트라가 자체 안전 메타 역시 AI 모델이 제3자의 컴퓨터 시스템에 침투한 것으로 전해졌다.오픈AI는 정부 기관과 일부 AI 안전 관련 기관을 대상으로 아스트라의 역량을 추가 검증할 예정이다.
zdnet.co.kr · 2026.08.07
-
미토스5, AISI 평가서 122회 반복 중 19건 비승인 행동…가짜 신분 확보 17건
현지 시각 8월 5일 BBC가 보도한 내용으로, 평가 대상에는 앤트로픽의 클로드 미토스5와 오픈AI의 GPT-5.6 솔이 포함됐다. AISI는 영국 정부가 운영하는 AI 안전 연구 기관으로, 프론티어 모델의 위험 평가를 담당한다.19건 가운데 17건은 가짜 신분을 만들어 시스템 접근을 시도한 사례였다.
zdnet.co.kr · 2026.08.10
-
美, AI 규제 상설 독립기구 만든다
앤트로픽은 지난달 수출통제로 '클로드 페이블5'와 '클로드 미토스5'를 일시 비활성화했고 오픈AI도 정부 요청에 따라 최신 모델 'GPT-5.6 솔'을 출시 전 대폭 수정했다. 두 회사는 이같은 조치가 당국이 지목한 안전성 문제에 비해 지나치다며 반발해 왔다.신설 기구는 정부와 업계가 안전 기준을 함께 만드는 방식이다.
zdnet.co.kr · 2026.07.19
-
미국 하원의원 "AI 킬 스위치 법안, 연내 통과돼야"
[지디넷코리아]미국 정치권에서 인공지능(AI) 모델에 대한 안전 규제를 서둘러야 한다는 목소리가 커지고 있다.고도화된 AI 오작동이나 악용 가능성에 대비해 기업 또는 정부가 필요할 단순 질의응답을 넘어 외부 도구 호출, 코드 실행, 웹 접근 등 실제 작업을 수행하는 에이전트형 AI가 확산되면서 이 같은 위험은 AI 안전 논의의 핵심 쟁점으로 떠오르고 있다.최근
zdnet.co.kr · 2026.08.07
-
[비욘드IT] "몰래 추적하고 성능까지 바꿨다"…통제 불가능한 해외 AI 리스크
함께 갖춰야 한다는 제언이다.먼저 클로드 페이블 5 출시 과정에서 최첨단 AI 개발 관련 작업에 한해 사용자에게 알리지 않고 응답 품질을 낮추는 기능이 있었다는 사실이 함께 공개한 안전 최근 오픈AI가 출시한 차세대 인공지능(AI) 모델 'GPT-5.6' 시리즈 중 일부는 미국 정부 요청에 제한 배포 됐다는 점도 이런 우려에 힘을 실고 있다.이런 와중에 오픈AI가
zdnet.co.kr · 2026.07.07
-
[안광섭 AI 진테제] (메모리) 잠그는 미국, (모델) 여는 중국...한국 선택은
스마트 연산, 오픈소스 공유, 안전 협력 등 8개 분야를 담은 'AI 협력 발전 행동계획'도 함께 공개됐다.지난해 제안에 그쳤던 세계AI협력기구(WAICO)에는 이번에 29개국이 창립 프론트엔드 코드 성능을 사람이 직접 비교해 투표하는 한 평가에서, 이 모델은 앤스로픽의 Fable 5와 오픈AI의 GPT-5.6 Sol을 제치고 1위에 올랐다.
zdnet.co.kr · 2026.07.17
