뉴스

• "엉뚱한 질문에도 아기상어답게"…셀렉트스타, AI 캐릭터 안전성 검증 [지디넷코리아]셀렉트스타가 생성형 인공지능(AI) 캐릭터 전시 전 대화 안전성과 세계관 유지를 검증하는 작업을 진행했다.셀렉트스타는 AI 신뢰성 평가 플랫폼 '다투모 플랫폼'이 지난 이들은 시뮬레이션에서 발견된 문제 응답과 평가 결과를 공유하며 캐릭터 AI의 품질을 점검했다.최종 평가 결과 부적절 콘텐츠 차단율은 셀렉트스타 자체 데이터셋 기준 약 99%를 기록했다 zdnet.co.kr · 2026.08.21
• 과기정통부-앤트로픽, 안전·보안 '동맹'…글로벌 AI 경쟁력 확보 정부가 'AI(인공지능) 기본사회' 실현을 위해 글로벌 기업과 손잡고 AI 경쟁력 확보에 나선다.과힉기술정보통신부는 글로벌 AI 연구개발 기업 앤트로픽과 'AI 안전성 확보 및 사이버보안 이를 통해 △AI가 사이버 공격과 방어에 미치는 영향 분석 △한국어 맥락에서의 AI 모델 안전성, 오남용 위험 평가 △자율형 AI 에이전트에 대한 레드팀 평가 등에 나선다는 방 www.shinailbo.co.kr · 2026.06.18
• 업스테이지 '솔라 프로 4', 韓 모델 최초 글로벌 개발자 플랫폼에 터미널 다단계 작업 완수 능력 평가(Terminal-Bench v2.1)에서 57점으로 전작보다 4.8배 향상됐고 도구 사용 능력 평가(τ³-Banking)에서도 23점으로 2.6배 국내 기업 및 공공기관 사무 환경에 특화된 한국어 성능과 문서 처리 능력도 향상됐다. zdnet.co.kr · 2026.08.14
• '깜깜이' 평가 벗는다…AI안전연구소, 모델 성적표 공개 기조로 오픈소스 모델을 포함해 국내외 주요 AI 모델을 대상으로 수행한 안전성 평가 실적을 보다 상세히 알려 투명한 평가 체계를 강화하겠다는 목표다.19일 업계에 따르면 AISI는 지난 15일 AISI는 그동안 AI 모델 안전성 평가 내역을 제한적으로 공개한 탓에 개별 모델의 실명 평가 결과는 물론 내용도 확인하기 어려웠다. zdnet.co.kr · 2026.06.19
• AI 특허 8년 새 7배…분야별 기술 융합 속도는 '제각각' 외국 기업 비중은 20.1%에서 7.6%로 낮아졌다.상위 10개 기업이 차지하는 연간 AI 특허 출원 비중은 26.1%에서 14.2%로 떨어졌다. 보고서는 한국어 AI 성능 평가 기준을 표준화하고 국제 AI 표준화 논의에 적극적으로 참여할 필요가 있다고 제안했다.농업·식품, 에너지·환경, 보안·인증 분야는 AI 도입 수준은 아직 zdnet.co.kr · 2026.08.19
• AI 스타트업 비드래프트, 독자 개발 파운데이션 모델 'Aether-7B-5Attn' 선봬 Aether-7B-5Attn은 Apache-2.0 라이선스로 공개됐으며, 모델 가중치뿐 아니라 학습 데이터 레시피, 전체 학습 코드, 하이퍼파라미터, 학습 로그, 중간 체크포인트, 평가 공개 저장소만으로 학습 데이터 구성과 토큰화 과정, 학습 코드, 설정값, 로그, 평가 절차를 추적할 수 있도록 설계해 모델의 ‘결과’뿐 아니라 ‘제조 공정’ 자체를 공개했다. zdnet.co.kr · 2026.07.20
• [AI는 지금] "한 성격하네"…영어로 물으면 더 깐깐한 클로드, 언어 따라 AI 성향 달라 영어와 한국어, 중국어, 일본어 등 클로드에서 사용량이 많은 20개 언어를 포함했으며 모델과 언어 조합마다 약 5000건의 대화를 비교했다.연구진은 지난해 실제 대화에서 확인한 3307개 기업 고객이 모델별 성격을 비교할 수 있게 되면 AI 업체들도 안전성이나 친절함 같은 추상적인 표현 대신 응답 성향을 계량화한 자료를 요구받을 수 있다.앤트로픽은 "클로드가 표현하는 zdnet.co.kr · 2026.07.14
• 중국 AI모델들은 이 질문에 답하지 않는다 최근 개인들은 미국 기업 모델을 이용하는 것과 달리 한국 스타트업 관계자들을 만나면 비용 때문에 중국 모델로 전환하거나 병용한다는 이야기를 많이 듣습니다. 반면 한국어, 영어, 기타 언어 처리에서는 상대적으로 데이터 토양이 얇습니다. 같은 작업을 시켜도 결과의 질이 언어와 맥락에 따라 달라지는 이유가 여기 있습니다. www.ohmynews.com · 2026.06.19