ai jailbreak - 드림위즈 통합검색

블로그

AI 탈옥(Jailbreak)의 진화와 새로운 위협 Ⅰ. AI 탈옥의 개념 변화와 안전망의 한계 1-1. 최신 AI 시스템의 다기능화 추세 ■ 단순 챗봇에서 통합 플랫폼으로의 진화 기존 시스템의 특성: 사용자가 입력한 프롬프트에 대해 사전에 학습된 데이터를 기반으로 텍스트 답변만 생성하는 단순 대화형 인터페이스(챗봇) 수준에 머무름 복합 blog.naver.com · 2026.07.14
AI를 속이는 인간, 인간을 속이는 AI: 프롬프트 인젝션의 세계 ‘AI 탈옥(Jailbreak)’, ‘적대적 공격(Adversarial Attack)’이 현실적 위협으로 부각되고 있습니다. 프롬프트 인젝션은 공격자가 AI 도....... blog.naver.com · 2026.08.05
[핀테크] 금융분야에서의 AI 거버넌스 고도화된 인공지능(AI) 에이전트가 통제 설정을 스스로 '탈옥(Jailbreak)'한 뒤, 권한이 없는 다른 시스템에 침투해 해킹을 시도한 실험 결과가 보도된 것이다. 사람의 직접적인 명령 없이도 판단하고 행동하는 '에이전틱 AI(Agentic AI)'가 등장하면서, 인공지능은 단순한 업무 보조 도구를 넘어 스스로 사고하고 움직이는 하나의 '자율 blog.naver.com · 2026.08.06
에버스핀, 티냅스와 AI Trust Security 개발… 글로벌 AI 신뢰 보안 시장 공략 마중물 마련 제공=에버스핀] AI 보안 전문기업 에버스핀과 AI 안전성 전문기업 티냅스가 AI 시대의 신뢰할 수 있는 서비스 환경 구축을 위해 'AI Trust Security(인공지능 신뢰 보안 최근 생성형 AI와 AI 에이전트의 확산으로 프롬프트 인젝션(Prompt Injection), 탈옥(Jailbreak), 데이터 유출, 권한 오....... blog.naver.com · 2026.07.06
2026/6/13 Briefing Codex가 정리한 금일 AI/IT 뉴스입니다. 회사 설명상 외국 국적자 전반에 적용되며, 근거는 “탈옥(jailbreak)” 우려입니다. blog.naver.com · 2026.06.13
[SK텔레콤] 이통통신망 및 AI 분야 Red Team 화이트 해커 경력 채용(~2026.6.30) Red Team 화이트 해커 (이통통신망 및 AI 분야) 지원 기간 2026년 06월 01일(월)~2026년 06월 30일(화) 마감 시간 23:59 회사 #SK텔레콤 직무 IT - 시스템을 대상으로 한 공격 시나리오 연구 및 모의 침투 수행 Prompt Injection, Jailbreak 기법 등 공격 기법 연구와 자동화 도구 개발 AI 모델 및 MCP(Model blog.naver.com · 2026.06.25
앤스로픽(Anthropic) 최상위 AI 모델에 대해 수출 통제 명령을 내린 이유/20260614 미국 정부가 앤스로픽(Anthropic)의 최상위 AI 모델에 대해 전격적인 수출 통제 명령을 내린 이유 국가 안보와 기술 보호를 목적으로 한 AI 모델의 탈옥(Jailbreak) AI 모델의 취약성(탈옥 가능성) 문제 정부의 판단=미 상무부는 앤스로픽의 차세대 최상위 모델인 '클로드 페이블 5(Claude Fable 5)'와 '클로드 미토스 5(Claude blog.naver.com · 2026.06.13
앤트로픽 제재 해제의 구조적 본질 및 $1조 IPO 역학관계 정밀 정산 2026.7.3 미 상무부가 전격 단행한 앤트로픽의 프론티어 AI 모델에 대한 수출 제재 해제 조치의 실물 데이터와 이것이 앤트로픽의 역사적인 기업공개(IPO) 장부에 미칠 구조적 그러나 출시 3일 만인 6월 12일, 아마존 연구진이 발견한 보안 우회(Jailbreak) 취약점이 국가 안보 및 사이버 테러에 악....... blog.naver.com · 2026.07.01
AI 뉴스 브리핑 2026.06.26 AI 뉴스 브리핑 1. 정부가 든 근거는 Fable 5를 '탈옥(jailbreak)'할 수 있다는 우려였다. 앤트로픽은 이를 "특정 코드베이스를 읽고 결함을 고치....... blog.naver.com · 2026.06.26
밸류알지 인포/ “AI가 똑똑해질수록 해커도 똑똑해진다”…이니텍, ‘AI 보안’으로 다시 뜬다 “AI가 똑똑해질수록 해커도 똑똑해진다”…이니텍, ‘AI 보안’으로 다시 뜬다 * 밸류알지 텔레그램방 주소 Telegram: Join Group Chat 국내 증시에서 AI 열풍은 AI 정보 유출 프롬프트 해킹 탈옥(Jailbreak) 개인정보 노출 가짜 응답 생성 즉: “AI가 똑똑할수록 보안 위험도 커진다” 는 것이다. 실제로 이니텍은 AI....... blog.naver.com · 2026.05.28

블로그 결과 더보기 →

뉴스