뉴스
-
에버스핀-티냅스, AI 모델 보안 검증 사업 협력
주요 점검 대상은 프롬프트를 조작해 AI가 의도하지 않은 답변을 내도록 하는 '프롬프트 인젝션'과 AI의 안전장치를 우회하는 '탈옥'
www.etnews.com · 2026.07.06
-
[김경진의 AI전략노트]〈30〉AI를 켜고 끄는 권한은 누구의 손에 있는가
출시와 동시에 보안 필터를 우회하는 탈옥 취약점이 드러났고, 미국 당국은 국가 안보를 명분으로 접속을 끊었다. 막은 대상이 외국인에 그치지 않았다.
www.etnews.com · 2026.06.16
-
美, 앤스로픽 AI 수출통제 18일 만에 해제…삼성·SK 다시 쓴다
다만 하워드 러트닉 상무장관은 서한에서 상황이 달라지거나 앤스로픽이 약속을 이행하지 않을 경우 허가 요건을 다시 적용할 수 있다고 명시했다.앞서 상무부는 지난달 12일 페이블5의 ‘탈옥
www.donga.com · 2026.07.01
-
미국 정부 "앤트로픽 제재, 타 AI 기업 확대 안 해"…원인은 '비협조적 태도'
인포메이션에 따르면 익명을 요구한 백악관 관계자는 이번 수출 제한 조치를 다른 AI 기업으로 확대할 계획이 없다고 밝혔다.그는 이번 지침이 다른 공개 AI 모델에서도 흔히 발견되는 탈옥 것이다.즉 이번 수출 통제는 국가 안보 기관의 권고를 무시한 앤트로픽의 독단적인 행보가 초래한 특수한 사례라는 설명이다.앞서 앤트로픽은 모델 서비스 전면 중단 사실을 알리며 "잠재적 탈옥
zdnet.co.kr · 2026.06.14
-
규제 풀린 앤스로픽, 새 모델 내고 가성비 승부수
앞서 상무부는 지난달 12일 페이블 5의 ‘탈옥(안전장치 우회)’ 가능성을 문제 삼아 외국인의 두 모델 접근을 전면 차단하라는 지침을 내렸다.
www.donga.com · 2026.07.01
-
[동아광장/전재성]AI에도 ‘핵의 1968년’이 오고 있다
이른바 탈옥 위험 때문인데, 앤스로픽이 모델에 걸어 둔 안전 장치를 풀어 원래는 막혀 있던 기능을 끄집어낼 위험을 말한다.
www.donga.com · 2026.06.29
-
앤트로픽, 미국 정부 지침에 '페이블 5' 서비스 전면 중단
앤트로픽은 정부가 페이블5에 대한 이른바 '탈옥(jailbreaking)' 가능성을 인지한 것으로 보고 있으며, 이를 국가안보 우려와 연결한 것으로 해석된다고 밝혔다.탈옥은 AI나 분야에서 주목받아 왔다.앤트로픽은 클로드 페이블5 출시에 앞서 사이버 악용을 방지하기 위한 다양한 안전장치를 구현했고, 금융·기술·정부 관계자들과도 기술 논의를 진행해 왔다며, 잠재적 탈옥
zdnet.co.kr · 2026.06.13
-
포티넷, 버추AI 인수..."에이전틱AI 보안 강화"
항목을 다루며, 보안 담당자가 필요할 때마다 점검 결과를 확인할 수 있다고 회사는 밝혔다.아울러 텍스트부터 이미지·영상까지 다양한 콘텐츠에 보안 정책을 적용해 민감 정보 노출, AI 탈옥
zdnet.co.kr · 2026.08.20
-
AI에게 질문하는 기술도 '옛말', 사용자가 고민할 건 '돈'입니다
페이블(Fable)은 현존하는 모든 보안 시스템 해킹이 가능하다고 평가받는 미소스(Mythos) 모델에서 해킹과 탈옥 등을 못하도록 일부 기능을 편집한 모델입니다.
www.ohmynews.com · 2026.06.15
-
미국 정부, 앤트로픽 수출 통제...원인은 기술 아닌 '소통'
앤트로픽에 내린 수출 통제 지침 배경이 인공지능(AI)의 기술적 문제보다 트럼프 행정부와 앤트로픽 간 '성향 차이'와 소통 마찰에 있다는 주장이 제기됐다.표면적으로는 고성능 AI 모델의 탈옥 지난주 앤디 재시 아마존 CEO는 스콧 베센트 재무장관에게 '미토스5'와 '페이블5'의 탈옥 가능성을 경고한 것으로 전해졌다.아마존 소속 보안 연구원들은 페이블5에 취약 코드가 포함된
zdnet.co.kr · 2026.06.16
