뉴스
-
KT, 고려대와 개발한 한국어 특화 AI 벤치마크 공개
'KSAFE-MM'은 현지 커뮤니티 기반 민감 주제 수집부터 템플릿 기반 쿼리 생성, 합성 이미지 생성, AI 안전 장치나 윤리 제한을 우회하도록 변형된 탈옥 쿼리 생성까지 전 과정을
zdnet.co.kr · 2026.06.16
-
돌아온 '클로드 페이블5' 기대 이하…강화된 안전장치 불만
지난달 아마존 연구진이 발견한 해당 취약점은 특정 프롬프트를 입력할 경우 페이블5의 안전장치를 우회(탈옥)해 사이버 공격에 악용할 수 있는 것으로 알려졌다.이에 취약점을 식별하고 차단하기
zdnet.co.kr · 2026.07.05
-
캐나다 총리 "앤트로픽 수출 통제, AI 모델 의존 위험 드러내"
구체적인 사유는 명시되지 않았지만 모델 안전장치를 우회하는 '탈옥' 가능성과 그에 따른 보안 문제가 지목된 것으로 알려졌다.이번 조치로 미국 내에 체류하는 외국 국적자는 물론, 영국과
zdnet.co.kr · 2026.06.15
-
미 정부, 미토스·페이블 폐쇄…'중국 연계' 한국 통신사 때문
이후 아마존(Amazon)이 페이블의 보안 취약점, 즉 탈옥 가능성을 경고하자 행정부는 이를 일련의 실책의 연장선으로 받아들였다.
zdnet.co.kr · 2026.06.16
-
138년 전 생긴 호텔의 역사, 유리 바닥 아래에 있습니다
탈옥 후 옥고를 치르다 서른아홉 나이에 다시 이 차디찬 감옥으로 잡혀 오셨지요."
해설사의 목소리에 일순간 비장함이 감돌았다.
www.ohmynews.com · 2026.06.11
-
美, 앤트로픽 최상위 AI 수출통제…"오픈AI는 적용 안해"
또 이를 '완전한 탈옥(jailbreaking)'으로 보기 어렵고 위험성도 과장됐다는 입장을 내놨다.
www.nocutnews.co.kr · 2026.06.13
-
"로봇탑재 피지컬AI 해킹"...에임인텔리전스, 8일 행사 개최
마이크로소프트의 유제니아 김(Eugenia Kim) 등 국내외 최정상급 연구진이 멀티모달 모델의 견고성, 생성형 AI 적응형 레드티밍, LLM 대상 자동 공격 기법, 차세대 모델의 탈옥
zdnet.co.kr · 2026.07.06
-
앤트로픽, 페이블·미토스5 동시 공개…"AI 성능·안전장치 최상위"
이는 새로운 탈옥 공격과 악용 시도를 탐지하고 안전장치를 개선하기 위한 목적이다.
zdnet.co.kr · 2026.06.09
-
미국 정부, 앤트로픽 AI 차단 조치…아마존 보안 우려가 촉발
재무장관 등 정부 고위 관계자에게 내부 연구진이 확인한 앤트로픽 모델의 보안 취약 가능성을 전달했다.아마존 연구진이 확인한 취약점은 특정 프롬프트를 통해 페이블5의 안전장치를 우회(탈옥
zdnet.co.kr · 2026.06.14
-
[종합] 앤트로픽, 한국 법인 본격 가동…"수출통제 곧 해결"
다만 차우리 총괄은 이번 조치가 일시적일 것으로 전망했다.그는 "이번 차단은 매우 일시적이고 제한적인 조치이며 며칠 내 해결될 것으로 확신한다"며 "지적된 취약점(탈옥)은 지난 6개월간
zdnet.co.kr · 2026.06.17
