사이트 바로가기
뉴스
- 이상근 교수 "명령 한 줄로 누구나 해킹하는 시대 올 것" 그는 그 배경으로 ▲프롬프트 인젝션 ▲탈옥(가드레일 우회) ▲학습 데이터 및 개인정보 오출 ▲양자화 백도어 ▲AI 권한 관리 미흡 ▲섀도우 AI ▲피지컬 AI 위협 등의 공격 기법을
- 삼성SDS "AI 보안이 ESG 핵심 이슈로"…정보보호 667억 투자 거버넌스 점검을 결합해 데이터 편향성 점검과 적대적 검증(레드팀 테스트) 등을 수행하고 있다.특히 지난해 11월에는 LLM의 입출력 내용을 실시간으로 검사해 유해 콘텐츠를 차단하고 탈옥
- [비욘드IT] AI 성능 낮춘 앤트로픽, 결과값도 제어한다면 최근 앤트로픽은 미국 정부의 수출통제 지침에 따라 페이블 5와 미토스 5에 대한 서비스를 임시 중단했다.미국 당국은 해당 모델의 '탈옥(jailbreaking)' 가능성이 국가 안보
- 위험한 AI 막아야 한다더니…자사 모델부터 막힌 앤트로픽 회사 측은 수억 명에게 배포된 상용 모델을 회수해야 할 정도의 사안으로 보기에는 발견된 문제가 극히 제한적인 탈옥 가능성에 불과하다고 주장했다.
- [안광섭의 AI 진테제] 미 정부가 끈 세계최강 AI...한국 대안은 정부가 근거로 제시한 탈옥(Jailbreak, AI 보호장치를 우회하는 기법) 방법은 이미 오픈AI의 GPT-5.5를 포함한 다른 공개 모델에서도 작동하는 수준의 취약점이라는 것이었다
← 이전
5 페이지