뉴스
-
오픈AI, 자사 모델 허깅페이스 해킹 사실 공개…GLM-5.2로 방어
허깅페이스는 미국 상용 AI 모델을 먼저 쓰려 했지만, 이 모델들의 안전장치(가드레일)가 정당한 사고 대응 요청과 공격자의 악의적 요청을 구분하지 못해 포렌식 질의를 거부했다.
zdnet.co.kr · 2026.07.22
-
더존비즈온, 한국공항공사 AI 그룹웨어 구축…공공 AX 공략 속도
보안 측면에선 국가망 보안체계(N2SF)를 준수하는 제로트러스트 기반 보안 아키텍처와 AI 환각 방지를 위한 입·출력 양방향 가드레일, 실시간 팩트체킹 기능도 적용할 예정이다.이번
zdnet.co.kr · 2026.07.06
-
국가대표 AI 먼저 써 봤더니..."취지 환영, 이용 유인·안전성은 과제"
한글에 특화된 창작성을 특히 기대했는데 결과물에서 아쉬운 인상을 받았다"며 "상용화를 위해서는 추가적인 연구와 개선이 이뤄져야 할 것 같다"고 말했다.AI 윤리와 안전성에 대한 가드레일
zdnet.co.kr · 2026.08.12
-
"점자는 뜨겁고 그늘은 못 찾겠어요"…폭염은 더 잔인했다
하지만 체감온도 35℃를 웃도는 가마솥더위가 이어지며 야외에 노출된 철제 손잡이와 도로변 가드레일 등은 맨손으로 만졌을 때 화상을 입을 정도로 뜨겁게 달궈져 있다.
www.nocutnews.co.kr · 2026.07.31
-
이상근 교수 "명령 한 줄로 누구나 해킹하는 시대 올 것"
그는 그 배경으로 ▲프롬프트 인젝션 ▲탈옥(가드레일 우회) ▲학습 데이터 및 개인정보 오출 ▲양자화 백도어 ▲AI 권한 관리 미흡 ▲섀도우 AI ▲피지컬 AI 위협 등의 공격 기법을 크게 3가지로 구분되는데, ▲책임있는 AI 6대 원칙 및 거버넌스 ▲5대 가드레일 및 현지화 ▲3대 보안 대응 원칙 등이다.루이스 총괄 발표에 따르면 화웨이는 기존의 보안, 개인정보보호
zdnet.co.kr · 2026.07.24
-
[현장] 알리바바 클라우드, 韓 제3 데이터센터 가동…풀스택 AI 지원 앞장선다
엔드투엔드 AI 풀스택이다.특히 이번 제3 데이터센터 개소를 계기로 한국에서 ▲에이전트런(AgentRun) ▲스타옵스(STAROps) ▲ACS 에이전트 샌드박스 ▲AI 시큐리티 가드레일
zdnet.co.kr · 2026.08.18
-
[AI는 지금] 구글·메타에 도전장…미스트랄, 기업용 AI 안전시장 본격 공략
정책을 자연어 질문으로 입력해 재학습 없이 판정 기준을 변경할 수 있다는 점도 기존 모델과의 경쟁 요소로 보고 있다.이번 일은 AWS와 마이크로소프트 등 클라우드 사업자가 제공하는 가드레일
zdnet.co.kr · 2026.08.05
-
AWS, '아마존 퀵'에 자율 에이전트 추가…"흩어진 작업 한 번에"
세부 지침을 단계별로 지정할 수도 있으며, 사용자가 정한 가드레일 안에서 에이전트가 스스로 실행 경로를 찾도록 설정할 수도 있다.자율 에이전트는 정체된 거래 알림, 후속 조치 초안
zdnet.co.kr · 2026.06.24
-
[현장] "AI 시대 커지는 보안 리스크"…데이터독, 통합 보안으로 해결
응답 품질과 데이터 드리프트, 프롬프트부터 응답 생성까지의 전 과정을 관찰해야 한다"고 설명했다.이를 위해 데이터독은 AI 애플리케이션 전 구간을 추적하는 기능과 함께 AI 보안 가드레일
zdnet.co.kr · 2026.07.09
-
[AI는 지금] 와이드필드 품은 시스코, AI 에이전트 보안 승부수…'신원 전쟁' 불붙었다
아스트릭스는 비인간 식별자와 자격 증명 보안, 갈릴레오는 AI 관측성과 가드레일 영역을 보완한다.
zdnet.co.kr · 2026.06.19
