뉴스
- "미토스 시대...보안, 항시 내재 'with' 개념 접근해야" 그는 이날 현존 가장 강한 가드레일(보안 정책)을 적용한 AI 모델에도 이를 우회할 수 있는 실제 사례가 발견됐다고 밝혔다.그는 "AI 에이전트는 3가지 치명적인 요소가 있다.
- AWS, AI 에이전트 플랫폼 강화…지식·성능·보안 한 번에 AWS는 '베드록 가드레일' 연동을 통해 프롬프트 인젝션 시도와 유해 콘텐츠, 민감정보 노출 여부를 게이트웨이 계층에서 점검하도록 구성했다.
- 글로벌 보안기업 F5, 설립 30년..."ADSP로 한국 시장 공략 강화" Nallappan) F5 아시아태평양·중국·일본(APCJ) 지역 마케팅 부사장은 지난해 AI 보안 기업 칼립소AI를 F5가 인수하면서 AI 레드팀(F5 AI Red Team)과 F5 AI 가드레일
- 이강석 메이플 유니버스 실장 "'MSU 2.0' 출항…빌더 생태계로 패러다임 전환" 이 실장은 "23년 동안 누적된 플레이 이력과 소비 패턴을 기반으로 매일 쏟아지는 콘텐츠 중 개인 취향에 맞는 결과물을 정교하게 추천한다"고 설명했다.이처럼 제작 환경과 가드레일,
- [영상] "AI가 사고치는 시대, 이제는 재갈을 물려야" 실제 업무가 진행되는 기업 환경에서 자연어로 추상적인 목표가 AI에게 제시될 경우 예상치 못한 문제를 일으킬 가능성이 있기 있기 때문이다.최근 업계에서 많이 언급되는 가드레일(Guardrail
- KT "부울경 지역 기업 AX 돕겠다...보안·비용절감 자신" 메인 에이전트가 사용자의 질문을 판단한 뒤, 필요에 따라 다른 전문 에이전트를 호출하여 질문에 딱 맞는 답변을 제공하는 멀티 에이전트, 프롬프트 엔지니어링 단계부터 시작해 데이터 가드레일
- 삼성SDS "AI 보안이 ESG 핵심 이슈로"…정보보호 667억 투자 (레드팀 테스트) 등을 수행하고 있다.특히 지난해 11월에는 LLM의 입출력 내용을 실시간으로 검사해 유해 콘텐츠를 차단하고 탈옥(Jailbreak) 시도를 방어하는 AI 안전 가드레일
- 자핀, 에이전트형 작업을 조율하고 거버넌스하는 엔드투엔드 플랫폼 AIOS 출시 AIOS는 경로에 내장된 기업 가드레일, 비용 제어, 작업 증명으로 그 이동을 조율하도록 설계됐다.
← 이전
6 페이지