국내보안동향언론 보도출처 확인
연구진 AI 에이전트 악용 환각 침입 공격
연구진이 AI 모델의 환각 현상을 악용해 AI 에이전트가 악성코드를 내려받도록 유도하는 신형 공격 기법을 발견했습니다.
핵심요약
PANews에 따르면 텔아비브대, 이스라엘 공과대학, 인튜이트 연구진은 적대적 환각 침입이라는 공격 기법을 공개했습니다.
확인된 사실
- 공격자는 AI가 생성할 가능성이 있는 가짜 리소스 링크를 미리 등록한 뒤 악성 명령을 심어 AI 에이전트가 이를 정상 콘텐츠로 오인해 실행하도록 만듭니입니다.[1]