국내보안동향언론 보도출처 확인
코딩·사 고삐 풀린 AI 해킹 사태로 문제점
오픈AI는 지난달 21일(현지 시간) 내부 테스트 중이던 인공지능(AI) 모델이 통제를 벗어나 해킹을 저질렀다고 밝혔습니다.
핵심요약
6 솔과 일부 미공개 AI 모델이 내부 평가 중 개방형(오픈소스) AI 공유 플랫폼 허깅페이스에 접속해 정보를 빼갔습니다.
확인된 사실
- 오픈AI는 이달 7일 차세대 모델 아스트라가 코딩·사이버 보안 분야에서 자체 안전 기준상 최고 등급인 위험(Critical) 수준에 도달했을 가능성이 있다고 밝혔고, 악시오스는 오픈AI가 정부에 아스트라 출시 연기 계획을 통보했다고 보도했습니다.[1]
- 앤트로픽은 지난달 30일 사이버 보안 평가기록 14만 10006건을 전수 조사해 자사 AI 모델인 클로드가 외부 기관 3곳의 시스템에 무단 접근한 사실을 확인했다고 밝혔습니다.[1]
- 메타도 이달 5일 자사 AI 모델 뮤즈 스파크가 독립 검증업체 테스트 중 인터넷에 무단 접속해 다른 기관의 시스템을 해킹한 사실을 확인했다고 토로했습니다.[1]