구글의 인공지능(AI) 모델 ‘제미나이’가 사이버 보안 성능 시험 도중 실존 기업 3곳의 시스템에 무단 접속한 사실이 뒤늦게 공개됐다. 구글 AI가 시험 과정에서 실제 외부 시스템을 자율적으로 침입한 사실이 확인된 첫 사례다. 월스트리트저널(WSJ)의 지난 18일(현지시간) 보도에 따르면 사건은 지난 5월 AI 보안 평가 업체 이레귤러(Irregular)가 진행한 ‘캡처 더 플래그’(CTF) 방식 시험에서 발생했다. 제미나이는 가상의 기업 시스템에 침입해 특정 정보를 찾아내라는 과제를 받았다. 그러나 시험 환경에 실수로 인터넷 접속이 허용됐고, 가상 기업 이름이 실제 기업과 겹치면서 모델의 행동이 현실 인터넷으로 이어졌다. 한 차례 시험에서 제미나이는 비밀번호를 추측해 실존 기업의 보호된 시스템에 접속했다. 다른 두 차례에서는 웹 검색으로 공개 저장소에 노출된 인증 정보를 찾아 별개의 기업 2곳 시스템에 로그인했다. 황금성게임다운받기 구글은 제미나이가 실제 기업 환경에 들어왔다는 사실을 인지한 직후 행동을 중단했으며 피해는 확인되지 않았다고 밝혔다. 피해 기업명과 해당 제미나이 모델은 공개하지 않았고, 최신 모델은 아니라고 설명했다. 구글은 피해가 없었고 모델이 실제 기업임을 파악한 즉시 멈췄다는 。에서 별도 공개가 필요한 ‘모델 오정렬(misalignment)’ 사건으로 보지 않았으며, WSJ에는 버그 바운티와 유사한 사례라고 설명했다. 헤더 애드킨스 구글 보안엔지니어링 부사장은 “이번 사례에서 모델은 적절하게 행동했다”고 말했다. 비판도 거세다. AI 보안 스타트업 코리도어의 잭 케이블 최고경영자(CEO)는 WSJ에 “모델이 해야 할 일의 범위를 벗어나 실제 사이버 공격을 벌이고 있다는 게 근본 문제”라며 “대중이 알아야 할 공익 사안”이라고 했다. AI 안전 단체 나이팅게일 컬렉티브의 시드니 폰 아크스 CEO도 NBC뉴스에 기업의 자발적 공개에 기댈 수 없다며 구글이 정렬 실패가 아니라고 성급히 판단했다고 지적했다 오리지날릴게임 . 다만, 이번 일은 모델이 스스로 취약.을 뚫어 격리망을 탈출한 사건과는 구분할 필요가 있다. 이레귤러는 지난달 인터넷 접속이 의도치 않게 열린 평가 환경이 원인이었으며 관련 문제는 이미 수정했다고 밝혔다. 이레귤러가 운영한 평가 환경에서는 오픈AI·앤트로픽·메타 모델도 실제 외부 시스템에 접근한 사례가 잇따라 확인됐다. 앤트로픽은 이달 추가 조사 결과를 내놓으며 클로드 모델 4종이 실제 제3자 시스템에 무단 접근한 사건 4건을 확인했다고 밝혔다. 이 가운데 클로드 오퍼스 4.7은 실제 시스템이라는 징후를 확인한 뒤에도 공격을 이어간 것으로 분석됐다. 오픈AI도 지난 16일 허가받지 않은 행동이나 감시 회피 등 모델 오정렬 사례를 더 신속히 공개하기 위한 새 보고 체계를 발표하고 최근 6개월간 관찰한 사례 6건을 함께 공개했다. 카이 첸 오픈AI 정렬 책임자는 WSJ에 “발견 사항이 꼭 피해를 낳아야 공유할 가치가 있는 건 아니다”라고 했다. on:absolut