2024.03.11 ⓒ 로이터=뉴스1" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202610/23/NEWS1/23851wicj.jpg" data-org-width="1400" dmcf-mid="1bomuKsAXR" dmcf-mtype="image" height="auto" src="https://img3.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202610/23/NEWS1/23851wicj.jpg" width="658"> (서울=뉴스1) 장용석 기자 = 챗GPT 개발사 오픈AI의 내부 인공지능(AI) 감시체계에서 여러 보안 취약.이 발견됐다는 시험 결과가 나왔다. 특히 이번 시험에선 AI 에이전트가 자신의 행동 수백 건을 감시망에서 숨길 수 있는 것으로 파악됐다 릴게임 양귀비 . 22일(현지시간) 로이터통신에 따르면 비영리 AI 안전성 연구단체 METR은 "오픈AI 내부 감시체계를 대상으로 시범 .검을 실시한 결과, 새로운 취약. 여러 건을 발견했다"며 이같이 밝혔다. METR 연구진은 "AI 에이전트가 최근 수행한 수백 건의 행동을 감시 대상에서 제외할 수 있는 취약。을 확인했다"며 "오픈AI의 코딩 에이전트 '코덱스'가 원칙적으로 안전 제한을 우회해 해당 프로그램을 실행하는 이용자에게 허용된 명령을 제한 없이 수행할 수 있는 방법도 발견했다"고 설명했다. AI 에이전트는 사람의 지시를 받아 여러 단계의 작업을 자율적으로 수행하는 프로그램으로서 이들의 행동을 제대로 감시하지 못할 경우 개발자의 의도에서 벗어난 활동을 제때 발견하지 못할 수 있다. 모바일 바다이야기게임장 METR은 "새로 생성되는 AI 에이전트에 대한 감시 기능을 꺼버릴 수 있는 설정상 문제도 2가지 확인됐다"며 "GPT-5.5 이상 성능을 가진 모델이 수행하는 오픈AI 내부 AI 에이전트 작업 가운데 약 75~94%만 감시 대상에 포함될 수 있는 것으로 추산된다"고 전하기도 했다. METR의 이 같은 분석 결과는 AI 에이전트의 모든 행동이 감시체계 적용 대상이 되는 것은 아니란 의미지만, 감시 대상에 포함되지 않은 작업이 모두 위험하거나 부적절한 행동이었다는 뜻 역시 아니다. 이와 관련 오픈AI는 "실제 운영 환경의 안전장치에 영향을 미치는 취약。은 모두 수정했다"고 밝혔으나, METR은 "회사 측의 수정 조치가 제대로 이뤄졌는지 검증하지 못했다"고 전했다. METR의 이번 .검은 외부 연구진에게 AI 개발사 내부 시스템에 대한 심층 접근 권한을 부여해 감시체계가 얼마나 효과적으로 작동하는지 평가하는 시범 연구의 일환으로 진행됐다.