전화 속 익숙한 목소리를 이제는 AI가 만들어 낼 수 있다. 딥보이스 피싱 범죄가 어디까지 왔는지, 기술은 이를 얼마나 잡아내는지, 기술이 닿지 않는 곳은 어떻게 막아야 하는지 3편에 걸쳐 짚는다. ▶ 글 싣는 순서 ① [단독] AI 딥보이스 피싱, 통신사 탐지에 걸렸다 ② 기계는 목소리가 자연스러운지 따지지 않는다. 소리에 남은 흔적으로 합성 여부를 판별한다. 사람이 귀로 잘 가려내지 못하는 딥보이스(AI로 목소리를 합성하는 기술)를 탐지 AI가 쉬이 잡아낼 수 있는 이유다. 다만 합성 방식이 진화하면 탐지 성능도 훅 떨어질 수 있다. 기계는 흔적을 듣는다 영국 런던대(UCL) 연구진이 2023년 8월 국제학술지 플로스 원에 발표한 실험에서 참가자 529명이 합성 음성을 가려낸 정확도는 73% 수준이었다. 영어와 중국어 음성을 들려준 결과로, 가짜 음성이 섞여 있다는 걸 참가자들도 알고 있었다. 실험에 쓴 합성 기술은 비교적 오래된 것이었고 구별 훈련을 받아도 정확도는 별로 안 올랐다. 연구진은 실제 상황에서는 사람이 합성 음성을 더 가려내기 어려울 수 있다고 설명했다. 반면, 탐지 AI는 목소리가 사람을 닮았는지를 보지 않는다. 과학기술정보통신부와 통신업계 설명을 종합하면 합성된 소리에는 사람 귀에 들리지 않는 주파수 흔적이 남고, AI는 이를 분석한다. 야마토릴 이에 따라 아기 울음을 흉내 낸 복제 음성이든, 기관 안내 같은 기계 음성이든 똑같이 합성음으로 잡힌다. 탐지 기술은 합성 여부만 볼 뿐 누구 목소리를 흉내 냈는지는 구분하지 않는다. 아기 목소리를 녹음한 뒤 AI로 다시 합성한 음성을 통신사 탐지 기능이 잡아낼 수 있는 것도 이 때문이다. 내 전화는 목소리를 의심할까 스마트폰의 보이스피싱 탐지 기능이 모두 목소리 자체를 따지는 것은 아니다. 방식은 크게 세 갈래다. 목소리가 합성됐는지 판별하거나, 대화 내용을 분석하거나, 범죄자 성문(목소리 지문)과 대조한다. 과기정통부 등에 따르면 삼성전자 갤럭시의 기본 '전화' 앱은 모르는 번호와 통화할 때 대화 내용을 분석해 '의심'과 '경고' 두 단계로 알린다. SK텔레콤 제공 SK텔레콤 에이닷 전화도 대화 내용을 분석한다. SKT는 11일 CBS노컷뉴스에 보낸 서면 답변에서 이같이 밝히며 "에이닷 전화는 목소리의 합성·변조 여부를 판별하지 않는다"고 했다. SKT가 올해 초 안드로이드용 에이닷 전화에 도입한 '위험 목소리 탐지'는 대화 내용에서 의심 정황이 감지되면 스마트폰 안의 AI가 성문을 비교하는 이중 탐지 구조다. 국립과학수사연구원이 제공한 보이스피싱 범죄자의 성문 데이터와 통화 상대 목소리의 유사도를 분석한다 백경다운로드 . 통화 속 목소리가 합성됐는지를 판별한다고 밝힌 곳은 KT와 LG유플러스다. KT가 지난 4일 출시한 '안심365 보이스피싱 탐지 3.0'은 통화 문맥과 범죄자 성문, 합성 음성을 분석한다. 말하는 속도와 어조 같은 비언어적 특징도 분석 대상에 더했다. 위험을 알릴 때는 판단 근거를 함께 보여 준다고 KT는 밝혔다. LG유플러스 익시오의 '안티딥보이스'는 지난해 6월 말 탑재됐다. 통화 내용으로 보이스피싱 의심 여부를 먼저 판단한 뒤 음성 특징을 분석해 합성·변조 여부를 판별하는 2단계 구조다. 범죄자 성문 대조 기능도 갖췄다. LG유플러스 측은 통화 중 위험을 경고하는 기능이며, 범죄 여부를 사후에 확정하는 것은 아니라고 설명했다. 4개 서비스 모두 스마트폰 안에서 통화를 분석한다. 창이 발전하면 방패도 개발해야 그러나 탐지 AI가 학습하지 않은 방식으로 만든 목소리는 판별이 어렵다. 서울시립대 컴퓨터과학부 유하진 교수는 통화에서 "기존에 있는 방법에 대해서는 99% 이상 탐지해 낼 수 있는데, 새로운 것에 대해서는 탐지 성능이 70% 이하로 떨어진다"고 진단했다. 새 기법이 알려지면 그 데이터를 모아 탐지 AI를 다시 학습시켜 99%로 끌어올릴 수 있지만, 이후 기법이 또 발전한다는 .을 감안하면 해킹과 방어처럼 서로 계속 쫓아가는 구조라는 설명이다. 알라딘다운로드 유 교수는 "창이 계속 발전하면 방패도 거기에 따라 계속 개발을 해야 한다"고 말했다. 정상 통화를 보이스피싱으로 잘못 판단하는 오탐도 생길 수 있다. 가령 아들이 통화 중 "엄마 용돈 줘"라고 말한 걸 탐지 AI가 잘못 잡을 수 있다. 과기정통부 관계자는 "업체들이 오탐에 민감하다"며 "10%라도 오탐이 나오면 그게 민원으로 돌아오기 때문"이라고 말했다. LG유플러스 측도 정상적인 자동응답시스템(ARS)이나 상담봇은 원칙적으로 탐지 대상에서 빠지지만, 개인정보를 요청하는 내용이 섞이면 잘못 잡힐 수 있다고 밝혔다. 다만 통신사들이 발표한 수치는 가려 읽을 필요가 있다. LG유플러스는 합성 음성 탐지 정확도가 98% 수준이라고 밝혔다. 알려진 합성 기법을 대상으로 한 성능이다. KT가 밝힌 탐지 정확도 97.2%는 스팸 차단 앱 '후후'의 신고 데이터와 경찰청 피싱 번호를 바탕으로 자체 산식에 따라 계산한 수치다. 통화 속 목소리의 합성 여부를 가리는 정확도와는 다르다. 과기정통부 측은 업체들로부터 알람 건수 등 탐지 실적을 받아 보지만 영업비밀이어서 공개하지 못한다고 설명했다. 정부는 올해 초 통신사 실적을 집계해 공개하려 했으나 기업들이 반대했던 것으로 전해졌다. 3편에서는 탐지 기능을 쓸 수 없는 휴대전화와 이용자가 지켜야 할 수칙을 짚는다. 제작지원 : 한국언론진흥재단 이메일 : 바로가기 :https://www.nocutnews.co.kr/jebo/write.aspx 진실은 노컷, 거짓은 칼컷 널