전화기 너머에서 가족의 목소리가 다급하게 돈을 보내 달라고 한다. 목소리도, 말투도, 통화 화면 속 얼굴도 진짜와 다르지 않다. 그러나 그 모두가 AI가 만든 가짜일 수 있는 시대가 왔다. 딥페이크는 이미 성범죄와 금융사기, 선거의 영역까지 파고들었다. 눈으로 보고 귀로 들은 것을 믿을 수 없게 될 때 무너지는 것은 개인의 피해에 그치지 않는다. 사회가 서로를 믿고 거래하고 소통하는 신뢰의 기반 그 자체다. 법은 오랫동안 '무엇을 진정한 것으로 인정할 것인가'를 정하는 일을 해 왔다. 문서의 진정성을 추정하고, 위조와 변조를 처벌하고, 증거의 신빙성을 가리는 일이다. 그 규율은 위조가 어렵고 드물다는 전제 위에 서 있었다. 생성형 AI는 그 전제를 무너뜨린다. 누구나 거의 비용 없이 실제와 구별되지 않는 가짜를 만들 수 있게 되면, 사후 처벌만으로는 늦다. 진짜와 가짜를 가리는 표시와 검증의 체계를 미리 설계하는 것, 그것이 법에 요구되는 새로운 역할이다. AI 기본법이 생성물에 대한 표시 의무를 둔 것은 그 출발。이다. AI가 만든 콘텐츠임을 알 수 있게 하고, 워터마크와 이력 기록 같은 기술적 검증 수단을 표준화하며, 딥페이크로 인한 인격권 침해에 신속한 구제 절차를 마련하는 일이 이어져야 한다. 표시와 검증은 표현을 막는 검열이 아니다. 무엇이 사람의 것이고 무엇이 기계의 것인지 알 권리를 보장하여, 속지 않을 자유를 지키는 장치다 모바일 바다이야기게임예시 . 문제는 속임의 차원에서 끝나지 않는다. AI 자체가 공격의 대상이자 수단이 된다. 정교하게 조작된 입력으로 AI의 판단을 비틀고, 안전장치를 우회하도록 유도하며, 학습 데이터를 오염시키는 공격은 전통적 해킹과는 다른, AI 특유의 보안 위협이다. 거꾸로 AI는 피싱과 해킹을 자동화하는 무기가 되기도 한다. 방패와 창이 모두 AI로 바뀌는 환경에서, 시스템의 보안은 개별 기업의 선택이 아니라 규범의 요구가 되어야 한다. 시야를 넓히면 안보의 문제가 된다. AI가 전력망과 금융, 의료, 국방 같은 사회의 중추에 들어올수록, 그 오작동과 장악은 국가적 위험이 된다. 핵심 인프라에 쓰이는 AI의 안전 기준, 외부 의존을 줄인 소버린 AI 역량, 전략기술의 보호는 산업 정책이 아니라 안보 법제의 문제다. 개인 속임, 시스템 공격, 국가 위험. 층위는 다르지만 관통하는 질문은 하나다. 이 AI를 믿고 맡길 수 있는가. 신뢰성과 안전성은 별개의 과제가 아니다. 안전이 확보되지 않은 AI는 신뢰받을 수 없고, 신뢰받지 못하는 AI는 쓰이지 못한다. AI 기본법이 고영향 AI에 안전성 확보 의무를 두고, 각국 정부가 위험 평가 체계를 갖추기 시작한 것도 이 때문이다. 손오공릴게임다운로드 안전 규제가 혁신을 늦춘다는 반론이 있다. 그러나 검증되지 않은 AI가 일으킬 단 한 번의 대형 사고는 AI 생태계 전체의 신뢰를 무너뜨린다. 안전 체계는 브레이크가 아니라 더 빨리, 더 멀리 달리기 위한 조건이다. 다만 그 의무는 위험의 크기에 비례해야 하고, 무엇을 어떻게 이행하고 검증받아야 하는지가 예측 가능해야 한다. 불명확한 신뢰·안전 의무는 지킬 수도 없고, 지켜지지도 않는다. 법은 무엇을 해야 하는가. AI 표시·식별과 검증 체계를 정밀하게 설계하고, 신속한 AI·딥페이크 피해 구제체계를 만들어야 한다. 규제가 필요한 AI의 신뢰성·안전성 평가 기준을 구체화하고, 독립적 평가 역량과 국제 공조의 법적 기반을 마련해야 한다. 사고 이후의 회복을 담보하는 리질리언스와 사전의 예측·예방을 아울러, 개인의 신뢰에서 국가의 안보까지 안전·보안·안보를 관통하는 위험 관리의 규범 틀을 세워야 한다. 사고 후의 수습책이 아니라 전기와 수도처럼 사회가 미리 갖춰야 할 기본 인프라이며, 그 설계도는 법에 담겨야 한다. 새 도로를 놓을 때 우리는 신호등과 가드레일을 함께 설계하지, 사고가 난 뒤에야 세우지 않는다. 인공지능이라는 새 길에도 예측과 예방, 회복의 장치가 처음부터 함께 놓여야 한다. 신뢰는 인공지능 시대의 공기와 같다. 있을 때는 보이지 않지만, 사라지는 순간 모든 것이 멈춘다. 그 공기를 지키는 것이 법의 일이다. 최경진 교수(가천대 법대)·한국인공지능법학회장 0; backgro