**오픈AI(OpenAI)**와 **메타(Meta)**가 연방법원 판사들에게 “AI가 생성한 음성·영상 증거를 가려내는 기술은 구조적으로 완전무결해지기 어렵다”고 경고했다. 연방판사 931명을 대상으로 한 설문에서 실제로 딥페이크 분쟁을 겪은 판사는 15명에 불과하지만, 양사는 지금이 제도 정비의 분수령이라고 강조했다.

핵심 요약

• 오픈AI·메타, 보스턴 연방 증거규칙 자문위에서 “AI 생성 영상·음성의 진위 식별이 점점 더 어려워지고 있다”고 증언.

• 오픈AI 측은 워터마크와 탐지 도구 역시 “완전히 신뢰 가능한 수준에 도달하긴 어렵다”고 지적.

• 판사들은 딥페이크 전용 규칙 초안을 검토 중이나, 아직 채택 여부를 놓고 의견이 갈리는 상황.

오픈AI, “딥페이크 탐지에 과도한 기대 금물”

양사 관계자들은 10월 15일 보스턴에서 열린 미 연방사법회의 증거규칙 자문위원회 회의에서 우려를 공식적으로 제기했다. 이 위원회는 2023년부터 딥페이크 증거 문제를 별도 안건으로 다뤄 왔다.

오픈AI 정책 자문 변호사 **시라 앤더슨(Shira Anderson)**은 “AI 이미지·영상의 품질이 빠르게 고도화되고 있어 장기적으로 과학적·기계적 방식만으로 진위를 가려내기는 어렵다”면서 감식 기술 만능론에 선을 그었다.

캘리포니아주와 유럽연합(EU)은 이미 AI 생성물에 워터마크 부착을 의무화했지만, 앤더슨은 “회사별로 워터마크 체계가 제각각이어서 모든 시각 콘텐츠를 일괄 검증할 수 있는 통일된 표준이 없다”며 “현재의 탐지 도구는 앞으로도 ‘완전히 뚫리지 않는(bulletproof)’ 수준에는 이르기 힘들 것”이라고 말했다.

메타의 제품 관리 디렉터 데빈 노더(Devin Norder) 역시 “최신 AI 모델로 만든 영상·음성은 사람 눈과 귀로는 사실상 진짜와 구별하기 어려운 단계에 와 있다”고 진단했다. 그는 “제작 비용과 시간도 크게 낮아져, 악의적 이용 장벽이 점점 더 낮아지고 있다”고 경고했다.

함께 읽기: 비트코인 8만 달러 지지: 8만7천 달러 재도전 전 숨 고르기?

제시 퍼먼 판사, “딥페이크 공포와 실제 사건 간 괴리”

뉴욕 맨해튼 연방지법의 제시 퍼먼(Jesse Furman) 판사는 해당 증거규칙 패널을 이끌고 있다. 그는 “학계와 언론이 경고해 온 딥페이크 재판 리스크가 아직 실제 사건 통계에서는 두드러지게 나타나지 않는다”고 지적했다.

연방사법센터(FJC)가 3월 실시한 설문 조사에 따르면, 응답한 연방판사 931명 가운데 증거가 딥페이크라고 이의 제기된 사례를 경험한 판사는 15명뿐이다. 퍼먼 판장의 이 같은 언급은 정책 논의와 실제 법정 현장의 온도차를 보여 준다는 평가다.

퍼먼 판사는 더 깊이 있는 검토를 위해 별도 소위원회를 구성했다. 소위는 ‘규칙 901(c)’라는 개정안 초안을 마련해 둔 상태다. 초안에 따르면, 일단 증거가 조작 혹은 딥페이크라고 주장하는 쪽이 일정 수준의 근거를 먼저 제시해야 하며, 그 다음에야 상대방이 해당 증거가 “진짜일 개연성이 더 크다”는 점을 입증하도록 하는 단계적 입증 구조를 도입하는 방안이 담겼다.

“너무 서두르지 말자”는 신중론도

위원회 안에서는 딥페이크 전용 규칙 신설에 대한 신중론도 만만치 않다. 뉴욕 남부연방법원의 밸러리 카프로니(Valerie Caproni) 판사는 “AI를 겨냥한 별도 조문을 급조하기보다는, 실제로 법정에서 딥페이크 문제가 광범위하게 발생한다는 경험적 증거를 더 지켜볼 필요가 있다”고 말했다.

그는 “법원이 조작 증거와 싸워 온 역사는 매우 길고, 이미 허위·사기성 증거 제출을 처벌하는 여러 규정이 존재한다”며 “AI라는 이유만으로 예외적 지위를 부여할 필요가 있는지는 시간을 두고 검증해야 한다”고 강조했다.

실제로 위원회는 2025년 5월, 외부 법률 전문가들이 제안한 딥페이크 관련 증거규칙 개정안을 채택하지 않기로 결정한 바 있다. 당시 다수 위원은 “현행 증거의 진정성(authenticity) 판단 기준만으로도 AI 생성 증거를 충분히 다룰 수 있다”는 입장을 밝혔다.

실제 사건 첫 등장… AI 증거에 ‘레드카드’

다만, 법원이 AI 생성 증거에 직접 제동을 건 사례도 나타나고 있다. 캘리포니아 앨러미다카운티 고등법원의 빅토리아 콜라콥스키(Victoria Kolakowski) 판사는 한 주택 관련 소송에서 원고 측이 AI가 만든 증인 영상을 실제 증언 영상인 것처럼 제출한 사실을 적발하고 사건을 기각했다. 이 판결은 “AI 생성물이 법정에 본격 유입되기 시작했다”는 상징적 사례로 평가된다.

전문가들은 딥페이크가 아직 통계상 대다수 재판을 뒤흔들 정도의 수준은 아니지만, 기술 발전 속도를 감안할 때 이 문제를 ‘사후 대응’만으로 감당하기에는 위험이 크다고 본다. 사법부가 독자적 기술 검증 역량을 키워야 한다는 주문과, 민간 빅테크와의 공조 체계를 제도화해야 한다는 지적도 거세지고 있다.

다음 읽기: 암호화폐 39.6% 랠리의 그림자: 현물 매수세가 못 따라온다