유튜브 채널 가로세로연구소 측이 고인이 된 배우 김새론이 “중학생 때부터 대학교에 입학할 때까지 김수현과 사귀었다”고 말하는 내용이 담긴 녹취록을 공개하였는데요. 이것에 대해 배우 김수현 소속사 골드메달리스트는 “해당 녹취파일이 AI 등을 통하여 만들어진 것으로 파악하고 있다”고 밝혔습니다. 오늘은 컴변스와 함께 딥페이크 음성으로 의심되는 자료가 증거로 제출되는 경우 어떤 절차를 거치게 되는지 알아보겠습니다.
1. 딥페이크 음성의 증거능력 심사 체계
가. 형식적 요건 – 적법한 증거 수집 절차
딥페이크 음성이 법원에 증거로 제출될 경우, 우선 형사소송법 제308조의2에 따라 적법한 절차에 의해 수집된 증거인지 확인해야 합니다. 영장에 의한 압수수색, 당사자의 동의 등 적법한 절차를 통해 확보되었는지가 일차적으로 검토됩니다. (형사소송법 제308조의2)
나. 실질적 요건 – 증거의 진정성 확인
대법원은 “대화 내용을 녹음한 파일 등의 전자매체는 성질상 작성자나 진술자의 서명 혹은 날인이 없을 뿐만 아니라, 녹음자의 의도나 특정한 기술에 의하여 내용이 편집·조작될 위험성이 있음을 고려하여” 원본성과 무결성이 입증되어야 함을 명시하고 있습니다. (대법원 2015. 1. 22. 선고 2014도10978 판결)
2. 경찰 단계에서의 딥페이크 음성 감정 절차
가. 디지털 증거 수집 및 보존
경찰은 음성 파일이 확보되면 우선 해당 파일의 무결성을 보존하기 위한 조치를 취합니다.
1) 원본 증거의 보존
- 음성 파일의 해시값(Hash Value)을 즉시 생성하여 기록
- 원본 파일은 쓰기 방지 장치를 통해 보존
- 모든 분석 작업은 복제본을 통해 진행
2) 디지털 포렌식 절차 준수
경찰청 디지털포렌식센터는 “디지털포렌식에 관한 기획·지도·조정, 디지털포렌식 관련 법령 및 제도의 연구·개선, 디지털포렌식 수행 및 지원, 디지털포렌식 기법 연구 및 개발” 등의 업무를 담당합니다. (경찰청과 그 소속기관 직제 시행규칙 제16조)
나. 1차 감정 – 경찰 디지털포렌식센터 분석
1) 메타데이터 분석
- 파일 생성일자, 편집 여부, 녹음 장치 정보 확인
- 파일 형식 및 코덱 분석 (3gp, m4a 등 휴대전화 녹음기능으로 생성되는 압축파일 여부 확인)
- 음성 파일의 압축 해제 및 변환 흔적 확인
2) 음향학적 분석
- 주파수 스펙트럼, 포먼트(Formant), 피치(Pitch) 분석
- 음성의 억양, 굴곡 등 특징점 분석
- 배경 소음 일관성 검사
3) 딥러닝 기반 딥페이크 탐지
- GAN(Generative Adversarial Network) 기반 합성 여부 탐지
- 음성 합성 과정에서 발생하는 특징적 패턴 식별
- 인공지능 기술을 이용한 가짜 음성 식별 기술 적용
다. 경찰 감정 결과 보고서 작성
경찰 디지털포렌식센터는 분석 결과를 “디지털 증거분석 결과보고서”로 작성하여 수사팀에 제공합니다. 이 보고서에는 다음 내용이 포함됩니다:
- 분석 대상 파일의 기본 정보 및 해시값
- 분석 방법 및 사용 도구
- 메타데이터 분석 결과
- 음향학적 분석 결과
- 딥페이크 탐지 결과
- 종합 의견 (진본 여부에 대한 판단)
3. 검찰 단계에서의 딥페이크 음성 감정 절차
가. 경찰 감정 결과 검토
검찰은 경찰로부터 송치된 사건에서 디지털 증거분석 결과보고서를 검토하고, 필요시 추가 감정을 의뢰합니다.
나. 대검찰청 과학수사부 법과학분석과 감정 의뢰
1) 정밀 감정 절차
대검찰청 과학수사부 법과학분석과에서는 다음과 같은 정밀 감정을 수행합니다:
- 성문분석: 음성의 언어학적 특성 분석
- 음향분석: 음성의 물리적 특성 분석
- 청취분석: 전문가에 의한 청취 비교 분석 (대법원 2025. 2. 27. 선고 2022도1864 판결)
2) 비교 분석 방법
- 의심 음성과 비교 대상 음성(피의자 등의 실제 음성) 간 비교 분석
- 동일인 여부 또는 인공지능 생성 여부 판별
- 편집·조작 흔적 탐지
다. 국립과학수사연구원 의뢰
사안의 중요성이나 난이도에 따라 국립과학수사연구원에 추가 감정을 의뢰할 수 있습니다.
1) 국과수 디지털분석과의 정밀 감정
- 고급 음성 분석 장비와 소프트웨어를 활용한 정밀 분석
- 딥페이크 탐지 알고리즘 적용
- 음성 파형, 스펙트로그램 등 다각적 분석
2) 감정 결과 통보서 작성
국립과학수사연구원은 감정 결과를 “음성감정 결과통보서”로 작성하여 검찰에 제공합니다. (대법원 2025. 2. 27. 선고 2022도1864 판결)
4. 경찰·검찰 단계에서의 감정 결과 활용
가. 감정 결과의 증거적 가치 평가
경찰과 검찰은 감정 결과를 바탕으로 해당 음성 증거의 증거적 가치를 평가합니다.
1) 진정성 판단 기준
- 원본 동일성: 제출된 음성 파일이 원본과 동일한지 여부
- 무결성: 수집 이후 변조되지 않았는지 여부
- 신뢰성: 감정 방법의 과학적 신뢰성
2) 감정 결과의 해석
- “동일인의 것일 가능성이 있다” 등의 감정 결과는 확률적 판단으로 해석
- 감정 결과의 신뢰도 수준 평가
- 다른 증거와의 정합성 검토
나. 공소 제기 여부 결정
검찰은 감정 결과를 포함한 전체 증거를 종합하여 공소 제기 여부를 결정합니다.
1) 딥페이크 음성으로 확인된 경우
- 성폭력범죄의 처벌 등에 관한 특례법 제14조의2(허위영상물 등의 반포등) 위반 여부 검토
- 공직선거법 제82조의8(딥페이크영상등을 이용한 선거운동) 위반 여부 검토
- 사기, 명예훼손 등 다른 범죄 성립 여부 검토
2) 진정한 음성으로 확인된 경우
- 해당 음성 증거를 기반으로 한 본 범죄의 입증 가능성 검토
- 증거능력 인정을 위한 추가 절차 준비
5. 국내 주요 딥페이크 음성 감정기관
가. 경찰청 디지털포렌식센터
경찰청 디지털포렌식센터는 각 지방경찰청 사이버수사과에 설치되어 있으며, “사이버범죄의 수사, 경찰서 사이버범죄 수사 지휘·감독, 사이버범죄의 예방에 관한 업무, 디지털포렌식에 관한 업무” 등을 담당합니다. (경찰청과 그 소속기관 직제 시행규칙 제65조)
나. 대검찰청 과학수사부 법과학분석과
대검찰청 과학수사부 법과학분석과는 음성 감정, 영상 분석 등 디지털 증거 분석을 전문적으로 수행합니다. 특히 성문분석, 음향분석, 청취분석 등 종합적인 방법으로 음성의 진위 여부를 판별합니다. (대법원 2025. 2. 27. 선고 2022도1864 판결)
다. 국립과학수사연구원 디지털분석과
국립과학수사연구원은 최첨단 장비와 기술을 활용하여 디지털 증거의 정밀 분석을 수행합니다. 특히 복잡한 사건이나 고도의 기술이 적용된 딥페이크 음성의 분석에 중요한 역할을 합니다.
라. 한국전자통신연구원(ETRI)
한국전자통신연구원은 음성 인식 및 합성 기술 연구와 함께 딥페이크 탐지 기술 개발에도 참여하고 있습니다. 특히 인공지능 기술을 활용한 딥페이크 탐지 알고리즘 개발에 중점을 두고 있습니다.
6. 딥페이크 음성 감정의 기술적 방법
가. 음향학적 분석 기법
1) 스펙트럼 분석
- 푸리에 변환(Fourier Transform)을 통한 주파수 영역 분석
- 자연 발화 음성과 합성 음성의 주파수 패턴 차이 식별
- 고주파 대역의 불규칙성 분석
2) 포먼트 분석
- 음성의 공명 주파수인 포먼트(Formant) 분석
- 인공 생성 음성의 경우 포먼트 전이 패턴이 부자연스러운 특징 식별
- 모음 발음 시 포먼트 구조의 일관성 검증
나. 딥러닝 기반 탐지 기술
1) 생성적 적대 신경망(GAN) 탐지
- GAN으로 생성된 음성의 특징적 패턴 식별
- 적대적 학습 모델을 통한 딥페이크 탐지
- 음성 합성 과정에서 발생하는 아티팩트(artifacts) 검출
2) 음성 일관성 검사
- 장시간 음성에서의 음색, 억양, 발화 패턴의 일관성 분석
- 자연 발화에서 나타나는 미세한 변화 패턴 검증
- 인공 생성 음성에서 나타나는 반복적 패턴 식별
다. 메타데이터 및 파일 구조 분석
1) 파일 포맷 검증
- 음성 파일의 헤더 정보 분석
- 코덱 정보 및 압축 방식 검증
- 파일 구조의 비정상적 특징 식별
2) 편집 흔적 탐지
- 파일 내 불연속점 검출
- 음성 파형의 부자연스러운 연결 부분 식별
- 배경 소음의 일관성 검증
7. 딥페이크 음성 감정의 한계와 대응 방안
가. 기술적 한계
1) 딥페이크 기술의 빠른 발전
- 딥페이크 탐지 기술과 생성 기술 간의 지속적인 경쟁 관계
- 탐지 알고리즘을 우회하는 새로운 생성 기술의 등장
- 탐지 기술의 지속적 업데이트 필요성
2) 감정 결과의 확률적 특성
- 음성 감정은 100% 확실한 결론을 내리기 어려움
- “동일인의 것일 가능성이 있다” 등의 확률적 표현 사용
- 다른 증거와의 종합적 판단 필요
나. 법제도적 대응 방안
1) 딥페이크 규제 법안 강화
- 성폭력범죄의 처벌 등에 관한 특례법 제14조의2(허위영상물 등의 반포등)
- 공직선거법 제82조의8(딥페이크영상등을 이용한 선거운동)
- 정보통신망법상 딥페이크 탐지 기술 개발·보급 의무화 (이창범 외 2인, 『이론&실무 정보통신망법』, 30면) (이창범 외 2인, 『이론&실무 정보통신망법』, 박영사(2021년), 30면)
2) 감정 절차의 표준화
- 디지털 증거 수집 및 분석 절차의 표준화
- 감정인의 전문성 확보를 위한 교육 및 인증 제도
- 감정 결과의 신뢰성 평가 기준 마련
다. 기술적 대응 방안
1) 딥페이크 탐지 기술 개발 지원
- 정보통신망법에 ‘인공지능 기술을 이용하여 만든 거짓의 음향·화상 또는 영상 등의 정보를 식별하는 기술의 개발·보급’ 포함 (이창범 외 2인, 『이론&실무 정보통신망법』, 30면) (이창범 외 2인, 『이론&실무 정보통신망법』, 박영사(2021년), 30면)
- 인공지능 기반 딥페이크 탐지 알고리즘 연구 지원
- 국제 협력을 통한 탐지 기술 공유
2) 음성 워터마킹 기술 도입
- 원본 음성에 디지털 워터마크 삽입
- 편집·조작 시 워터마크 손상을 통한 변조 탐지
- 공인된 음성 녹음 시스템에 워터마킹 기술 적용
요약
딥페이크 음성이 법원에 증거로 제출되는 경우, 경찰과 검찰 단계에서는 체계적인 감정 절차를 통해 그 진위 여부를 판별합니다. 경찰 디지털포렌식센터에서는 메타데이터 분석, 음향학적 분석, 딥러닝 기반 탐지 등의 1차 감정을 수행하고, 검찰 단계에서는 대검찰청 과학수사부 법과학분석과나 국립과학수사연구원을 통해 성문분석, 음향분석, 청취분석 등 정밀 감정을 추가로 진행합니다.
감정 결과는 원본 동일성, 무결성, 신뢰성 등을 기준으로 평가되며, 이를 바탕으로 공소 제기 여부가 결정됩니다. 국내에서는 경찰청 디지털포렌식센터, 대검찰청 과학수사부, 국립과학수사연구원, 한국전자통신연구원 등이 주요 감정 기관으로 활동하고 있습니다.
딥페이크 기술의 빠른 발전으로 인한 기술적 한계가 존재하지만, 법제도적 대응과 기술적 대응을 통해 이러한 한계를 극복하기 위한 노력이 계속되고 있습니다. 특히 성폭력범죄의 처벌 등에 관한 특례법, 공직선거법 등의 법률 개정과 정보통신망법상 딥페이크 탐지 기술 개발 의무화 등을 통해 제도적 기반을 마련하고 있습니다.