[김도열의 AI 시대 문화 오디세이] ⑪ '그것이 존재했다'는 신화의 종말… AI 시대, 사진의 진실을 묻다

[김도열 웹케시그룹 미디어전략 이사] (전략) 방송통신심의위원회가 시정을 요구한 딥페이크 불법 영상 역시 2022년 3,574건에서 2024년 2만 3,107건으로 2년 만에 6배 이상 늘어났다. 제작 비용과 수고가 제로에 가까워지면서 가짜 이미지는 폭발적으로 증가했다.

제도적 대응은 늘 한발 늦다. 2026년 1월에야 시행된 AI 기본법은 AI 생성 콘텐츠에 해당 사실을 명시하도록 의무화하고, 딥페이크 이미지에는 식별 표시를 붙이도록 규정했다. 하지만, 이 표시가 현장에서 실효성을 거둘지는 미지수다. 한국리서치 조사에 따르면 AI 식별 표시를 본 적이 있다고 답한 응답자는 39%에 불과했다. 나아가 응답자의 66%는 "실제 사진과 AI 이미지를 구분하는 것 자체가 무의미해지고 있다"고 답했다. 식별 표시는 화면 캡처나 재저장 과정에서 손쉽게 제거되며, 가짜를 판별하는 기술 역시 새 생성 모델이 나올 때마다 한계를 드러낸다.

우리의 일상은 이미 사진에 대한 신뢰를 바탕으로 구축되어 있다. 중고 거래 상품 사진, SNS 프로필, 재난 현장 포착 이미지 등 매일 이미지를 근거로 신뢰를 형성하고 거래를 진행한다. 그 신뢰의 기반이 지금 흔들리고 있다. (후략)

기사 전체보기