딥페이크 신속 삭제 의무 강화

쉬운 요약

• 딥페이크 성범죄 피해를 더 빨리 막기 위해, 플랫폼이 삭제와 차단을 더 빨리 하도록 의무를 세우는 법안이에요.
• 성인 피해자는 요청 뒤 48시간 안에, 미성년 피해자는 인지 즉시 또는 24시간 안에 대응하도록 하려는 내용이에요.
• 같은 영상이 다시 퍼지는 걸 막기 위해, 복제본까지 함께 막는 기술적 조치도 넣고 있어요.
• 해외 플랫폼에도 국내 책임을 더 분명히 지우고, 국내대리인 지정과 연대책임을 강화하려고 해요.
• 의무를 어기면 과징금을 부과하고, 게시자 쪽에는 사후 이의신청 절차도 두려는 구성이에요.

주요 내용

• 삭제·차단 의무 시간 명시: 성인과 미성년 피해자에 따라 플랫폼이 얼마나 빨리 지워야 하는지 시간을 정해두려는 내용이에요.
• 미성년 피해자 보호 강화: 미성년 대상 성적 합성물은 동의가 없었다고 보는 방향으로 기준을 완화해, 더 빠른 삭제가 가능하게 하려는 취지예요.
• 복제본 일괄 차단: 해시값과 콘텐츠 지문 같은 기술을 써서 같은 내용이나 비슷한 내용의 재유포를 함께 막으려 해요.
• 국외 사업자 책임 확대: 해외 플랫폼도 국내 이용자에게 영향을 주면 규율 대상이 되도록 하고, 국내대리인과 책임 구조를 분명히 하려는 내용이에요.
• 게시자 방어권 보완: 플랫폼이 적극적으로 지우도록 면책을 주되, 게시자에게는 나중에 다툴 수 있는 절차도 두려는 균형을 잡고 있어요.
• 제재 수단 도입: 의무를 지키지 않으면 국내 매출액의 1% 이내에서 과징금을 부과하도록 해 강제력을 높이려는 구조예요.

왜 나왔나

생성형 인공지능이 빠르게 퍼지면서, 얼굴과 성적 이미지를 합성한 딥페이크가 더 쉽게 만들어지고 더 빨리 퍼질 수 있게 됐어요. 제안 이유에 따르면 한 번 유포되면 복제와 확산 속도가 너무 빨라서 피해 회복이 어렵고, 인격권 침해도 크게 남는다고 봐요.

현행 정보통신망 관련 임시조치만으로는 삭제 여부를 빨리 정하기 어렵고, 플랫폼이 복제본 확산을 막는 기술적 책임도 충분하지 않다고 보고 있어요. 국외 사업자에 대한 집행 한계와 성인 피해자 보호의 사각지대도 함께 문제로 제기됐어요.

그래서 별도 법률로 삭제 시한, 기술적 차단, 해외 사업자 책임, 제재와 이의절차를 한 번에 묶어 실효성을 높이려는 흐름이에요.

무엇이 달라지나

1) 빠른 삭제 기준

기존에는 임시조치 중심으로 움직였지만, 이 법안은 성인 피해자와 미성년 피해자에 대해 삭제·차단해야 하는 시간을 더 분명하게 정해요. 피해가 퍼진 뒤에 늦게 처리하는 방식보다, 초기 대응을 더 앞당기려는 방향이에요.

• 성인 피해자는 요청 뒤 48시간 안에 삭제·차단하는 틀을 두려 해요.
• 미성년 피해자는 인지 즉시 또는 24시간 안에 대응하도록 더 강한 기준을 잡고 있어요.
• 피해자가 요청하고 기다리는 시간 자체를 줄여, 추가 확산을 막는 데 초점을 맞춰요.

2) 미성년 피해자 보호 강화

미성년 대상 성적 합성물은 동의가 없었다고 보는 추정을 넣어, 삭제 요건을 더 낮추려 해요. 피해자가 일일이 다투기 전에 우선 차단하고, 나중에 다투는 구조로 옮기려는 의도가 보여요.

• 미성년은 보호 우선 원칙을 더 강하게 적용하려는 흐름이에요.
• 삭제 판단을 복잡하게 끌지 않고, 우선 정지시키는 쪽에 무게를 두고 있어요.
• 아동·청소년 대상 유포물은 확산 뒤 회복이 특히 어려워서, 사전 차단의 비중이 커져요.

3) 재유포 차단 장치

단순 삭제만으로는 캡처본이나 재업로드를 막기 어렵기 때문에, 비슷한 복제본까지 함께 잡는 기술적 조치를 넣고 있어요. 같은 내용이 조금만 바뀌어 다시 퍼지는 상황을 줄이려는 장치예요.

• 해시값과 콘텐츠 지문 생성 같은 방식으로 동일·유사물을 함께 막으려 해요.
• 한 번 지운 뒤에도 다시 올라오는 문제를 줄이는 데 초점이 있어요.
• 플랫폼이 수동 대응에만 머물지 않고, 반복 유포를 기술로 관리하도록 요구해요.

4) 해외 플랫폼 책임 확대

국외에서 이뤄진 행위라도 국내 이용자에게 영향을 주면 이 법을 적용하도록 하려 해요. 규모가 큰 해외 플랫폼에는 국내대리인 지정도 강제하고, 책임 회피를 막기 위한 구조를 세우고 있어요.

• 해외 사업자도 국내 피해가 생기면 규율 밖에 두지 않으려는 방향이에요.
• 국내대리인을 통해 연락·조치 창구를 명확히 하려는 취지예요.
• 일정 규모 이상 사업자에게 더 큰 책임을 지우는 방식이라, 집행력 확보가 핵심이에요.

5) 제재와 절차의 균형

플랫폼이 적극적으로 지우도록 유도하려면 책임만 세우는 게 아니라, 적법하게 대응했을 때의 보호도 함께 있어야 해요. 이 법안은 면책 규정과 사후 이의신청 절차를 함께 두어, 빠른 삭제와 게시자 권리 사이의 균형을 맞추려 해요.

• 플랫폼이 망설이지 않고 조치할 수 있도록 면책을 붙이려 해요.
• 게시자는 나중에 이의신청으로 다툴 수 있게 해 방어권을 보완해요.
• 속도와 절차를 함께 잡아야 오판과 무대응을 둘 다 줄일 수 있어요.

6) 과징금으로 집행력 확보

의무를 지키지 않으면 국내 매출액의 1% 이내에서 과징금을 부과할 수 있게 해요. 실질적 제재를 둬야 플랫폼이 삭제 의무를 형식적으로 넘기지 않을 거라는 판단이 깔려 있어요.

• 금전 제재를 통해 이행 압박을 높이려는 설계예요.
• 단순 권고가 아니라, 지체나 방치에 비용을 붙이는 방식이에요.
• 실제 부과 기준과 집행 강도는 시행 과정에서 더 살펴볼 부분이에요.

누구에게 영향이 있나

• 딥페이크 피해자: 삭제 요청 속도가 빨라질 수 있어요. 특히 미성년 피해자는 더 강한 보호를 기대할 수 있어요.
• 플랫폼사업자: 삭제, 차단, 복제본 관리, 국내대리인 지정 같은 부담이 커져요.
• 국외 플랫폼: 국내 이용자 대상 영향이 있으면 책임을 피하기 어려워져요.
• 게시자와 업로더: 게시물이 빠르게 내려갈 가능성이 커지고, 나중에 이의신청 절차를 통해 다툴 수 있어요.
• 수사·행정 집행기관: 해외 사업자까지 포함한 집행 경로와 과징금 운영을 함께 검토해야 해요.

봐야 할 점

• 삭제·차단 시한이 실제로 얼마나 지켜질지 봐야 해요.
• 해시값과 콘텐츠 지문이 오탐이나 과차단을 만들지 확인해야 해요.
• 해외 플랫폼에 대한 국내대리인 지정과 연대책임이 실제 집행으로 이어질지 봐야 해요.
• 사후 이의신청 절차가 피해자 보호 속도를 떨어뜨리지 않는지도 중요해요.
• 국내 매출액 기준 과징금이 어느 정도 억지력을 가지는지, 시행 뒤 평가가 필요해요.