대화형 인공지능의 청소년 보호조치와 유해성 심의를 위한 법안

쉬운 요약

• 청소년이 대화형 인공지능을 이용할 때 생길 수 있는 위험으로부터 보호하기 위한 법률 개정안이에요.
• 법에 관계형 인공지능서비스와 청소년유해인공지능서비스라는 개념을 새로 넣자고 제안해요.
• 이들 서비스에 관한 청소년 보호조치 의무의 근거를 마련하려고 해요. 다만 제공된 법안 요약에는 구체적으로 어떤 조치를 해야 하는지 나와 있지 않아요.
• 인공지능서비스의 유해성을 심의하고, 필요한 경우 시정을 명령할 근거도 마련하려는 내용이에요.
• 대화를 주고받으며 답변을 생성하는 인공지능서비스에 청소년 보호체계를 적용하려는 제안이에요.

주요 내용

• 새로운 서비스 개념: 관계형 인공지능서비스와 청소년유해인공지능서비스를 법에서 정의하도록 제안해요.
• 청소년 보호조치: 두 유형의 인공지능서비스에 관한 청소년 보호조치 의무의 근거를 마련하려고 해요.
• 유해성 심의: 인공지능서비스의 청소년 유해성을 심의할 수 있는 근거를 마련하려고 해요.
• 시정명령: 인공지능서비스와 관련해 시정을 명령할 수 있는 근거를 마련하려고 해요.
• 개인화된 대화의 위험 고려: 지속적인 상호작용에 따른 정서적 의존과 유해한 내용에 대한 부적절한 반응을 보호가 필요한 이유로 제시해요.

왜 나왔나

제안 이유는 대화형 인공지능 챗봇이 청소년의 정보 탐색과 오락, 정서적 교류 등에 활용되고 있다고 설명해요. 동시에 개인화된 대화가 정서적 의존을 낳거나 자해·자살·폭력·성적 대화에 부적절하게 반응할 수 있다는 우려를 제기해요. 청소년이 인공지능의 정보를 비판적으로 평가하거나 인공지능과 인간의 관계를 구분하는 데 어려움을 겪을 수 있다는 점도 법안을 제안한 이유예요. 제안자는 기존 청소년 보호체계가 실시간으로 대화를 생성하는 서비스에 충분히 대응하지 못한다고 보고 새로운 근거를 마련하려고 해요.

무엇이 달라지나

1) 인공지능서비스 개념 신설

개정안은 청소년 보호법의 정의 규정에 관계형 인공지능서비스와 청소년유해인공지능서비스를 추가하도록 제안해요. 실시간 대화와 상호작용을 하는 인공지능서비스를 청소년 보호의 관점에서 다루려는 취지예요.

• 두 용어가 어떤 서비스를 가리키는지 법에서 정하면 보호조치와 심의의 적용 범위를 판단하는 출발점이 될 수 있어요.
• 제공된 제안이유와 주요내용에는 각 용어의 상세한 정의가 없어, 모든 대화형 인공지능이 대상인지까지는 확인하기 어려워요.

2) 청소년 보호조치 의무

개정안은 관계형 인공지능서비스와 청소년유해인공지능서비스에 대한 청소년 보호조치 의무의 근거를 마련하도록 제안해요. 제안 이유는 지속적이고 개인화된 대화에서 생길 수 있는 정서적 의존과 부적절한 반응을 우려해요.

• 서비스 제공 과정에서 청소년을 보호하기 위해 무엇을 해야 하는지 법적 근거를 두려는 내용이에요.
• 연령 확인이나 특정 기능 제한 등 개별 조치의 포함 여부와 의무를 지는 주체는 제공된 요약만으로 단정할 수 없어요.

3) 인공지능서비스 유해성 심의

개정안은 인공지능서비스의 청소년 유해성을 심의할 근거를 마련하도록 제안해요. 제안 이유는 자해·자살·폭력·성적 대화 등 유해한 내용에 서비스가 부적절하게 반응할 위험을 거론해요.

• 미리 만들어진 콘텐츠뿐 아니라 대화 중 생성되는 답변과 상호작용을 어떻게 살필지가 중요한 쟁점이 될 수 있어요.
• 누가 어떤 기준과 절차로 심의하는지, 어떤 경우 서비스가 유해한 것으로 판단되는지는 제공된 요약에 구체적으로 나와 있지 않아요.

4) 시정명령 근거 마련

개정안은 인공지능서비스에 대한 시정명령의 근거를 마련하도록 제안해요. 이는 청소년 보호와 관련해 문제가 확인됐을 때 시정을 요구할 수 있는 체계를 두려는 취지예요.

• 시정명령이 적용되는 구체적인 상황과 요구할 수 있는 조치의 범위는 법안의 상세 내용과 이후 심사에서 확인해야 해요.
• 명령을 따르지 않았을 때의 제재나 불복 절차도 제공된 요약만으로는 알 수 없어요.

누구에게 영향이 있나

• 대화형 인공지능을 이용하는 청소년: 이용하는 서비스에 보호조치가 적용되거나 서비스의 유해성이 심의될 수 있어요. 실제 이용 방식이 어떻게 달라질지는 구체적인 규정에 따라 달라져요.
• 인공지능서비스 제공자: 제공하는 서비스가 새로 정의되는 범위에 해당하면 보호조치나 심의와 관련한 의무에 영향을 받을 수 있어요.
• 보호자와 청소년을 돕는 사람들: 청소년의 인공지능 이용을 둘러싼 보호체계가 마련되는지, 어떤 위험에 대응하도록 설계되는지 살펴볼 필요가 있어요.
• 유해성 심의와 시정 업무를 맡을 기관: 심의와 시정명령 근거가 마련되면 적용 기준과 절차를 운영하는 역할이 중요해질 수 있어요. 담당 기관은 제공된 요약에서 확인되지 않아요.
• 인공지능서비스를 개발하는 사람들: 청소년 보호조치가 구체화되면 대화 기능과 서비스 운영 방식을 검토해야 할 수 있어요.

봐야 할 점

• 관계형 인공지능서비스와 청소년유해인공지능서비스의 최종 정의가 어디까지 적용될지 확인해야 해요.
• 보호조치의 대상과 내용이 구체적으로 무엇인지, 청소년의 안전과 서비스 이용에 어떤 영향을 줄지 살펴봐야 해요.
• 대화 맥락에 따라 달라지는 답변의 유해성을 어떤 기준과 절차로 심의할지 중요해요.
• 시정명령을 내릴 수 있는 조건과 명령의 범위, 관련 절차가 어떻게 정해질지 확인해야 해요.
• 법안이 제시한 정서적 의존과 유해한 반응에 대한 우려에 실제 보호조치가 어떻게 대응할지도 살펴봐야 해요.