인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

제안이유 및 주요내용

인공지능은 고용, 금융, 행정, 복지 등 사회 전반에 걸쳐 활용되며 국민의 기본적 삶과 권리에 중대한 영향을 미치고 있음. 그러나 인공지능의 도입ㆍ운영 및 의사결정 과정에서 영향을 받는 개인 또는 집단의 참여 보장이 미흡하고, 인공지능으로 인한 인권침해 발생 시 효과적인 권리구제 수단 또한 충분히 마련되어 있지 않은 실정임.

국제사회는 인공지능의 개발 및 활용 과정에서 인권 보호 기준을 명확히 설정할 필요성에 대해 공감대를 형성하고 있으며, 국가인권위원회는 2022년 「인공지능 개발과 활용에 관한 인권 가이드라인」을 통해 인간의 존엄성 존중, 차별 금지, 감독체계 구축 등을 권고한 바 있음.

현행법은 인공지능 윤리원칙과 투명성ㆍ안전성 확보 의무, 고영향 인공지능에 대한 사업자의 책무 등을 규정하고 있으나, 인공지능으로 인한 차별 방지 및 인권 보호 측면에서는 여전히 미흡하다는 지적이 제기되고 있음.

이에 인공지능의 개발ㆍ활용 과정에서 개인 또는 집단의 특성에 따른 차별적 결과가 발생하지 않도록 기본원칙을 명확히 규정하고, 국가가 인공지능으로 인한 인권침해 및 차별에 대해 사전적ㆍ사후적으로 관리ㆍ감독할 의무를 부과함으로써 국민의 권익과 기본권을 실질적으로 보호하려는 것임(안 제3조제3항부터 제5항까지).