인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안

제안이유 및 주요내용

현행법은 인공지능사업자가 생성형 인공지능 등을 이용한 제품ㆍ서비스를 제공하는 경우 이용자에게 인공지능 기반 운용 사실을 사전에 고지하도록 하고 있으며, 대화형 서비스의 경우 이용 전 안내 등으로 이를 갈음할 수 있도록 하고 있음.

그러나 이용자가 대화 도중 상대방이 인공지능임을 인식할 수 있도록 하는 의무는 없어, 이용자가 장시간 대화하거나 정서적으로 몰입하는 경우 인공지능을 실제 사람으로 오인할 우려가 있음.

이에 이용자와 대화하는 방식으로 상호작용하는 인공지능시스템을 이용한 제품ㆍ서비스를 제공하는 인공지능사업자가 이용자로 하여금 그 대화 중에도 인공지능과 상호작용하고 있다는 사실을 명확하게 인식할 수 있도록 고지하는 등 필요한 조치를 하도록 하고, 그 조치의 방법ㆍ주기 등은 대통령령으로 정하도록 하며, 해당 의무 위반을 사실조사 및 시정명령의 대상에 포함함으로써 대화형 인공지능 이용자의 알 권리를 보호하려는 것임(안 제31조제4항 신설 및 제40조제1항).