쉬운 요약

• 청소년이 대화형 인공지능을 이용할 때 생길 수 있는 위험으로부터 보호하기 위한 법률 개정안이에요.
• 법에 관계형 인공지능서비스와 청소년유해인공지능서비스라는 개념을 새로 넣자고 제안해요.
• 이들 서비스에 관한 청소년 보호조치 의무의 근거를 마련하려고 해요. 다만 제공된 법안 요약에는 구체적으로 어떤 조치를 해야 하는지 나와 있지 않아요.
• 인공지능서비스의 유해성을 심의하고, 필요한 경우 시정을 명령할 근거도 마련하려는 내용이에요.
• 대화를 주고받으며 답변을 생성하는 인공지능서비스에 청소년 보호체계를 적용하려는 제안이에요.

주요 내용

• 새로운 서비스 개념: 관계형 인공지능서비스와 청소년유해인공지능서비스를 법에서 정의하도록 제안해요.
• 청소년 보호조치: 두 유형의 인공지능서비스에 관한 청소년 보호조치 의무의 근거를 마련하려고 해요.
• 유해성 심의: 인공지능서비스의 청소년 유해성을 심의할 수 있는 근거를 마련하려고 해요.
• 시정명령: 인공지능서비스와 관련해 시정을 명령할 수 있는 근거를 마련하려고 해요.
• 개인화된 대화의 위험 고려: 지속적인 상호작용에 따른 정서적 의존과 유해한 내용에 대한 부적절한 반응을 보호가 필요한 이유로 제시해요.

제안이유 및 주요내용

검찰 통계에 따르면 정신적 장애인의 범죄검거 현황은 2019년 7,817건에서 2023년 13,994건으로 4년만에 약 2배로 증가한 바 있으며, 이러한 범죄의 증가는 정신적 장애를 가진 범죄자에 대해 중하고 신속한 처벌이 이루어지기를 기대하는 사회적 분위기 조성을 야기하고 있음.

반면, 정신적 장애인을 비롯하여 사물 변별이나 의사결정 능력이 부족한 피의자의 수가 증가하고 있음에도 불구하고, 형사사법절차상에서 이들이 최소한의 자기보호를 위해 정확한 자기표현과 상황설명을 할 수 있도록 조력을 제공하는 제도적 장치는 여전히 부족한 상황임.

지난해 11월, 경계선 지능인과 문맹인 피고인들의 무죄가 16년만에 확정된 순천 청산가리 막걸리 살인 사건 사례에서 확인할 수 있듯, 사물 변별이나 의사결정 능력이 부족한 피의자 등에 대한 적절한 보호장치는 사회적 약자의 기본권 보호 측면에서 반드시 필요한 상황임.

이에 장애, 연령 및 그 밖의 사유로 의사소통이나 의사표현에 어려움이 있는 참고인, 피의자 등이 형사사법절차에서 진술조력인의 조력을 받을 수 있도록 하고, 진술조력인의 재판과정 참여 및 의무 등에 관한 사항을 규정하려는 것임(제244조의7 신설 등).

제안이유 및 주요내용

최근 학교 현장에서는 동의 없이 수업 장면이나 신체를 촬영한 뒤 이를 편집ㆍ합성하거나 온라인에 유포하는 사례가 계속 발생하고 있음. 국회도서관 자료에 따르면, 교육활동 침해 건수는 2020년 1,197건에서 2023년 5,050건까지 급증한 뒤 2024년 4,234건, 2025년 1학기에만 2,189건이 집계되었고, 이 중 상해ㆍ폭행 및 성폭력 범죄로 분류되는 침해행위도 2020년 144건에서 2024년 675건, 2025년 1학기 389건으로 꾸준히 늘어나는 추세임.

특히 무단 촬영ㆍ영상 유포는 교권침해의 대표적인 유형 중 하나로 꼽히고 있으며, 최근에는 학생이 인공지능(AI) 딥페이크 기술로 교원의 얼굴을 성적으로 합성해 온라인에 유포하는 사건이 실제로 기소ㆍ재판까지 이어지고 있음. 이러한 무단 촬영ㆍ유포 행위는 교원의 정상적인 교육활동을 위축시킬 뿐 아니라, 촬영 대상이 되는 학생 및 학교 구성원의 인격권과 초상권을 함께 침해한다는 점에서 문제가 큼.

이에 학교의 장과 교원이 학생 및 학교 구성원의 인격권 보호와 수학권 등 교육활동 보장을 위하여 필요한 경우, 법령과 학칙이 정하는 바에 따라 학교 안에서의 촬영행위를 제한할 수 있는 법적 근거를 마련하려는 것임(안 제20조의6제5호 및 제20조의8 신설).