쉬운 요약
- 인공지능으로 만든 음향·이미지·영상이 실제처럼 보일 때, 이용자가 알아볼 수 있도록 표시하게 하기 위한 법률 개정안이에요.
- 인공지능 생성물을 직접 만들거나 편집해 제공하는 사람에게 인공지능으로 만든 정보라는 사실을 알리도록 하려 해요.
- 표시를 지우거나 가짜로 바꾸는 행위를 금지하고, 정보통신서비스 제공자에게 이를 막기 위한 조치를 요구해요.
- 표시 의무를 지키지 않거나 표시를 훼손·위조·변조한 정보는 정보통신망에서 유통이 금지되는 불법정보로 다루려 해요.
- 국민의 생명이나 재산에 피해가 우려되는 경우에는 관계 기관의 요청을 받아 해당 정보를 신속하게 처리할 수 있는 절차를 마련하려 해요.
주요 내용
인공지능 생성물 표시 의무: 실제와 구분하기 어려운 인공지능 생성물을 만들거나 편집해 제공하는 사람에게 이용자가 알 수 있도록 고지하거나 표시하게 해요.
표시 훼손·위조·변조 금지: 인공지능 생성물에 붙은 표시를 지우거나 가짜로 만들거나 내용을 바꾸는 행위를 금지해요.
서비스 제공자의 기술적·관리적 조치: 정보통신서비스 제공자가 표시를 지원하고, 표시가 훼손·위조·변조되지 않도록 필요한 조치를 하게 해요.
불법정보 범위 확대: 표시 의무를 지키지 않은 인공지능 생성물이나 표시를 훼손·위조·변조한 정보의 유통을 금지되는 정보로 규정하려 해요.
생명·재산 피해 우려 시 임시조치: 관계 중앙행정기관의 요청이 있으면 방송미디어통신위원회가 정보통신서비스 제공자에게 임시조치를 요청하고, 심의 뒤 정보의 처리를 거부·정지·제한하도록 명할 수 있게 하려 해요.
왜 나왔나
발의 당시 제안 설명은 딥페이크를 활용한 허위·과장 광고와 가짜 정보가 SNS 등 정보통신망을 통해 널리 퍼지고 있다는 점에 주목했어요. 의사 같은 전문가를 사칭하거나 체험기를 조작하면 소비자가 잘못된 정보를 믿고 생명이나 재산에 피해를 입을 수 있고, 아동·청소년 등 디지털 취약계층의 피해도 커질 수 있다는 우려가 제기됐어요. 인공지능으로 만든 정보는 실제와 구별하기 어려워 이용자가 진위를 판단하기 쉽지 않다는 점도 법안의 배경이에요. 이에 인공지능 생성물임을 알리는 표시와 신속한 임시조치 절차를 마련해 이용자의 알 권리와 정보통신망의 안전을 강화하려는 취지예요.
무엇이 달라지나
1) 인공지능 생성물 표시 의무 신설
제안안은 인공지능시스템을 이용해 만든 실제와 구분하기 어려운 가상의 음향·이미지·영상 등의 정보를 직접 제작하거나 편집해 제공하는 사람에게 표시 의무를 부과하려 해요. 이용자가 해당 정보가 인공지능 생성물이라는 사실을 명확하게 인식할 수 있도록 고지나 표시를 하도록 하는 내용이에요.
- 광고, 영상, 음성 콘텐츠처럼 실제 인물이나 사건으로 오인될 수 있는 정보에 인공지능을 사용했다면 그 사실을 알려야 하는 구조예요.
- 이용자는 콘텐츠의 내용만 보는 것이 아니라 인공지능으로 만들어졌는지도 함께 확인할 수 있게 돼요.
- 다만 어떤 정보가 실제와 구분하기 어려운 생성물에 해당하는지, 표시를 어느 위치와 방식으로 해야 하는지는 후속 기준에서 구체화할 필요가 있어요.
2) 표시 훼손·위조·변조 금지
제안안은 인공지능 생성물이 유통되는 과정에서 표시등을 훼손하거나 위조·변조하는 행위를 금지하려 해요. 표시가 붙어 있다는 사실만으로는 충분하지 않으므로, 표시를 없애거나 진짜처럼 바꾸는 행위까지 막으려는 내용이에요.
- 표시를 제거해 실제 촬영물처럼 보이게 하거나, 표시 내용을 바꿔 인공지능 사용 사실을 숨기는 행위가 제한될 수 있어요.
- 콘텐츠를 다시 편집하거나 다른 서비스로 옮기는 과정에서 표시가 사라지지 않도록 관리할 필요가 생겨요.
- 표시가 기술적으로 제대로 유지되는지와 고의로 바꾼 경우를 어떻게 구분할지가 실제 집행에서 중요한 쟁점이에요.
3) 정보통신서비스 제공자 조치 의무
제안안은 정보통신서비스 제공자가 자신이 운영·관리하는 서비스에서 인공지능 생성물 표시를 지원하도록 하고, 표시의 훼손·위조·변조를 방지하기 위한 기술적·관리적 조치를 하도록 하려 해요. 단순히 제작자에게 표시를 맡기는 데서 끝내지 않고 유통 과정의 서비스 운영자에게도 역할을 부여하는 방식이에요.
- 플랫폼과 게시판 운영자는 표시가 제대로 보이도록 서비스 기능을 마련하거나 표시 정보를 유지하는 방안을 검토해야 할 수 있어요.
- 서비스마다 콘텐츠 형식과 유통 방식이 달라서 일률적인 조치보다 서비스 특성에 맞는 관리 기준이 필요해요.
- 어느 정도의 조치를 해야 의무를 이행한 것으로 볼지 불명확하면 사업자와 이용자 사이에 분쟁이 생길 수 있어요.
4) 불법정보 규정과 유통 금지
제안안은 표시 의무를 이행하지 않은 인공지능 생성물과 표시를 훼손·위조·변조해 제공하는 정보를 정보통신망에서 유통이 금지되는 불법정보에 포함하려 해요. 현재 시행 조문인 제44조의7에는 불법정보의 유통 금지와 함께 허위정보·조작정보의 유통 금지 규정이 마련돼 있지만, 제안안은 인공지능 생성물의 표시 여부와 표시 조작을 별도로 다루려는 방향이에요.
- 인공지능을 사용했다는 사실을 숨긴 콘텐츠는 내용이 허위인지와 별개로 표시 의무 위반 여부가 문제 될 수 있어요.
- 표시를 조작한 정보도 유통 단계에서 처리 대상이 될 수 있어 정보 제공자와 서비스 운영자의 주의가 커져요.
- 인공지능을 활용했다는 이유만으로 내용이 곧바로 거짓이 되는 것은 아니므로, 표시 의무 위반과 정보 내용의 진실성은 구분해 판단해야 해요.
5) 생명·재산 피해 우려 시 신속 처리
제안안은 표시 의무를 위반한 인공지능 생성물로 국민의 생명이나 재산에 피해가 발생할 우려가 있을 때 관계 중앙행정기관의 장이 삭제를 요청할 수 있도록 하려 해요. 이후 방송미디어통신위원회가 정보통신서비스 제공자에게 임시조치를 요청하고, 심의위원회의 심의를 거쳐 해당 정보의 처리를 거부·정지·제한하도록 명할 수 있게 하려는 내용이에요.
- 전문가 사칭이나 조작된 체험기처럼 피해가 빠르게 커질 수 있는 정보에 대응할 절차를 별도로 마련하려는 취지예요.
- 현재 시행 조문에도 심의위원회 심의를 거쳐 일부 불법정보의 처리를 거부·정지·제한하도록 명할 수 있는 절차가 있지만, 제안안은 관계 기관의 삭제 요청과 인공지능 생성물 표시 위반을 연결한 별도 절차를 제시해요.
- 신속한 차단이 필요한 상황과 표현의 자유나 정상적인 콘텐츠 이용을 보장해야 하는 상황을 어떻게 조정할지가 핵심이에요.
누구에게 영향이 있나
- 인공지능 생성물 제작자·편집자: 실제와 구분하기 어려운 음향·이미지·영상을 제공할 때 인공지능 사용 사실을 표시해야 할 수 있어요.
- 광고주와 콘텐츠 사업자: 전문가 사칭, 조작된 체험기처럼 소비자를 오인시킬 수 있는 콘텐츠를 제작·유통할 때 표시와 관리 책임을 확인해야 해요.
- 정보통신서비스 제공자: 표시 지원과 표시 조작 방지 조치를 마련하고, 관계 기관이나 방송미디어통신위원회의 요청에 대응해야 할 수 있어요.
- 관계 중앙행정기관과 방송미디어통신위원회: 생명·재산 피해 우려가 있는 정보의 삭제 요청과 임시조치 요청 절차를 운영하게 될 수 있어요.
- 일반 이용자와 아동·청소년: 콘텐츠가 인공지능으로 만들어졌는지 확인할 수 있는 정보가 늘어나고, 피해 우려가 큰 콘텐츠의 유통이 제한될 수 있어요.
봐야 할 점
- 표시 의무가 적용되는 인공지능 생성물의 범위를 얼마나 넓게 정하는지 확인해야 해요.
- 표시의 위치·형식·지속 방법이 서비스마다 달라 이용자가 쉽게 알아볼 수 있는 수준으로 정해지는지 봐야 해요.
- 표시가 누락되거나 훼손됐을 때 제작자, 편집자, 재게시자, 플랫폼 가운데 누가 어떤 책임을 지는지 분명해져야 해요.
- 생명·재산 피해 우려를 판단하는 기준과 관계 기관의 삭제 요청 절차가 자의적으로 운영되지 않도록 통제 장치가 필요한지 살펴봐야 해요.
- 표시를 통해 이용자의 판단을 돕는 동시에, 긴급한 차단이 정상적인 표현과 콘텐츠 유통까지 위축시키지 않는지가 가장 중요한 쟁점이에요.
