쉬운 요약
- 인공지능기술로 만든 영상, 이미지, 음향에 표시를 붙이게 하려는 법률 개정안이에요.
- 사람을 전문가처럼 보이게 하거나, 제품 효능을 과장해 보이게 만드는 콘텐츠를 더 빨리 막으려는 내용이에요.
- 표시를 일부러 지우거나 바꾸는 행위도 막아서, 출처와 성격을 속이기 어렵게 만들려는 거예요.
- 인공지능 생성물을 이용한 광고 중에서 법으로 금지된 표시·광고는 정보통신망에서 더 강하게 다루려는 방향이에요.
- 급한 피해가 예상되면 관계 기관이 삭제를 요청하고, 임시조치를 통해 확산을 먼저 막을 수 있게 하려는 내용이에요.
주요 내용
- 인공지능 생성물 표시 의무: 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 만들거나 편집해 제공하려는 경우, 그 사실을 이용자가 알아볼 수 있게 고지하거나 표시하도록 해요.
- 표시 훼손 금지: 유통 과정에서 표시를 지우거나, 바꾸거나, 속이는 행위를 금지해요.
- 서비스 제공자의 관리 의무: 정보통신서비스 제공자에게는 표시를 지원하고 훼손이나 위조를 막기 위한 기술적, 관리적 조치를 요구해요.
- 불법정보 규정 확대: 인공지능 생성물을 활용한 광고성 정보 가운데 법령상 금지된 표시·광고에 해당하는 내용은 불법정보로 보려는 거예요.
- 긴급 임시조치: 국민의 생명이나 재산 피해가 우려되는 경우, 관계 중앙행정기관의 장이 삭제를 요청하면 방송미디어통신위원회가 임시조치를 요청하고 심의를 거쳐 처리 거부, 정지, 제한을 명할 수 있게 해요.
왜 나왔나
최근에는 인공지능기술을 이용해 전문가를 사칭하거나, 제품 효능을 사실처럼 꾸민 체험기를 만드는 일이 쉬워졌어요. 이런 정보는 SNS에서 빠르게 퍼지고, 실제와 구분하기도 어려워서 소비자가 잘못 판단할 가능성이 커요. 특히 건강기능식품이나 의약품처럼 잘못 믿었을 때 피해가 큰 분야에서는 대응이 늦을수록 손해가 커져요. 이 법안은 인공지능으로 만든 콘텐츠의 출처를 더 분명하게 드러내고, 피해가 커지기 전에 먼저 막는 장치를 두려는 데 초점이 있어요.
무엇이 달라지나
1) 인공지능 생성물에 표시를 붙이는 구조
이 개정안은 실제와 구분하기 어려운 인공지능 생성물에 대해, 처음부터 표시나 고지를 붙이도록 하는 틀을 새로 두려는 내용이에요. 이용자가 나중에 혼동하지 않도록, 제작·편집 단계부터 알 수 있게 만들겠다는 취지예요.
- 사용자는 영상이나 음향이 사람이 직접 만든 것인지, 인공지능을 거친 것인지 더 쉽게 구분할 수 있어요.
- 콘텐츠를 만드는 사람은 단순한 게시보다 표시 책임까지 함께 보게 돼요.
- 광고, 체험기, 후기처럼 신뢰가 중요한 콘텐츠에서 효과가 더 크게 나타날 수 있어요.
2) 표시를 지우거나 바꾸는 행위 차단
표시를 붙이는 것만으로는 부족하다고 보고, 유통 중에 그 표시를 훼손하거나 위조·변조하는 행위도 함께 막으려는 내용이에요. 표시를 믿고 판단하는 소비자 입장에서는, 중간에 표시가 사라지면 제도 자체가 무력해질 수 있기 때문이에요.
- 표시가 붙어 있어도 다시 속이려는 시도를 줄이려는 거예요.
- 누가 올렸는지보다, 콘텐츠의 성격을 숨길 수 없게 하는 쪽에 힘을 실어요.
- 정보가 여러 계정을 거치며 재게시되는 SNS 환경을 염두에 둔 장치로 볼 수 있어요.
3) 플랫폼의 기술적·관리적 조치 강화
이 법안은 정보통신서비스 제공자에게도 역할을 부여해요. 운영하는 서비스 안에서 표시를 지원하고, 훼손이나 위조·변조를 막기 위한 기술적·관리적 조치를 하도록 요구해요.
- 플랫폼이 단순한 게시 공간에 머무르지 않고 관리 책임을 나눠 지게 돼요.
- 자동 탐지, 경고 표시, 차단 기준 같은 내부 대응이 중요해질 수 있어요.
- 서비스 규모가 큰 곳일수록 실제 운영 방식의 변화가 더 클 수 있어요.
4) 인공지능 활용 광고의 불법정보화
인공지능 생성물을 활용한 광고성 정보 중에서, 법령이 금지하는 표시·광고에 해당하는 내용은 불법정보로 보려는 내용도 담고 있어요. 지금까지는 인공지능이 개입한 광고를 정보통신망에서 즉시 다루기 어려웠다면, 앞으로는 더 분명한 규정 아래서 처리하겠다는 방향이에요.
- 단순히 눈에 띄는 광고가 아니라, 법으로 금지된 허위·과장 성격의 표현을 더 엄격히 보게 돼요.
- 인공지능이 만든 표현이라는 이유로 규제를 피하기 어렵게 하려는 취지예요.
- 광고주와 제작자 모두 표현 수위를 더 조심해야 할 가능성이 커요.
5) 긴급한 경우 임시조치로 먼저 확산 차단
국민의 생명이나 재산 피해가 우려될 정도로 긴급한 경우에는, 관계 중앙행정기관의 장이 삭제를 요청할 수 있어요. 그 뒤 방송미디어통신위원회가 정보통신서비스 제공자에게 임시조치를 요청하고, 심의를 거쳐 처리 거부, 정지, 제한을 명할 수 있게 하려는 구조예요.
- 피해가 커진 뒤 사후 제재를 하는 방식보다, 먼저 번지는 것을 막는 데 가깝게 설계돼 있어요.
- 건강, 재산, 안전과 직접 연결되는 허위 광고에 특히 영향을 줄 수 있어요.
- 다만 긴급성 판단과 심의 절차가 실제로 얼마나 빠르게 작동하는지가 관건이에요.
누구에게 영향이 있나
- 콘텐츠 제작자: 인공지능으로 만든 영상, 이미지, 음향을 쓰는 사람은 표시 의무를 더 신경 써야 해요.
- 광고주와 대행사: 체험기, 후기, 소개 콘텐츠를 만들 때 표현의 진실성과 표시 방식이 더 중요해져요.
- 플랫폼 사업자: 표시 지원, 훼손 방지, 임시조치 대응 같은 운영 기능을 갖춰야 할 가능성이 커요.
- 소비자와 이용자: 광고나 후기의 진짜 성격을 더 잘 확인할 수 있지만, 제도가 자리 잡기 전까지는 여전히 주의가 필요해요.
- 관계 행정기관: 긴급 삭제 요청과 판단 과정에서 역할이 더 커질 수 있어요.
봐야 할 점
- 실제로 어디까지를 인공지능 생성물로 볼지 기준이 얼마나 명확한지 봐야 해요.
- 표시를 어떤 방식으로 붙이고, 어떤 경우에 충분한 것으로 볼지 시행 기준이 중요해요.
- 플랫폼이 어떤 기술적 조치를 해야 하는지 너무 넓거나 모호하면 현장 부담이 커질 수 있어요.
- 긴급 임시조치가 남용되지 않도록 요청 기준과 심의 절차가 분명해야 해요.
- 광고성 정보와 일반 게시물의 경계가 흐릴 수 있어서, 집행 과정에서 예외 판단이 쟁점이 될 수 있어요.
