쉬운 요약

• 인공지능서비스가 직접 내용을 만들어 내는 시대에 맞춰, 청소년과 이용자를 더 넓게 보호하기 위한 법률 개정안이에요.
• 지금처럼 정보가 인터넷에 퍼지기만 하는 상황뿐 아니라, AI가 직접 생성·편집·합성·가공해서 내보내는 상황도 함께 다루려는 내용이에요.
• 청소년유해정보와 합성영상등을 AI 서비스 단계에서부터 더 강하게 막으려는 방향이에요.
• 사람 사이의 관계처럼 보이게 하거나 관계 형성을 유도하는 AI 서비스에는 별도 보호장치를 두려는 내용도 들어 있어요.
• 핵심은 정보통신망의 기존 유통 규제만으로는 부족하니, AI 서비스 자체를 규율 대상으로 넣어 보호 범위를 넓히려는 거예요.

주요 내용

• 인공지능서비스 개념 신설: AI를 쓰는 서비스가 늘어난 현실을 반영해서, 인공지능서비스 제공자를 법에 새로 두려는 거예요. 기존의 정보 유통 규제만으로는 설명하기 어려운 서비스 구조를 법 안에 담으려는 목적이에요.
• 청소년유해정보 생성·제공 금지: 정보가 단순히 퍼지는 것을 넘어서 AI를 통해 직접 만들어지거나 편집되는 경우도 막으려 해요. 청소년 보호 책임과 보호조치도 함께 붙여서, 청소년이 접하는 단계부터 차단하려는 방향이에요.
• 관계형 인공지능서비스 보호장치: 관계를 형성하게 하거나 관계를 흉내 내는 AI 서비스는 청소년의 정서적 의존이나 과몰입을 키울 수 있다고 보고 있어요. 그래서 이런 유형에는 일반적인 정보 규제보다 더 강한 보호조치를 두려는 거예요.
• 합성영상등과 불법정보 규율 확대: AI가 만든 합성영상등과 일정한 불법정보의 생성·제공 자체를 금지하려 해요. 단순 유통 차단을 넘어서, 생성 단계부터 문제를 줄이려는 구조예요.
• 국내대리인 지정과 집행 강화: 국내에 주소나 영업소가 없는 해외 인공지능서비스 제공자도 대응 대상에 넣으려는 내용이에요. 국내대리인을 지정하게 해서 피해가 생겼을 때 신속하게 대응하고 집행할 수 있게 하려는 거예요.
• 점검·시정명령 근거 마련: 방송미디어통신위원회가 점검하고 시정명령을 내릴 수 있는 근거를 두려 해요. 규정을 만든 뒤 실제로 지키게 만드는 관리 장치를 함께 넣는 셈이에요.

왜 나왔나

현행법은 정보통신망에서 유통되는 청소년유해정보나 불법정보를 막기 위한 틀을 갖고 있어요. 하지만 최근에는 정보가 단순히 올라왔다 내려가는 수준을 넘어서, AI 서비스가 직접 내용을 만들어 제공하는 일이 늘고 있어요.

이 경우에는 기존의 유통 규제만으로는 이용자 보호에 한계가 있다는 지적이 나와요. 특히 청소년은 정서적 의존이나 과몰입에 더 취약할 수 있어서, 관계형 서비스에 대한 별도 장치가 필요하다는 문제의식이 담겨 있어요.

해외 서비스처럼 국내에 주소나 영업소가 없는 경우에는 피해가 생겨도 대응이 늦어질 수 있어요. 그래서 이 법안은 AI 서비스 제공자, 국내대리인, 점검·시정명령까지 한 번에 엮어 보호와 집행의 빈틈을 줄이려는 데 초점을 맞추고 있어요.

무엇이 달라지나

1) AI 서비스 자체를 규제 대상으로 넣기

기존 규제는 정보통신망을 통해 유통되는 정보에 더 가까웠어요. 이 법안은 AI가 정보를 직접 만들고 편집하고 합성하는 단계까지 보려 해서, 서비스 자체를 규제 틀 안으로 끌어들이려 해요.

• 이제는 누가 올렸는지만 보는 게 아니라, AI가 어떻게 만들어 냈는지도 중요해져요.
• 정보가 퍼진 뒤 막는 방식보다, 처음 생성되는 단계부터 관리하는 방향이에요.
• 서비스 구조가 달라진 만큼 법의 출발점도 바꾸려는 거예요.

2) 청소년 보호를 생성 단계로 확장하기

현행 제도는 청소년유해정보가 정보통신망에서 퍼지는 걸 막는 데 중심이 있어요. 개정안은 AI 서비스가 그 정보를 직접 생성하거나 제공하는 경우까지 다루고, 청소년 보호조치도 함께 두려 해요.

• 청소년이 접하기 전에 차단하는 쪽으로 무게가 실려요.
• 단순한 표시나 경고만으로는 부족하다는 문제의식이 있어요.
• 청소년 보호 책임자의 역할도 더 중요해질 수 있어요.

3) 관계형 AI 서비스에 별도 장치 두기

사람과 관계를 맺는 것처럼 보이거나, 관계 형성을 유도하는 AI 서비스는 정서적 의존을 키울 수 있어요. 법안은 이런 서비스에 대해 일반적인 정보 규제보다 한 단계 더 필요한 보호조치를 마련하려 해요.

• 청소년이 오래 머무르거나 과몰입하는 상황을 더 경계하는 거예요.
• 관계를 흉내 내는 서비스의 특수성을 법에 반영하려는 시도예요.
• 서비스의 편의성보다 이용자 보호를 우선하려는 방향이 보여요.

4) 합성영상등과 불법정보의 생성 자체를 막기

지금까지는 불법정보가 유통되는 걸 막는 데 초점이 맞춰졌다면, 이 안은 AI가 합성영상등이나 일정한 불법정보를 직접 만들어 내는 행위까지 손보려 해요. 생성 단계부터 막아야 피해 확산을 줄일 수 있다는 판단이 깔려 있어요.

• 문제 영상이나 정보가 생기기 전부터 제동을 걸려는 거예요.
• 단속의 초점이 전송 경로에서 생성 경로로 넓어져요.
• 기술 발전으로 생긴 새로운 형태의 피해를 반영한 조치예요.

5) 해외 서비스 대응과 집행 수단 강화하기

국내에 주소나 영업소가 없는 해외 인공지능서비스 제공자는 피해가 생겨도 잡아내기 어렵다는 한계가 있어요. 그래서 국내대리인 지정 의무를 분명히 하고, 방송미디어통신위원회의 점검과 시정명령 근거도 함께 두려는 거예요.

• 해외 사업자도 예외 없이 대응할 수 있게 하려는 거예요.
• 법만 있고 집행이 약하면 실효성이 떨어지기 쉬워요.
• 국내대리인이 있으면 연락과 시정 요구가 조금 더 빨라질 수 있어요.

누구에게 영향이 있나

• 인공지능서비스 제공자: 서비스 설계 단계부터 청소년 보호와 불법정보 차단을 고려해야 해요.
• 해외 AI 서비스 제공자: 국내대리인 지정 의무와 국내 집행 대응 부담이 커질 수 있어요.
• 청소년과 학부모: 정서적 의존이나 과몰입을 줄이기 위한 보호장치의 직접적인 대상이 돼요.
• 정보통신서비스 제공자: 기존 유통 관리보다 더 넓은 관리 의무를 살펴야 해요.
• 방송미디어통신위원회: 점검과 시정명령을 실제로 어떻게 집행할지 기준을 더 세밀하게 마련해야 해요.

봐야 할 점

• 인공지능서비스 제공자의 범위를 어디까지 볼지 해석이 중요해요.
• 청소년유해정보와 합성영상등의 판단 기준이 모호하면 현장에서 적용이 흔들릴 수 있어요.
• 관계형 인공지능서비스에 대한 별도 보호조치가 과도하게 넓어지면 일반 서비스까지 위축될 수 있어요.
• 해외 서비스에 대한 국내대리인 지정이 실제 피해 구제 속도를 얼마나 높이는지 확인이 필요해요.
• 점검·시정명령이 기술 변화 속도를 따라갈 만큼 빠르게 작동하는지도 지켜봐야 해요.