쉬운 요약
- 선거에서 인공지능으로 만든 영상·음향·이미지를 더 투명하게 관리하기 위한 법률 개정안이에요.
- 인공지능으로 만든 콘텐츠라는 사실을 이용자가 알아볼 수 있도록 표시하게 하려 해요.
- 표시하지 않거나 거짓으로 표시해 유권자를 속이는 행위와 자동화된 방식으로 허위정보를 대규모 확산하는 행위를 금지하려 해요.
- 풍자·패러디와 언론 보도에는 예외를 두어 표현의 자유를 보호하려 해요.
- 온라인 플랫폼에는 자동화 계정 등을 이용한 정보 조작을 막기 위한 관리조치를 하도록 요구하고, 위반 정도에 따라 형사처벌과 과태료를 부과하려 해요.
주요 내용
- 인공지능 생성물 표시 의무: 인공지능 기술로 만들거나 편집한 콘텐츠를 유포할 때 인공지능 생성물이라는 사실을 명확히 표시하도록 해요.
- 허위 표시와 인위적 확산 금지: 인공지능 생성 여부를 표시하지 않거나 거짓으로 표시해 유권자를 오인하게 하는 행위를 막아요. 자동화된 수단이나 알고리즘으로 허위·오도 정보를 대규모 확산하는 행위도 금지하려 해요.
- 표현의 자유를 위한 예외: 풍자·패러디 같은 예술적 표현이나 언론 보도에는 표시 의무 등의 예외를 인정하려 해요.
- 온라인 플랫폼 관리 의무: 플랫폼 운영자가 자동화 계정 등을 통한 정보 조작이 발생하지 않도록 합리적인 관리조치를 하도록 해요.
- 위반행위별 제재: 조직적이고 고의적인 허위사실 공표에는 형사처벌을, 표시 의무 위반이나 플랫폼 관리조치 미이행에는 과태료를 부과하는 체계를 마련하려 해요.
왜 나왔나
생성형 인공지능 기술이 빠르게 발전하면서 실제 인물의 말이나 행동처럼 보이는 딥페이크 콘텐츠를 선거에 활용할 가능성이 커졌다는 문제의식에서 출발했어요. 발의 당시 제안 이유는 이런 콘텐츠가 허위정보 유포와 여론 조작에 이용될 위험이 커지고 있다고 봤어요. 동시에 인공지능 생성물을 선거일 전 일정 기간 전면 금지하는 방식은 표현의 자유를 지나치게 제한할 수 있고, 기술 변화에 비해 규제 실효성이 낮을 수 있다고 지적했어요. 그래서 전면 금지 중심의 규제에서 벗어나, 생성물 표시와 유통 관리 중심으로 제도를 바꾸려는 취지예요.
무엇이 달라지나
1) 인공지능 생성물 표시 범위 확대
현재 시행 조문인 공직선거법 제82조의8은 선거일 전 90일부터 선거일까지 선거운동을 위한 딥페이크영상등의 제작·편집·유포·상영·게시를 금지하고 있어요. 그 기간이 아닌 때에는 딥페이크영상등을 이용해 선거운동을 할 수 있지만, 인공지능 기술로 만든 가상의 정보라는 사실을 알아볼 수 있도록 표시해야 해요.
- 제안안은 표시 대상을 인공지능 기술로 생성·편집된 콘텐츠 전반으로 설명하고 있어요.
- 유권자가 콘텐츠의 제작 방식을 알고 판단할 수 있도록 투명성을 높이려는 변화예요.
- 다만 현재 조문과 제안안의 적용 대상이 실제로 어디까지 겹치는지는 최종 법문과 표시 기준을 함께 확인해야 해요.
2) 전면 금지에서 표시·유통 관리 중심으로 전환
발의 당시 제안안은 인공지능 생성물을 선거일 전 90일부터 전면적으로 금지하는 현재 제도의 방향을 재검토하고, 표시와 유통 관리 중심으로 바꾸려 해요. 생성물이라는 사실을 표시하면 유통 자체를 일률적으로 막기보다 유권자가 정보를 구분할 수 있도록 하자는 접근이에요.
- 법안이 통과되더라도 어떤 기간과 어떤 선거운동에까지 표시 의무가 적용되는지는 조문 체계에 따라 달라질 수 있어요.
- 표현의 자유를 넓힐 여지가 있지만, 허위정보가 표시만 붙인 채 빠르게 퍼지는 문제는 별도로 남을 수 있어요.
- 이 법안은 인공지능 콘텐츠를 모두 허용하는 안이 아니라, 표시와 확산 방식에 따라 다르게 관리하려는 안이에요.
3) 허위 표시와 자동화 확산 금지
제안안은 인공지능 생성 여부를 표시하지 않거나 거짓으로 표시해 유권자를 오인하게 하는 행위를 금지하려 해요. 또한 자동화된 수단이나 알고리즘을 이용해 허위 또는 오도될 수 있는 정보를 인위적으로 대규모 확산하는 행위도 금지 대상으로 제시하고 있어요.
- 단순히 인공지능을 사용했는지만이 아니라, 표시 방식과 정보 확산 과정까지 규율하려는 내용이에요.
- 여러 계정이나 자동화 도구를 이용해 짧은 시간에 여론을 부풀리는 행위를 겨냥할 수 있어요.
- 실제 적용에서는 ‘허위 또는 오도될 수 있는 정보’, ‘대규모 확산’, ‘인위적 증폭’의 기준을 구체적으로 정하는 일이 중요해요.
4) 풍자·패러디와 언론 보도 예외
제안안은 풍자·패러디 등 예술적 표현과 언론 보도에는 표시 의무 등의 예외를 인정하려 해요. 인공지능 생성물에 대한 규제가 정치적 의견 표현이나 보도 활동을 과도하게 위축시키지 않도록 하려는 장치예요.
- 같은 콘텐츠라도 선거운동인지, 예술적 표현인지, 언론 보도인지에 따라 적용 결과가 달라질 수 있어요.
- 예외가 넓으면 허위정보가 풍자나 보도 형식으로 유통되는 우회로가 될 수 있어요.
- 반대로 예외가 좁으면 정당한 비판·창작·취재까지 위축될 수 있어 경계선을 세심하게 정해야 해요.
5) 온라인 플랫폼의 관리조치와 제재
제안안은 온라인 플랫폼 운영자에게 자동화 계정 등에 의한 정보 조작이 발생하지 않도록 합리적인 관리조치를 할 노력의무를 부여하려 해요. 또 제250조의2와 제261조를 연계해 조직적·고의적인 허위사실 공표에는 형사처벌을, 표시 의무 위반이나 플랫폼의 관리조치 미이행에는 과태료를 부과하는 단계적 제재를 제안하고 있어요.
- 현재 시행 중인 제261조에는 제82조의8제2항에 따른 표시를 하지 않은 경우 과태료를 부과하는 내용이 이미 포함돼 있어요.
- 따라서 제안안이 통과되면 기존 과태료 규정과 새 표시·플랫폼 관리 의무가 어떻게 정리되는지 살펴봐야 해요.
- 현재 확인된 조문에는 제82조의9와 제250조의2의 본문이 없어, 플랫폼 의무의 구체적인 내용과 형사처벌 요건·수준은 이 자료만으로 확정해 설명하기 어려워요.
누구에게 영향이 있나
- 후보자와 정당: 인공지능으로 만든 선거 홍보물이나 콘텐츠를 사용할 때 표시 방식과 유통 경로를 점검해야 할 수 있어요.
- 유권자: 콘텐츠가 인공지능으로 만들어졌는지 확인할 수 있는 정보가 늘어나지만, 표시가 있다고 해서 내용이 사실이라는 뜻은 아니에요.
- 온라인 플랫폼 운영자: 자동화 계정과 알고리즘을 통한 인위적 확산을 줄이기 위한 관리 절차와 대응 체계를 마련해야 할 수 있어요.
- 콘텐츠 제작자와 이용자: 선거운동 목적의 영상·이미지·음향을 제작하거나 공유할 때 표시 의무와 허위 표시 금지를 신경 써야 해요.
- 언론사와 창작자: 보도·풍자·패러디 예외가 어떤 요건에서 인정되는지에 따라 콘텐츠 제작과 편집 기준이 달라질 수 있어요.
- 선거관리기관과 수사기관: 표시 위반, 자동화 확산, 조직적 허위사실 공표를 구분하고 각 제재 요건에 맞게 집행해야 해요.
봐야 할 점
- 표시의 위치·크기·표현 방식이 이용자가 실제로 알아볼 수 있는 수준으로 정해지는지 확인해야 해요.
- 풍자·패러디·언론 보도의 예외가 어디까지 적용되는지, 선거운동과 보도의 경계가 어떻게 판단되는지 지켜봐야 해요.
- 자동화 계정, 알고리즘 증폭, 대규모 확산을 판단하는 기준이 모호하면 집행 과정에서 예측 가능성이 낮아질 수 있어요.
- 플랫폼에 부과되는 ‘합리적인 관리조치’의 범위와 노력의무 위반 기준이 명확해야 해요.
- 현재 제82조의8과 제261조에 있는 딥페이크 규제·과태료와 제안안의 새 의무·제재가 충돌하거나 중복되지 않도록 조문이 정리되는지 봐야 해요.
