쉬운 요약
- 선거운동에 인공지능을 활용할 수 있는 범위를 넓히면서, 유권자가 실제와 가상의 내용을 혼동하지 않도록 하려는 법률 개정안이에요.
- 실제와 구분하기 어려운 허위 영상은 선거 시기와 관계없이 금지하려고 해요.
- 일반적인 선거운동 홍보물 제작에는 인공지능을 사용할 수 있도록 하려는 내용이에요.
- 선거운동 홍보물에 인공지능을 사용했다는 사실을 일률적으로 표시하도록 한 의무는 없애려고 해요.
- 다만 허위 영상의 기준과 인공지능 표시 의무가 어떻게 달라질지는 법안 심사와 후속 규정에서 더 확인해야 해요.
주요 내용
허위 영상 상시 금지: 가상의 음향·이미지·영상이 실제와 혼동될 수 있도록 만들어진 경우에는 선거 시기와 관계없이 제작·편집·유포·상영·게시를 금지하려고 해요.
인공지능 활용 허용: 선거운동 홍보물을 만드는 과정에서 인공지능 기술을 사용하는 것 자체는 허용하려고 해요.
일률적 표시 의무 삭제: 선거운동 홍보물에 인공지능을 이용했다는 사실을 일괄적으로 표시하도록 한 규정을 없애려는 내용이에요.
규제 기준 정비: 선거법과 인공지능기본법 사이의 규제 체계를 정리해 같은 인공지능 이용 행위에 규정이 겹치거나 혼란이 생기는 문제를 줄이려 해요.
선거운동의 자유와 유권자 보호 조정: 인공지능 활용을 지나치게 제한하지 않으면서도, 실제 인물이나 사건으로 오인하게 만드는 허위 정보는 계속 막으려는 방향이에요.
왜 나왔나
발의 당시 설명에 따르면 현행법은 선거일 전 90일부터 선거일까지 인공지능으로 만든 이미지·음성·영상의 제작과 게시 등을 일률적으로 금지하고 있었어요. 선거 시기 전에도 인공지능을 사용한 선거운동 홍보물에는 이용 사실을 표시해야 해 인공지능 활용이 생활 전반으로 넓어진 현실에 비해 선거운동의 자유를 지나치게 제한한다는 지적이 나왔어요. 실제로 경북 안동에서 인공지능으로 만든 선거운동 음향을 단체 대화방에 공유한 혐의로 과태료 500만 원이 부과된 사례도 제안 이유에 제시됐어요. 또 영상 제작의 어느 단계에서 인공지능이 사용됐는지 구분하기 어렵고, 인공지능기본법 시행에 맞춰 규제를 정리할 필요가 있다는 취지예요.
무엇이 달라지나
1) 허위 영상 금지 범위 확대
현재 시행 중인 제82조의8은 선거일 전 90일부터 선거일까지 인공지능 기술 등을 이용해 만든 딥페이크영상등의 제작·편집·유포·상영·게시를 금지하고 있어요. 발의안은 실제와 혼동할 목적으로 만든 허위 영상에 대한 금지를 선거 직전 기간에만 한정하지 않고 상시 적용하려고 해요.
- 선거운동 기간이 아니더라도 실제 인물이나 사건으로 오인하게 만드는 가상의 음향·이미지·영상은 규제 대상이 될 수 있어요.
- 단순히 인공지능을 사용했다는 이유가 아니라, 가상의 내용이 실제처럼 보이도록 만들어 혼동을 일으킬 목적이 있는지가 중요한 기준이 될 수 있어요.
- 구체적으로 무엇을 허위 영상으로 볼지와 혼동 목적을 어떻게 판단할지는 실제 집행에서 핵심 쟁점이 될 수 있어요.
2) 인공지능 표시 의무와 활용 규제 조정
현재 시행 중인 제82조의8은 선거일 전 90일부터 선거일까지가 아닌 때에 딥페이크영상등을 선거운동에 이용하면, 인공지능으로 만든 가상의 정보라는 사실을 명확히 표시하도록 하고 있어요. 발의안은 선거운동 홍보물 전반에 인공지능 이용 사실을 일률적으로 표시하도록 한 의무를 삭제하고, 일반적인 인공지능 활용은 허용하는 방향을 제시해요.
- 홍보물 제작 과정에서 인공지능이 일부 사용됐다는 이유만으로 모두 표시해야 하는 부담이 줄어들 수 있어요.
- 반대로 표시가 없어지면 유권자가 해당 콘텐츠가 실제 촬영물인지 인공지능으로 만든 것인지 판단하기 어려워질 수 있어요.
- 인공지능기본법에 따른 규제와 선거법의 역할을 어떻게 나눌지, 허위 영상에는 어떤 표시나 별도 조치가 필요한지 확인해야 해요.
이 법안이 확정되면 인공지능을 썼다는 사실 자체보다, 유권자를 실제와 혼동하게 만드는 허위성에 규제의 초점이 맞춰질 수 있어요.
누구에게 영향이 있나
- 후보자와 정당: 선거운동 홍보물 제작에 인공지능을 활용할 수 있는 범위가 넓어질 수 있어요. 다만 허위 영상으로 판단되면 선거 시기와 관계없이 규제를 받을 수 있어요.
- 선거운동원과 홍보물 제작자: 인공지능을 활용한 음성·이미지·영상 제작이 쉬워질 수 있지만, 콘텐츠가 실제처럼 보이도록 편집됐는지 사전에 확인해야 해요.
- 유권자: 다양한 인공지능 선거 콘텐츠를 접하게 될 수 있어요. 표시 의무가 줄어들면 콘텐츠의 제작 방식과 진위를 스스로 판단해야 하는 경우가 늘어날 수 있어요.
- 중앙선거관리위원회: 허위 영상과 일반적인 인공지능 활용을 구분하고, 금지 대상과 판단 기준을 안내해야 하는 역할이 중요해져요.
- 온라인 플랫폼과 언론·홍보업계: 선거 관련 인공지능 콘텐츠를 게시하거나 유통할 때 허위 영상 여부와 선거법상 제한을 확인해야 할 필요가 커질 수 있어요.
봐야 할 점
- 실제와 구분하기 어려운 가상의 내용과 단순한 인공지능 편집을 나누는 기준이 구체적으로 마련되는지 봐야 해요.
- 허위 영상의 제작뿐 아니라 편집·유포·상영·게시까지 어떤 행위가 제재 대상이 되는지 확인해야 해요.
- 인공지능 이용 표시 의무를 삭제하면서 유권자에게 필요한 정보가 줄어들지 않을지 살펴봐야 해요.
- 인공지능기본법과 공직선거법이 각각 어떤 행위를 규제하는지 정리돼 법적용의 혼란이 줄어드는지 확인해야 해요.
- 인공지능으로 만든 선거 콘텐츠가 빠르게 확산될 때 중앙선거관리위원회와 플랫폼이 얼마나 신속하게 사실관계를 확인하고 대응할 수 있을지 봐야 해요.
