2024년 12월 26일 국회 본회의를 통과한 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 "AI기본법")」은 공포 후 1년의 경과 기간을 거쳐 2026년 초 시행될 예정이다.

AI기본법은 EU AI Act에 이어 세계에서 두 번째로 제정된 인공지능에 관한 기본법으로, 인공지능 산업의 진흥을 위한 각종 정책 및 제도에 더하여 인공지능사회의 신뢰 기반 조성에 필요한 일부 규제를 포함하고 있다. 그중에서도 동법 제31조 제2항 및 제3항은 생성형 인공지능의 확산과 딥페이크가 사회적 화두가 됨에 따라 도입의 필요성이 제기되어 온 표시의무를 규정하였는바, 이하에서는 이를 포함한 국내 인공지능 표시의무의 입법 동향에 대해 살펴본다.

1. 국내 인공지능 표시의무 도입 현황

인공지능 관련 표시의무는 2024년 1월 29일 시행된 개정 「공직선거법」에서 최초로 도입되었다. 「공직선거법」 제82조의8 제2항에 따르면, 누구든지 선거일 전 90일 전부터 선거일이 아닌 기간에 선거운동을 위하여 "인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등"(이하 "딥페이크영상 등")을 제작 · 편집 · 유포 · 상영 또는 게시하는 경우"에는 해당 정보가 인공지능 기술 등을 이용하여 만든 가상의 정보라는 사실을 명확하게 인식할 수 있도록 중앙선거관리위원회규칙으로 정하는 사항을 딥페이크영상등에 표시하여야 한다. 또한 이를 표시하지 아니하였을 때에는 3천만원 이하의 과태료가 부과된다. 인공지능으로 생성한 허위정보의 확산이 주목받던 중, 국회는 제22대 총선을 앞두고 딥페이크 기술의 악용으로 인한 혼란을 방지하고자 「공직선거법」에 관련 조항을 신설한 것이다.

AI기본법상 표시의무

이러한 「공직선거법」 이후 약 1년여 만에 제정된 AI기본법에서는 투명성 확보 의무로서 표시의무를 도입하였는바, 제31조 제2항 및 제3항은 규제 대상을 선거운동 등 특정한 목적을 가지는 콘텐츠로 국한하지 않고 딥페이크 결과물 및 인공지능으로 생성한 정보 일반에 대하여 적용될 수 있도록 하고 있다. 표시의무의 이행 방법 및 그 예외 등은 향후 시행령으로 구체화 될 예정이다.

첫째, 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 인공지능사업자는 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하여야 한다(제2항). 둘째, 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물(이른바 '딥페이크')을 제공하는 인공지능사업자는 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다. 이 경우 해당 결과물이 예술적 · 창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 않는 방식으로 고지 또는 표시할 수 있다(제3항).

위 AI기본법 제31조 제2항 및 제3항은 그 수범자를 "인공지능사업자"로 넓게 설정하고 있다. AI기본법상 "인공지능사업자"란 인공지능산업과 관련된 사업을 하는 자로서 인공지능개발사업자 혹은 인공지능이용사업자 중 하나에 해당하는 법인, 단체, 개인 및 국가기관 등을 말한다(제2조 제7호). 또한 AI기본법 제40조에 따른 과학기술정보통신부장관이 사실조사를 한 결과 위 표시의무 규정의 위반 사실이 인정되면 위반행위에 대한 중지명령 또는 시정명령이 부과될 수 있고, 이러한 중지 · 시정명령을 이행하지 아니하면 3천만원 이하의 과태료가 부과될 수 있다. AI기본법은 인공지능기술 및 산업의 진흥과 규제 간 균형을 맞추는 방향으로 규정되어 제재 조항이 많지 않은 편임에도, 제31조 제2항 및 제3항의 위반에 대해서는 구체적인 제재의 근거가 존재하는 것이다.

2. 법령상 표시의무 구체화 관련 향후 동향

2025년 1월 15일 본격 출범한 AI기본법 하위법령 정비단은 올 상반기에 AI기본법 제31조 관련 시행령 조항과 '인공지능 투명성 확보 의무 방침(가이드라인)'의 초안을 마련할 계획이다.

해당 시행령이나 방침의 내용에는 이와 관련된 국제적인 논의 및 동향이 영향을 미칠 가능성이 있다. 참고로 EU AI Act 제50조(2026년 8월 2일 시행)는 AI기본법 제31조와 유사한 목적의 투명성 의무를 규정하고 있고, EU에서는 130개 이상 기업이 표시의무 관련 내용을 포함한 EU AI Pact 서약(pledge)에 서명하였다.

타법 개정 논의 및 가능성

문화체육관광부(이하 "문체부")가 2025년 1월 10일 발표한 2025년 주요 업무 추진계획에는 "창작자 보호와 AI산업 발전의 상생을 위한 AI-저작권 법제도 개선"을 목적으로 "AI 산출물 표시"를 위한 법 개정을 추진하겠다는 계획이 포함되어 있다. 이와 같이 인공지능 표시의무는 AI기본법상 마련된 것에 그치지 않고 다른 개별법에도 추가적으로 도입될 가능성이 상당해 보인다.

2024년 5월 발의된 「콘텐츠산업 진흥법(이하 "콘텐츠산업법")」 개정안(제2200048호)은 대통령령으로 정하는 인공지능 기술을 사용하여 콘텐츠를 제작한 경우 인공지능 기술 이용 사실을 표시하도록 하고 있다(제26조 제3항). AI기본법과 달리 "콘텐츠"에 초점을 두어 규정하였는데, 이에 대해 국회 검토보고서는 동 법안이 AI기본법과 달리 인공지능사업자가 아닌 불특정 다수의 일반인을 포함한 콘텐츠제작자를 수범자로 하므로 예측 가능성이 담보되어야 하며, 현재 및 향후의 인공지능 기술 활용 수준 · 방법 및 그 영향 등에 대한 관찰 · 분석과 규제범위의 적정성에 대한 사회적 합의의 선행 필요성이 있다는 내용을 포함한다.

다음으로 2024년 11월 발의된 「저작권법」 개정안(제2205507호)은 생성형 인공지능 기술을 이용하여 저작물을 창작한 자에게 생성형 인공지능 기술 이용 사실을 표시하도록 한다(제7조의2 제1항)고 규정하고 있다. AI기본법과 달리 "저작물"에 초점을 두어 규정하였는데, 이에 대해 국회 검토보고서는, 위 콘텐츠산업법 개정안에 대한 검토보고서와 유사한 의견에 더하여, 우리나라에서 AI 산출물에 대하여 저작물로서의 법적 지위 및 그에 따른 저작권 등을 인정하지 않고 있는 점을 고려할 때 "저작물"에 관한 「저작권법」
제1절에 표시의무를 규정하는 것이 타당한지 검토하여야 한다는 내용을 포함한다.

문체부 워킹그룹 논의 결과 주목

콘텐츠산업법과 「저작권법」 모두 문체부가 소관하는 법률로서, 작년 문체부는 한국저작권위원회와 함께 '2024 AI-저작권 제도개선 워킹그룹'을 운영하며 여러 쟁점에 대한 논의를 진행하였고, "인공지능 산출물 표시 제도적 개선 방안"도 논의 대상이 되었다. 문체부는 해당 워킹그룹의 논의 결과, 관련 의견수렴 결과 및 별도 연구 결과 등을 종합해 '인공지능-저작권 정책 방향'을 발표할 예정이다.

따라서 특히 인공지능사업자들 및 콘텐츠 등 제작자들은 인공지능 표시의무와 관련한 AI기본법 제31조, 관련 시행령 및 방침, 콘텐츠산업법 및 「저작권법」 개정 방향은 물론 EU 및 미국 등의 규제 등을 아우르는 종합적인 모니터링 및 영향 분석을 통해 법적 리스크를 관리할 필요가 있겠다.

김형지 · 정선아 변호사(김앤장 법률사무소, hyungji.kim@kimchang.com)