중국 이슈리포트 - 중국의 AI 관련 법률 규제 현황
중국의 AI 관련 법률 규제 현황
「생성형 인공지능서비스 관리 잠정방법」을 중심으로
법무법인(유한) 대륙아주 박동매 외국변호사
법무법인(유한) 대륙아주 김승진 변호사
Ⅰ. 「생성형 인공지능서비스 관리 잠정방법」의 공포 배경
중국은 80년대 중반부터 소수의 대학에서 다양한 인공지능 관련 과정을 개설하기 시작하였는데, 30년전의 인공지능의 작은 불씨가 이제는 거대한 불길로 번졌습니다. 현재 중국에서 AI가 하나의 거대한 산업으로 자리 잡고 있으며 공업, 농업, 상업, 과학기술, 교육, 서비스 등의 산업에 광범위하게 이용되고 있습니다. 현재 중국의 AI 관련 특허 보유량은 세계 1위로 중국의 AI는 음성인식, 자연어 처리, 컴퓨터그래픽 등의 분야에서 세계를 이끌고 있습니다.
그러나 생성형 AI기술의 눈부신 발전으로 인해 경제와 사회에 새로운 기회가 창출되는 한편, 허위 정보의 확산, 개인 정보 권리 침해, 사이버 공격과 위협, 편견과 차별 등의 문제도 발생하고 있습니다.
따라서 생성형 AI로 인한 부작용 문제를 해결하기 위한 법률규제는 비단 중국뿐만 아니라 EU, 미국, 한국 등의 주요 국가에서도 시급한 해결 과제입니다.
중국은 2023. 4.을 기준으로 그 이전에는 주로 산발적인 법률, 예컨대 “인터넷 보안법”(互联网安全法), “데이터보안법”(数据安全法), “개인정보보호법”(个人信息保护法), “인터넷 정보 서비스 알고리즘 추천 관리 규정”(互联网信息服务算法推荐管理规定),”인터넷 정보 서비스 딥페이크 관리규정”(互联网信息服务深度合成管理规定, 이하 “딥페이크 관리규정”)등을 통해 생성형 인공지능에 따른 리스크에 대응해 왔습니다.
2023. 7. 13. 생성형 AI서비스를 규제하기 위한 규정인 “생성형 인공지능서비스 관리 잠정방법”(生成式人工智能服务管理暂行办法, 이하 “본건 규정”)이 공포되어 생성형 AI서비스는 체계적으로 규제되기 시작하였습니다. 그 이후 “인터넷 안전기준 실천지침-생성형 인공지능 서비스내용 표식방법”(网络安全标准实践指南—生成式人工智能服务内容标识方法), “차세대 인공지능 윤리규범”(新一代人工智能伦理规范) 등의 규정이 잇따라 공포 및 시행되었습니다.
본건 규정은 생성형 AI의 건전한 발전과 표준화된 적용을 촉진하고 국가안보와 사회 공공이익을 수호하며 권익을 보호하는 것으로 목표로 만들어졌습니다.
아래에서는 본건 규정을 중심으로 생성형 AI에 대한 중국의 법률규제 현황에 관하여 말씀드리겠습니다.
Ⅱ. 본건 규정의 적용 및 관리 원칙
본건 규정 제3조1 에 명시된 바와 같이 중국정부는 생성형 AI기술의 규제에 대해 포용과 신중, 기술의 유형과 중요성 등급에 따른 차등 감독관리를 원칙으로 하고 있습니다. 다시 말해서 중국은 생성형 AI의 빠른 발전을 촉진하기 위해 새로운 기술형태에 대해 레드 라인을 넘지 않는 한 포용적인 입장을 취하여 일정한 기간을 두어 규제여부를 판단하겠다는 것입니다.
한편, 기술의 유형과 중요성 등급에 따른 차등 감독관리라는 것은 중요 데이터, 개인 정보, 일반 데이터를 구분하여 규제한다는 것입니다. 왜냐하면 현재 생성형 AI산업은 빠르게 성장하는 초기 단계에 있으므로 지나치게 엄격히 규제하게 되면 AI산업 발전에 해가 될 수 있기 때문입니다. AI산업 육성을 적극적으로 장려하는 중국정부의 입장은 본건 규정 제5조2와 제6조3에 반영되어 있습니다.
다만, AI산업 발전이 성숙 단계에 접어들면 규제 수위가 엄격해질 것으로 전망됩니다.
Ⅲ. 본건 규정의 적용범위와 역외 효력
1. 적용범위
본건 규정 제2조는 중국 경내의 대중에게 생성형 AI기술을 이용한 텍스트, 이미지, 오디오, 비디오 등의 콘텐츠를 제공한 경우 동법을 적용한다고 규정하고 있습니다. 여기서 대중에게 제공한다는 것은 불특정 다수 군중에게 공개적으로 제공하는 것을 의미합니다. 다시 말해서 공공이익과 관련된 경우에 한하여 동법의 규제를 받는 것입니다.
이는 관련 기업체 또는 연구단체들이 보다 자유롭게 연구개발을 하도록 하기 위한 것으로 해석됩니다.
그러나 기업이나 연구단체가 내부적인 연구개발을 한 경우 동법의 규제를 받지 않더라도, “인터넷 보안법”, “데이터보안법”, “개인정보 보호법” 등의 법률을 위반한 경우 그에 합당한 법적 책임은 져야 합니다.
한편 외국 업체도 중국 경내의 대중에게 관련 서비스를 제공한 경우 동법의 적용을 받게 됩니다.
2. 역외효력
본건 규정 제20조는 중국 역외에서 중국 경내에 제공되는 생성형 AI서비스가 관련 법률규정을 위반한 경우, 국가 인터넷 정보 부서 및 관련 기관은 기술적 조치 및 기타 필요한 조치를 취할 수 있다고 명시하고 있습니다.
따라서 외국기업은 중국에 생성형 AI서비스 제공 시 중국법에 따른 컴플라이언스 절차를 미리 취해 두는 것이 적절해 보입니다.
IV. 생성형 인공지능 서비스 제공자의 법적 의무 및 책임
본건 규정 제7~14조는 생성형 AI서비스 제공자의 알고리즘 훈련 관련 의무, 콘텐츠 관리 의무, 사용자 관련 의무 및 감독 메커니즘 관련 의무에 관하여 규정하고 있습니다.
물론 앞서 언급한 “딥페이크 관리규정”에서 딥페이크 서비스 기술 지원자, 서비스 제공자 및 사용자의 책임과 의무를 명확하게 구분하고 있지만, 본건 규정은 서비스 제공자를 주요 관리 대상으로 명확히 하고, 서비스 제공자를 중심으로 의무를 규정하고 있습니다.
이에 관하여는 아래에서 자세히 말씀드리겠습니다.
1. 알고리즘 훈련 관련 의무
AI 서비스 제공자는 아래의 의무를 이행해야 합니다.
가. 적법한 출처 있는 데이터와 기본모델을 사용해야 함
나. 타인의 적법한 지식재산권 침해 금지
다. 개인정보와 관련된 경우, 개인의 동의를 받거나 법률 및 행정 법규에서 정한 기타 요건을 충족해야 함
라. 훈련 데이터의 진실성, 정확성, 객관성, 다양성을 강화하여 품질 향상을 위한 효과적인 조치를 취해야 함
마. “데이터 보안법”, “인터넷 보안법”, “개인정보 보호법” 등의 법률, 행정 법규의 기타 관련 규정 및 관련 감독 기관의 규제 요구사항을 준수해야 함
2. 콘텐츠 관리 의무
콘텐츠 생성과 관련하여 본건 규정은 서비스 제공자가 생성내용의 적법성에 대한 책임을 지도록 요구하고 있습니다. 또한 서비스 제공자는 딥페이크 관리규정에 따라 해당 내용의 라벨화와 개인정보에 대한 보호의무 등에 유의하여야 합니다.
3. 사용자에 대한 의무
본건 규정은 서비스 제공자와 사용자 간의 권리의무관계 및 생성형 AI가 사용자에게 미칠 수 있는 영향 등을 감안하여 서비스 제공자의 관련 서비스 계약서 체결 의무를 규정하였습니다4.
그 밖에 서비스 제공자는 다양한 조치를 취하여 사용자의 개인정보를 보호를 보장하여야 합니다. 나아가 서비스 제공자에게 사용자 특히 미성년 사용자가 적절하고 적법한 선에서 생성형 AI를 사용하도록 유도해야 하는 의무를 부과하고 있습니다5.
4. 상기 의무 위반에 따른 법적 책임
서비스 제공자가 이상의 의무를 위반한 경우 위법행위의 유형에 따라 “인터넷 보안법”, “데이터 보안법”, “개인정보 보호법”, “과학기술발전법” 등 법령에 따른 법적 책임을 부담해야 합니다.
V. 시사점
위에서 말씀드린 바와 같이 외국기업도 본건 규정의 적용을 받을 수 있어 중국 관련 법규정에 대한 사전 점검이 필요합니다. 특히 AI 리스크 관리 조직, AI 도덕윤리기준, AI 개발 관리 제도, AI 데이터 보안 및 준법 관리 규정, 기술 및 서비스 점검시스템, AI 안전 비상 대응 시스템 등 체계적인 관리 시스템을 구축하는 것이 필요합니다.