보안정보

전문화된 보안 관련 자료, 보안 트렌드를 엿볼 수 있는
차세대 통합보안관리 기업 이글루코퍼레이션 보안정보입니다.

[외부 법률 기고] 생성형 AI API 활용의 법률 이슈

2024.04.02

250

※ 본 기고는 당사와 법률자문·정보보호 서비스 상호협력 MOU를 체결한 법무법인(유) 화우에서 작성하였습니다.
※ 외부 필자의 기고 및 칼럼 등은 이글루코퍼레이션 콘텐츠의 편집방향과 일치하지 않을 수 있습니다.

지난 2024. 2. 15. 공개된 OpenAI사의 ‘SORA’는 텍스트로 동영상을 생성하는 디퓨전 모델(diffusion model)로서 사용자의 프롬프트를 준수하면서 최대 1분 길이의 고품질 비디오를 생성할 수 있는 것으로 알려졌다. 특히 SORA는 여러 캐릭터, 특정 유형의 움직임, 피사체 및 배경의 정확한 디테일이 있는 복잡한 장면을 구현할 수도 있는데, 이와 같이 비디오 생성 분야에서 주목할 만한 파운데이션 모델이 공개됨에 따라 차후 기업에서의 다양한 활용이 예상된다.

[그림 1] SORA가 생성한 도쿄의 동영상 중 일부

이처럼 현재 공개된 다양한 생성형 AI 서비스는 대체로 웹 API 형태로 개발자들에게 제공되는데, 이를 통해 생성형 AI를 기업 실무에 적용할 시에는 다양한 법률 이슈가 발생할 여지가 존재한다. 특히 기업은 실무 환경에서 자사의 필요에 부합하는 생성형 AI 서비스를 위하여 ChatGPT, Copliot 등의 완성형 서비스를 이용하는 외에도 업무 효율 향상을 위한 생성형 AI API 서비스를 활용한 시스템을 도입할 수 있는데, 이 과정에서 사후에 발생할 수 있는 법률상의 위험 내지 책임 소재가 정리되지 않는다면 생성형 AI 서비스의 적극적인 도입을 꺼릴 수밖에 없다. 이에, 아래에서는 기업이 생성형 AI의 API를 사용하며 발생할 수 있는 책임ㆍ법률 문제를 개관하려고 한다.

웹 API 형태로 제공되는 생성형 AI는 학습, 생성, 정보 보안 측면에서 법률적 사항이 문제 될 여지가 존재한다. 이를 차례로 살펴보면, 우선 생성형 AI API를 활용한 학습 단계에서는 백엔드 AI 모델에 대한 직접 접근이 제한되어 이용자에게까지 학습 관련 분쟁이 영향을 미칠 가능성이 낮다. 하지만 OpenAI 등 일부 업체는 조건부로 모델 미세조정(Fine-tuning) API를 제공하므로, 이 경우 학습 데이터에 포함된 저작물의 저작권 침해나 개인정보의 위법한 수집ㆍ이용 문제가 발생할 수 있다.

생성형 AI API를 이용한 추론ㆍ생성 단계에서는 생성물이 타 저작물을 모방하거나 개인정보를 무단 활용하는 등 타인의 권리를 침해할 경우가 핵심 쟁점이다. 이는 학습 데이터와 입력 데이터에 기인한 문제로 구분되는데, 전자는 모델 학습 내지 미세조정 시 권한 없는 데이터나 미동의 개인정보가 활용되는 경우이다. 다만 파운데이션 모델의 학습은 대개 API 제공 업체가 이를 직접 수행하는 경우가 대부분이므로 이용자 차원에서의 관리는 현실적으로 어렵고, 생성물의 권리 침해 여부를 확인하는 수준에 그칠 수밖에 없다. 이에 일부 AI 업체는 이와 같은 문제를 해결하기 위하여 '저작권 방패' 등 이용자 보호책을 마련하기도 하였다. 후자는 이용자가 API 호출 시 입력하는 데이터로 인해 생성물에 권리 침해 소지가 있는 경우이다. 이 경우 데이터 투입 주체에게 법적 책임이 있을 수 있으므로 입력되는 데이터에 대한 사전 점검이 필수적이다.

생성형 AI API를 활용하여 생성된 데이터 자체에 대하여서도 법률적 쟁점이 존재한다. 인간 개입 없는 AI 생성물에는 현행법상 저작권이 인정되지 않는 경우가 많기 때문이다. 따라서 AI 활용 결과물의 권리 보호를 위해서는 등록기관 가이드를 준수하되, 별도 법령 제정도 주시할 필요가 있다.

마지막으로, 정보보안의 측면에서 생성형 AI API가 온프레미스로 요청되는 경우가 아니라면 이용자는 민감하거나 기밀에 해당하는 데이터를 공개 인터넷망을 통해 전송해야 하므로, 이 과정에서 공격자에 의한 정보 유출 위험이 존재한다. 아울러 해커에 의한 직접 유출 외에도 생성형 AI에 입력된 데이터나 산출된 데이터가 차후 파운데이션 모델의 학습데이터로 활용되어 여타 이용자에게 간접적으로 유출될 가능성도 배제할 수 없으므로 기업은 정보보호를 위하여 별도의 대책을 강구할 필요성이 있다.

현재 생성형 AI 시장이 확대되며 관련한 법률문제가 본격적으로 발생하고 있다. 특히 생성형 AI의 본고장이라고 할 수 있는 미국에서는 이미 저작권 등과 관련한 다수의 소송이 진행 중이고, EU 역시 관련 문제를 방지ㆍ완화하기 위하여 선제적으로 EU AI Act(유럽 연합 인공지능 법안)을 마련하였다. 한국의 경우 생성형 AI의 활용 등과 관련한 대규모의 분쟁은 본격화되지 않은 것으로 보이나, 그와 같은 분쟁은 생성형 AI를 활용하는 기업에도 영향을 끼칠 수 있으므로 해당 기업은 주요국의 분쟁과 규제 방향성을 확인하고 이에 적절히 대응할 필요가 있을 것이다.



법무법인(유) 화우 배종우 변호사
약력
- 서울대학교 법학전문대학원
- 서울대학교 언어학과, 인문데이터과학 연계전공
- 한국마이크로소프트(유) 개인정보 관련 자문
- 부산광역시 디지털자산거래소 NFT 관련 자문
- SK 그룹 지식재산권, ESG 관련 자문

소개
법무법인(유) 화우 배종우 변호사의 주요 업무분야는 AI, 개인정보, TMT입니다.
서울대학교 언어학과, 동 대학교 법학전문대학원을 졸업하였고 제12회 변호사시험에 합격하였습니다. 경력으로는 모바일 소프트웨어를 개발하여 애플 앱스토어를 통해 ‘법퍼링 법전’, ‘Gourmet Tree’를 선보인 바 있고, 구글 플레이스토어에 ‘법퍼링 법전’을 출시하였습니다.