지난 27일, 샘 올트먼 오픈AI CEO는 자신의 X(옛 트위터)에 프로필 사진을 바꾸며 위와 같은 글을 올렸다. 그런데 올트먼의 새 프로필 사진, 어디선가 많이 본 듯하다. 따뜻하고 부드러운 색감과 손으로 그린 듯한 선 표현은 ‘센과 치히로의 행방불명’, ‘하울의 움직이는 성’ 등으로 유명한 일본 애니메이션 제작사 ‘스튜디오 지브리’의 작품을 연상케 한다. 올트먼의 프로필 사진은 오픈AI의 생성형 AI 모델 ‘GPT-4o’에 새로 통합된 이미지 생성기의 작품이다. 챗GPT에 사진을 올리고 ‘OOO 스타일로 바꿔줘.’라고 요청하면, 누구나 사진을 특정 애니메이션 화풍의 그림으로 변환할 수 있다. 그 중에서도 특유의 온화하고 서정적인 화풍으로 인해 지브리 스타일 그림은 많은 사용자들의 호응을 얻고 있다.

소셜미디어에서 지브리 스타일 그림이 ‘밈(meme)’처럼 번지는 한편, AI의 저작권 침해 문제가 다시 주목받고 있다. 특정 화풍을 모방한 그림을 생성하려면 AI 모델이 학습한 원본 작품이 있어야 한다. 문제는 오픈AI가 지브리를 비롯한 애니메이션 제작사들과 작품 사용에 대한 저작권 계약을 맺었는지 알 수 없다는 점이다. 오픈AI는 살아있는 예술가 개인의 스타일을 복제하는 것은 지양하지만, 광범위한 스튜디오 스타일을 복제하는 것은 허용한다는 입장이다. 다만 이미지 생성기가 어떤 데이터를 학습했는지에 대해서는 밝히지 않고 있어 저작권 침해 논란은 계속될 것으로 보인다.

01. 생성형 AI의 저작권 침해 논쟁

생성형 AI의 저작권 침해 관련 쟁점은 ‘생성형 AI의 학습을 위한 데이터’와 ‘생성형 AI가 만들어낸 결과물’을 두고 논의되고 있다. 지브리 스타일을 둘러싼 저작권 논란의 핵심 쟁점은 AI 모델이 실제로 지브리의 작품을 학습한 것인지, 그리고 그 과정에서 적절한 동의가 있었는지에 대한 것이다. 오픈AI는 이미 저작권 침해 혐의로 뉴욕타임스와 소송 중이며, 스태빌리티AI와 게티이미지 역시 유사한 쟁점을 두고 다투고 있다. 한편 최근 미국 법원은 톰슨 로이터와 로스 인텔리전스의 소송에서 AI 학습에 대한 저작물의 공정이용을 인정하지 않는다는 판결을 내려 주목을 받았다.

생성형 AI로 인한 저작권 분쟁을 이해하기 위해서는 미국 「저작권법(Copyright Act)」의 ‘공정이용(fair use)’을 짚어봐야 한다. 미국 「저작권법」 제107조(17 U.S. Code § 107)는 저작권 침해의 예외사유로 공정이용을 규정하고, 비판, 논평, 뉴스 보도, 교육, 학술 또는 연구와 같은 목적으로 저작권자의 허가 없이도 저작물을 사용할 수 있도록 허용하고 있다. 공정이용이 인정되려면 ①이용의 목적 및 성격 ②보호되는 저작물의 성격 ③이용된 부분이 저작물 전체에서 차지하는 비중과 중요성 ④그 이용이 해당 저작물의 잠재적 시장 또는 가치에 미치는 영향 등 4가지 요건 중 2개 이상을 충족해야 한다.

미국에서 공정이용을 판단하는 가장 중요한 잣대는 요건 ①과 ④이다. 특히 요건 ①에 관련된 ‘변형적 이용(transformative use)’은 공정이용 관련 판례들에서 가장 중하게 다뤄지는 요소다. 원(源)저작물에 새로운 요소를 추가하거나, 다른 목적 또는 성격을 갖도록 원저작물을 변형하는 경우 변형적 이용으로 공정이용이 인정될 가능성이 높다. 요건 ④ 역시 공정이용 판단에 있어 중요한 근거다. 원저작물을 이용한 결과물이 원저작물과 실질적으로 유사한 기능을 가지고 있어서 기존 창작자의 시장을 침해한다면 공정 이용으로 볼 수 없다는 것이다.

1) 오픈AI, 마이크로소프트 - 뉴욕타임스 소송

‘23년 12월, 뉴욕타임스는 미국 뉴욕 남부 지구 연방지방법원에 오픈AI와 마이크로소프트를 상대로 저작권 침해 소송을 제기했다. 소장에 따르면 뉴욕타임스는 자사에서 발행한 수백만 건의 기사가 GPT 모델을 훈련하는 데 무단으로 사용되었으며, 오픈AI와 마이크로소프트가 고유한 가치가 있는 뉴욕타임스의 저작물을 불법 복제 및 사용함으로써 발생한 수십억 달러 규모의 법적 및 실질적 손해를 배상해야 한다고 주장했다. 보상과 함께 뉴욕타임스의 저작권이 있는 자료를 사용하는 모든 챗봇 모델과 데이터셋을 파기할 것도 요구했다.

뉴욕타임스는 GPT-4가 자사 기사를 ‘기억(memorizing)’하여 그대로 출력한 100건의 사례를 저작권 침해의 증거로 제시했다. 흥미로운 사실은 증거로 제시된 다수의 기사가 퓰리처상 수상작이라는 것이다. 이는 고품질 저작물을 생성하는 데 많은 노력과 시간이 투입된다는 것을 강조하기 위한 뉴욕타임스의 전략으로 해석된다. 일례로 뉴욕 택시 면허의 웃돈 실태를 다룬 5부작 탐사보도는 무려 18개월간 600건의 인터뷰, 100건의 정보공개청구와 함께 수천 쪽에 달하는 문서를 분석해 작성되었다. 뉴욕타임스는 소장에 피고가 자사 저작물에 대한 사용 허가나 대가 지급 없이, 대체 상품을 만들기 위해 자사 저작물을 사용함으로써 저널리즘의 막대한 투자에 무임승차하고 있다고 적시했다.

뉴욕타임스는 어떻게 GPT-4가 자사 데이터를 무단으로 학습했다는 것을 입증할 수 있었을까? 여기서 ‘역류(regurgitation)’ 현상이 등장한다. 역류는 생성형 AI 모델이 특정 방식으로 요청을 받으면 훈련 데이터를 그대로 출력하는 일종의 버그다. 특히 모델의 규모가 클수록, 중복된 데이터가 많을수록, 토큰의 수가 증가할수록 발생할 가능성이 높다. 그간 AI 기업들은 생성형 AI 모델이 데이터를 학습하여 상황에 적합한 답변을 생성하므로, 인터넷에 공개된 자료를 AI 훈련에 활용하는 것은 공정이용에 해당한다고 주장해왔다. 그러나 뉴욕타임스는 생성형 AI의 결과물이 자사 콘텐츠를 ‘변형’한 것이 아니라, 그대로 ‘재현’했음을 입증하기 위해 역류와 관련된 사례를 제시하게 된 것이다.

오픈AI는 법원에 소송 기각을 요청하고, 뉴욕타임스가 비정상적인 결과를 생성하기 위해 제3자에게 돈을 주고 챗GPT 등 자사 제품을 해킹하여 저작권 침해 사례를 만들었다고 주장했다. 실제로 뉴욕타임스가 제시한 증거에는 일반적인 사용 행위로 보기 어려운 것들도 포함되어 있었다. 앞서 소개한 뉴욕 택시 면허 관련 사례의 경우, 기사 제목과 앞부분의 내용이 그대로 프롬프트로 입력되었다. 오픈AI는 프롬프트를 조작하더라도 GPT 모델은 일반적으로 이렇게 동작하지 않기 때문에, 뉴욕타임스가 모델에 역류를 유도했거나 특정 사례를 선별했을 가능성이 있다고 설명했다. 오픈AI의 주장에 대해 뉴욕타임스는 별다른 의견을 내놓지 않은 것으로 전해졌다.

이들의 소송은 현재 진행형이며, 생성형 AI 열풍으로 전성기를 맞은 AI 기업들은 줄줄이 저작권 침해 소송전을 벌이고 있다. 오픈AI는 뉴욕타임스 건을 포함해 유명 작가와 예술가, 미디어 기업 등과 저작권을 두고 법적 공방을 벌이고 있다. 이미지 생성과 연관된 소송 사례도 있다. 스톡 이미지 시장의 선두 기업인 게티이미지는 영국의 AI 스타트업 스태빌리티AI를 상대로 영국 고등법원과 미국 델라웨어 연방지방법원에 저작권 침해 소송을 제기했다. 게티이미지는 스태빌리티AI의 이미지 생성 AI 모델인 스테이블 디퓨전이 만든 이미지가 게티이미지의 저작물과 유사하고, 게티이미지의 워터마크가 남아있는 이미지들도 있었다고 지적했다.

2) 로스 인텔리전스와의 소송에서 승리한 톰슨 로이터

최근 AI의 데이터 학습과 「저작권법」의 공정이용 원칙 간 관계를 중점적으로 다룬 미국 최초의 판결이 나와 주목받고 있다. 지난 2월, 미국 델라웨어 연방지방법원은 통신사 톰슨 로이터가 AI 기반 법률 검색엔진 스타트업 로스 인텔리전스를 상대로 낸 저작권 침해 소송에서 톰슨 로이터의 손을 들어줬다. 톰슨 로이터는 로스 인텔리전스가 자사 법률 서비스인 웨스트로우의 콘텐츠를 무단으로 AI 학습에 사용했다고 주장했다. 로스 인텔리전스는 ‘헤드노트(핵심적인 법률 원칙과 쟁점을 요약한 문장으로, 웨스트로우의 주요 기능)’를 활용한 것은 변형적 이용으로 공정이용에 해당한다고 반박했지만 법원은 이를 기각했다.

이 판결은 AI가 타인의 저작물을 무단으로 학습하는 것이 공정 이용으로 보호받을 수 없다는 점에서 중요한 법적 선례가 될 수 있다. AI 기업들이 학습 데이터의 저작권 문제를 회피하기 위해 공정이용 논리를 내세워 왔기 때문이다. 다만 로스 인텔리전스의 AI는 기존 콘텐츠를 그대로 복제하는 방식을 사용하고 있어, 해당 판결은 생성형 AI의 공정이용 논쟁과 구분하여 살펴볼 필요가 있다. 업계는 로스 인텔리전스가 판결에 불복하여 항소할 가능성이 높은 것으로 보고 있다. 미국 연방항소법원의 판결은 대부분의 연방 사건에서 최종 결정으로 간주되고 있어, 향후 AI 관련 저작권 소송에 큰 영향을 미칠 것으로 예상된다.

02. 오픈AI는 지브리의 저작권을 침해한 것일까?

오픈AI가 최근 업데이트한 GPT-4o의 이미지 생성 기능은 기존 애니메이션의 화풍을 그대로 구현하면서 논란을 빚었다. 우선 화풍을 모방한 것은 법적으로 문제가 되지 않는다. 국내외 법조계는 화풍을 아이디어 영역에 속하는 개념으로 여겨 왔다. 특정 스타일의 저작권을 인정할 경우, 창작의 자유가 위축될 수 있다는 이유에서였다. 미국 「저작권법」은 일반적인 스타일은 보호될 수 없으며 구체적으로 표현된 저작물만 보호될 수 있다고 명시하고 있다. 일본 문화청 역시 지난해 3월 발표한 ‘AI와 저작권에 대한 고찰’ 보고서에서 아이디어는 「저작권법」으로 보호하지 않는다는 입장을 밝혔다.

그러나 오픈AI가 AI 모델 훈련 과정에서 기존 작품을 대가 없이 무단으로 활용했다면 문제가 될 수 있다. 오픈AI는 GPT-4o 학습에 사용된 데이터셋에 지브리 작품이 포함되었는지, 지브리와 저작권 계약을 맺었는지 여부를 명확히 밝히고 있지 않다. IT 전문매체 디인포메이션은 지브리에서 조만간 오픈AI를 저작권 침해로 고소할 것으로 예상했다. 다만 저작권자가 AI 학습에 자신의 저작물을 사용했는지 입증하기가 어려워, 저작물 무단 사용을 경고하는 상징적 의미의 소송이 될 가능성이 크다. 지브리는 이번 사안에 대해 특별히 대응하지 않고 있으며 입장을 따로 낼 계획은 없다고 전했다.

또 다른 쟁점은 오픈AI의 영리 취득에 있다. 오픈AI가 지브리 스타일 이미지 생성 기능을 영리 목적으로 활용하고 있다고 판단할 여지가 있기 때문이다. 지브리 스타일 이미지 생성 기능은 챗GPT 이용자 지표에 즉각적인 영향을 미쳤다. 올트먼 CEO는 자신의 X를 통해 이미지 생성 기능 공개 1시간 만에 챗GPT 사용자가 100만 명 늘어났다고 전했다. 지난 3월 말 기준, 챗GPT의 주간 활성 사용자 수는 5억 명, 유료 구독자 수는 2,000만 명을 돌파했다. 지브리 스타일 열풍이 챗GPT에 사용자를 끌어들이고, 무료 사용자에서 유료 사용자로의 전환이 이어지며 마케팅 효과를 거둔 것이다.

법적인 문제가 없더라도 장인 정신을 가지고 만든 작품 양식을 모방하는 기능 자체가 예술에 대한 모욕이라는 지적도 나온다. 특히 지브리 스타일을 만든 미야자키 하야오 감독은 독자적인 작품 세계를 구축한 인물로 매우 유명하다. 오픈AI 대변인은 IT 전문 독립매체 404 미디어를 통해 지브리, 디즈니와 같은 글로벌 애니메이션 제작사의 스타일은 이미 팬들의 2차 창작으로 재생산되어 왔다는 의견을 밝혔다. 올트먼 CEO는 사용자에게 지적 자유와 통제권을 맡기는 것이 옳다고 생각한다면서, 이미지 생성 기능에 대한 반응을 주의 깊게 살피고 사회의 의견을 경청할 것이라고 전했다.

03. View of IGLOO

지난 1일, 비영리 단체 ‘AI 디스클로저 프로젝트’는 논문을 통해 오픈AI가 출판사 오라일리 미디어의 유료 도서 콘텐츠를 무단으로 사용한 정황을 포착했다고 밝혔다. 연구진은 ‘DE-COP 멤버십 추론 공격’이라는 방법을 이용해 GPT-4o가 오픈AI의 전 세대 모델들보다 오라일리의 유료 서적을 더 잘 인식했다는 사실을 파악했다. 오픈AI가 오라일리 자료를 무단 수집하여 AI 학습에 활용했을 가능성이 크다는 해석이다. 다만 논문은 GPT-4o가 오라일리 서적을 학습했다고 단정지을 수 없다고 선을 그었다. IT 전문매체 테크크런치의 보도에 따르면, 오픈AI는 논문과 관련된 언론의 논평 요청에 응답하지 않은 것으로 전해졌다.

오픈AI는 지난 1일 전후로 GPT-4o 이미지 생성에 적용되는 콘텐츠 정책을 강화했다. 이 같은 정책 강화는 지브리 스타일 이미지 생성을 두고 저작권 침해 논란이 불거진 데 따른 조치로 보인다. 오픈AI가 향후 법적 문제가 발생할 것을 고려해 이미지 생성 모델에 안전 필터를 업데이트했다는 분석이다. 실제로 챗GPT에 ‘OOO 스타일로 바꿔줘.’라고 요청하자, 콘텐츠 정책에 위배된다거나 시스템 제약으로 제공이 어렵다는 안내를 확인할 수 있었다. 사진 속 모습을 글로 상세하게 묘사해 요청할 경우 예전과 같은 결과물을 얻을 수 있다.

저작권은 창작자의 노력을 보호하고, 창작자에게 정당한 보상을 제공하기 위한 개념으로 발전해왔다. 그러나 생성형 AI는 방대한 기존 데이터를 기반으로 별다른 노력과 시간 투자 없이 텍스트, 사운드, 이미지 등을 만들어내고 있다. 이러한 기술 발전은 전통적인 저작권 체계에서 새로운 도전 과제로 떠오르고 있다. 특히 생성형 AI는 대량 생산의 이점을 활용하여 기존 저작물의 경제적 가치를 떨어뜨릴 수 있으며, 이는 창작자의 권익 보호와 직결되는 중요한 문제다. AI가 창작에 참여하는 방식과 이에 따른 저작권 논쟁은 당분간 지속될 전망이다. 심도 있는 법적·사회적 논의가 이루어질 때, AI와 인간이 공존할 수 있는 창작 환경이 조성될 것이다.

04. 참고 자료

NYT “AI 학습에 기사 무단사용”… 오픈AI-MS 상대 수조원대 손배소
게티이미지, 저작권 침해 혐의로 스태빌리티AI 고소
"저작물 AI 학습, 저작권법상 '공정사용' 아니다" 미국 첫 판결
지브리·디즈니 아니면 뽀로로풍? 챗GPT 새 이미지 생성기 저작권 논란
AI가 모방한 지브리 스타일, 불명확한 저작권 문제
“너 이거 몰래 보고 배운거지”…미허가 유료 콘텐츠 학습 논란에 빠진 오픈AI