※ 본 기고는 당사와 법률자문·정보보호 서비스 상호협력 MOU를 체결한 법무법인(유) 화우에서 작성하였습니다.
※ 외부 필자의 기고 및 칼럼 등은 이글루코퍼레이션 콘텐츠의 편집방향과 일치하지 않을 수 있습니다.

인공지능(AI)은 이제 단순한 기술 영역을 넘어서 국가의 경제와 안보를 좌우하는 핵심 요소 중 하나로 자리매김하고 있다. 전 세계 주요국들은 자국의 이익을 최대화하기 위한 AI 관련 법규를 제정하고, 글로벌 AI 분야의 헤게모니를 확보하기 위해 심혈을 기울이고 있다. 이와 같은 국제적 동향 속에서 우리나라 역시 AI 경쟁력 강화와 신뢰할 수 있는 AI 생태계 구축이 시급하다는 국가적 차원의 사회적 합의가 이루어졌고, AI 산업의 건전한 발전을 지원할 근거와 기준을 명시하고 AI 산업의 신뢰 기반 조성에 관한 기본 사항을 규정한 ｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 ‘AI 기본법’) ｣ 제정안이 26일 국회를 통과하였다. 이로써 대한민국은 유럽연합(EU)에 이어 전 세계에서 두 번째로 AI에 대한 포괄적인 법제를 갖춘 국가가 되었다.

국내 AI 기본법 입법 진행 경과

AI 관련 법안은 21대 국회에서 논의가 시작되어 회기 만료로 자동 폐기되었으나, 22대 국회에서도 여러 의원들이 관련 법안들을 발의하며 입법이 재추진되었다. 정보통신방송법안심사소위원회는 안철수 의원이 대표발의한 ｢인공지능 산업 육성 및 신뢰 확보에 관한 법률안｣ 등19개 법률안을 병합하여 심사하였고, 이를 통합∙조정하여 대안을 제안하기로 결정하였다. 이후 해당 대안이 위원회안으로 제안되었고, 2024년 11월 26일 과학기술정보방송통신위원회 의결을 거쳐, 12월 17일 법제사법위원회를 통과하였으며, 12월 26일 최종적으로 국회 본회의에서 통과되었다. 위 법안은 본회의의 투표 결과, 출석 264명 중 찬성 260명, 반대 1명, 기권 3명이라는 압도적인 동의를 얻어 가결되었다.

해당 법안은 국무회의 의결 및 공포를 거친 후 1년의 유예 기간을 두어 빠르면 2026년 1월부터 시행될 예정이다. 과학기술정보통신부는 향후 시행령, 추가 입법을 통해 2025년 상반기경 기본법을 보완하는 세부적인 이행 방안을 수립할 계획이다.

국내 AI 기본법의 주요 내용

AI 기본법은 국가 차원의 AI 관리∙감독 체계를 수립하고, AI 산업의 성장을 위한 체계적인 지원∙육성 방안을 마련하고, AI 기술 발전에 따른 잠재적 위험 요인들을 사전에 식별하고 대응하기 위한 예방책을 담고 있으며, 그 주요 내용은 다음과 같다.

우선, AI 기본법 제정안은 AI의 건전한 발전과 신뢰 기반 조성에 필요한 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고, 국민의 삶의 질 향상과 국가경쟁력 강화를 목적으로 함을 분명히 하였으며(안 제1조), 사람의 생명∙안전∙기본권에 중대한 영향을 미칠 수 있는 AI를 ‘고영향 AI’로 정의하고, 구체적인 대상과 범위는 정부가 정하도록 하는 등 AI, 고영향 AI, 생성형 AI 등에 대한 정의를 제시하였다(안 제2조).

또한, 대통령 직속 ‘국가인공지능위원회’를 설치하고(안 제7, 8조), 과학기술정보통신부가 3년마다 위 '국가인공지능위원회'의 의결을 거쳐 AI 정책 방향과 전문인력 양성 등을 포함한 '인공지능 기본계획'을 수립하도록 명시하였으며(안 제6조), 과학기술정보통신부장관이 AI 관련 정책 개발 등을 위한 인공지능정책센터를 지정하고, AI 안전 보장을 위한 인공지능안전연구소를 운영할 수 있다고 규정하여 정부가 AI 산업의 발전을 지원할 근거를 마련하였다(안 제11, 12조).

AI 산업의 진흥 및 기술 개발 지원과 관련하여, AI 기술 개발 활성화 및 표준화 지원을 위한 조항(안 제13, 14조), AI 전문인력 양성 및 해외 인재 유치에 관한 조항(안 제21조), AI연구 개발을 위한 집적단지 지정에 관한 조항(안 제23조) 등을 포함하였으며, 그외 AI 윤리원칙 제정∙공표와 관련한 조항도 마련하였다(안 제27조).

AI의 투명성∙안전성 확보와 관련해서는 고영향 AI 또는 생성형 AI 이용 사실 등에 대한 사전 고지∙표시 의무와 관련한 투명성 확보 의무 규정(안 제31조), 학습에 사용된 누적 연산량이 일정 기준 이상인 AI시스템의 안전성을 확보하기 위한 위험 식별∙평가∙완화 등의 사항을 이행하여야 한다는 안전성 확보 의무 관련 조항을 두었다(안 제32조). 특히 고영향 AI와 관련해서는 사업자의 안전성∙신뢰성 확보 조치가 의무화되었다(안 제34조).

규제 및 감독 측면에서는 특정 다국적 기업에 대한 국내대리인 지정 의무를 정하였고(안 제36조), 과학기술정보통신부장관에게 법 위반 사항 조사 및 시정 조치 권한을 부여하는 조항을 마련하였으며(안 제40조), 고영향 AI 또는 생성형 AI에 해당한다는 사실을 고지하지 않거나, 국내대리인 지정 의무를 불이행하거나, 중지명령 및 시정명령을 이행하지 않은 경우 3천만원 이하의 과태료를 부과하는 조항을 두었다(안 제43조).

국내 AI 기본법 제정안 국회 통과의 의의

AI 기본법 제정안의 국회 통과는 국가 차원의 AI 정책 체계 구축, AI 산업 성장 촉진, 윤리적이고 안전한 AI 사용 보장, AI 국제 경쟁력 강화, 전문인력 양성 및 유치 등에서 중요한 의미를 갖는다. 본 법안을 통해 체계적이고 일관된 AI 정책이 추진되고, 민관의 투자가 활성화될 수 있는 토대가 마련되었으며, AI 기술의 부작용을 최소화하고 사회적 신뢰를 구축할 수 있는 기반이 마련되었다. 기업들 또한 AI 사업을 추진함에 있어 발생하는 불확실성을 부분적이나마 해소할 수 있게 되었으며, AI 기본법이 규제 보다는 산업 진흥에 중점을 두고 있음에 따라 다양한 지원 및 혜택을 받을 수 있을 것으로 전망된다.

AI 기본법은 공표 후 1년이 지나서야 시행됨에 따라 AI 관련 사업자들은 위 법안이 시행되기 전까지 각종 규제사항을 검토하고 대비할 필요가 있다. 특히 고영향 AI의 범위, 해외 기업에 대한 규제, 과태료 부과 세부 기준 등 구체적인 규제 사항은 향후 시행령으로 정해질 예정이므로, 기업들은 추후에 있을 하위법령∙지침(가이드라인) 제정에 주목해야 할 것이다.

AI 기본법 제정안은 투명성 확보를 위한 고지를 하지 않거나, 특정 다국적 기업이 국내대리인을 지정하지 않거나, 과학기술정보통신부의 조사 및 시정 조치에 응하지 않을 경우 과태료 등의 제재를 가할 수 있도록 명시하고 있으므로 이를 유념해야 할 것이며, 다국적 기업의 경우 선제적으로 국내대리인을 지정하는 등의 준비를 통해 위 법안 시행에 미리 대비할 필요가 있을 것으로 보인다.