[보안 101] 더보기 ▶

매달 하나의 주제를 선정해 질문을 던지며, 보안에 한 걸음 더 가까이 다가갑니다.
복잡하고 어렵게 느껴질 수 있는 보안 지식을 초보자도 쉽게 이해할 수 있도록, 기초 개념부터 최신 이슈까지 차근차근 풀어갑니다.

보안이 알고 싶을 땐, 보안 101으로 시작해 보세요.
물음표를 느낌표로 바꾸는 여정을 이글루코퍼레이션이 함께합니다.

인공지능(AI) 기술이 비약적으로 발전하고 있습니다.
보안 관점에서도 이러한 진화는 새로운 기회인 동시에 위협이 될 수 있기에, 지금 꼭 주목해야 할 AI 핵심 트렌드를 짚어보고자 합니다.

01. 에이전틱 AI(Agentic AI)란?

에이전틱 AI는 스스로 목표를 설정하고 계획을 수립하며, 다양한 환경 속에서 자율적으로 판단하고 행동할 수 있는 AI를 뜻합니다. 사용자의 목표와 비전, 문제의 맥락을 이해하고, 지속적인 지시 없이도 복잡한 작업을 연속적으로 수행하며 상황에 따라 유연하게 대응할 수 있는 고도화된 자율성을 갖추고 있습니다.

쉽게 말해 기존의 생성형 AI가 사용자의 입력에 반응하는 ‘반응형 AI’였다면, 에이전틱 AI는 상황을 분석하고 스스로 다음 행동을 결정하는 ‘능동형 AI’입니다. 이러한 행동 중심의 AI는 대형 언어 모델(LLM)을 기반으로 자연어를 이해하고 실행 계획을 수립하며, 다양한 시스템 및 도구와 연동해 실제 업무까지 수행할 수 있습니다. 여기에 ‘목표 지향적 행동(goal-oriented behavior)’이 더해지면서, 다단계 과제나 장기적인 업무도 지속적이고 자율적으로 추진할 수 있는 역량을 갖추게 됩니다. 글로벌 리서치 기관 가트너(Gartner)는 에이전틱 AI를 2025년 주목해야 할 핵심 기술 트렌드로 선정했으며, 2028년까지 기업 내 의사결정의 15%가 인간 개입 없이 에이전틱 AI를 통해 이뤄질 것으로 전망했습니다.

보안 분야에서도 에이전틱 AI를 적용하려는 움직임이 활발해지고 있습니다. 지금까지의 보안 AI는 주로 특정 업무를 보조하는 ‘코파일럿’ 역할에 머물렀다면 앞으로는 위협 분석, 침해 대응, 정책 감사 등 보다 복잡하고 연속적인 보안 작업을 자율적으로 수행하는 AI가 주목받게 될 것입니다. 단순한 판단을 넘어 ‘실행 능력’까지 갖춘 AI의 등장은, 보안 운영 방식 전반에 근본적인 변화를 요구하는 전환점이 될 것으로 보입니다.

02. 피지컬 AI(Physical AI)란?

피지컬 AI는 AI가 디지털 공간을 넘어 물리적 세계와 직접 상호작용하는 지능형 시스템을 의미합니다. 단순히 기계에 AI 기능을 탑재한 로보틱스와 달리, AI 기반 모델(두뇌), 컴퓨터 비전과 센서(감각), 엣지 컴퓨팅 및 네트워크 인프라(연결), 제어 및 액추에이터(행동) 등 여러 기술 요소가 통합되어, 인간처럼 세상을 인식하고, 판단하며, 행동까지 수행할 수 있는 것이 특징입니다.

대표적인 예로는 자율주행차와 물류창고 내 자율 이동 로봇(AMR)이 있습니다. 이들은 주변 환경을 스스로 감지하고, 수집한 정보를 바탕으로 이동 경로를 설정하거나 작업 동작을 조정하며, 실시간으로 물리적 행동을 수행합니다. 즉 피지컬 AI는 단순히 ‘움직이는 기계’가 아니라 인지·판단·반응이 통합된 지능형 시스템이라는 점에서 기존 기술과 뚜렷하게 구별됩니다.

보안 측면에서도 피지컬 AI는 새로운 도전 과제를 제기합니다. 현실 세계와 연결된 AI 시스템은 센서 조작, 데이터 교란, 통신 신호 변조 등으로 인해 물리적 피해로 직결될 수 있기 때문입니다. 사이버 공격이 실제 설비 오작동이나 서비스 중단으로 이어질 수 있는 만큼, 사이버-물리 시스템(CPS) 전반을 포괄하는 보안 체계의 구축이 필수적입니다.

03. 모델 컨텍스트 프로토콜(Model Context Protocol·MCP)란?

AI 기술이 고도화되면서, 하나의 모델이 독립적으로 작동하던 단계를 지나 복수의 AI가 유기적으로 협력하는 생태계가 빠르게 형성되고 있습니다. 이러한 복잡한 환경에서 각 AI가 동일한 문맥(Context)을 이해하고 유지하기 위해서는, 일관된 정보 전달 체계가 필수적입니다. 이를 가능하게 하는 핵심 기술이 바로 ‘모델 컨텍스트 프로토콜(MCP)’입니다.

MCP는 다양한 AI 구성 요소들이 공통의 문맥과 상태 정보를 정확히 공유할 수 있도록 설계된 표준 프로토콜입니다. AI 간 상호작용은 물론, 외부 시스템과의 연결까지 유연하게 지원할 수 있어 ‘AI 생태계의 USB-C’로 불릴 만큼 연결성과 확장성의 핵심 인프라로 주목받고 있습니다.

그러나 이처럼 AI 시스템 간 연결성이 높아질수록 보안 리스크 또한 커지는 양상을 보이고 있습니다. MCP의 확산으로 인해 AI는 다양한 외부 시스템과 실시간으로 문맥 정보를 주고받게 되며 이 과정에서 데이터 조작, 문맥 오염, 신호 변조 등 새로운 공격 가능성도 함께 증가하고 있습니다. 특히 AI들이 서로의 판단과 행동에 의존하는 구조에서는 하나의 오류나 악의적 개입이 연쇄적인 오작동으로 이어질 수 있는 위험성이 존재합니다.

결과적으로 MCP는 AI 협업을 가능하게 하는 핵심 기술인 동시에 새로운 공격 표면(Attack Surface)을 만들어내는 보안 취약 지점으로도 인식되고 있습니다. 앞으로의 AI 보안 체계는 개별 모델의 보호를 넘어서, AI 간 연결 구조의 신뢰성과 무결성을 어떻게 확보할 것인지까지 고민해야 할 시점입니다.

04. 인공 초지능(Artificial SuperIntelligence·ASI)이란?

AI 기술의 최종 진화 형태로 주목받는 인공 초지능(ASI)은 모든 영역에서 인간의 지능을 능가하는 AI를 의미합니다. 현재는 특정 분야에서만 인간을 뛰어넘는 '협소 AI(Artificial Narrow Intelligence·ANI)', 전반적으로 인간과 유사한 수준의 지능을 갖춘 '범용 AI(Artificial General Intelligence·AGI)' 단계에 머물러 있지만, 궁극적으로는 인간 이상의 문제 해결 능력을 갖춘 AI가 등장할 것이라는 전망이 확산되고 있습니다.

이 단계에 이른 AI는 단순히 계산 속도나 기억 용량이 뛰어난 수준을 넘어서 독창적 사고, 자율적 학습, 복잡한 상황에 대한 통찰과 판단, 창의력, 감정적 이해 등 인간의 전 영역을 초월하는 지능을 갖출 것으로 예상됩니다. 더 이상 외부 명령에 따라 작동하는 도구가 아니라, 스스로를 개선하고 진화시킬 수 있는 능력, 즉 재귀적 자기개선(Recursive Self-Improvement·RSI)을 갖춘 존재가 되는 것입니다. RSI는 AI가 자신의 성능을 분석해 더 나은 버전을 스스로 만들어내고, 그 AI가 또다시 자기 자신을 향상시키는 과정을 반복하는 구조로, 기술 발전 속도를 기하급수적으로 가속화시킬 수 있습니다.

AI가 인간의 지능을 초월하는 이 지점을 ‘AI 특이점(AI Singularity)’이라고 부르며, 이후에는 인간이 기술의 발전 속도나 방향을 더 이상 예측하거나 통제할 수 없게 될 것이라는 전망이 제기됩니다. 많은 전문가들은 이를 인류 문명의 전환점으로 보고 있으며 이를 둘러싼 기술적, 윤리적, 철학적 논의가 활발하게 이어지고 있습니다. 특히 최근에는 단순한 이론적 가능성을 넘어, 초지능 시대의 도래를 현실적인 미래 과제로 인식하는 분위기가 기술 업계 전반으로 확산되고 있으며, 초지능을 안전하게 개발하고 통제할 수 있는 방안 마련이 전 세계적인 핵심 과제로 부상하고 있습니다.

05. AI 시대에 맞는 보안 전략은?

AI 기술이 빠르게 진화하면서 이제는 AI 자체가 새로운 자산이자 위협 요인이 되는 시대가 열리고 있습니다. 에이전틱 AI처럼 스스로 판단하고 실행하는 AI, 현실 세계와 직접 상호작용하는 피지컬 AI, 수많은 AI가 서로 얽히고 설켜 작동하는 MCP 기반 생태계, 그리고 언젠가 도래할 초지능까지, AI는 점점 더 복잡하고 자율적인 존재로 진화하고 있습니다.

이러한 흐름 속에서 AI-SPM(AI 보안 태세 관리)와 같은 새로운 보안 프레임워크가 등장하고 있으며, 악용되는 AI 기술에 대응하기 위해 보안 분야 역시 AI를 적극적으로 활용해야 할 필요성이 커지고 있습니다. 이제는 위협에 뒤따라가는 보안이 아닌, AI를 이해하고 선제적으로 대응하는 새로운 보안 전략이 필요한 시점입니다.

💌 후속 콘텐츠, 계속 받아보세요 ▶