얼마 전까지만 해도 기업용 AI는 주로 사람들이 더 빠르게 일할 수 있도록 돕는 데 초점을 맞췄습니다. 직원들은 코파일럿을 활용해 코드를 작성하고, 정보를 요약하고, 콘텐츠를 생성하고, 질문에 대한 답을 얻었습니다. 이후 AI는 기업 내부로 더 깊숙이 확산되어 사내 어시스턴트와 고객용 애플리케이션의 기반 기술로 자리 잡았습니다.
이제 우리는 근본적으로 다른 단계에 접어들고 있습니다. 에이전트형 AI 시스템은 단순히 질문에 답하는 데 그치지 않습니다. 웹을 탐색하고, 데이터를 검색하고, API를 호출하고, 도구를 사용하고, 워크플로를 실행하고, 실제 행동을 수행할 수 있으며, 때로는 사람의 개입이 거의 또는 전혀 없이도 이 모든 일을 해냅니다.
이는 기능 면에서 놀라운 도약입니다. 동시에 공격 표면이 엄청나게 확대된다는 의미이기도 합니다. 저는 이 주제를 F5 Post-Mythos Security Summit에서 진행한 ‘프로덕션 환경의 AI 보안’ 발표에서 다룹니다. F5는 이 서밋을 10월 31일까지 온디맨드로 제공합니다.
“AI는 역량과 연결성, 자율성을 점점 더 키워가고 있습니다. 문제는 이로 인해 공격 표면이 확대될지 여부가 아닙니다. 보안 전략도 그에 맞춰 확장될 수 있느냐가 관건입니다.”
AI가 행동할 수 있게 되면, 행동이 공격 표면이 됩니다
기존 애플리케이션은 비교적 예측 가능합니다. 동일한 조건에서 동일한 입력을 제공하면 일반적으로 동일한 출력을 기대할 수 있습니다. 보안팀은 이러한 상호작용을 둘러싼 인프라, 애플리케이션, API, ID 및 데이터를 보호하는 방법을 개발하는 데 수십 년을 투자해 왔습니다.
AI는 동작이 비결정적일 수 있기 때문에 이러한 전제를 바꿉니다. AI 애플리케이션에서는 동작 자체가 공격 표면의 일부가 됩니다.
현대적인 AI 상호작용에 관련된 모든 요소를 생각해 보세요. 프롬프트, 모델, 기업 데이터, API, 검색 증강 생성(RAG) 시스템, 도구, 에이전트, 그리고 에이전트가 수행하는 작업까지 모두 포함됩니다. 연결이 하나 늘어날 때마다 문제가 발생하거나 공격자가 시스템 조작을 시도할 수 있는 지점도 하나씩 늘어납니다.
위험은 다양합니다. 프롬프트 인젝션은 AI 시스템의 동작에 영향을 줄 수 있고, 과도한 자율성은 에이전트가 의도된 범위를 벗어나는 행동을 하도록 만들 수 있습니다. 또한 보안이 취약한 모델 컨텍스트 프로토콜(MCP) 서버와 승인되지 않은 도구 사용은 민감한 시스템과 데이터에 접근할 수 있는 추가 경로를 만들 수 있습니다. 한편, RAG 워크플로는 조작될 수 있으며, AI 애플리케이션은 민감한 정보를 노출하거나 유해하거나 부적절한 결과물을 생성할 수 있습니다.
이러한 모든 위험은 조직이 이미 직면한 보안 과제를 더욱 가중시킵니다. AI가 코파일럿에서 고객 대상 애플리케이션으로, 나아가 자율 에이전트로 발전함에 따라 조직은 기존 위험을 안고 가는 동시에 새로운 위험까지 떠안게 됩니다.
하나의 기술 전환, 확장되는 두 가지 공격 표면
이 문제가 점점 더 어려워지는 또 다른 이유가 있습니다. 조직이 대응해야 하는 AI 공격 표면이 하나가 아니라는 점입니다.
첫 번째는 사람들은 물론, 점점 더 많은 에이전트가 이미 사용하고 있는 AI입니다. 서드파티 AI 서비스 덕분에 기업 전반에서 강력한 모델과 도구를 손쉽게 이용할 수 있게 되었습니다. 직원들은 AI를 활용해 더 빠르고 효율적으로 일해야 한다는 압박을 받고 있지만, 그 과정에서 어떤 정보가 노출될 수 있는지, 특정 AI 서비스가 어떤 위험을 초래하는지 제대로 이해하지 못하는 경우가 많습니다.
단순히 AI를 차단하는 것은 현실적인 해결책이 아닙니다. 사람들은 우회 방법을 찾아내기 마련이며, 조직은 AI 사용이 보안 및 IT 팀의 가시성에서 더욱 벗어나게 될 위험을 감수해야 합니다.
두 번째 공격 표면은 조직이 직접 구축하고 배포하는 AI입니다. 여기서는 잠재적인 보안 노출 범위가 애플리케이션, 모델, 프롬프트, 에이전트, API, 도구, 기업 데이터뿐 아니라 이들 간의 상호작용까지 아우릅니다.
일부 문제는 공격자의 개입 없이도 발생할 수 있습니다. 안전하지 않은 출력이 생성되거나, 민감한 정보가 실수로 노출되거나, 에이전트가 호출해서는 안 되는 도구를 호출하는 경우가 그 예입니다. 반면, 모델을 조작하거나, 지식 소스를 오염시키거나, 정보를 추출하거나, 에이전트가 의도치 않은 행동을 하도록 유도하기 위해 의도적으로 가해지는 공격도 있습니다.
고객, 규제 기관 또는 보안팀의 관점에서는 그 결과가 놀라울 정도로 비슷해 보일 수 있습니다.
AI 혁신을 위해 AI 보안을 희생해서는 안 됩니다
이는 보안 리더들에게 어려운 과제를 안겨줍니다. 조직들은 AI를 빠르게 도입하고 활용하기를 원하며, 그 필요성도 점점 커지고 있습니다. 하지만 새로운 AI 애플리케이션, 에이전트, 모델, 도구, 연결이 추가될 때마다 기존 보안 방식으로는 대응하기 어려운 위험이 발생할 수 있습니다.
이러한 문제를 해결하려면 조직은 비즈니스가 계속 원활하게 운영되도록 하면서, 점점 확대되는 AI 공격 표면 전반에 대한 가시성과 통제력을 강화해야 합니다. AI 상호작용이 어디에서 발생하든 이를 보호하고, 우발적인 행동과 악의적인 행동 모두에 대응하며, AI 도입에 또 다른 걸림돌이 되지 않도록 적절한 통제 조치를 적용해야 합니다.
F5는 이를 실현할 방법이 있다고 믿습니다. F5는 조직이 개발하는 애플리케이션과 직원들이 사용하는 AI 전반에 걸쳐 AI를 발견하고, 테스트하고, 관리하고, 보호할 수 있도록 지원하는 접근 방식을 개발했습니다. 이 접근 방식은 AI 상호작용이 실제로 이루어지는 지점에서 제어 기능을 제공합니다.
F5 온라인 Post-Mythos Security Summit에서 진행하는 제 세션인 “이제 AI도 공격 표면입니다”에서 이 접근 방식을 자세히 살펴보겠습니다. AI 위협 환경이 어떻게 변화하고 있는지, AI가 점점 더 자율적으로 행동하게 되면서 조직이 무엇을 보호해야 하는지, 그리고 F5가 AI 도입을 가로막지 않으면서 조직의 AI 앱, 모델, 에이전트, 도구, API 및 데이터를 안전하게 보호하도록 어떻게 지원할 수 있는지 알아보겠습니다.
AI의 역량과 연결성이 높아지고 자율성도 강화되고 있습니다. 이제 중요한 것은 이로 인해 공격 표면이 확대될지 여부가 아닙니다. 보안 전략도 그에 맞춰 확장될 수 있느냐입니다.
저와 함께 F5 Post-Mythos Security Summit에 참여하여 새로운 AI 공격 표면을 효과적으로 관리하는 방법을 알아보세요.
관련 블로그 게시물
추론 경로가 곧 트래픽 경로다: AI 보안이 자리해야 할 곳
이제 AI 트래픽에는 의도와 데이터, 작업이 담깁니다. AI 보안을 적용하는 데 추론 경로가 가장 중요한 지점이 된 이유를 알아보세요.
최전선 AI를 네트워크 경계에서 차단하기: 인라인 제어가 Mythos급 모델에 맞서는 핵심 우위인 이유
포스트-Mythos 시대에 사이버 방어가 어떻게 변화했으며, 조직이 통제 지점을 바꿔야 하는 이유를 알아봅니다.
애플리케이션 딜리버리 컨트롤러가 다시 전략적 의제로 떠오르고 있습니다
AI로 인해 애플리케이션 제공의 중요성이 더욱 커지고 있습니다. F5의 Nirav Shah가 새로운 Gartner® ADC 연구와 이것이 엔터프라이즈 인프라 의사 결정에 미치는 영향에 대해 설명합니다.
증거로 입증하는 AI 보안: Gartner SRM에서 선보일 내용
Gartner SRM에서의 세션을 앞두고, F5의 제품 마케팅 담당 수석 부사장이 F5가 세 가지 실질적인 단계를 통해 조직의 AI 보안을 어떻게 지원하는지 설명합니다.
파이프라인 속도 저하 없이 AI 데이터 파이프라인을 안전하게 보호하세요
AI 데이터 파이프라인 보안은 선택 사항이 아닙니다. 그 점은 분명합니다. 하지만 이를 제대로 보호하는 방법은 훨씬 불분명하며, 훨씬 더 어려운 과제입니다.
AI 스토리지에 새로운 로드 밸런싱 접근 방식이 필요한 이유
AI 워크로드에는 새로운 관점으로 설계된 스토리지가 필요합니다. AI 특유의 데이터 액세스 패턴은 레거시 인프라에 내재된 심각한 병목 현상과 비효율성을 여실히 드러냅니다.