직원 및 AI 에이전트별 AI 사용 현황부터 전송 데이터, 발생 비용까지 안전하게 실시간 파악

기업 AI 사용 전반에 통합 가시성 제공, 클라우드플레어 ‘신원 인식 AI 게이트웨이’ 출시

선도적인 커넥티비티 클라우드 기업인 클라우드플레어(Cloudflare)가 기업의 IT 및 보안 팀이 직원들의 업무용 AI 사용 현황을 보다 명확하게 파악할 수 있도록 지원하는 ‘신원 인식 AI 게이트웨이(Identity-Aware AI Gateway)’를 출시했다. 

기업은 신원 인식 AI 게이트웨이를 통해 처음으로 어떤 직원이나 AI 에이전트가 AI 모델에 요청을 보냈는지 정확히 확인하고, 개인 또는 팀 단위로 지출 한도를 설정하며, 위험 콘텐츠를 자동으로 식별할 수 있다. 이러한 기능은 별도의 시스템 구축이나 업무 방식을 변경 없이 바로 적용할 수 있다. 함께 제공되는 ‘사용자 인사이트(User Insights)’ 기능은 네트워크 내 각 사용자와 자동화 시스템별로 평소 AI 사용 패턴을 학습하고, 이를 벗어나는 활동이 발생하는 즉시 IT 팀에 알린다. 

기업 내 AI 활용이 빠르게 늘면서 비용 상승과 보안 사각지대라는 두 가지 문제도 함께 커지고 있다. 개별 AI 요청에 드는 비용은 낮아지고 있지만, 직원과 자동화 봇이 보내는 요청량이 크게 늘면서 별다른 사전 경고나 명확한 원인 없이 청구 비용이 급증하는 사례가 발생하고 있다. 보안 측면에서는 직원 이름과 비밀번호, 기밀 파일 등의 민감 정보가 외부 AI 제공업체로 전달되더라도 이를 알아차리지 못할 수 있다.

기존 도구는 계정 전체의 AI 사용 비용에 한도를 설정할 수 있지만, 누가 비용을 발생시켰고 어떤 정보가 전송됐는지까지 파악하기는 어렵다. 이 때문에 IT 팀은 문제를 사전에 막기보다 발생한 뒤 수습하는 데 집중할 수밖에 없다. 

데인 크네히트(Dane Knecht) 클라우드플레어 최고기술책임자(CTO)는 “보안 절차가 번거로우면 혁신의 속도를 늦추는 걸림돌이 된다. 현재 기업들은 예상치 못한 AI 비용이나 우발적인 데이터 유출을 우려해 AI 접근을 제한하고, 각 팀이 개발하거나 활용할 수 있는 범위도 축소하려는 경향이 있다”며 “클라우드플레어의 액세스 제어 기능을 AI 게이트웨이와 직접 연결하면 이러한 상황을 바꿀 수 있다. 각 팀은 원하는 AI 모델을 자유롭게 활용할 수 있고, IT 팀은 실시간 가시성과 보호 장치, 필요한 예산 통제 기능을 확보할 수 있다”고 말했다. 

AI 게이트웨이와 사용자 인사이트가 제공하는 이점은 다음과 같다. 

AI 요청의 주체와 전송 내용 파악: AI 게이트웨이를 클라우드플레어 액세스(Cloudflare Access)와 연동해 모든 AI 요청을 직원이나 자동화 시스템의 검증된 신원과 연결한다.

문제가 발생하기 전 이상 행동 탐지: 사용자 인사이트는 사용자 별 AI 활동을 지속적으로 분석해 평소 사용 패턴을 파악한다. 특정 사용자나 시스템의 지출이 평소보다 크게 증가하면 IT 팀에 즉시 알린다.

놓치기 쉬운 비용 절감 기회 발굴: 더 가볍고 저렴한 모델로 처리할 수 있는 단순한 작업에 고성능 모델을 사용하고 있는지 분석해 대규모 환경에서도 비용을 줄일 수 있는 지점을 쉽게 찾도록 지원한다.

신원 기반 액세스 제어 및 인증: 기업은 ID 공급자(IdP) 및 제로 트러스트 네트워크 액세스(ZTNA) 인프라와 연동해 사용자를 구분하기 어려운 공유 API 키를 대체할 수 있다. AI 모델 제공업체로 요청을 보내기 전에 사용자 신원과 기기 보안 상태를 확인하고, 검증된 신원 정보를 요청 로그에 직접 기록한다. 이 과정에서 기존 AI 도입과 활용 방식은 그대로 유지할 수 있다.

모든 AI 트래픽의 통합 관리: 여러 도구와 AI 모델 제공업체에 분산된 사용 현황을 각각 관리하지 않고 모든 요청을 한곳에서 처리한다. IT 팀은 전체 AI 트래픽을 실시간으로 확인하고 반복 요청을 캐시해 불필요한 비용을 줄일 수 있다. 또한 요청량을 제한해 과도한 사용으로 비용이 급증하는 것을 막고, 직원 이름과 비밀번호 등 민감한 정보가 외부 AI 제공업체로 전송되기 전에 자동으로 제거할 수 있다. 

맥스 바움가르텐(Max Baumgarten) 플렉스포트(Flexport) 보안 엔지니어는 “공유 API 키를 사용하면 누가 AI 서비스를 이용하는지 파악하기 어렵고 직원에게 적용 중인 기존 액세스 정책을 그대로 적용하는 것도 사실상 불가능하다”며 “클라우드플레어 액세스를 AI 게이트웨이와 연동하면 모든 요청에 검증된 신원을 부여하고, 기존 신원 정책도 게이트웨이에서 그대로 적용할 수 있다. AI 도구마다 별도의 인증 시스템을 구축하지 않아도 각 팀이 필요한 AI 서비스를 안전하게 도입할 수 있다”고 덧붙였다. 

클라우드플레어 ‘신원 인식 AI 게이트웨이’와 관련된 보다 자세한 내용은 여기에서 확인할 수 있다.