AI 보안은 구글을 포함한 모든 이에게 실시간으로 닥친 과제입니다

최근 로스앤젤레스에서 열린 한 행사 뒷무대에서 구글 클라우드의 최고운영책임자(COO)인 프란시스 드 소우자와 이야기를 나눌 기회가 있었습니다. 주변의 소음이 가득한 가운데, 대학 교수처럼 차분하고 신중한 어조로 말하는 드 소우자는 오늘날의 AI 보안 환경을 헤쳐나가는 기업들을 위해 실질적인 조언을 해주었습니다. 그는 “과도기가 있을 것이지만, 그 후에는 더 나은 상황에 도달할 수 있을 것이라 생각합니다”라고 언급했습니다.

그 순간 그가 특별히 구글에 대해 언급한 것은 아니었지만, 구글조차도 여전히 이러한 과제를 해결해 나가고 있음은 분명합니다.

드 수자의 핵심 메시지는 보안 전문가들이 오랫동안 경영진에게 강조해 온 바이며, 이제 AI로 인해 더욱 시급해진 내용이다. 바로 보안은 사후 고려 사항이 되어서는 안 된다는 점이다. “기업들이 이 AI 여정을 시작할 때, 플랫폼 접근 방식을 취해야 합니다.”라고 그는 말했다. “보안은 나중에 얹어 놓을 수 있는 것이 아니며, 직원들에게 맡겨서 스스로 해결하게 할 수 있는 문제도 아닙니다.” 그는 특히 조직의 감독 없이 직원들이 소비자용 도구를 사용하는 ‘섀도우 AI’에 대해 경고하며, 기업들은 처음부터 플랫폼에 보안, 거버넌스, 감사 가능성을 요구해야 한다고 주장했다. “데이터 전략과 보안 전략이 없는 AI 전략이란 존재할 수 없습니다. 이 세 가지는 서로 밀접하게 연계되어야 합니다.”

주목할 점은, 그가 구글 클라우드만을 홍보하고 있었던 것은 아니라는 사실이다. 그의 조언이 마치 구글 광고처럼 들린다고 지적하자, 그는 반박했다. 그는 구글이 멀티클라우드 접근 방식을 고수하고 있으며, 단일 클라우드에서 운영되고 있다고 생각하는 기업들은 거의 확실히 그렇지 않다고 주장했다. “단일 클라우드를 선택하더라도 SaaS 애플리케이션에 의존하고 있으며, 서로 다른 클라우드를 사용하는 비즈니스 파트너들이 있을 수 있습니다.”라고 그는 말했다. “기업들은 클라우드와 모델을 막론하고 일관된 보안 태세를 갖추는 것이 중요합니다.”

그는 또한 위협 환경이 근본적으로 변화하여 기존의 방어 모델로는 대응이 너무 느리다고 주장했다. 그는 초기 침해 발생부터 공격의 다음 단계로 넘어가는 데 걸리는 평균 시간이 8시간에서 22초로 단축되었으며, 공격 표면이 기존의 네트워크 경계를 넘어 확장되었다고 지적했다. “기존 인프라 외에도 이제는 모델이 있습니다. 모델을 훈련하는 데 사용되는 데이터 파이프라인도 있고, 에이전트와 프롬프트도 있습니다. 이 모든 것을 보호해야 합니다.”

드 수자가 지적한, 아직 충분한 주목을 받지 못하고 있는 위협 중 하나는 기업 내부 시스템을 이동하는 에이전트가 수년 동안 아무도 신경 쓰지 않았던 잊혀진 데이터 저장소를 드러낼 수 있다는 점이다. “많은 조직이 실제로 업데이트하지 않은 오래된 SharePoint 서버[및 접근 제어]를 보유하고 있지만, 그 위치가 어디인지 아무도 정확히 알지 못했기 때문에 별 문제가 되지 않았습니다. 하지만 기업 내부를 돌아다니는 에이전트는 이러한 데이터 자산을 찾아내고, 그 안에 담긴 데이터를 노출시킬 것입니다.”

그의 견해에 따르면, 해결책은 기계의 속도에 기계의 속도로 대응하는 것이다. “우리는 이제 조직이 에이전트를 운영하여 방어를 주도할 수 있는, AI 네이티브 방식의 완전한 에이전트 기반 방어 체계가 등장하는 것을 목격하고 있습니다,”라고 그는 말했다. “사람이 주도하는 방어 체계나 심지어 사람이 개입하는 방식 대신, 이제 사람이 완전히 에이전트 기반의 방어 체계를 감독할 수 있게 되었습니다.” 그는 이것이 단순한 기술 문제가 아니라 리더십 문제로 대두되었다고 덧붙였다. “이는 이사회 차원의 문제이자 경영진 팀의 문제입니다. 단순히 보안 팀의 문제가 아닙니다.”

하지만 AI가 방어 업무의 더 많은 부분을 담당하게 됨에도 불구하고, 이를 감독할 자격을 갖춘 인력은 부족한 실정이며, AI 자체가 초래하는 취약점은 보안 팀이 해결할 수 있는 속도보다 더 빠르게 증가하고 있다. “우리는 ‘버그 아포칼립스’를 처리할 인력이 필요할 것입니다.” 링크드인의 최고정보보안책임자(CISO) 레아 키스너는 이번 주 뉴욕타임스와의 인터뷰에서 이같이 말하며, 적어도 향후 몇 년간은 업계가 AI 보안을 지속 가능한 장기적 관점에서 이해하기 어려울 것으로 전망했다.

이는 다시 플랫폼 제공업체 자체로 시선을 돌리게 한다. 더 레지스터(The Register)는 지난 몇 주간 일련의 보도를 통해, 구글 클라우드 개발자들이 제미니(Gemini) 모델에 대한 무단 API 호출로 인해 5자리 수의 청구서를 받게 된 사태를 다뤘다. 이들 중 다수는 해당 서비스를 한 번도 사용해 본 적이 없거나 의도적으로 활성화한 적도 없었다. 이 사례들은 익숙한 패턴을 따르고 있다. 원래 구글 맵스용으로 배포되어 구글의 지침에 따라 공개적으로 설정된 API 키가, 구글이 변경 사항을 명확히 알리지 않은 채 적용 범위를 확대함에 따라 은연중에 제미니에 접근할 수 있게 된 것이다.

면접 준비 플랫폼 ‘프렌터스(Prentus)’의 CEO 로드 다난(Rod Danan)은 공격자들이 유출된 자신의 API 키를 악용한 후 약 30분 만에 청구액이 10,138달러에 달했다고 밝혔다. 시드니에 거주하는 개발자 이수루 폰세카(Isuru Fonseka) 역시 계정이 유사한 방식으로 해킹당했으며, 250달러의 지출 한도가 설정되어 있다고 믿었음에도 아침에 일어나 보니 약 17,000호주달러의 요금이 청구된 것을 발견했다. 두 사람 모두 알지 못했던 사실은, 구글의 자동화 시스템이 계정 이력을 바탕으로 청구 등급을 상향 조정하여, 명시적인 동의 없이 실질적인 한도를 최대 100,000달러까지 높였다는 점이었다.

'더 레지스터(The Register)'가 초기 보도를 내놓은 후 구글은 두 사람 모두에게 환불해 주었다. 그럼에도 구글은 '더 레지스터'에 자동 등급 상향 정책을 변경할 계획이 없다고 밝히며, 사용자가 명시한 예산 선호도를 적용하는 것보다 서비스 중단을 방지하는 것을 우선시한다고 설명했다.

한편, 개발자가 서비스를 중단하려고 할 때 어떤 일이 벌어지는지에 대한 별도의 문제도 있다. '더 레지스터'는 이번 주 보안 업체 아이키도(Aikido)의 연구 결과를 보도하며, 유출된 키를 발견하고 즉시 삭제한 개발자조차 안전하지 않을 수 있다고 전했다. 아이키도의 조사 결과에 따르면, 구글의 키 무효화 조치가 인프라 전반에 걸쳐 점진적으로 반영되기 때문에 공격자는 해당 키를 최대 23분 동안 계속 사용할 수 있는 것으로 나타났다. 아이키도의 연구원 조셉 레온(Joseph Leon)은 더 레지스터와의 인터뷰에서, 이 기간 동안 인증 성공률은 예측할 수 없으며(일부 시간대에는 요청의 90% 이상이 여전히 인증됨), 공격자들은 이 시간을 이용해 제미니(Gemini)에서 파일과 캐시된 대화 데이터를 유출할 수 있다고 밝혔다.

레온은 또한 구글 자체의 최신 인증 정보 형식에는 동일한 문제가 없는 것으로 보인다고 언급했다. 서비스 계정 API 인증 정보는 약 5초 만에 무효화되며, 제미니의 새로운 AQ 접두사가 붙은 키 형식은 약 1분이 소요된다. 그는 아이키도(Aikido)의 관련 논문에서 “두 가지 모두 구글 규모의 환경에서 운영된다”고 썼다. “두 사례 모두 구글 API 키에 대해서도 기술적으로 해결 가능함을 시사한다.” 요컨대, 레온에 따르면 23분이라는 시간 창은 기술적 제약이 아니라 회사의 우선순위 문제다.

de Souza의 조언을 읽을 때 이 점을 고려해 볼 필요가 있습니다. 그의 조언은 타당하며 매우 진지하게 받아들여야 합니다. 그가 틀린 것은 아니지만, 현재 플랫폼들이 제시하는 지침과 플랫폼 자체의 적응 속도 사이에는 격차가 존재하며, 이 점도 인지해 두는 것이 좋습니다.