사례 연구: 일회용 AI 에이전트로 분류된 인바ックス

입력된 이메일은 회사가 처리하는 가장 위험한 입력물입니다: 피싱, 프롬프트 주입, 악성 소프트웨어. 우리는 AI 트라이지 — 분류, 요약, 제안된 조치 —을 원했지만, 우리 인프라 내에서 원시 이메일을 LLM에 전달하지 않고도 이를 수행하고자 했습니다.

디자인: 모든 이메일은 전용 가상 머신 내에서 작동하는 일회용 LLM 에이전트에 의해 분류됩니다. 이 에이전트는 다섯 겹의 독립적인 보안 시스템 뒤에 위치합니다. 여기에는 LLM이 사용되지 않는 데이터 수집, 개인 정보 식별 정보(PII) 익명화 및 격리를 통한 침입 방지, 각 테넌트별 블랙리스트, 허용된 도구만 설치된 격리된 가상 머신(셸 없음, 외부 SMTP 없음), 그리고 테넌트 간 보안 시스템이 포함됩니다. 이상 징후가 감지되면 가상 머신은 초기 상태로 복원됩니다.

그것은 우리 회사의 자체 이메일 박스에서 수개월간의 지속적인 테스트를 거쳐 생산 환경에서 실행되어 왔습니다. 호스트는 모델을 통해 원시 이메일에 절대 접근하지 않기 때문에, 해킹된 이메일은 단지 자체적인 일회용 에이전트를 파괴할 뿐, 운영자는 원시 인바운드 대신 분류된 요약된 대기열을 보게 됩니다.