دراسة حالة: صندوق إدخال تم ترتيبه بواسطة وكالات الذكاء الاصطناعي المؤقتة

البريد الإلكتروني الوارد هو المدخل الأكثر خطورة لشركة ما: التصيد الاحتيالي، وحقن المطالبات، والبرمجيات الضارة. كنا نرغب في تriage الذكاء الاصطناعي — تصنيف، ملخصات، واقتراحات أفعال — دون أن نقوم أبدًا بتشغيل نموذج لامركزي (LLM) على البريد الإلكتروني الصافي داخل البنية التحتية الخاصة بنا.

التصميم: يتم فحص كل رسالة بريد إلكتروني بواسطة وكيل LLM مؤقت داخل جهاز افتراضي مخصص، وخلف خمس طبقات دفاعية مستقلة: طبقة استقبال خالية من نماذج LLM، طبقة حماية من الحقن مع إخفاء بيانات التعريف الشخصية وعزلها، قوائم حظر خاصة بكل مستخدم، جهاز افتراضي معزول يحتوي فقط على الأدوات المسموح بها (بدون سطر أوامر، بدون إرسال بريد إلكتروني خارجي)، وطبقة حماية مشتركة بين جميع المستخدمين. في حالة أي خلل، يعود الجهاز الافتراضي إلى نسخة احتياطية نظيفة.

تم تشغيله في الإنتاج على صناديق البريد الخاصة بشركتنا لمدة أشهر من الاختبار المستمر. لا يقوم المضيف أبداً بمعالجة البريد الخام باستخدام نموذج، ويمكن أن تُحدث رسالة بريد إلكتروني مُخترقة ضرراً لا يتجاوز جهازها المؤقت، بينما يرى المشغل قائمة مُلخصة ومُصنفة بدلًا من صندوق بريد خام.