PNG الذي يسرق كلمات المرور الخاصة بك: عندما تكون الذكاء الاصطناعي واثقة جدًا

صورة تساوي أكثر من ألف كلمة مرور

تخيل أن تتلقى صورة PNG غير ضارة، ربما شعار شركة. تفتحها، وفي لحظة يسلم مساعد الذكاء الاصطناعي الخاص بك جميع كلمات المرور إلى المخترق. هذا ليس خيالًا علميًا: لقد حدث بالفعل، كما ورد في Habr. استغل هجوم حقن الأوامر ملف PNG للتلاعب بوكيل ذكاء اصطناعي، مما يثبت أن أمن الأنظمة الذكية لا يزال هشًا.

كيف يعمل هجوم PNG المخترق

فسر وكيل الذكاء الاصطناعي، المصمم لمساعدة المستخدمين، المحتوى المخفي في PNG كأمر شرعي. بدلاً من مجرد عرض الصورة، نفذ تعليمات ضارة، مستخرجًا ومرسلاً بيانات حساسة مثل كلمات المرور. الأمر أشبه ببواب يرى صورة لص فيفتح له باب المنزل.

تكمن الثغرة في قدرة الذكاء الاصطناعي على معالجة المدخلات متعددة الوسائط (نص، صور، صوت) دون مرشحات مناسبة. يمكن أن يحتوي PNG على بيانات وصفية أو نص مخفي يفسره الوكيل كأوامر، متجاوزًا ضوابط الأمان.

اللائحة العامة لحماية البيانات (GDPR) والتدابير التقنية المناسبة: ماذا يقول القانون

تتطلب اللائحة العامة لحماية البيانات (GDPR) في المادة 32 تدابير تقنية وتنظيمية مناسبة لضمان أمن البيانات. يوضح هجوم حقن الأوامر عبر PNG أن هذه التدابير غير كافية إذا لم يتم تصميم الذكاء الاصطناعي لمقاومة التلاعب بالمدخلات.

يجب على الشركات التي تستخدم وكلاء الذكاء الاصطناعي تنفيذ التحقق من صحة المدخلات والعزل (sandboxing) وضوابط الوصول الدقيقة. وإلا، فإنها تخاطر بغرامات تصل إلى 20 مليون يورو أو 4% من إيراداتها السنوية العالمية، كما تنص المادة 83 من اللائحة.

دروس للمطورين والمستخدمين

للمطورين: لا تثقوا بشكل أعمى في المدخلات. كل بيانات، حتى الصورة، يمكن أن تكون ناقل هجوم. استخدموا تقنيات مثل تعقيم المدخلات وقللوا أذونات الذكاء الاصطناعي إلى الحد الأدنى الضروري.

للمستخدمين: احذروا من الملفات المشبوهة، حتى لو كانت من مصادر تبدو موثوقة. يمكن أن يخفي PNG أمرًا ضارًا. وإذا بدأ مساعد الذكاء الاصطناعي الخاص بك في التصرف بشكل غريب، فقد يكون قد تم اختراقه بالفعل.

لمزيد من التفاصيل حول إرشادات أمان الذكاء الاصطناعي، راجع النص الرسمي للائحة العامة لحماية البيانات.

مستقبل أمان الذكاء الاصطناعي: فكاهة وواقع

إذا كنت تعتقد أن قراءة الشروط والأحكام كانت مملة مثل تنظيف فواصل البلاط بفرشاة أسنان، فانتظر حتى تضطر إلى فحص كل PNG تفتحه. لكن هذه هي النقطة: الأمان ليس خيارًا، بل ضرورة. وإذا كانت صورة يمكنها اختراق ذكائك الاصطناعي، فربما حان الوقت لإعادة النظر في عاداتك الرقمية.

لا تنتظر حتى يحدث الضرر. تحقق من إعدادات الخصوصية لأجهزتك، وحدّث البرامج، ولأجل اللائحة العامة لحماية البيانات، لا تنقر على PNG مشبوه.