التهديدات السيبرانية المدعومة بالذكاء الاصطناعي: كيف تبقى متقدّمًا على المخترقين

أنا جو — خبير أمن سيبراني مقيم في طوكيو، بخبرة تتجاوز 12 عامًا على جانبي المعركة. خلال العامين الماضيين، شاهدت الذكاء الاصطناعي ينتقل من مصطلح رائج في عروض الموردين إلى مضاعف قوة حقيقي في يد المهاجمين. الذكاء الاصطناعي لا يخترع هجمات جديدة كليًا بقدر ما يجعل القديمة منها أسرع وأرخص وأشد إقناعًا. والخبر السار أن التقنية نفسها مضاعف قوة للمدافعين أيضًا — إن فهمت أين تفيدك وأين يمكن أن تنقلب عليك. وفيما يلي كيف أنظر إلى التهديدات المدعومة بالذكاء الاصطناعي، وكيف أساعد الفرق على البقاء متقدّمة بخطوة:

1. التصيّد المصنوع بالذكاء الاصطناعي والتزييف العميق

   انتهى زمن كشف الاحتيال من ركاكة لغته. صار المهاجمون يستخدمون النماذج اللغوية لكتابة رسائل خالية من الأخطاء ومحلّية اللهجة، وأدوات توليدية لاستنساخ صوت من بضع ثوانٍ من التسجيل أو تزييف مكالمة فيديو بوجه مألوف. لقد رأيت فرقًا مالية تتعرّض لضغط من «رئيس تنفيذي» في مكالمة لم تحدث قط. افترض أن كل ما تراه أو تسمعه قابل للتصنيع، وابنِ عادات تحقق لا تعتمد على التعرّف وحده.

2. الاستطلاع الآلي وتطوير أسرع لأدوات الاستغلال

   يختصر الذكاء الاصطناعي الجدول الزمني للهجوم. ما كان يستغرق من مشغّل محترف أيامًا — جمع بيانات الأهداف، وتلخيص المعلومات المكشوفة، وصياغة طُعوم مخصّصة، بل وحتى كتابة مسوّدة شفرة استغلال — صار يحدث خلال دقائق. النافذة بين إعلان ثغرة واستغلالها تضيق باستمرار، لذا أخطّط للدفاعات على افتراض أن المهاجمين أسرع من نافذة الصيانة القادمة لديك.

3. الاستخدام الخبيث للنماذج اللغوية الكبيرة

   تُغلّف خدمات في الأسواق السوداء اليوم نماذج لغوية لتوليد متغيّرات من البرمجيات الخبيثة، وتمويه الحمولات، وترجمة الحملات إلى لهجات إقليمية سليمة على نطاق واسع. لقد انخفض حاجز الدخول إلى الهجمات المصقولة عالية الحجم انخفاضًا حادًا. هذا لا يستدعي الذعر، لكنه يعني أن الكشف يجب أن يركّز على السلوك والنتائج بدل الركاكة التي اعتدنا الاتكاء عليها.

4. هجمات على الذكاء الاصطناعي لديك: حقن الأوامر والتعلّم الآلي العدائي

   إن كنت تطلق ميزات تعتمد على الذكاء الاصطناعي، فأنت تفتح سطح هجوم جديدًا كذلك. يمكن لحقن الأوامر أن يخدع المساعد فيسرّب بيانات أو ينفّذ إجراءات كان يجب أن يرفضها، ويمكن للمدخلات العدائية أن تتلاعب بمخرجات النموذج بهدوء. أتعامل مع كل تطبيق مدعوم بنموذج لغوي كما أتعامل مع أي نظام يستقبل مدخلات غير موثوقة: أقيّد صلاحياته، وأتحقق مما يستطيع الوصول إليه، ولا أدع مخرجات نموذج تُطلق إجراءً حساسًا دون ضوابط.

5. الدفاع بالذكاء الاصطناعي: الكشف والفرز

   النماذج نفسها تساعد المدافعين أيضًا. أستخدم الذكاء الاصطناعي لربط الإشارات عبر جبال من السجلات، وإبراز الشذوذات التي ما كان إنسان ليلاحظها، وتلخيص التنبيهات لتسريع الفرز، وصياغة مسوّدة أولى للخط الزمني للحادث. إنه لا يحلّ محل المحللين — بل يحرّرهم من العمل الشاق ليركّزوا على الحُكم، وهو الجزء الذي ما زالت الآلات تخطئ فيه.

6. الحوكمة والتحقق البشري

   التقنية وحدها لن تنقذك من تزييف عميق مُقنع. أساعد المؤسسات على إرساء قواعد بسيطة لا تقبل التنازل: تحقق عبر قناة مستقلة للمدفوعات وتغييرات بيانات الاعتماد، وعبارات تحدٍّ متفق عليها للطلبات الحساسة، وسياسة واضحة لما يجوز للموظفين إدخاله في أدوات الذكاء الاصطناعي العامة. مكالمة عودة مدتها ثلاثون ثانية على رقم معروف تُبطل معظم هجمات الهندسة الاجتماعية المدعومة بالذكاء الاصطناعي.

7. البقاء في المقدمة: تعامل مع الذكاء الاصطناعي كخصم متطوّر

   التهديدات المدعومة بالذكاء الاصطناعي ليست ترقية لمرة واحدة تدافع عنها ثم تنساها. الأدوات تتغيّر شهريًا، لذا أبني برامج تتوقّع التغيير: تدريب مستمر بأمثلة واقعية، وتمارين محاكاة دورية تشمل سيناريوهات التزييف العميق، وثقافة تكافئ التشكيك فيما هو غير معتاد. البقاء في المقدمة ليس تنبؤًا بالأداة القادمة بقدر ما هو قدرة دائمة على التكيّف.