ساهمت أدوات الدردشة المعتمدة على الذكاء الاصطناعي في تعقيد اكتشاف رسائل البريد الإلكتروني الاحتيالية، وجعلت وسائل الكشف التقليدية أقل فعالية.
ووفقًا لتقديرات مكتب التحقيقات الفيدرالي (FBI)، فقد حقق المحتالون أرباحًا ضخمة وصلت إلى 16.6 مليار دولار، مستفيدين من رسائل بريد إلكتروني بسيطة ومخططات انتحال هوية.
وأشار خبراء إلى أن مواجهة هذا النوع من الاحتيال يتطلب مقاربة جديدة، تعتمد بشكل أكبر على وعي المستخدمين وتحقيق الشركات في الرسائل قبل وصولها إلى صناديق البريد.
كما أوضح الخبراء أن برامج مثل ChatGPT وغيرها من أدوات الذكاء الاصطناعي تمكّن المحتالين، خصوصًا غير المتقنين للغة الإنجليزية، من صياغة رسائل خالية من الأخطاء اللغوية تُشبه في أسلوبها تلك التي يرسلها جهات موثوقة.
في السابق، كان المحتالون يعتمدون على أدوات غير فعالة مثل
google translate، والتي كانت في كثير من الأحيان حرفية للغاية في ترجماتها ولم تتمكن من التقاط القواعد النحوية ونبرة الصوت، وبفضل الذكاء الاصطناعي الذي أصبح الآن قادرا على الكتابة بطلاقة في معظم اللغات، اصبح من الصعب للغاية الإبلاغ عن الرسائل الضارة.
وقال
تشيستر ويسنيفسكي، مدير أمن المعلومات الميداني العالمي في شركة سوفوس لوكالة "أكسيوس"، إن "الرسائل الحقيقية تحتوي على بعض الأخطاء النحوية لأن الناس لا يجيدون الكتابة، بمقارنة بأخطاء ChatGPT التي يصعب كشفها".
من جانبها، قالت
راشيل توباك، الرئيسة التنفيذية لشركة " SocialProof Security"، إن المحتالين يقومون الآن بتدريب أدوات الذكاء الاصطناعي على رسائل البريد الإلكتروني التسويقية الحقيقية من البنوك وتجار التجزئة ومقدمي الخدمات حتى تكون غير قابلة للكشف.
وأضافت "إنهم يبدون حتى كما لو كانوا في صوت الشخص الذي اعتدت العمل معه".
وأشارت
توباك إلى أن أحد العملاء الأيسلنديين الذي لم يشعر بالقلق من قبل بشأن تعرض موظفيه لرسائل البريد الإلكتروني الاحتيالية أصبح يشعر بالقلق الآن.
وتابعت: "في السابق، كان الوضع آمنا للغاية؛ لأن 350 ألف شخص فقط يتحدثون الأيسلندية بارتياح. أما الآن، فقد أصبح الوضع مختلفا تماما بالنسبة للجميع".
ولكن اكتشاف رسائل الاحتيال ليس مستحيلاً. في فريق توباك الأحمر، عادةً ما يتم اكتشافها عندما يمارس شخص ما تسميه جنون العظمة المهذب، أو عندما يرسل رسالة نصية أو يتصل بالمنظمة أو الشخص الذي يتم انتحال شخصيته للتأكد من إرساله رسالة مشبوهة.
وعن خطورة هذه الرسائل، قال مايك
بريتون، مدير تكنولوجيا المعلومات في شركة " Abnormal AI": "بعيدا عن القواعد النحوية، يكمن الخطر الحقيقي في كيفية قياس هذه الأدوات للدقة والسرعة".
وأضاف بريتون: "في غضون دقائق، يمكن للمحتالين استخدام برامج المحادثة الآلية لإنشاء ملفات حول فرق المبيعات في كل شركة من شركات
فورتشن 500، ثم استخدام تلك النتائج لكتابة رسائل بريد إلكتروني مخصصة وقابلة للتصديق".
وكشف بريتون، أن المحتالين الآن يقومون أيضًا بتضمين أنفسهم في سلاسل البريد الإلكتروني الموجودة باستخدام نطاقات متشابهة لصيغ البريد الرسمية، مما يجعل رسائلهم غير قابلة للتمييز تقريبا عن الرسائل المشروعة.
وحذر بريتون من أن أدوات الذكاء الاصطناعي التوليدية منخفضة التكلفة للفيديوهات المزيفة واستنساخ الأصوات قد تأخذ عمليات الاحتيال إلى مستويات جديدة قريبا.
وقال بريتون: "سيصل الأمر إلى حدّ إجبارنا جميعا على استخدام كلمات آمنة، ونتواصل عبر زووم، ونحتاج إلى مفتاح سريّ مشترك مُسبقًا". "سيصل هذا المفتاح إلى هنا قبل أن تدركوا ذلك".