ملفات ساخنة

في غرفة العمليات بالبيت الأبيض، شارك مسؤولون أميركيون في تمرين عملي، في ديسمبر 2023، يحاكي سيناريو ينشئ فيه عملاء صينيون مقطع فيديو مزيفا بالذكاء الاصطناعي، يصور مرشحا لمجلس الشيوخ وهو يتلف بطاقات الاقتراع في انتخابات الرئاسة 2024.

الهدف من التمرين هو الاستعداد الجيد لانتخابات عام 2024، حيث شهدت غرفة العمليات قتالا أظهره المسؤولون الأميركيون من أجل الرد بحزم على هذا السيناريو الذي يقلق السلطات الأمنية.

وأصبح الذكاء الاصطناعي بقدراته المتقدمة، خاصة ما صار يعرف بالذكاء الاصطناعي التوليدي، مقلقا للمسؤولين الأميركيين. فهذه التكنولوجيا تنتج في دقائق معدودة محتوى يصعب التفريق بينه وبين ما ينتجه الإنسان.

ولفهم مدى خطورة تهديد الذكاء الاصطناعي، أجرت صحيفة نيويورك تايمز تجربة خصصت فيها روبوتات دردشة، وزودتها بالملايين من منشورات وسائل التواصل الاجتماعي المتاحة للعامة.

سمحت المنشورات، التي تراوحت بين مناقشات حول المساواة العرقية والجنسانية إلى سياسات الحدود، لروبوتات الدردشة بتطوير مجموعة متنوعة من وجهات النظر الليبرالية والمحافظة.

سألت الصحيفة هذه الروبوتات: من سيفوز في انتخابات نوفمبر؟

تشير الردود، التي استغرق إنشاؤها بضعة دقائق، إلى مدى سهولة إغراق منصات "إكس" وفيسبوك والمنتديات عبر الإنترنت بمشاركات مثل هذه، من حسابات تتظاهر بأنها مستخدمين حقيقيين، لكنها في الواقع روبوتات.

وقال، أورين إيتزيوني، الأستاذ في جامعة واشنطن ومؤسس TrueMedia.org، وهي منظمة غير ربحية تهدف إلى كشف المعلومات المضللة القائمة على الذكاء الاصطناعي: "أشعر بالرعب لأننا على وشك رؤية تسونامي من المعلومات المضللة، خاصة هذا العام". 

يقلق الذكاء الاصطناعي المسؤولين الأميركيين بشأن إمكانية استغلاله للإضرار بانتخابات الرئاسة 2024"فرص قوية للتدخل"

في الخامس من نوفمبر المقبل، سيدلي الأميركيون بأصواتهم في الانتخابات الرئاسية، ويتوقع أن تحصل سيناريوهات تهدف إلى التشويش على الناخبين. على سبيل المثال، قد يصل مقطع فيديو للناخبين يقول إن "مركز الاقتراع الخاص بك مغلق"، أو إن "موعد الاقتراع تغير". هذه قد تكون حيلة استخدم فيها العملات قدرات الذكاء الاصطناعي.

وتقول وزارة الأمن الداخلي الأميركية في نشرة حديثة تم توزيعها على مسؤولي الولايات والمسؤولين المحليين، إن أدوات الذكاء الاصطناعي لإنشاء مقاطع فيديو وصوت مزيفة ومحتويات أخرى، من المرجح أن تمنح العملاء الأجانب والمتطرفين المحليين "فرصا قوية للتدخل" في الانتخابات الرئاسية 2024.

الترجيحات تشير إلى محاولات مجموعات مختلفة استخدام الذكاء الاصطناعي التوليدي، أو الذكاء الاصطناعي الذي ينشئ محتوى مزيفا، للتأثير أو "زرع الفتنة"، وفق نشرة أصدرها مكتب استخبارات وزارة الأمن الداخلي في 17 مايو.

وتؤكد وزارة الأمن الداخلي الأميركي أن النظام الانتخابي الأميركي "محصن"، لكن إمكانيات الذكاء الاصطناعي، وإصرار جهات مختلفة على تنفيذ محاولات مكثفة لإرباك الاقتراع، تدق ناقوس الخطر.

وجمعت وكالة الأمن القومي معلومات استخبارية، أعطت المسؤولين الأميركيين نظرة ثاقبة حول قدرات الصين وإيران في إنتاج التزييف العميق.

والآن، مع سهولة إنتاج الصوت والفيديو المزيف، أصبح المسؤولون الأميركيون أكثر قلقا بشأن كيفية استغلال حملة التأثير الأجنبي للذكاء الاصطناعي لتضليل الناخبين.

كيف يهدد الذكاء الاصطناعي انتخابات أميركا؟

كان مسؤولون أميركيون حاليون وسابقون قد كشفوا لشبكة سي إن إن، في وقت سابق، أن "عملاء يعملون لصالح حكومتي الصين وإيران أعدوا محتوى مزيفا بواسطة الذكاء الاصطناعي، كجزء من حملة للتأثير على الناخبين الأميركيين" في الأسابيع الأخيرة من الحملة الانتخابية لعام 2020.

لم ينشر العملاء الصينيون والإيرانيون مطلقا الصوت أو الفيديو المزيف علنا، لكن المعلومات الاستخبارية توضح المخاوف التي كانت لدى المسؤولين الأميركيين قبل 4 سنوات، بشأن استعداد القوى الأجنبية لتضخيم المعلومات الكاذبة حول عملية التصويت.

وفي مؤتمر صحفي الأسبوع الماضي، حذر مسؤولو مكتب التحقيقات الفدرالي من أن الذكاء الاصطناعي يزيد من قدرة الدول الأجنبية على نشر معلومات مضللة عن الانتخابات الأميركية.

وتقول وكالة الأمن السيبراني وأمن البنية التحتية الأميركية، إنه مع تزايد قدرات الذكاء الاصطناعي، من المهم لمسؤولي الانتخابات أن يفهموا كيف يمكن أن تؤثر هذه القدرات على أمن ونزاهة البنية التحتية للانتخابات.

وتضيف الوكالة أنه يمكن للجهات الفاعلة الخبيثة، بما في ذلك الجهات الفاعلة التابعة لدول أجنبية ومجرمي الإنترنت، الاستفادة من هذه القدرات لأغراض شائنة. 

ولا ترجح الوكالة أن تؤدي قدرات الذكاء الاصطناعي التوليدية إلى مخاطر جديدة على انتخابات 2024، لكنها قد تؤدي إلى تضخيم المخاطر الحالية على البنية التحتية للانتخابات. 

وتشير إلى أن مسؤولي الانتخابات بتمتعون بالقدرة على التخفيف من هذه المخاطر باتباع أفضل الممارسات الأمنية التي أوصى الخبراء باتخاذها لسنوات.

وتشرح الوكالة كيف يمكن لجهات خبيثة استخدام قدرات الذكاء الاصطناعي المتقدمة لاستهداف أمن وسلامة البنية التحتية للانتخابات:

حملات التضليل

هناك مسألتان مهمتان في هذا الشأن لابد لمسؤولي الانتخابات التنبه إليهما، بشأن قدرات الذكاء الاصطناعي:

التزييف العميق: يمكن للتزييف العميق الناتج عن الذكاء الاصطناعي إنشاء محتوى فيديو أو صوتي واقعي، لكنه كاذب لتضليل الناخبين أو تشويه سمعة المرشحين. 

ويمكن أن تؤدي مثل هذه المعلومات المضللة إلى زرع الارتباك، وتقويض الثقة في العملية الانتخابية، والتأثير على سلوك الناخبين.

الأخبار المزيفة: يمكن للذكاء الاصطناعي توليد ونشر كميات كبيرة من الأخبار والدعاية المزيفة بسرعة، مما يؤدي إلى تضخيم الروايات الكاذبة وتضليل الناخبين، والتلاعب بوسائل التواصل الاجتماعي.

التصيد الاحتيالي والهندسة الاجتماعية:

يمكن للجهات الخبيثة استخدام الذكاء الاصطناعي في الانتخابات الأميركية من خلال استراتيجيتين هما:

هجمات التصيد الاحتيالي الآلية: حيث يمكن للذكاء الاصطناعي تعزيز حملات التصيد الاحتيالي من خلال إنشاء رسائل شخصية ومقنعة للغاية لخداع مسؤولي الانتخابات والناخبين، مما قد يؤدي إلى إمكانية الوصول غير المصرح به إلى الأنظمة والبيانات الحساسة.

الهندسة الاجتماعية: يمكن للذكاء الاصطناعي تحليل كميات هائلة من البيانات لصياغة هجمات هندسة اجتماعية معقدة، واستغلال نقاط الضعف البشرية وخداع الأفراد للكشف عن معلومات سرية أو القيام بأعمال تهدد أمن الانتخابات.

هجمات سيبرانية

يمكن أن يتورط الذكاء الاصطناعي في هجمات القرصنة من خلال:

قدرات القرصنة المحسنة: يمكن للذكاء الاصطناعي أتمتة الهجمات السيبرانية وتحسين كفاءتها، وتحديد نقاط الضعف في البنية التحتية للانتخابات واستغلالها بشكل أكثر فعالية. ويتضمن ذلك استهداف قواعد بيانات تسجيل الناخبين، وآلات التصويت، وغيرها من الأنظمة المهمة.

هجمات موزعة لحجب الخدمة (DDoS): يمكن للذكاء الاصطناعي تنسيق هجمات DDoS واسعة النطاق، مما يؤدي إلى إرباك البنية التحتية للانتخابات والتسبب في اضطرابات قد تعيق عمليات التصويت والإبلاغ عن النتائج.

تضخيم المعلومات الخاطئة 

يمكن للذكاء الاصطناعي أن يساهم في تضخيم المعلومات الخاطئة، عن طريق:

شبكات الروبوت والحسابات الآلية: يمكن لشبكات الروبوت التي تعتمد على الذكاء الاصطناعي أن تغمر منصات وسائل التواصل الاجتماعي بمعلومات مضللة منسقة، مما يخلق وهم الدعم العام أو المعارضة على نطاق واسع والتأثير على الرأي العام.

يتخوف مسؤولو الإدارة الأميركية من استغلال الصين وروسيا وإيران لقدرات الذكاء الاصطناعي للإضرار بالانتخابات الأميركية 2024

غرفة الصدى (Echo Chambers): هذا المصطلح يشير إلى تضخيم المعلومات أو الرويات الخاطئة أو تعزيزها، بالتواصل والتكرار المكثف داخل نظام مغلق. 

ويمكن استخدام الذكاء الاصطناعي لممارسة هذه الاستراتيجية عبر إنشاء وإدارة ملفات تعريف وهمية على وسائل التواصل الاجتماعي تتفاعل مع مستخدمين حقيقيين، مما يعزز الروايات المضللة ويضخمها ويستقطب المجتمعات.

خيارات المواجهة

تقدم وكالة الأمن السيبراني وأمن البنية التحتية الأميركية استراتيجيات فعالة لمواجهة الخطر الحقيقي الذي يشكله الذكاء الاصطناعي على انتخابات الرئاسة 2024:

تعزيز المراقبة

ويتم ذلك باستخدام  أدوات متقدمة تعتمد على الذكاء الاصطناعي لاكتشاف ومكافحة التزييف العميق والوسائط الاصطناعية وحملات التضليل الآلية.

ويمكن استخدم أنظمة المراقبة لتتبع وتحليل وسائل التواصل الاجتماعي بحثا عن علامات على جهود التضليل المنسقة.

التوعية العامة والتعليم

تؤكد الوكالة على أهمية زيادة الوعي العام بين الناخبين حول وجود ومخاطر المعلومات المضللة والتزييف العميق الناتجة عن الذكاء الاصطناعي.

وتقول إن تثقيف الناخبين حول كيفية التعرف على المحتوى المشبوه ومحاولات التصيد والإبلاغ عنه يعد فعالا في مواجهة هذا الخطر والحد من أضراره.

التعاون وتبادل المعلومات

تعزيز التعاون بين الوكالات الحكومية الأميركية ومنصات التواصل الاجتماعي وخبراء الأمن السيبراني لمشاركة المعلومات حول التهديدات الناشئة والتدابير المضادة الفعالة. وتطوير مبادرات مشتركة لتعزيز أمن ومرونة البنية التحتية الانتخابية.

التدابير الفنية والسياسية

تعزيز بروتوكولات الأمن السيبراني للأنظمة الانتخابية، بما في ذلك المصادقة متعددة العوامل، والتشفير، وتقييمات الضعف المنتظمة.

كما تشير الوكالة إلى أهمية تبني السياسات واللوائح التي تعالج إساءة استخدام الذكاء الاصطناعي التوليدي في سياق أمن الانتخابات.

تهديد معقد

في 15 مايو قدمت مديرة المخابرات الوطنية، أفريل هاينز، شهادة للجنة المخابرات في مجلس الشيوخ، حددت فيها روسيا باعتبارها أكبر تهديد أجنبي للانتخابات الأميركية هذا العام.

وقالت  هاينز وهي، أكبر مسؤول استخباراتي أميركي، للمشرعين إن الانتخابات الأميركية تواجه تهديدات أكثر من أي وقت مضى من جهات أجنبية، وذلك بفضل التطورات السريعة في الذكاء الاصطناعي.

مديرة مديرة المخابرات الوطنية الأميركية، أفريل هاينز، في لقاء مع المشرعين الأميركيين في الكونغرس.

ويواجه المسؤولون الفيدراليون ومسؤولو الولايات والجهات المحلية المكلفة بحماية نزاهة التصويت مشهد تهديد "متنوعا ومعقدا"، حسب هاينز.

لكن هاينز قالت إن الحكومة الفيدرالية "لم تكن أبدا أفضل استعدادا" من اليوم لحماية الانتخابات، وذلك بفضل الدروس المستفادة منذ أن حاولت روسيا التأثير على الناخبين في عام 2016.