التهديد المتزايد للذكاء الاصطناعي الهجومي في مجال الرعاية الصحية

يبدو أن أشكالًا مختلفة من الذكاء الاصطناعي ستُحدث تحولات في الطب وتقديم خدمات الرعاية الصحية مع التعرف على المزيد والمزيد من الاستخدامات المحتملة، في حين تستمر معدلات تبني الذكاء الاصطناعي في الارتفاع.

لقد أحدث التعلم الآلي ثورة في دعم القرارات السريرية على مدى العقد الماضي، كما فعلت الذكاء الاصطناعي في تحسين الصور الإشعاعية مما يسمح باستخدام عمليات مسح إشعاعية منخفضة الجرعة وأكثر أمانًا. لكن الذكاء الاصطناعي، بغض النظر عن شكله، يتطلب كميات هائلة من البيانات للنمذجة والتدريب والتعدين. وفي حين أن الكثير من هذه البيانات غير محددة الهوية، إلا أن بعضها لا يمكن ذلك، حيث قد يتطلب التدريب في بعض الأحيان تجميع مجموعة الاختبارات والسجلات الطبية لكل مريض، وبالتالي يجب أن يكون المريض معروفًا للذكاء الاصطناعي، حتى يتعلم ويصمم بشكل صحيح.

ولكن بيانات الرعاية الصحية قيمة. فهي قيمة بالنسبة للمتسللين الذين يمكنهم استردادها إلى أمناء البيانات أو بيع تلك البيانات الشخصية والمعلومات الصحية الشخصية على شبكة الإنترنت المظلمة. وهي قيمة بالنسبة للدول القومية مثل الصين فيما يتصل بنمذجة البيانات والتدريب على الذكاء الاصطناعي. وعلاوة على ذلك، تخضع البيانات الطبية لقواعد تنظيمية صارمة، وبالتالي فهي عرضة للغرامات والأضرار العقابية والتعويضات وخطط العمل التصحيحية في حالة اختراقها.

إن نماذج الذكاء الاصطناعي ذات قيمة عالية وهي الآن تعادل في العصر الحديث "سباق القمر" في ستينيات القرن العشرين بين الولايات المتحدة والاتحاد السوفييتي. والمنافسون اليوم هم الولايات المتحدة وجمهورية الصين الشعبية فقط. ونتيجة لهذا، كانت الصين عدوانية للغاية في "الاستحواذ" على أي بحث يمكنها القيام به لبدء أو تعزيز برامج تطوير الذكاء الاصطناعي الخاصة بها. وشمل ذلك السرقة الداخلية من قبل الأساتذة الزائرين والطلاب الأجانب في الجامعات الغربية، والهجمات الإلكترونية المستهدفة من الخارج. وتتمثل خطة الصين الخمسية في تجاوز الغرب في قدراته في مجال الذكاء الاصطناعي - ليس فقط للتطبيقات الطبية ولكن أيضًا للدفاع العسكري. لذا بالنسبة لكل من البلدين وغيرهما، فإن الذكاء الاصطناعي ضرورة استراتيجية. ومن غير المعروف ما إذا كانت الحكومات الغربية قد نفذت حملات مماثلة من السرقة الإلكترونية والتجسس الإلكتروني ضد برامج الذكاء الاصطناعي في الصين، على الرغم من أنه من المرجح، ولكن على نطاق أصغر بكثير. ومع ذلك، فإن المفارقة في الهجمات الإلكترونية لسرقة بيانات نماذج الذكاء الاصطناعي ليست خافية على العاملين في مجال الأمن السيبراني كما سيتم شرحه قريبًا.

الذكاء الاصطناعي في الجرائم الإلكترونية

قد يصبح الذكاء الاصطناعي السلاح المستقبلي المفضل لمجرمي الإنترنت. إن قدراته الفريدة على التحور أثناء تعلمه عن بيئته والتنكر في هيئة مستخدم صالح وحركة مرور شبكة شرعية تسمح للبرامج الضارة بالمرور دون أن يتم اكتشافها عبر الشبكة متجاوزة جميع أدوات الدفاع السيبراني الحالية. حتى أفضل أنظمة الكشف عن التهديدات عبر الإنترنت وAMP وXDR تصبح عاجزة بسبب التخفي الذي يتمتع به الذكاء الاصطناعي.

يمكن أن يكون الذكاء الاصطناعي بارعًا بشكل خاص عند استخدامه في محاولات التصيد الاحتيالي. يفهم الذكاء الاصطناعي السياق ويمكنه إدراج نفسه في سلاسل البريد الإلكتروني الموجودة. من خلال استخدام معالجة اللغة الطبيعية لاستخدام لغة وأسلوب كتابة مشابهين للمستخدمين في سلسلة رسائل، يمكنه خداع المستخدمين الآخرين لفتح مرفقات محملة بالبرامج الضارة أو النقر فوق روابط ضارة. ما لم يكن لدى المؤسسة صندوق حماية للمرفقات ومواقع الويب الخارجية، فإن التصيد الاحتيالي القائم على الذكاء الاصطناعي في الأساس، سيكون له هامش نجاح كبير. لكن الأمور لا تتوقف عند هذا الحد.

لقد تم استخدام الذكاء الاصطناعي الهجومي لتسليح أحصنة طروادة الخبيثة الموجودة. ويشمل ذلك حصان طروادة المصرفي Emotet الذي تم تمكينه مؤخرًا بالذكاء الاصطناعي. يمكنه الانتشار ذاتيًا للانتشار أفقيًا عبر الشبكة، ويحتوي على قائمة كلمات مرور لشق طريقه بالقوة إلى الأنظمة أثناء سيره. يمكن استخدام إطاره القابل للتوسيع بدرجة كبيرة لوحدات نمطية جديدة لأغراض أكثر شرًا بما في ذلك برامج الفدية وهجمات التوافر الأخرى. في مجال الرعاية الصحية، التوافر هو كل شيء. عندما تتعطل أنظمة تكنولوجيا المعلومات الصحية وإنترنت الأشياء، تتعطل أيضًا قدرة مقدم الخدمة على تقديم الرعاية للمرضى في نظام الرعاية الصحية الرقمي للغاية اليوم.

يمكن أيضًا استخدام الذكاء الاصطناعي الهجومي لتنفيذ هجمات قائمة على النزاهة ضد الرعاية الصحية. وهنا يكمن الخطر حقًا. يمتزج الذكاء الاصطناعي بالخلفية ويستخدم تقنيات APT لتعلم قنوات الاتصال السائدة والاندماج بسلاسة مع النشاط الروتيني لإخفاء نفسه وسط الضوضاء. يمكن للذكاء الاصطناعي تغيير السجلات الطبية، أو تغيير التشخيصات، أو تغيير فصائل الدم، أو إزالة حساسية المريض، كل هذا دون إثارة الإنذار.

إن عدم قدرة الأطباء على الوصول إلى السجلات الطبية أمر مختلف تمامًا، ولكن الوصول إلى السجلات الطبية التي تحتوي على بيانات معدلة أمر مختلف تمامًا. كما أن الأمر أكثر خطورة إذا تم وصف العلاج الخاطئ بناءً على تلك البيانات الخاطئة. وهذا يصبح خطرًا سريريًا كبيرًا وقضية تتعلق بسلامة المرضى. كما أنه يجرد الأطباء من الثقة في أنظمة تكنولوجيا المعلومات الصحية وإنترنت الأشياء التي يعتمد عليها الأطباء، مما يجعل الأطباء يشككون في البيانات الموجودة أمامهم أو يضطرون إلى التكهن بهذه المعلومات.

تمكنت دراسة بحثية أجريت عام 2019 في جامعة بن جوريون في النقب من المساس بسلامة صورة إشعاعية عن طريق إدخال عقيدات مزيفة في صورة بين ماسح الأشعة المقطعية وأنظمة PACS أو عن طريق إزالة عقيدات حقيقية من صورة الأشعة المقطعية باستخدام التعلم العميق (DL). لم يكن البحث نظريًا أيضًا، لكنه استخدم تقنية التعلم الأعمى. دراسة لإثبات أطروحتها بأن أخصائي الأشعة يمكن خداعهم من خلال الصور المعدلة بواسطة الذكاء الاصطناعي.

تمكنت الدراسة من خداع ثلاثة أخصائيين في الأشعة في تشخيص حالات بشكل خاطئ في كل مرة تقريبًا باستخدام فحوصات الرئة المقطعية الحقيقية، والتي تم تغيير 70 منها بواسطة البرامج الضارة. في حالة الفحوصات التي تحتوي على عقيدات سرطانية ملفقة، قام أخصائيو الأشعة بتشخيص السرطان بنسبة 99 بالمائة من الوقت. في الحالات التي أزال فيها البرنامج الخبيث عقيدات سرطانية حقيقية من الفحوصات، قال أخصائيو الأشعة إن هؤلاء المرضى كانوا بصحة جيدة بنسبة 94 بالمائة من الوقت.

من الواضح أن العواقب الوخيمة لمثل هذه الأداة القوية إذا استخدمت بشكل خبيث ستكون وخيمة للغاية، حيث ستؤدي إلى بقاء حالات السرطان دون تشخيص أو تضليل المرضى دون داعٍ وربما إجراء عمليات جراحية لهم.

في الفترة التي سبقت الانتخابات الرئاسية لعام 2016، قررت هيلاري كلينتون مشاركة صورة مقطعية حديثة مع وسائل الإعلام لإثبات أنها تعاني من الالتهاب الرئوي وليس مشاكل صحية طويلة الأمد مثل السرطان. لو تم تغيير صورة الأشعة المقطعية الخاصة بها، فمن المحتمل أنها كانت ستضطر إلى الانسحاب من الانتخابات. وبالتالي، كان من الممكن استخدام الذكاء الاصطناعي للتأثير على نتيجة الانتخابات الرئاسية الأمريكية أو تغييرها. وبالتالي، يمكن أن يكون أداة قوية للدول القومية الشريرة لتقويض الديمقراطية أو للجماعات المحلية المتطرفة التي ترغب في زعزعة استقرار بلد ما أو تغيير نتيجة الانتخابات.

Deepfakes

إن القدرات المتزايدة واستخدام Deepfakes لاختراق البريد الإلكتروني للشركات (BEC) سواء باستخدام الصوت أو الفيديو، سيجعل البشر غير قادرين على التمييز بين الصحيح والخطأ، والواقعي والمزيف، والشرعي وغير الشرعي.

"هل كان هذا حقًا الرئيس التنفيذي الذي أجريت معه محادثة هاتفية تفاعلية وطلب مني تحويل الأموال إلى الخارج؟"

لكن التزييف العميق قد يكون خطيرًا جدًا من منظور الأمن القومي أيضًا، على المستوى المحلي والدولي. "هل قال الرئيس ذلك حقًا على شاشة التلفزيون؟"

بالمقارنة مع رونالد ريجان عام 1984 خطأ مايك الساخن إن الكذب العميق قد يكون أكثر إقناعًا وإثارة للقلق بشأن قصف روسيا، حيث من المرجح أن يصدق غالبية الناس ما رأوه وسمعوه. بعد كل شيء، يصدق الكثير من سكان الولايات المتحدة ما يقرؤونه على وسائل التواصل الاجتماعي أو على مواقع الأخبار التي تفشل باستمرار في التحقق من الحقائق. لكن سكان الولايات المتحدة ليسوا وحدهم كما رأينا في روسيا حيث يصدق معظم السكان الدعاية الحكومية التي تُعرض على التلفزيون حول تدخل بوتن في أوكرانيا لمنع النازيين.

من الناحية المعرفية، لسنا مستعدين للتلاعب العميق، ولسنا مستعدين لتقييم ما نراه ونسمعه بشكل نقدي بنفس الطريقة التي قد نشكك بها في صورة في مجلة ربما تم تعديلها بالفوتوشوب. من الواضح أن الذكاء الاصطناعي لديه قدرات هائلة وغير مستغلة حتى الآن في مجال العمليات النفسية لوكالة المخابرات المركزية وجهاز الأمن الفيدرالي وغيرهما.

ومع تطور هذه الأدوات وغيرها من أدوات "الذكاء الاصطناعي الهجومي" وانتشارها على نطاق أوسع، فمن المرجح أن يحتاج ممارسو الأمن السيبراني إلى التحول نحو استخدام أكبر لأدوات "الذكاء الاصطناعي الدفاعي". وهي الأدوات التي يمكنها التعرف على هجوم قائم على الذكاء الاصطناعي والتحرك بسرعة (أسرع بكثير من الإنسان) لمنع مثل هذا الهجوم. والواقع أنه من المرجح أن تتفوق الهجمات التي تعتمد على الذكاء الاصطناعي في المستقبل على فرق الاستجابة البشرية وأن تكون هناك حاجة إلى استجابات في غضون جزء من الثانية تقريبا لمنع انتشار البرامج الضارة عبر الشبكة على نحو شبه وبائي.

وفقًا لـ "Forrester"استخدام الذكاء الاصطناعي للشر' تقرير، "إن القرصنة السائدة المدعومة بالذكاء الاصطناعي هي مجرد مسألة وقت."