بقلم: آرون مولجرو، مهندس حلول في فورس بوينت
يقدّم شات جي بي تي إمكانات مميزة قادرة على كتابة نصوص مشابهة في الجودة لهذه المقالة. ويشهد الذكاء الاصطناعي تطوراً متسارعاً في السنوات الأخيرة. وانتشر شات جي بي تي في جميع أنحاء العالم خلال الأشهر الماضية، كما دخل مختلف أوساط المجتمع الإماراتي مثل المدراس والبيئات المهنية والمؤسسات الحكومية. وبهذا السياق، أعلنت هيئة كهرباء ومياه دبي عن بدء استخدام شات جي بي تي لتعزيز عروضها. ويواصل نموذج اللغة الكبير هذا دخول حياتنا اليومية وتقديم العديد من المزايا، ولا سيما مع تجاوز عدد المستخدمين أكثر من 100 مليون مستخدم. ومع ذلك، لم تتم معالجة مخاطر الأمن السيبراني المرتبط بهذه التقنيات بشكل كاف حتى الآن
.
وتوازياً مع دخول إنترنت الأشياء إلى مختلف جوانب الحياة اليومية، تركّز العديد من الشركات مثل أوبن أيه آي، الشركة المطورة لبرنامج شات جي بي تي، على تعزيز تجربة المستخدم نظراً وإهمال مخاطر الأمن السيبراني المرتبطة بالذكاء الاصطناعي وإنترنت الأشياء. وأجريتُ بحثاً معمقاً لاستكشاف هذه المخاطر المختلفة، بهدف كشف سهولة إنشاء البرمجيات الخبيثة المتقدمة دون مهارات برمجية عالية، وإمكانية تجاوز حواجز الحماية في شات جي بي تي، ما جعلني أثق بضرورة اتخاذ الشركات لتدابير وإجراءات استباقية من شأنها التخفيف من مخاطر الأمن السيبراني.
وتنطوي نماذج اللغة على تهديد شائع يتمثل بأتمتة البرمجيات الخبيثة المتطورة بالاعتماد على معرفة بسيطة بالبرمجة، ما يعني أن هذه البرمجيات التي يطورها أصحاب الخبرة الفنية المحدودة يمكن أن تؤدي إلى ضرر جسيم للأفراد والمنظمات في جميع أنحاء العالم. ويمكن إنشاء البرمجيات الخبيثة باستخدام منصات اللغة الطبيعية بسهولة مذهلة، وهو ما يطرح مخاوف كبيرة بشأن استخدامها لاستغلال الثغرات الأمنية وتفادي الاكتشاف، ما يشكل تهديداً كبيراً لقطاع الأمن السيبراني ويتيح المجال لارتكاب الجرائم السيبرانية، لا سيما في مجالات برمجيات الفدية وسرقة البيانات وغيرها من الأنشطة المؤذية.
ولفهم المشكلة، حاولتُ تقديم صورة متكاملة تتيح للقارئ إمكانية الفهم دون الحاجة إلى تصور كيفية عمل البرمجيات الخبيثة بالتفصيل. وتمكنتُ خلال ساعات قليلة من إنشاء البرمجيات الخبيثة بواسطة شات جي بي تي، بعد عدة محاولات للاتصال المباشر بالمنصة مستخدماً تقنية إخفاء المعلومات ضمن رسالة أخرى لتفادي الاكتشاف.
ولدى محاولة اختراق إجراءات الحماية الخاصة بشات جي بي تي، أدركتُ أن العملية لا تتطلب قدراً كبيراً من الجهد أو الاستراتيجية لتفادي تلك الإجراءات بمجرد إنشاء الثغرة. ونظراً للمخاطر الكبيرة التي يفرضها هذا الواقع على مشهد الأمن السيبراني، فقد كما استخدمتُ العديد من البروتوكولات التي قدّمها شات جي بي تي للتخفيف من المخاطر.. لذا، يتعين على شات جي بي تي تنفيذ إجراءات حماية صارمة وضمان استخدام القدرات التي توفرها بشكل قانوني وأخلاقي.
وقد اعتمدت أوبن أيه آي برنامج مكافآت العثور على الثغرات الأمنية من جوجل، والهادف إلى تحديد المستخدمين الذين يكتشفون المشكلات التي تواجه الأمن السيبراني ومكافأتهم. كما ينبغي أن تطور نماذج اللغة أدوات حماية أفضل للوقاية من الجرائم السيبرانية، حيث تتحمل الشركات هذه المسؤولية في معظم الأحيان لضمان عدم انحياز البيانات الواردة أو احتوائها على معلومات مزورة. ومن الضروري أن تتخذ المنظمات خطوات فعالة لتأمين أنظمتها وشبكاتها السيبرانية ومواجهة التهديدات المحتملة التي يمكن أن تنشأ من البرمجيات الخبيثة الناتجة عن نماذج اللغة.
ويوفر برنامج شات جي بي تي الكثير من المزايا للأفراد والمنظمات والقطاعات المختلفة، إلا أنه يشكل خطراً كبيراً على الأمن السيبراني بسبب قدرته على أتمتة عملية إنشاء برامج خبيثة متطورة مع الحاجة إلى قدر ضئيل من المهارات البرمجية. ومن المهم لمطوري النموذج توفير إجراءات حماية محددة وضمان استخدام أداة الذكاء الاصطناعي بشكل أخلاقي، بينما يجب على المنظمات تطبيق إجراءات استباقية لحماية أنظمتها وشبكاتها. ويتيح تطبيق هذه الإجراءات معالجة المخاطر المحتملة على الأمن السيبراني وضمان استخدام التكنولوجيا لتطور البشرية وحمايتها من العواقب الممكنة.
وتجدر الإشارة إلى أهمية الدور الذي يلعبه حل تفكيك وإعادة بناء المحتوى باستخدام نماذج الثقة الصفرية الذي تقدمه فورس بوينت، والذي يضمن إغلاق القناة الواردة من خلال حظر جميع الأوامر القابلة للتنفيذ لتسجيل الدخول إلى منظمة باستخدام البريد الإلكتروني. كما يستخدم الحل آليات استيراد آمنة لضمان ورود المواد القابلة للتنفيذ، والتي تدخل المنظمة، من مصادر موثوقة. ويؤمن حل تفكيك وإعادة بناء المحتوى باستخدام نماذج الثقة الصفرية الحماية للصور المتسربة من المنظمة والتي تحتوي على تقنية إخفاء المعلومات، من خلال مسح جميع الصور قبل تسجيل الخروج. لمعرفة المزيد حول تفكيك وإعادة بناء المحتوى باستخدام نماذج الثقة الصفرية،