30 ألف دولار مكافأة من شركة جوجل لأى شخص يمكنه اختراق ذكائها الاصطناعى

تستثمر جوجل أموالها في مجال الذكاء الاصطناعي، حيث أعلنت الشركة عن برنامج مكافآت جديد يركز بالكامل على الذكاء الاصطناعي، داعيةً باحثي الأمن والمخترقين الأخلاقيين لاكتشاف ثغرات في أنظمة الذكاء الاصطناعي الخاصة بها، وتقدم جوجل مكافآت تصل إلى 30,000 دولار أمريكي، وذلك بناءً على مدى خطورة المشكلة.

وتُوسّع هذه المبادرة الجديدة برنامج جوجل لمكافآت الثغرات الأمنية، لكنها تُحوّل التركيز إلى عالم الذكاء الاصطناعي المتنامي، حيث تبدو التهديدات الأمنية مختلفة تمامًا عن الثغرات التقليدية، وتقول الشركة إنها تريد من الخبراء المساعدة في تحديد "الأفعال غير القانونية"، وهي تلك اللحظات التي يتصرف فيها الذكاء الاصطناعي بطرق غير متوقعة أو خطيرة، مثل تسريب البيانات الشخصية، أو تنفيذ أوامر خاطئة، أو السماح للمهاجمين بالتلاعب بالأجهزة المتصلة.

قدّمت جوجل فكرة واضحة عن نوع الثغرات التي تريد من الباحثين البحث عنها، تخيّل أن يخدع مهاجم جهاز جوجل هوم لفتح باب ذكي، أو يستخدم أمرًا مخفيًا يُلزم جيميل بتلخيص رسائل البريد الإلكتروني لشخص ما وإرسالها إلى جهة خارجية، هذه هي أنواع الثغرات الأمنية عالية الخطورة التي تسعى جوجل للكشف عنها قبل استخدامها في الواقع.

ومع ذلك، أوضحت الشركة أمرًا واحدًا، وهو أن مجرد جعل جيميني أو أي نموذج ذكاء اصطناعي آخر يُصاب بالهلوسة لا يُعدّ خللًا، يجب الإبلاغ عن المشكلات المتعلقة بنوع المحتوى الذي يُنتجه الذكاء الاصطناعي، مثل خطاب الكراهية أو المواد المحمية بحقوق الطبع والنشر، مباشرةً داخل المنتج باستخدام أدوات التعليقات، وتقول جوجل إن هذا يُساعد فرق سلامة الذكاء الاصطناعي التابعة لها على إعادة تدريب النماذج وتحسينها بطريقة أكثر استهدافًا.

تُخصص أكبر المكافآت - التي تصل إلى 20,000 دولار أمريكي - لاكتشاف الثغرات الأمنية في منتجات جوجل الرئيسية، مثل البحث وتطبيقات جيميني وجيميل ودرايف، وإذا تميز تقرير ما بجودته أو أصالته، فقد ترفع المكافآت المبلغ المدفوع إلى 30,000 دولار أمريكي، وسيتم منح مكافآت أقل، ولكنها لا تزال ذات قيمة، لاكتشاف ثغرات في أدوات أخرى مثل NotebookLM أو مساعد الذكاء الاصطناعي التجريبي Jules.

ووفقًا لجوجل، تُعد هذه الخطوة جزءًا من جهودها الأوسع لتعزيز أمن الذكاء الاصطناعي مع تكامل هذه الأنظمة بشكل عميق في منتجاتها، وفي الواقع، تقول الشركة إن الباحثين قد كسبوا بالفعل أكثر من 430,000 دولار أمريكي في العامين الماضيين من خلال الكشف عن المخاطر المتعلقة بالذكاء الاصطناعي، حتى قبل إطلاق هذا البرنامج الرسمي.