إن الذكاء الاصطناعي التوليدي رائع، ولكنه قد يكون خطيرًا أيضًا إذا تم استخدامه بشكل غير صحيح. ولهذا السبب يتم تدريب نماذج الذكاء الاصطناعي على رفض أنواع معينة من الطلبات الأكثر خطورة. إلا أنه إذا كنت ذكيًا بعض الشيء، فقد تتمكن من إقناع الذكاء الاصطناعي بتجاهل إرشاداته والامتثال للطلبات المشكوك فيها باستخدام مطالبات أكثر إبداعًا. الآن، تريد جوجل تعليم الذكاء الاصطناعي بعض الأخلاق. إنها تعرض دفع المال للأشخاص الذين يقنعون بارد بفعل شيء سيء.
جوجل برنامج مكافآت الضعفتتوسع خدمة VRP، التي تكافئ المستخدمين القادرين على العثور على نقاط ضعف وثغرات في الكود داخل برمجياتها (كل من التطبيقات وأنظمة التشغيل)، لتشمل Bard والمطالبات المشكوك فيها. إذا كنت قادرًا على التحايل على مطالبة كافية لجعل Bard يفعل شيئًا سيئًا لا يُفترض أن يكون قادرًا على فعله (يُعرف باسم هجوم حقن المطالبة)، فقد تدفع لك Google مبلغًا من المال. تغطي VRP أيضًا أنواعًا أخرى من الهجمات التي يمكن إجراؤها على Bard، مثل استخراج بيانات التدريب، حيث تحصل بنجاح على الذكاء الاصطناعي لإعطائك بيانات حساسة، مثل المعلومات الشخصية وكلمات المرور.
لدى جوجل بالفعل قناة إبلاغ مختلفة (غير مدفوعة) للاستجابات غير الصحيحة/الغريبة وما شابه ذلك. لن تدفع الشركة إلا مقابل الأشياء التي يمكن استغلالها من قبل المتسللين لأغراض خبيثة. لذا، إذا تمكنت من إقناع الذكاء الاصطناعي بقول كلمات مهينة، أو إعطائك مفاتيح Windows، أو القول إنه سيقتلك، فهذا يعني أنك لن تكون قادرًا على فعل ذلك. من المحتمل لا تندرج هذه المشكلة ضمن برنامج المكافآت الذي تقدمه شركة Google. وتقول شركة Google أيضًا إنها لن تدفع مقابل المشكلات المتعلقة بقضايا حقوق النشر أو استخراج البيانات غير الحساسة، ولكن بخلاف ذلك، قد تتمكن من الحصول على آلاف الدولارات من تقرير ما اعتمادًا على مدى سوء الأمر بالفعل.
من خلال التعامل مع هذه الأنواع من المشكلات باعتبارها نقاط ضعف وتضمينها في برنامج المكافآت الخاص بها، تأمل Google أن تتمكن من تعزيز الذكاء الاصطناعي لديها بشكل كبير وجعله يلتزم بقواعد الأخلاقيات والمبادئ التوجيهية الخاصة بها قدر الإمكان. كما نتوقع من Google أن تدفع كثير إن العثور على نقاط الضعف في نموذج الذكاء الاصطناعي من خلال طرح الأسئلة عليه ومعرفة ما إذا كانت ستنجح يختلف تمامًا عن قراءة التعليمات البرمجية وتحديد الثغرة ومعرفة كيفية تجاوزها.
إذا كان هذا شيئًا يثير اهتمامك، فتأكد من إلقاء نظرة عليه إرشادات جوجل للإبلاغ عن المشكلات المتعلقة بمنتجات الذكاء الاصطناعي، حتى تتمكن من معرفة ما هو ضمن النطاق وما هو خارجه.