قد يكون الذكاء الاصطناعي التوليدي مفيدًا بشكل لا يصدق في بعض الظروف، ولكن هناك أيضًا العديد من المشكلات المرتبطة به. فقد أظهرت لنا المعلومات غير الدقيقة والإعلانات العرضية وبعض الحوادث المخيفة أننا ما زلنا بعيدين عن عصر الذكاء الاصطناعي الثوري. والآن، ظهرت مشكلة أخرى مع ChatGPT.
يُزعم أن ChatGPT يسرب محادثات خاصة تخص مستخدمين آخرين، بعضها يتضمن بيانات اعتماد خاصة مثل أسماء المستخدمين وكلمات المرور. في لقطات الشاشة المحددة التي ظهرت، يمكننا أن نرى نسخة من محادثة خاصة تتضمن زوجين من بيانات الاعتماد المتعلقة بنظام الدعم المستخدم من قبل موظفي بوابة الأدوية الموصوفة للصيدليات. تكشف المحادثة عن موظف يستخدم روبوت الدردشة بالذكاء الاصطناعي لاستكشاف مشكلات البوابة وإصلاحها، معربًا عن إحباطه من سوء بنائها. في حين أن ChatGPT يسجل ما تخبره به ما لم تختر عدم الاشتراك، يبدو من الغريب أن تتمكن من جعله يسلم هذه الاتصالات الخاصة بالفعل، وهذا يجعلنا قلقين بشأن كيفية تخزين ChatGPT وإدارة بيانات التدريب.
وتتجاوز المحادثة المسربة لقطات الشاشة هذه وتتضمن أشياء مثل اسم التطبيق ورقم المتجر ورابطًا يعرض أزواج بيانات اعتماد إضافية. ويبدو أن كل هذا حدث مع قيام ChatGPT بإعطاء المستخدمين إجابة غريبة وغير ذات صلة تمامًا بعد إجراء استعلام غير ذي صلة. وتغطي محادثات مسربة أخرى حول حوادث مماثلة مواضيع مختلفة، بما في ذلك تفاصيل اقتراح بحث غير منشور وعرض تقديمي ونص PHP. إن احتمالات حدوث شيء مثل هذا لك، ناهيك عن بياناتك، ضئيلة حقًا، ولكن يجب ألا نذكر أنه لا ينبغي لك تسليم بياناتك الشخصية إلى روبوت محادثة في المقام الأول. وإذا فعلت ذلك، فربما يجب عليك تغيير تفاصيل تسجيل الدخول الخاصة بك. ولن تعرف أبدًا من سينتهي به الأمر بكلمات مرورك.
قالت شركة OpenAI آرس تكنيكا إنها تبحث في هذه الحادثة. في الماضي، أوقفت OpenAI خدمة ChatGPT بسبب خلل كشف عناوين سجل الدردشة من مستخدم واحد إلى مستخدمين غير مرتبطين، لذا فإن الشركة لديها على الأقل تاريخ في محاولة إصلاح المشكلات (ربما دون جدوى).
مصدر: آرس تكنيكا