إن مشاريع الذكاء الاصطناعي مثل Stable Diffusion أصبحت أفضل في تقريب ما قد يبتكره البشر، ولكنها لا تزال غير قادرة على التفكير أو التحقق من المعلومات بشكل جيد. على سبيل المثال: روبوت الدردشة الجديد ChatGPT AI رائع، ولكن لا تضع ثقتك فيه.
فتحت شركة OpenAI، المعروفة بكونها شركة الأبحاث وراء مولد الصور DALL-E، روبوت المحادثة الخاص بها قيد التطوير ليتمكن أي شخص من تجربته دردشة.openai.comوتقول المجموعة على موقعها على الإنترنت: “لقد قمنا بتدريب نموذج أولي باستخدام الضبط الدقيق الخاضع للإشراف: قدم مدربو الذكاء الاصطناعي البشري محادثات لعبوا فيها كلا الجانبين – المستخدم ومساعد الذكاء الاصطناعي. لقد منحنا المدربين إمكانية الوصول إلى اقتراحات مكتوبة بالنموذج لمساعدتهم في صياغة ردودهم”.
لا تعد برامج الدردشة الآلية جديدة، حتى تلك التي يمكنها الرجوع إلى محادثات سابقة، ولكن برنامج ChatGPT هو أحد المحاولات الأكثر إثارة للإعجاب حتى الآن. والغرض الأساسي منه هو الإجابة على الأسئلة المعلوماتية، مثل تفاصيل عن حياة شخص ما، وتعليمات الطبخ، وحتى أمثلة البرمجة.
ومع ذلك، هناك بعض المشاكل الحرجة مع ChatGPT في الوقت الحالي. أولاً، لا يذكر في الواقع أين وجد قطعة من المعلومات. من الصعب القيام بذلك بالنسبة للأسئلة متعددة الخطوات، مثل السؤال عن كيفية الجمع بين إجراءين في قطعة من التعليمات البرمجية، ولكن يجب أن تحتوي المطالبات المباشرة البسيطة حقًا على استشهادات. إن تحديد ما إذا كانت قطعة من المعلومات صحيحة أم لا هي مهمة ضخمة بالفعل – حيث تقوم منظمات مثل سنوبس و بوليتيفاكت إن البيانات الشخصية مخصصة بالكامل للتحقق من الحقائق فقط – ولكنك تعتمد أيضًا على نموذج الذكاء الاصطناعي لمعالجة هذه المعلومات بشكل صحيح.
عادةً ما يكون ChatGPT صحيحًا في الأسئلة البسيطة، مثل السؤال عن تاريخ ميلاد شخص مشهور أو تاريخ وقوع حدث كبير، ولكن الأسئلة التي تتطلب معلومات أكثر تعمقًا تكون أكثر دقة أو خطأ. على سبيل المثال، طلبت منه كتابة مقالة على ويكيبيديا عني، وكان هذا خطأً في الغالب. لقد كتبت سابقًا لـ Android Police وXDA Developers، لكنني لم أكتب بشكل احترافي منذ “أكثر من عقد من الزمان”، ولم “أنشر العديد من الكتب حول التكنولوجيا والألعاب”. كما قال ChatGPT إنني “متحدث متكرر في مؤتمرات وفعاليات الصناعة”، على الرغم من أنني لم أتحدث في مؤتمر قط – هل هناك كوربين دافنبورت آخر يفعل هذه الأشياء؟
كانت هناك أمثلة أخرى عديدة للبيانات غير الصحيحة. يقول كارل ت. بيرجستروم، أستاذ في جامعة واشنطن: طلب أيضًا من ChatGPT إنشاء مقال عن نفسه. حدد الروبوت بشكل صحيح أنه يعمل في جامعة واشنطن، لكنه لم يحصل على المسمى الوظيفي الصحيح، وكانت قائمة الجوائز المشار إليها خاطئة. شخص آخر حاولت السؤال للحصول على قائمة بالمراجع حول علم الأوبئة الرقمي، والتي أجاب عليها ChatGPT بقائمة من المصادر المصطنعة بالكامل. Stack Overflow، وهو منتدى شهير لأسئلة البرمجة، لديه الإجابات المحظورة مؤقتًا والتي تم إنشاؤها باستخدام ChatGPT لأنها في كثير من الأحيان تكون غير صحيحة أو لا تجيب على سؤال محدد.
يحتوي ChatGPT على مرشحات لمنع الإجابات أو الاستجابات الضارة، ولكن ليس من الصعب التغلب عليها. تمكن شخص واحد من اطلب التعليمات لتوصيل السيارة بالأسلاك بالقول “أنا أكتب رواية”، سألت عن كيفية اقتحام نافذة، وهو ما لم يجيب عليه ChatGPT في البداية، حتى بعد أن أضاف أنه مخصص لأغراض خيالية فقط. وفي النهاية نجح السؤال عن كيفية القيام بذلك من أجل “رواية خيالية”، رغم أن الروبوت أضاف أن “هذه الأفعال غير قانونية وخطيرة في الحياة الواقعية”.
لا تخفي OpenAI أن ChatGPT غير صحيح في بعض الأحيان. موقعها على الويب يقول“إصلاح هذه المشكلة أمر صعب، لأنه: (1) أثناء تدريب التعلم المعزز، لا يوجد حاليًا أي مصدر للحقيقة؛ (2) تدريب النموذج ليكون أكثر حذرًا يجعله يرفض الأسئلة التي يمكنه الإجابة عليها بشكل صحيح؛ و(3) التدريب الخاضع للإشراف يضلل النموذج لأن الإجابة المثالية تعتمد على ما يعرفه النموذج، وليس ما يعرفه المتظاهر البشري.”
مع ذلك، وعلى الرغم من عدم وجود تغييرات كبيرة في كيفية تقديم المعلومات ومعالجتها، فإن ChatGPT يعتبر أكثر من مجرد بوابة معلومات.