يجب على منتحلي ChatGPT الحذر، حيث طورت OpenAI أداة قادرة على اكتشاف مخرجات الكتابة الخاصة بـ GPT-4 بدقة تصل إلى 99.99%. ومع ذلك، لقد أمضت الشركة أكثر من عام التردد بشأن ما إذا كان سيتم إطلاقه فعليًا للجمهور أم لا.
وبحسب ما ورد، فإن الشركة تتخذ “نهجًا متعمدًا” بسبب “التعقيدات التي ينطوي عليها الأمر وتأثيره المحتمل على النظام البيئي الأوسع نطاقًا خارج OpenAI”، وفقًا لـ تك كرانشوقال متحدث باسم شركة OpenAI: “إن طريقة وضع العلامات المائية على النصوص التي نطورها واعدة من الناحية الفنية، لكنها تنطوي على مخاطر مهمة نزنها بينما نبحث عن بدائل، بما في ذلك قابلية التحايل عليها من قبل الجهات السيئة والإمكانية التأثير بشكل غير متناسب على مجموعات مثل المتحدثين بغير اللغة الإنجليزية”.
يعمل نظام العلامات المائية النصية من خلال دمج نمط معين في الناتج المكتوب للنموذج والذي يمكن اكتشافه بواسطة أداة OpenAI، ولكن غير مرئي للمستخدم النهائي. وفي حين يمكن لهذه الأداة اكتشاف الكتابة الناتجة عن محرك GPT-4 الخاص بها بشكل موثوق، إلا أنها لا تستطيع اكتشاف مخرجات نماذج أخرى مثل Gemini أو Claude. وعلاوة على ذلك، يمكن إزالة العلامة المائية نفسها من خلال تشغيل الناتج النصي من خلال Google Translate، وتحويله إلى لغة أخرى ثم العودة.
هذه ليست المحاولة الأولى لشركة OpenAI لبناء أداة للكشف عن النصوص. في العام الماضي، لقد قام بهدوء بإلغاء كاشف نص مماثل كان هذا الجهاز قيد التطوير بسبب معدل الكشف الضئيل للأداة واستعدادها للنتائج الإيجابية الكاذبة. تم إصدار هذا الجهاز في يناير 2023، وكان يحتاج إلى إدخال نص عينة يدويًا بطول 1000 حرف على الأقل قبل أن يتمكن من اتخاذ قرار. تمكن من تصنيف المحتوى الناتج عن الذكاء الاصطناعي بشكل صحيح بدقة 26٪ فقط ووصف المحتوى الناتج عن الإنسان بأنه مشتق من الذكاء الاصطناعي بنسبة 9٪ من الوقت. كما قاد أحد أستاذ في جامعة تكساس إيه آند إم يفشل في امتحان مادة دراسية كاملة عن طريق الخطأ لاستخدامهم ChatGPT في مهامهم النهائية.
كما ورد أن شركة OpenAI مترددة في إطلاق الأداة خوفًا من رد فعل عنيف من المستخدمين. ووفقًا لصحيفة وول ستريت جورنال، يعتقد 69% من مستخدمي ChatGPT أن مثل هذه الأداة غير موثوقة ومن المرجح أن تؤدي إلى اتهامات كاذبة بالغش. وأفاد 30% آخرون أنهم سيتوقفون عن استخدام روبوت الدردشة طواعية لصالح نموذج مختلف إذا طرحت OpenAI هذه الميزة بالفعل. كما تخشى الشركة أن يتمكن المطورون من عكس هندسة العلامة المائية وبناء أدوات لإلغائها.
حتى مع مناقشة OpenAI لمزايا إصدار نظام العلامات المائية الخاص بها، تسارع شركات ناشئة أخرى في مجال الذكاء الاصطناعي إلى إصدار أجهزة كشف النصوص الخاصة بها، بما في ذلك GPTZero وZeroGPT وScribbr وWriter AI Content Detector. ومع ذلك، نظرا لافتقارهم العام إلى الدقة، تظل العين البشرية هي الطريقة الأفضل لدينا للتعرف على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، وهو أمر غير مطمئن.