قد يفكر الطلاب مرتين قبل استخدام ChatGPT لكتابة مقالات وأبحاث كاملة إذا قررت OpenAI إطلاق أداة مكافحة الغش الخاصة بها. ومع ذلك، فمن غير الواضح ما إذا كان هذا سيحدث بالفعل.
أكدت شركة OpenAI أنها تعمل على أداة للكشف عن الكتابة من ChatGPT، وذلك بعد تقرير صدر في الرابع من أغسطس بواسطة وول ستريت جورنالوقال متحدث باسم شركة OpenAI تك كرانش تتخذ الشركة نهجًا متعمدًا للكشف عن النصوص المكتوبة بالذكاء الاصطناعي بسبب “التعقيدات التي ينطوي عليها الأمر وتأثيره المحتمل على النظام البيئي الأوسع خارج نطاق OpenAI”. هذه العلامات المائية غير ملحوظة للعين البشرية، لكن تقنية الكشف الخاصة بـ OpenAI يمكنها التقاطها وحساب درجة احتمالية قيام ChatGPT بكتابة المستند بالكامل أو جزء منه. يشير جون ثيكستون، الباحث في جامعة ستانفورد في الفريق الذي طور علامات مائية مماثلة للنصوص بالذكاء الاصطناعي، إلى أنه “من المرجح أن تتبخر الشمس غدًا أكثر من عدم وضع علامة مائية على ورقة البحث هذه”.
أجرت شركة OpenAI استطلاعًا داخليًا في أبريل 2023، والذي وجد أن ما يقرب من ثلث المشاركين “سيشعرون بالانزعاج” من مثل هذه الميزة ويستخدمون ChatGPT بشكل أقل، حيث يعتقد 69% أنها ستؤدي إلى اتهامات كاذبة باستخدام الذكاء الاصطناعي. أظهر استطلاع آخر أجري في نفس الوقت أن المستخدمين العالميين سيدعمون أدوات اكتشاف الذكاء الاصطناعي بهامش أربعة إلى واحد.
يمكن لطريقة وضع العلامات المائية على النصوص من OepanAI اكتشاف النص الذي ينتجه ChatGPT بنسبة يقين 99.9٪. لم يصدر الرئيس التنفيذي لشركة OpenAI سام ألتمان والمديرة التقنية ميرا موراتي هذه الميزة لأنها ليست فعالة تمامًا وقد تضر بأعمالها. يُقال إنها تعمل عن طريق تغيير عملية اختيار رمز ChatGPT لإنشاء نمط يمكن التعرف عليه يسمى العلامة المائية، والتي لن تلاحظها، لكن الخوارزمية يمكنها ذلك. أوضح المتحدث باسم الشركة، “إن طريقة وضع العلامات المائية على النصوص التي نطورها واعدة من الناحية الفنية، لكنها تنطوي على مخاطر مهمة نزنها بينما نبحث عن بدائل، بما في ذلك قابلية التحايل من قبل الجهات السيئة وإمكانية التأثير على مجموعات مثل المتحدثين بغير اللغة الإنجليزية بشكل غير متناسب”.
على الرغم من فعاليتها، فإن العلامات المائية ليست محكمة الغلق ويمكن التخفيف من حدتها بسهولة عن طريق إعادة صياغة النص باستخدام نموذج آخر، أو ترجمة النص إلى لغة أخرى ثم ترجمته مرة أخرى، أو حذف أحرف الرموز التعبيرية التي قد يضيفها ChatGPT إلى النص. الآن، تدعي OpenAI أن أداتها مقاومة للتلاعب، مثل إعادة الصياغة. وأكدت الشركة في منشور على مدونتها أنها تختبر حاليًا استخدام بيانات تعريفية موقعة تشفيريًا في النص لتجنب الإيجابيات الخاطئة.
وتخشى شركة OpenAI من أنها قد تفقد المستخدمين إذا تم إطلاق ميزة الكشف. وفي وقت سابق، أصدرت الشركة أداة لالتقاط الصور التي تم إنشاؤها باستخدام DALL-E 3. وتختبر منافستها Google أداة لإضافة علامات مائية على النصوص لـ Gemini AI، والتي أطلق عليها اسم SynthID. حتى أن OpenAI استكشفت إصدار أداة إضافة العلامات المائية للمعلمين أو الشركات التي تساعد المدارس في تحديد الأعمال المسروقة، والتي قد تساعد في احتواء أي ردود فعل سلبية.
ليس سراً أن برامج الدردشة الآلية مثل ChatGPT يمكن إساءة استخدامها بسهولة لإنشاء مقال كامل من خلال موجه واحد، والمعلمون على دراية تامة بهذه القضية. أظهر استطلاع حديث أجرته مركز الديمقراطية والتكنولوجيا أثبتت الدراسات أن المعلمين يواجهون صعوبة في اكتشاف الذكاء الاصطناعي، حيث يُشتبه في أن 59% من معلمي المدارس المتوسطة والثانوية يسيئون استخدام الذكاء الاصطناعي للغش في الواجبات المدرسية. وهذا يمثل زيادة هائلة قدرها 17 نقطة عن العام الدراسي السابق.
إن شركة OpenAI مترددة بين التزامها بالشفافية والحاجة إلى تحقيق الإيرادات، ولكنها ملتزمة أخلاقياً بالقيام بالشيء الصحيح. إن افتقار أدوات الذكاء الاصطناعي الأخرى إلى طريقة الكشف ليس عذراً لـ ChatGPT لتخطي تنفيذ هذه الميزة أيضاً.
مصدر: أوبن أيه آي, وول ستريت جورنال, تك كرانش, الحافة