كيف جعلت تكنولوجيا الذكاء الاصطناعي أخيراً الألعاب عبر الإنترنت أقل سمية؟

قد يكون قضاء الوقت في ردهة الألعاب أو الدردشة أمرًا فظيعًا. أصبحت بعض المجتمعات سامة، مما أدى إلى إبعاد اللاعبين عن اللعبة قبل أن يدخلوا إليها. يعتقد بعض الناشرين أن الذكاء الاصطناعي يمكن أن يكون الحل لجعل ألعابهم في متناول جميع اللاعبين.

الألعاب لديها مشكلة السمية

أنا من جمهور الألعاب في المدرسة القديمة، لذلك أمضيت معظم سنوات تكويني في لعب ألعاب فردية أو تنافسية على الأريكة على وحدة التحكم. كان الحديث التافه هو أمر اليوم، لكنك كنت تعرف حدودك عندما كنت على الأريكة بجوار أصدقائك، ولم يأخذ أحد الحديث التافه على محمل شخصي. لقد غير الإنترنت كل ذلك.

على الرغم من أنه يمكنك لعب ألعاب محلية متعددة اللاعبين باستخدام Steam، إلا أنك ستلعب عادةً عبر الإنترنت في الردهة. إذا كنت تلعب ألعاب إطلاق نار متعددة اللاعبين عبر الإنترنت مثل شجاع أو نداء الواجب، ستدرك بسرعة مدى مشكلة السمية التي يعاني منها العديد من مطلقي النار عبر الإنترنت. بيانات من عام 2022 أظهر ذلك نداء الواجب ربما كانت الأكثر سمية بين جميع قواعد المعجبين، مما جعل اللعبة تبدو سيئة في عيون المشجعين الجدد. تتمتع اللعبة أيضًا بتاريخ سيء السمعة من السلوكيات الضارة، بما في ذلك اتجاه “الضرب” سيئ السمعة منذ بضع سنوات مضت.

أكتيفيجن، ناشري نداء الواجب، لم أكن سعيدًا بهذا وقررت أن الوقت قد حان لتغيير الأشياء.

لقد سعى اللاعبون منذ فترة طويلة إلى ألعاب غير سامة. ومع ذلك، فإن معظم شركات الألعاب لا أعرف كيفية معالجة مشكلة السمية بين قواعد لاعبيهم. نداء الواجب نفذت مؤخرًا نظامًا يستخدم الذكاء الاصطناعي لرصد السلوك السام في جماعات الضغط والتعامل مع اللاعبين الذين يروجون للسلوك السلبي في قاعدة لاعبيهم. وكانت النتائج فعالة بشكل مدهش.

كيف يتعامل الذكاء الاصطناعي مع اللاعبين السامين

إذن أنت في ردهة الألعاب، وتحدث شخص ما في وجهك بكلام تافه. في نهاية المطاف ينحدر إلى لغة مثيرة للاشمئزاز، ثم الافتراءات. تقوم بالإبلاغ عن الرجل، لكنك لا تعرف حتى ما إذا كان سيتم فعل أي شيء حيال ذلك.

هذه هي حقيقة الكثير من مساحات الألعاب عبر الإنترنت هذه الأيام. وفقا لأكتيفيجن، تم ضرب أكثر من أربعة ملايين حساب بالإنفاذ اعتبارًا من يناير 2024 بسبب السلوك السام، ومع ذلك يستمر هذا السلوك.

لم يكن نهج Activision القديم ناجحًا، لذلك قرروا تغيير التروس.

الشركة تم الاشتراك سابقًا مع Community Sift للإشراف على النصوص، والذي يبدو أنه يعمل بشكل جيد. ومع ذلك، في الردهات القائمة على وحدة التحكم، تتم معظم الاتصالات عبر الصوت، ومن الضروري الاعتدال المعتمد على الصوت. هذا هو المكان الذي يأتي فيه وسيط الدردشة الصوتية المعتمد على الذكاء الاصطناعي للشركة.

المشرف، المعروف باسم ToxMod، من شركة Modulate.ai ويتمتع بقدر كبير من القوة داخل نداء الواجب النظام البيئي. يستخدم ToxMod الفروق الدقيقة في الصوت وأنماط الكلام والضغوط وعناصر أخرى لتحديد ما إذا كان المستخدم يقول شيئًا سامًا لأعضاء الردهة الآخرين. يمكن للمشرف إصدار تحذيرات ووضع علامة على حسابات اللاعبين للتنفيذ والحظر من قبل البشر.

ما هي الألعاب التي تقوم حاليًا بتشغيل برنامج AI Chat Moderator؟

العناوين مثل بيننا و سرقة السيارات الكبرى على الانترنت قام كلاهما بتطبيق وسيط الدردشة AI. جي تي ايه اون لاين اختبر اللاعبون لأول مرة الاختبار التجريبي لـ ToxMod في ديسمبر 2023، ولكن كان العديد من المستخدمين قلقين بشأن خصوصيتهم. أخبر Rockstar، ناشر اللعبة، اللاعبين أنهم كانوا يختبرون النظام للتو وسيفكرون في تنفيذه في عام 2024. ومع ذلك، حتى الآن، لم يكن هناك الكثير من التحديثات حول الإشراف على الذكاء الاصطناعي.

بيننا نفذت أيضا النظام في إصدار VR الخاص به في أبريل 2024. جعلت هذه الألعاب الشعبية ToxMod تحظى بشعبية كبيرة في التعامل مع الكلام المشكوك فيه وإبقاء ردهات الألعاب مستساغة لأي شخص. إنها خطوة إلى الأمام في مساعدة الألعاب متعددة اللاعبين عبر الإنترنت على التخلص من ماضيها السام وتصبح أكثر سهولة في التواصل مع عدد أكبر من الأشخاص.

ما الذي تم وضع علامة عليه وما هو جيد

وفقًا لموقع ToxMod، يستخدم وسيط الصوت AI الإشارات العاطفية لتحديد ما إذا كان هناك شيء مسيء قد قيل. ومع ذلك، فإنه يستخدم أيضًا ردود الدردشة لتحديد العبارات المسيئة.

تم تصميم النظام بحيث يكون للبشر الكلمة الأخيرة نظرًا لأن ToxMod يرسل سجلات مفصلة للمحادثة الصوتية إلى الوسيط البشري، الذي يمكنه بعد ذلك إصدار حظر إذا وجد أن المحادثة تنتهك قواعد السلوك. هذه أداة وضع علامة، مصممة للمساعدة في تحديد المشكلة، بدلاً من نظام الإشراف الآلي بالكامل.

فلماذا يعد ToxMod أمرًا مهمًا إذا كانت هناك بالفعل طرق للمستخدمين لإرسال تقارير حول اللاعبين السامين؟ مشكلة Activision هي أن الدخول إلى شاشة التقرير يخرج اللاعبين من اللعبة. وعندما يحدث ذلك، فمن غير المرجح أن يرغبوا في الاستمرار في اللعب. يعمل نظام ToxMod التلقائي على إبقاء اللاعبين منغمسين من خلال تقديم التقرير لهم.

لقد اعتاد الكثير منا على إسكات اللاعبين الذين يسببون المشاكل ومواصلة العمل، في حين يضمن ToxMod إعداد تقرير حتى يمكن التعامل مع المحرض.

كيف ساعد ToxMod لعبة Call of Duty؟

في حين أنه من السهل التكهن بأن وسيط الصوت الذي يعمل بالذكاء الاصطناعي قد يصنع ألعابًا مثل هذه نداء الواجب أقل سمية، الحصول على حقائق ثابتة أفضل بكثير. في هذه الحالة، تقدر Activision أن هناك ما يصل إلى دردشة صوتية أقل سمية بنسبة 50% في أمريكا الشمالية للعناوين جكل الواجب: Modern Warfare III و نداء الواجب: منطقة الحرب. ويشير المصدر نفسه إلى انخفاض بنسبة 8% في تكرار المجرمين وانخفاض إجمالي بنسبة 25% في السمية على المنصة.

من خلال الأرقام، من الواضح أن ToxMod قد أثر بشكل إيجابي على نظام الدردشة البيئي. ومع ذلك، ينبغي أن يؤخذ هذا مع حبة الملح. يميل التحكم الصوتي باستخدام الذكاء الاصطناعي إلى حدوث مشكلات مع بعض اللهجات الإقليمية، لذا فإن وجود إنسان لإصدار الحظر أمر حيوي لتجنب أي مشاكل.

ومع ذلك، فإن بعض اللاعبين غير راضين عن فرض عقوبات عليهم بسبب الدردشة الصوتية. على الرغم من روعة التحكم الصوتي بالذكاء الاصطناعي، إلا أنه لا يزال من الممكن ارتكاب الأخطاء. نعتقد أنها سنة رائعة للتحقق من الجديد نداء الواجبوخاصة مع انخفاض السمية.

بناء مستقبل الألعاب الذي نريده

للذكاء الاصطناعي العديد من الاستخدامات، بدءًا من إنشاء صور قوية على جهاز الكمبيوتر الخاص بك وحتى استخدامه كمدرب شخصي للياقة البدنية. من الطبيعي أن يجد شخص ما طريقة لإدارة الدردشات الصوتية الهجومية في الألعاب متعددة اللاعبين لجعلها أكثر ترحيبًا.

أود أن أرى مجتمع ألعاب متعدد اللاعبين حيث يكون الأشخاص داعمين ولا يسيئون إلى زملائهم اللاعبين بسبب التحيز. هناك وقت ومكان للحديث التافه، ولكن هناك خط حيث يتحول إلى كونه لئيمًا ومسيئًا.

إذا كان مشرفو الدردشة الصوتية بتقنية الذكاء الاصطناعي هم السبيل لإيصالنا إلى مكان حيث تصبح الألعاب ممتعة مرة أخرى، فأنا أؤيد تنفيذ ذلك.