لماذا تعتبر ميزة اكتشاف مكالمات الاحتيال باستخدام الذكاء الاصطناعي من Google بمثابة تغيير كبير

كان مؤتمر Google I/O 2024 الأخير يدور حول الذكاء الاصطناعي – فقد قالت الشركة بفخر “الذكاء الاصطناعي” 124 مرة طوال خطابها الرئيسي (نعم، لقد قرأت ذلك بشكل صحيح). وفي حين عرضت شركة Mountain View العملاقة الكثير من التحسينات على Gemini – عائلة نماذج الذكاء الاصطناعي الخاصة بها – إلا أن ميزة واحدة لفتت انتباهنا لفائدتها في العالم الحقيقي: اكتشاف مكالمات الاحتيال المدعومة بالذكاء الاصطناعي.

لنواجه الأمر: عمليات الاحتيال عبر الهاتف مزعجة للغاية. بدءًا من المكالمات الآلية المزعجة إلى المتسللين الذين ينتحلون صفة الدعم الفني أو البنك، يمكن لهذه الاحتيالات أن تخدع حتى أكثر المستخدمين خبرة. تهدف الميزة الجديدة من Google إلى تغيير ذلك من خلال تحليل المكالمات في الوقت الفعلي وإعطائك تنبيهًا إذا بدا شيء ما مريبًا.

كان عرض Google Onstage مذهلاً

وقد أظهر ديف بيرك، نائب رئيس قسم الهندسة في جوجل، كيفية عمل هذه الميزة أثناء حدث I/O (فيديو مُؤرخ أدناه). وعلى المسرح، تلقى مكالمة من شخص يتظاهر بأنه من أحد البنوك، يطلب منه نقل مدخراته إلى حساب جديد من أجل الأمان. وظهرت على هاتف بيرك رسالة تقول، “من المحتمل أن تكون عملية احتيال: لن تطلب البنوك منك أبدًا نقل أموالك للحفاظ عليها آمنة”، مع خيار إنهاء المكالمة. وتابع بيرك موضحًا أن الميزة مدعومة ببرنامج Gemini Nano، الذي يعمل على الجهاز دون الحاجة إلى اتصال بالإنترنت. إنه أمر مثير للإعجاب، أليس كذلك؟

إذن، من الذي سيستفيد أكثر من هذه التقنية؟ حسنًا، الجميع تقريبًا!

• الجميع:يُمكّنك اكتشاف الاحتيال في الوقت الفعلي من أن تكون أكثر حذرًا أثناء المكالمات وتجنب التعرض للخداع.
• الفئات المعرضة للخطر: كبار السن والأشخاص الأقل دراية بالتكنولوجيا هم الأهداف الرئيسية للمحتالين. يمكن أن تضيف هذه الحماية التي يوفرها الذكاء الاصطناعي طبقة إضافية من الأمان.
• الأشخاص المعرضون للتلاعب العاطفي: غالبًا ما يستخدم المحتالون الخوف والإلحاح للضغط على ضحاياهم. يمكن أن يؤدي تنبيه الذكاء الاصطناعي إلى تعطيل تكتيكاتهم، مما يتيح لك فرصة لالتقاط الأنفاس وتجنب الوقوع فريسة.

السلبيات المحتملة وسوء الاستخدام

بالطبع، مع أي تقنية جديدة لتحليل المحادثات، فإن الخصوصية تشكل علامة استفهام كبيرة. وفي حين تقول جوجل إن كل شيء يبقى على جهازك، فإن بعض الخبراء قلقون بشأن نقاط الضعف المحتملة:

• القرصنة: وعلى الرغم من أن المعالجة تتم على الجهاز، إلا أن هناك مخاوف من أن يتمكن قراصنة مصممون أو أفراد لديهم إمكانية الوصول الفعلي إلى الهاتف من استغلال هذه الميزة.
• المخاطر الحكومية والمراقبة: ويحذر المدافعون عن الخصوصية من أن الوكالات الحكومية أو شركات المراقبة قد تسيء استخدام هذه التكنولوجيا للتنصت على المحادثات الخاصة.
• إيجابيات كاذبة: هناك أيضًا خطر تصنيف المكالمات المشروعة على أنها عمليات احتيال، مما يسبب إنذارًا غير ضروري وإزعاجًا محتملاً.

أعرب ألبرت فوكس كاهن، المدير التنفيذي لمشروع مراقبة تكنولوجيا المراقبة، عن رأيه بالتفصيل مخاوف تحدث عن إمكانية إساءة استخدام ميزة اكتشاف الاحتيال بالذكاء الاصطناعي من جوجل. وأكد أنه على الرغم من تصميم التكنولوجيا مع مراعاة الأمان، إلا أنها قد تفتح صندوق باندورا لقضايا المراقبة والخصوصية.

وأشار كاهن إلى المخاطر التي تهدد الفئات السكانية الضعيفة، بما في ذلك المتمردون السياسيون والأفراد الذين يسعون إلى الخصوصية الطبية، مثل أولئك الذين يحصلون على عمليات الإجهاض. وحذر من أن حتى المعالجة على الجهاز قد تكون عرضة للاختراق، مما يثير مخاوف جدية بشأن مدى أمان وخصوصية محادثاتنا الهاتفية حقًا.

تحتاج Google إلى التأكد من أن الميزة ليست كابوسًا للخصوصية

الحقيقة هي أن عمليات الاحتيال عبر الهاتف تشكل تهديدًا خطيرًا، وقد يكون الكشف الفوري عن هذه العمليات بمثابة نقطة تحول. تخيل راحة البال التي تأتي مع معرفة أن هاتفك سيخبرك في الأساس: “انتظر، يبدو الأمر مريبًا!” تتمتع هذه الميزة التي تعمل بالذكاء الاصطناعي بإمكانيات كبيرة. وإذا تمكنت جوجل من غرس المزيد من الثقة فينا من خلال إثبات أن الميزة آمنة حقًا والكشف عن مزيد من المعلومات حول عملها، فقد يحدث ذلك ثورة حقيقية في مكافحة عمليات الاحتيال عبر الهاتف.

إذن، متى يمكننا الحصول على هذه التقنية للقضاء على الاحتيال؟

لسوء الحظ، لم تكشف Google عن موعد إصدار محدد لميزة اكتشاف مكالمات الاحتيال بالذكاء الاصطناعي حتى الآن. لقد ذكروا أنها ستكون اختيارية، مما يعني أنك ستتمتع بالتحكم في تنشيطها. يمكننا أن نتوقع المزيد من المعلومات حول توفرها وكيفية تمكينها “في وقت لاحق من هذا العام”، وفقًا لـ Google.