يمكن لأولئك الذين لديهم أجهزة متوافقة التثبيت الآن الدردشة مع RTX، وهو روبوت محادثة يعمل بالذكاء الاصطناعي يحول الملفات المحلية إلى مجموعة بيانات خاصة به. ويعتبر تطبيق Chat With RTX “عرضًا توضيحيًا للتكنولوجيا”، ولكنه فعال في استرداد المعلومات وتلخيصها وتلخيصها من الملفات النصية.
في الأساس، يعد Chat With RTX مساعدًا شخصيًا يتصفح مستنداتك وملاحظاتك. فهو يوفر عليك عناء البحث يدويًا في الملفات التي كتبتها أو قمت بتنزيلها أو تلقيتها من الآخرين. يمكنك أن تطلب من Chat With RTX استرداد جزء من المعلومات من مستند فني طويل، على الرغم من أنه يمكنك أيضًا استخدامه للإجابة على أسئلة عادية مثل “ما هو المطعم الذي أوصى به شريكي أثناء وجودي في لاس فيجاس؟”.
يمكن لبرنامج LLM المخصص أيضًا سحب نصوص من مقاطع فيديو YouTube. إذا كنت تريد تعليمات خطوة بخطوة قابلة للطباعة لمشروع نجارة، فما عليك سوى العثور على برنامج تعليمي على YouTube ونسخ عنوان URL وإدخاله في Chat With RTX. يعمل هذا مع مقاطع فيديو YouTube المستقلة و قوائم التشغيل.
نظرًا لأن Chat With RTX يعمل محليًا، فإنه ينتج نتائج سريعة دون إرسال بياناتك الشخصية إلى السحابة. سيقوم LLM فقط بمسح الملفات أو المجلدات التي يختارها المستخدم. يجب أن أشير إلى أن برامج LLM الأخرى، بما في ذلك تلك من HuggingFace وOpenAI، يستطيع يتم تشغيله محليًا. يعد Chat With RTX ملحوظًا لسببين – فهو لا يتطلب أي خبرة، ويُظهر قدرات أنظمة NVIDIA مفتوحة المصدر TensorRT-LLM RAG، والتي يمكن للمطورين استخدامها لبناء تطبيقات الذكاء الاصطناعي الخاصة بهم.
لقد قمنا بتجربة Chat With RTX بشكل عملي في معرض CES 2024. إنه بالتأكيد “عرض توضيحي للتكنولوجيا”، وهو شيء يجب استخدامه عن قصد. لكنه مثير للإعجاب على الرغم من ذلك. حتى إذا لم تكن مهتمًا بإمكانيات استرجاع المعلومات أو تلخيص المستندات في Chat With RTX، فهذا مثال رائع لكيفية تسلل برامج إدارة التعلم المحلية إلى سير عمل الأشخاص.
ورغم عدم ذكره على موقع NVIDIA على الويب، فإن Chat With RTX قادر على إنتاج استجابات مثيرة للاهتمام للمطالبات الإبداعية. لقد طلبنا من LLM كتابة قصة تستند إلى نصوص قائمة تشغيل على YouTube، وقد استجابت، وإن كان ذلك بنبرة عملية. وأنا متحمس لرؤية كيف سيجرب الناس هذا التطبيق.
أنت تستطيع تثبيت Chat With RTX من موقع NVIDIA على الويب. لاحظ أن هذا التطبيق يتطلب وحدة معالجة رسوميات RTX من السلسلة 30 أو السلسلة 40 مع ذاكرة VRAM بسعة 8 جيجابايت على الأقل. تقدم NVIDIA أيضًا TensorRT-LLM RAG مشروع مرجعي مفتوح المصدر لأولئك الذين يريدون إنشاء تطبيقات مشابهة لـ Chat مع RTX.
مصدر: نفيديا