النقاط الرئيسية
- يعمل استخدام برامج الدردشة الآلية المحلية المدعومة بـ LLM على تعزيز خصوصية البيانات، وزيادة توفر برامج الدردشة الآلية، كما يساعد في تقليل تكلفة اشتراكات الذكاء الاصطناعي الشهرية عبر الإنترنت.
- يمكن أن تعمل روبوتات الدردشة المحلية DistilBERT وALBERT وGPT-2 124M وGPT-Neo 125M المدعومة بـ LLM بشكل جيد على أجهزة الكمبيوتر التي تحتوي على 4 إلى 8 جيجابايت من ذاكرة الوصول العشوائي (RAM).
لا تعمل روبوتات الدردشة المحلية التي تعمل بالذكاء الاصطناعي، والتي تعمل بنماذج لغوية كبيرة (LLMs)، إلا على جهاز الكمبيوتر الخاص بك بعد تنزيلها وإعدادها بشكل صحيح. وعادةً ما تحتاج إلى قدر كبير من ذاكرة الكمبيوتر (RAM) للعمل بشكل جيد. ومع ذلك، يمكن لبعض النماذج الرائعة العمل على أجهزة الكمبيوتر التي تحتوي على ذاكرة وصول عشوائي (RAM) بسعة 4 جيجابايت فقط.
لماذا تستخدم روبوتات الدردشة المحلية LLM؟
تُعد برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي عبر الإنترنت أدوات قوية يمكنها تعزيز كفاءتك اليومية بشكل كبير. ما عليك سوى كتابة ما تريد، وستقوم برامج الدردشة الآلية هذه بإنشاء نص بناءً على تعليماتك. إذا كنت لا تزال في مرحلة التعود على استخدام برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي، فراجع مقال المقارنة الخاص بنا حول الاختلافات بين ChatGPT وClaude وPerplexity للتعرف على الأساسيات.
لماذا قد تستخدم روبوت محادثة محليًا بدلًا من خيار شائع عبر الإنترنت؟ أولاً، من الممتع أن يكون لديك روبوت محادثة يمكنك التحدث إليه وحدك. لكن في النهاية، يعتمد الأمر على مدى اهتمامك بالخصوصية والتوافر والتكلفة.
على الرغم من أن الأمر قد يكون محرجًا بالنسبة للبعض، إلا أنني لست قلقًا للغاية إذا كان بإمكان صانعي برامج الدردشة الآلية عبر الإنترنت الاطلاع على سجل الدردشة الخاص بي ورؤية أنني بحاجة إلى معرفة المدة التي يستغرقها شواء الديك الرومي أو كيفية تلميع حذائي بشكل صحيح. بغض النظر عن ذلك، هناك معلومات قد أرغب في مشاركتها مع برنامج دردشة آلية ويجب أن تظل بيننا دائمًا.
على سبيل المثال، عملت كثيرًا مع روبوت المحادثة المحلي GPT-Neo 125M الذي يعمل بنظام LLM للمساعدة في تنظيم شؤوني المالية. قد يصبح الأمر معقدًا للغاية مع أقساط القروض الطلابية وحسابات الفائدة وما شابه ذلك. من المفيد جدًا مناقشة الأفكار وطرح الأسئلة على روبوت محادثة محلي لا يمكنه الهروب من الكمبيوتر المحمول وبيع أسرارى.
كما يتعين عليك أن تضع في اعتبارك أن خروقات البيانات الضخمة شائعة بشكل مخيف. وبالتالي، فمن الأفضل لك أن تحتفظ بمعلومات حساسة عن نفسك وأحبائك على جهاز الكمبيوتر الشخصي الخاص بك بدلاً من الاحتفاظ بها في قاعدة بيانات إحدى شركات الذكاء الاصطناعي الكبرى.
على نحو مماثل، بعض برامج الدردشة المحلية مستقلة تمامًا عن الإنترنت بمجرد تثبيتها، لذا لا تحتاج إلى الاتصال بالإنترنت للدردشة. وقد تحتاج برامج أخرى إلى الوصول إلى الإنترنت من حين لآخر للحصول على التحديثات. ومع ذلك، يمكن الوصول إلى برامج الدردشة المحلية بشكل أكثر موثوقية من البرامج المتوفرة عبر الإنترنت نظرًا لأنك لست مضطرًا للقلق بشأن انقطاع الخدمة في اللحظات المهمة.
أخيرًا، تدر برامج الدردشة الآلية عبر الإنترنت مئات الملايين من الدولارات على الشركات من رسوم الاشتراك. تفرض شركة OpenAI، الشركة التي تقف وراء نماذج ChatGPT الشهيرة، حاليًا 20 دولارًا شهريًا للوصول إلى أحدث برامج الدردشة الآلية لديها. كما تفرض منافستها القريبة، Anthropic، 20 دولارًا شهريًا أيضًا مقابل ميزاتها الأكثر تقدمًا. سيتعين عليك إنفاق 240 دولارًا أو أكثر سنويًا إذا اشتركت في خدمات متعددة.
يمكن أن تساعد برامج الدردشة المحلية في تخفيف مثل هذه التكاليف. ومع ذلك، ليست كلها مجانية. يتطلب بعضها ترخيصًا و/أو رسوم استخدام، مثل GPT-3 من OpenAI. ومع ذلك، فإن العديد من نماذج برامج الدردشة المحلية مفتوحة المصدر مجانية للتنزيل والعمل بها. يجب استخدامها بشكل استراتيجي لحل المشكلات الأسهل. لذا، يمكنك الترقية إلى البرامج الأكثر تقدمًا عبر الإنترنت فقط عندما يكون ذلك ضروريًا للغاية.
تعمل برامج المحادثة LLM هذه على أجهزة كمبيوتر ذات ذاكرة وصول عشوائي منخفضة
لقد اضطررت إلى الحصول على العديد من برامج الدردشة المجانية المدعومة بـ LLM والتي تعمل على أجهزة الكمبيوتر ذات ذاكرة الوصول العشوائي المنخفضة، وذلك في المقام الأول لأنه حتى وقت قريب كان هذا كل ما أستطيع تحمله.
وعلى هذا النحو، وجدت أن طرازي DistilBERT وALBERT يتمتعان بإعدادات أكثر قابلية للإدارة، ويرجع ذلك جزئيًا إلى كونهما خفيفي الوزن للغاية. ويعني الوزن الخفيف أن هذين الطرازين مصممان ليكونا فعالين للغاية فيما يتعلق باستخدام الذاكرة وقوة المعالجة. وهذا يحد من قدرات روبوت الدردشة الخاص بهما للمهام المعقدة، والتي يمكن لروبوتات الدردشة الأخرى عبر الإنترنت التعامل معها بسهولة. ولكن يمكن تشغيلهما بشكل مريح على 4 جيجابايت فقط من ذاكرة الوصول العشوائي، وهو ما يمثل فضلًا كبيرًا لمطوريهما في Hugging Face.
ل ديستيلبيرتلقد نجح مطورو Hugging Face في حشد قدر كبير من القوة في نموذج صغير وفعال من خلال تحسين تصميمه. أعتقد أن DistilBERT هو أحد النماذج المتاحة حتى الآن، إن لم يكن الأكثر كفاءة.
ألبرت تم تصميمه بشكل مختلف عن DistilBERT، حيث يعمل عن طريق مشاركة أجزاء من النموذج بطريقة تساعده على معالجة البيانات بسرعة دون استخدام قدر كبير من الذاكرة.
أوصي بشدة بالبدء كمبتدئ باستخدام DistilBERT وALBERT، حتى إذا كان لديك جهاز كمبيوتر ذي ذاكرة عالية. لقد سمح لي البدء بهذين النموذجين بتعلم الأساسيات دون أن أغرق في تعقيد النماذج الأكبر حجمًا.
إذا كنت طموحًا أو لديك جهاز بسعة 8 جيجابايت أو أكثر، فيمكنك تجاوز BERTs والعمل مع نماذج GPT-2 من OpenAI. وهي أشبه بسكاكين الجيش السويسري في عالم الذكاء الاصطناعي المحلي. تأتي نماذج GPT-2 بأحجام مختلفة، بعضها أكثر ملاءمة لأجهزة الكمبيوتر ذات ذاكرة الوصول العشوائي المنخفضة من غيرها.
ال إصدار المعلمة 124M هو الأخف وزنًا. وعلى الرغم من أن 124M أقل قوة من نظيراتها من روبوتات الدردشة عبر الإنترنت، إلا أنها تتمتع بقوة كبيرة في إنشاء اللغة، ومن تجربتي، فهي على قدم المساواة على الأقل، إن لم تكن أكثر، في إنشاء اللغة من BERTs.
برنامج الماجستير في القانون الخفيف المفضل لدي حتى الآن هو جي بي تي نيو 125M بسبب خيارات التخصيص القابلة للتعديل. تم تطويره بواسطة المطورين المرموقين في EleutherAI وهو أشبه بنسخة GPT-2 مفتوحة المصدر.
تم تصميم Neo 125M لتحقيق التوازن بين متطلبات الأداء والموارد. أداء هذا الطراز يضاهي أداء GPT-2، ولكنه معدّل لاستخدام الذاكرة بكفاءة أكبر. إنه قوي بما يكفي للعديد من المهام ولكنه خفيف بما يكفي لتشغيله على 8 جيجابايت فقط، على الرغم من أنه يواجه صعوبة في أي شيء أقل من ذلك.
كيفية البدء في استخدام برامج الدردشة المحلية LLM
إن تشغيل برنامج المحادثة الخاص بك أسهل مما تظن. أولاً، تحتاج إلى معرفة ما يمكن لجهاز الكمبيوتر الخاص بك القيام به. تحقق من مقدار الذاكرة (RAM) لديك ومدى سرعة جهاز الكمبيوتر الخاص بك. باستخدام المعلومات المقدمة أعلاه، تأكد من أن نظام الكمبيوتر الخاص بك يمكنه العمل مع برنامج المحادثة الذي تريده.
بمجرد معرفة ذلك، يمكنك تنزيل البرنامج المناسب. قد تحتاج إلى شيء يسمى عامل ميناء، وهي أداة تساعدك على تشغيل التطبيقات في صناديق خاصة تسمى الحاويات، مما يضمن عملها بنفس الطريقة على أي جهاز كمبيوتر.
ابحث عن برنامج LLM على مواقع مثل وجه العناق و جيثبتأكد من قراءة التعليمات الخاصة بكل طراز تستخدمه لفهم كيفية عمله. ثم قم بتنزيله والدردشة معه. تذكر أيضًا أن تراقب أي تحديثات محتملة لبرامج الطراز.
إذا لم يكن جهاز الكمبيوتر لديك قويًا جدًا، فيجب عليك حقًا أن تبدأ باستخدام DistilBERT أو ALBERT. ومع تعلمك المزيد، يمكنك تجربة GPT-2 باستخدام دليل التثبيت الشامل GPT-2 لنظام التشغيل Windows أو تجربة عشرات النماذج الأخرى باستخدام دليل LM Studio الخاص بنا.
سيكون لديك أسئلة. ومن المحتمل أن يكون قد تم بالفعل الإجابة على العديد منها في المجتمعات أو المنتديات عبر الإنترنت. تحقق من برنامج r/MachineLearning على موقع Reddit، ال مجتمع Hugging Face، أو مقالتنا التفصيلية حول كيفية عمل برامج الماجستير في القانون إذا واجهتك أي مشكلة في أي نقطة.
لا تدع الأجهزة تمنعك من تجربة روبوتات الدردشة المحلية. هناك الكثير من الخيارات التي يمكن تشغيلها بكفاءة على الأنظمة ذات الذاكرة المنخفضة. جرّبها اليوم!