كيفية تشغيل الذكاء الاصطناعي مثل ChatGPT على جهاز الكمبيوتر الخاص بك

أصبحت برامج المحادثة الآلية رائجة للغاية في الوقت الحالي، ويريد الجميع أن يشاركوا في هذا العمل. تمتلك Google برنامج Bard، وتمتلك Microsoft برنامج Bing Chat، كما أن برنامج ChatGPT من OpenAI أصبح مرادفًا للذكاء الاصطناعي في هذه المرحلة. ولكن ماذا لو كنت لا تريد الاعتماد على خدمة سحابية لبرنامج المحادثة الآلية الخاص بك؟ لدينا برنامج ذكاء اصطناعي شبيه ببرنامج ChatGPT يمكنك تنزيله — حيوان الألبكة.

ما هو الألبكة؟

Alpaca هو نموذج لغوي (روبوت دردشة، في الأساس)، يشبه إلى حد كبير ChatGPT. إنه قادر على الإجابة على الأسئلة، والاستدلال، ورواية النكات، وكل شيء آخر نتوقعه من روبوتات الدردشة. تم إنشاء Alpaca بواسطة باحثون من جامعة ستانفورد عن طريق الضبط الدقيق LLaMA على الفيسبوك.

على عكس ChatGPT، ومعظم برامج الدردشة الأخرى المتاحة اليوم، يعمل Alpaca بالكامل على جهاز الكمبيوتر الخاص بك. وهذا يعني أنه لا يمكن لأحد التجسس على محادثاتك أو ما تطلبه من Alpaca، ولا يمكن تسريب تبادلاتك عن طريق الخطأ أيضًا. وهذا يعني أيضًا أنك لست مضطرًا لدفع أي رسوم شهرية، ويمكنك تدريب النموذج بشكل أكبر ليناسب احتياجاتك بشكل أفضل إذا كان لديك الأجهزة، ويمكنك دمجه في أي تطبيق تريده. أنت مقيد فقط بالأجهزة ومهارات البرمجة الخاصة بك.

ومع ذلك، فهو يعمل أيضًا بشكل جميل كبرنامج محادثة عادي يمكنك التحدث إليه، وسنوضح لك كيفية تشغيله على أي جهاز كمبيوتر تقريبًا.

كيف تتم مقارنة Alpaca مع ChatGPT؟

سنقوم بإبراز ذلك في البداية: يعد ChatGPT، وخاصة ChatGPT الذي يعمل بنظام GPT-4، أكثر ذكاءً وأسرع من Alpaca في الوقت الحالي.

تعتمد سرعة Alpaca في الغالب على الكمبيوتر الذي يعمل عليه — إذا كان لديك كمبيوتر ألعاب فائق السرعة مع عدد كبير من النوى وذاكرة وصول عشوائي كبيرة، فستحصل على أداء جيد منه. ستستغرق أجهزة الكمبيوتر الأبطأ ذات النوى الأقل وقتًا أطول لتوليد الاستجابات. بالطبع، ليس من العدل أو حتى المعقول مقارنتها بـ ChatGPT في هذا الصدد — لا نعرف نوع الكمبيوتر الذي يعمل عليه ChatGPT، لكنه بالتأكيد أقوى من جهاز الكمبيوتر المكتبي العادي.

هناك ثلاثة أنواع رئيسية من Alpaca حاليًا، 7B و13B و30B. وبشكل عام، كلما زاد العدد، كلما كان روبوت المحادثة أكثر ذكاءً.

تعتبر Alpaca، وخاصة طراز 7B، أكثر “غباءً” من ChatGPT. فهي لا تعقل جيدًا ولن تفعل ذلك بالتأكيد اجتياز اختبار تورينج. 7B لا يزال رائعًا إذا كنت تريد اقتراح وصفة، على أية حال.

إن الطرازين 13B و30B يمثلان قصة مختلفة تمامًا. فالطراز 13B قادر على توفير محادثة متماسكة تشبه محادثة البشر، ويمكنه الإجابة على أسئلة معقدة. أما الطراز 30B فهو أكثر إثارة للإعجاب، إذا كنت تمتلك الأجهزة اللازمة لتشغيله، وهو قريب جدًا من ChatGPT. فهو قادر على التحدث بشكل فلسفي أو إلقاء نكتة دون أن يفوتك أي شيء إذا طُلب منه ذلك.

ماذا تحتاج لتشغيل الألبكة؟

تتطلب Alpaca متطلبات نظام مرنة إلى حد كبير. هذه الإرشادات أعلى من الحد الأدنى ولكنها إرشادات جيدة. سنقوم أيضًا بتثبيت هذا على نظام Windows. إذا كنت تقوم بتثبيت هذا على نظام يعمل بنظام Linux أو macOS، فما عليك سوى تخطي قسم نظام Windows الفرعي لنظام Linux — فهو غير مناسب لك.

• 16 جيجا بايت من ذاكرة الوصول العشوائي
• 35 جيجابايت من مساحة التخزين على SSD إذا كنت تريد النماذج الثلاثة.
  • 4 جيجابايت لطراز 7B، و8 جيجابايت لطراز 13B، و20 جيجابايت لطراز 30B
  • 500 ميجابايت لنظام Ubuntu الافتراضي مع WSL2
  • بضعة غيغابايت إضافية بين التبعيات الأخرى
• وحدة المعالجة المركزية الحديثة هي الحل المثالي
  • أي وحدة معالجة مركزية Ryzen
  • معالج Intel من الجيل السابع أو الأحدث
• نظام فرعي ويندوز لنظام لينكس 2 (WSL2)
• جيت
• عامل ميناء
• مشروع مجتمعي سيرج، مما يمنح Alpaca واجهة ويب لطيفة

كيفية تشغيل Alpaca محليًا على جهاز الكمبيوتر الخاص بك

من المهم اتباع هذه الخطوات بالترتيب الموضح بها. من المحتمل أن يتعطل Docker إذا لم تفعل ذلك، مما يتطلب إعادة تثبيت WSL2 وDocker بالكامل.

تثبيت نظام Windows الفرعي لنظام Linux 2

يتيح لك نظام Windows Subsystem for Linux 2 (WSL2) من Microsoft تشغيل برامج Linux في Windows. وهو منخفض التكلفة ومفيد حقًا في كثير من الحالات. يعتمد Docker for Windows على WSL2، لذا نحتاج إلى تثبيت WSL2 أولاً.

افتح نافذة PowerShell كمسؤول، ثم أدخل الأمر:

wsl  

سيستغرق تنزيل كافة ملفات WSL2 وUbuntu بعض الوقت. يجب إعادة تشغيل جهاز الكمبيوتر بعد اكتمال التثبيت.

بمجرد إجراء إعادة التشغيل، أعد فتح PowerShell (ليس بالضرورة كمسؤول) وقم بتشغيل:

wsl -l -v  

يجب أن ترى شيئًا مثل الصورة أدناه إذا كان كل شيء يعمل بشكل صحيح. كما أنك لست بحاجة إلى تثبيت Ubuntu على وجه الخصوص. يمكنك تثبيت أي توزيع تريده، Ubuntu هو التوزيع الافتراضي فقط.

ذات صلة: كيفية تشغيل ChatGPT باستخدام ShellGPT من محطة Ubuntu

تثبيت Docker

Docker هو برنامج يتيح لك تشغيل البرامج في “حاوية”. الحاويات تشبه الآلات الافتراضية، ولكنها تميل إلى تحمل تكاليف أقل وتكون أكثر أداءً للعديد من التطبيقات. يستخدم Serge برنامج Docker لجعل التثبيت مريحًا للغاية.

أولاً، قم بتنزيل مثبت Docker من موقع Docker الإلكتروني. إذا كنت تنوي تشغيل Docker على Linux أو macOS، فتأكد من تثبيت برنامج التثبيت المناسب.

قم بتشغيل برنامج التثبيت واستعد للانتظار لبضع دقائق. سيستغرق Docker بعض الوقت وسيقوم بإعداد مجموعة من الأشياء خلف الكواليس. بمجرد الانتهاء من ذلك، ستحتاج إلى إعادة تشغيل جهاز الكمبيوتر الخاص بك.

بعد إعادة التشغيل، افتح PowerShell وقم بتشغيله

 wsl -l -v 

مرة أخرى. هذه المرة يجب أن ترى بعض الإدخالات المتعلقة بـ Docker أيضًا.

تثبيت GIT على Windows

الشرط الأساسي الأخير هو Git، والذي سنستخدمه لتنزيل (وتحديث) Serge تلقائيًا من Github. ليس ضروريًا تمامًا لأنه يمكنك دائمًا تنزيل ملف ZIP واستخراجه يدويًا، ولكن Git أفضل.

انتقل إلى موقع Git و تنزيل النسخة الصحيحة بالنسبة لنظام التشغيل الخاص بك. يحتاج مستخدمو Windows فقط إلى تشغيل الملف القابل للتنفيذ. تأكد من إلقاء نظرة على خيارات التثبيت على الأقل بدلاً من النقر بسرعة على جميع الخيارات. أحد الخيارات، كما هو موضح في لقطة الشاشة أدناه، بالغ الأهمية.

بمجرد الانتهاء من تثبيت Git، ستكون جاهزًا لتثبيت Serge وAlpaca.

تثبيت سيرج وألباكا

أولاً، تأكد من تشغيل Docker Desktop. ثم ​​افتح PowerShell أو Windows Terminal مع فتح نافذة PowerShell (ليس كمسؤول) وقم بتشغيل الأمر التالي:

git clone https: 

يؤدي هذا إلى تنزيل الملفات من GitHub إلى مجلد على جهاز الكمبيوتر الخاص بك، ثم تغيير الدليل النشط إلى المجلد الذي تم إنشاؤه.

الأمر التالي الذي تحتاج إلى تشغيله هو:

cp .env.sample .env 

يقوم هذا السطر بإنشاء نسخة من .env.sample ويسمي النسخة “.env.” يحتوي الملف على وسيطات مرتبطة بقاعدة البيانات المحلية التي تخزن محادثاتك والمنفذ الذي يستخدمه خادم الويب المحلي عند الاتصال.

ثم قم بتشغيل:

docker compose up -d 

يقوم Docker compose بربط عدد من الحاويات المختلفة في حزمة أنيقة. يمكنك الاطلاع على ملف docker-compose.yml في مجلد Serge إذا كنت تريد معرفة المزيد من التفاصيل حول ما يتضمنه هذا الملف.

سيبدأ الأمر الأخير عملية التنزيل، وهنا يتعين عليك اتخاذ خيار قبل المتابعة. هناك ثلاثة إصدارات مختلفة يمكنك تنزيلها: 7B و13B و30B. 7B هو أبسط و”أغبى” نموذج، في حين أن 30B هو الأكثر تطورًا وذكاءً. 13B هو الحل الوسط.

ستتمكن عمليات تثبيت Linux (وربما macOS) من الحصول على ذاكرة وصول عشوائي للنظام أقل من عمليات تثبيت Windows — Windows هو نظام يستهلك الكثير من ذاكرة الوصول العشوائي. ربما يجب أن تبدأ أولاً بالإصدار 7B لأنه الخيار الأقل تطلبًا. يمكنك دائمًا تنزيل 13B أو 30B لاحقًا إذا أردت.

قم بتشغيل الأمر التالي لتنزيل النموذج 7B (أو استبدله بـ 13B أو 30B).

docker compose exec api python3 /usr/src/app/utils/download.py tokenizer 7B 

كن مستعدًا للانتظار، وخاصةً إذا اخترت الإصدار 30B. يبدو أن خادم Huggingface يصل إلى سرعة 20 ميجا بايت في الثانية، لذا فسوف يستغرق تنزيل كل جيجابايت 50 ثانية في أفضل السيناريوهات.

استخدم سيرج والألبكة

يعمل Docker وجميع الحاويات المطلوبة حاليًا إذا اتبعت هذه التعليمات، ومع ذلك، سيتعين عليك إعادة تشغيلها إذا أعدت تشغيل الكمبيوتر. للقيام بذلك، ما عليك سوى فتح Docker Desktop والنقر فوق الأزرار المثلثة الصغيرة. تتحول الرموز الموجودة على يسار عمود “الاسم” إلى اللون الأخضر عند تشغيل الحاويات.

في هذه المرحلة، تم تثبيت كل شيء وأصبح جاهزًا للاستخدام. ما عليك سوى فتح المتصفح وإدخال “localhost:8008” في شريط العناوين، تمامًا كما تفعل عند زيارة موقع Facebook أو أي موقع ويب آخر.

تحتوي الشاشة الرئيسية على محادثاتك السابقة معروضة على طول اليسار وإعدادات الدردشة الجديدة معروضة في المنتصف.

هناك عدد لا بأس به من الإعدادات المتاحة، ولكن هناك خمسة إعدادات قد ترغب حقًا في الاهتمام بها:

• درجة حرارة – يحدد مدى حرية الذكاء الاصطناعي في الإجابة. فالأرقام المنخفضة تؤدي إلى إجابات أكثر صرامة، في حين أن الأرقام الأعلى تؤدي إلى إجابات أكثر إبداعًا.
• الحد الأقصى لطول النص المُولَّد بالرموز – ما هي المدة التي يمكن أن تستغرقها الردود التي يكتبها البوت.
• اختيار النموذج – اختر بين 7B، 13B، 30B، وأي نموذج آخر تقوم بتثبيته.
• ن_خيوط – عدد الخيوط التي يمكن لـ Serge/Alpaca استخدامها على وحدة المعالجة المركزية الخاصة بك. سيؤدي تخصيص المزيد منها إلى تحسين الأداء
• مقدمة مسبقة لبدء محادثة – يوفر السياق قبل بدء المحادثة لتحديد طريقة رد روبوت المحادثة.

في هذه الحالة، قمنا برفع درجة الحرارة والخيوط، واخترنا نموذج 13B، وأخبرنا روبوت المحادثة أنه قرصان.

وهنا عينة لكيفية سير المحادثة.

يمكنك التحدث عن أي شيء تريده مع Alpaca، ولا داعي للقلق بشأن ما يحدث لبياناتك. فهي تظل على جهازك وتحت سيطرتك في جميع الأوقات.

تذكر أن ChatGPT وAlpaca وغيرهما من برامج الدردشة الآلية تبدو موثوقة، لكنها ليست كذلك في الوقت الحالي. فهي تجسد إلى حد كبير المشاعر التالية: “إذا لم تتمكن من إبهارهم بالذكاء، فحيرهم بالهراء”. وقد وُصف ميلها إلى اختلاق الأشياء بأنه “هلوسة”. لا تعتمد عليها في أي شيء أساسي، وخاصة ليس شيئًا بالغ الأهمية لعملك أو صحتك. يجب استخدامها فقط للترفيه أو لأغراض تجريبية في هذا الوقت.

ومع ذلك، فإن التكنولوجيا سوف تتحسن مع مرور الوقت — ولن يمر وقت طويل قبل أن نرى Alpaca (أو أي ذكاء اصطناعي آخر يتم تشغيله محليًا) مدمجًا في خوادم Discord، وتعديلات Minecraft، وأي عدد آخر من التطبيقات الإبداعية. كما أن المزيد من التطوير سوف يؤدي أيضًا إلى نماذج أسرع وأكثر دقة يمكن تشغيلها على أجهزة أضعف.