القيود المادية التي يواجهها الجميع أولاً؟ الذاكرة العشوائية (RAM).

دعونا نوضح المواصفات لأحجام النماذج المختلفة. تشغيل نموذج بوسائط 7B إلى 13B عادةً يحتاج إلى 16 إلى 32 جيجابايت من الذاكرة العشوائية. إذا زادت إلى 20B من المعلمات، فستحتاج تقريبًا إلى 48 إلى 64 جيجابايت. بالنسبة للعملاق مثل نماذج 120B، استعد لاحتياج 120 جيجابايت أو أكثر.

إليك الأمر — استثمرنا $15k في إعداد الأجهزة والآن يمكننا نشر أي نموذج تقريبًا. هذه هي القدرة الحقيقية. الجزء المشجع؟ من المتوقع أن تنخفض هذه التكاليف مع نضوج السوق وتوفر الأجهزة بشكل أكبر. سيكون بمقدور المزيد من الأشخاص تشغيل نماذج جدية محليًا دون كسر الميزانية.