Accelerate documentation
نظرة عامة
البدء
الدروس التعليمية
نظرة عامةأضِف Accelerate إلى كودكعملية التنفيذتدريب TPUإطلاق سكربتات Accelerateإطلاق التدريب الموزّع من كتيّبات Jupyter
أدلة الاستخدام
Accelerate
ابدأ من هنا!مقدّر ذاكرة النموذجتكميم النموذجمتتبعات التجاربأداة التحليلالتحقق من النقاطاستكشاف الأخطاءمثال حديقة الحيوان
التدريب
تراكم التدرجاتLocal SGDالتدريب بدقة منخفضة (FP8)DeepSpeedاستخدام عدة نماذج مع DeepSpeedخطافات اتصال DDPالتوازي الكامل للبيانات المجزأةMegatron-LMAmazon SageMakerوحدات معالجة الرسوميات Apple M1معالج IntelIntel Gaudiالتجميع
الاستدلال
المفاهيم والأساسيات
آلية Accelerate الداخليةتحميل النماذج الكبيرة في الذاكرةمقارنة الأداء عبر التكوينات الموزعةتنفيذ المهام وتأجيلهامزامنة التدرجاتFSDP مقابل DeepSpeedFSDP1 مقابل FSDP2التوازي السياقيالتوازي التسلسليطرق التدريب بدقة منخفضةالتدريب على وحدات TPU
مرجع
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v1.15.0).
نظرة عامة
مرحباً بكم في شروحات Accelerate! ستساعدكم هذه الأدلة التمهيدية على الاطلاع بسرعة على كيفية العمل مع Accelerate. ستتعلمون كيفية تعديل أكوادكم لتعمل بسلاسة مع واجهة برمجة التطبيقات (API)، وكيفية تشغيل سكربتكم بشكل صحيح، وغير ذلك!
تفترض هذه الشروحات الأساسية بعض المعرفة الأساسية بلغة Python والاطلاع على إطار عمل PyTorch.
إذا كانت لديك أي أسئلة حول Accelerate، فلا تتردد في الانضمام إلى مجتمعنا وطرح أسئلتك على المنتدى.
Update on GitHub