Accelerate documentation
Mac'te Hızlandırılmış PyTorch Eğitimi
Mac'te Hızlandırılmış PyTorch Eğitimi
PyTorch v1.12 sürümüyle birlikte geliştiriciler ve araştırmacılar, model eğitimini önemli ölçüde hızlandırmak için Apple silikon GPU'larından yararlanabilir.
Bu, prototipleme ve ince ayar gibi makine öğrenimi iş akışlarını Mac üzerinde, yerel olarak gerçekleştirebilme imkânını sunar.
PyTorch için Apple'ın Metal Performance Shaders (MPS) arka ucu bunu mümkün kılar ve yeni "mps" cihazı üzerinden kullanılabilir.
Bu, hesaplama grafiklerini ve temel yapı taşlarını MPS Graph çerçevesine ve MPS tarafından sağlanan optimize edilmiş çekirdeklere eşler.
Daha fazla bilgi için lütfen resmi belgelere Introducing Accelerated PyTorch Training on Mac ve MPS BACKEND başvurun.
Apple Silicon Çipleri ile Eğitim ve Çıkarımın Avantajları
- Kullanıcıların yerel olarak daha büyük ağlar veya parti boyutları eğitmesine olanak tanır
- Birleşik bellek mimarisi sayesinde veri getirme gecikmesini azaltır ve GPU'nun tam bellek deposuna doğrudan erişimini sağlar. Bu nedenle uçtan uca performansı iyileştirir.
- Bulut tabanlı geliştirmeyle ilişkili maliyetleri veya ek yerel GPU ihtiyacını azaltır.
Ön gereksinimler: mps desteğiyle torch kurmak için lütfen bu güzel medium makalesini GPU-Acceleration Comes to PyTorch on M1 Macs takip edin.
Varsayılan olarak nasıl çalışır
MPS destekli Apple Silicon GPU'ya sahip MacOs makinelerde varsayılan olarak etkinleştirilir.
Devre dışı bırakmak için accelerate launch komutuna --cpu bayrağını iletin veya accelerate config anketine yanıt verirken ilgili soruya cevap verin.
MPS destekli Apple Silicon makinelerde test etmek için aşağıdaki betiği doğrudan çalıştırabilirsiniz:
accelerate launch /examples/cv_example.py --data_dir images
Dikkat edilmesi gereken birkaç uyarı
- Dağıtık kurulumlar
gloovenccl,mpscihazıyla çalışmıyor. Bu, şu anda yalnızcampscihaz türünün tek bir GPU'sunun kullanılabileceği anlamına geliyor.
Son olarak lütfen unutmayın, Accelerate yalnızca MPS arka ucunu entegre eder; bu nedenle MPS arka ucunun kullanımıyla ilgili herhangi bir sorununuz veya sorunuz varsa lütfen PyTorch GitHub üzerinden bir sorun (issue) açın.