PEFT documentation
Cài đặt
Cài đặt
Trước khi bắt đầu, bạn cần thiết lập môi trường, cài đặt các gói phù hợp và cấu hình 🤗 PEFT. 🤗 PEFT được kiểm thử trên Python 3.11+.
🤗 PEFT có sẵn trên PyPI, cũng như trên GitHub:
PyPI
Để cài đặt 🤗 PEFT từ PyPI:
pip install peft
CUDA Windows Arm64
Để cài đặt PEFT với PyTorch CUDA trên Windows Arm64, chẳng hạn như cho các laptop NVIDIA RTX Spark, hãy cài đặt PyTorch từ chỉ mục PyPI của NVIDIA. Các thiết bị này yêu cầu các bản dựng PyTorch cho Windows Arm64 của NVIDIA, vốn không có sẵn trên chỉ mục PyPI mặc định hay chỉ mục wheel PyTorch tiêu chuẩn.
Chạy lệnh bên dưới để kiểm tra xem hệ thống của bạn có phát hiện được GPU NVIDIA hay không.
nvidia-smi
Cài đặt PyTorch từ chỉ mục PyPI của NVIDIA, sau đó cài đặt PEFT.
pip install torch --index-url https://pypi.nvidia.com/nvtorch_oot_nightly pip install peft
Nguồn
Các tính năng mới chưa được phát hành sẽ được thêm vào mỗi ngày, điều này cũng có nghĩa là có thể sẽ có một số lỗi. Để thử chúng, hãy cài đặt từ kho GitHub:
pip install git+https://github.com/huggingface/peft
Nếu bạn muốn thử nghiệm với mã nguồn và xem kết quả trực tiếp khi chạy mã, một phiên bản có thể chỉnh sửa có thể được cài đặt từ một bản sao cục bộ của kho mã:
git clone https://github.com/huggingface/peft
cd peft
pip install -e ".[test]"Nếu bạn có kế hoạch đóng góp cho PEFT, hãy làm theo hướng dẫn đóng góp thay vào đó, trong đó cũng bao gồm việc fork, thêm remote upstream và tạo nhánh làm việc.
Update on GitHub