PEFT documentation

Cài đặt

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Cài đặt

Trước khi bắt đầu, bạn cần thiết lập môi trường, cài đặt các gói phù hợp và cấu hình 🤗 PEFT. 🤗 PEFT được kiểm thử trên Python 3.11+.

🤗 PEFT có sẵn trên PyPI, cũng như trên GitHub:

PyPI

Để cài đặt 🤗 PEFT từ PyPI:

pip install peft

CUDA Windows Arm64

Để cài đặt PEFT với PyTorch CUDA trên Windows Arm64, chẳng hạn như cho các laptop NVIDIA RTX Spark, hãy cài đặt PyTorch từ chỉ mục PyPI của NVIDIA. Các thiết bị này yêu cầu các bản dựng PyTorch cho Windows Arm64 của NVIDIA, vốn không có sẵn trên chỉ mục PyPI mặc định hay chỉ mục wheel PyTorch tiêu chuẩn.

Chạy lệnh bên dưới để kiểm tra xem hệ thống của bạn có phát hiện được GPU NVIDIA hay không.

nvidia-smi

Cài đặt PyTorch từ chỉ mục PyPI của NVIDIA, sau đó cài đặt PEFT.

pip install torch --index-url https://pypi.nvidia.com/nvtorch_oot_nightly
pip install peft

Nguồn

Các tính năng mới chưa được phát hành sẽ được thêm vào mỗi ngày, điều này cũng có nghĩa là có thể sẽ có một số lỗi. Để thử chúng, hãy cài đặt từ kho GitHub:

pip install git+https://github.com/huggingface/peft

Nếu bạn muốn thử nghiệm với mã nguồn và xem kết quả trực tiếp khi chạy mã, một phiên bản có thể chỉnh sửa có thể được cài đặt từ một bản sao cục bộ của kho mã:

git clone https://github.com/huggingface/peft
cd peft
pip install -e ".[test]"

Nếu bạn có kế hoạch đóng góp cho PEFT, hãy làm theo hướng dẫn đóng góp thay vào đó, trong đó cũng bao gồm việc fork, thêm remote upstream và tạo nhánh làm việc.

Update on GitHub