Bagaimana cara mengakses phi-4 menggunakan muka pelukan?

PHI-4 Microsoft: Model bahasa yang kuat pada muka memeluk

Panduan ini menyediakan tutorial langkah demi langkah untuk mengakses dan menggunakan model bahasa lanjutan Microsoft, PHI-4, yang boleh didapati di muka pelukan. PHI-4 cemerlang pada penalaran kompleks dan penjanaan teks berkualiti tinggi, menjadikannya sesuai untuk pelbagai aplikasi. Kami akan merangkumi segala-galanya dari persediaan akaun untuk menjana output, menonjolkan kecekapannya untuk persekitaran yang terkawal sumber.

Jadual Kandungan

• phi-4: Ciri-ciri utama dan keupayaan
• prasyarat untuk mengakses phi-4
• Mengakses PHI-4 melalui muka pelukan: Panduan Praktikal
  • Langkah 1: Penciptaan Akaun Muka Muka
  • Langkah 2: Memeluk Pengesahan Akaun Face
  • Langkah 3: Memasang perpustakaan yang diperlukan
  • Langkah 4: Memuatkan model PHI-4
  • Langkah 5: Menyediakan prompt input anda
  • Langkah 6: Menjana output teks
• Kesimpulan
• Soalan Lazim

phi-4: Ciri-ciri utama dan keupayaan

PHI-4 adalah model bahasa canggih yang menawarkan 14 bilion parameter. Senibina dioptimumkan untuk memori dan kecekapan pengiraan, menjadikannya sesuai untuk pemaju dengan sumber yang terhad. Model ini menggunakan seni bina pengubah decoder sahaja dan tetingkap konteks token 16K (diperluas dari 4K semasa latihan pertengahan), membolehkan perbualan yang luas dan penjanaan teks terperinci. Latihan melibatkan dataset besar (kira -kira 10 trilion token) yang terdiri daripada pelbagai sumber. Ciri-ciri keselamatan, termasuk pengoptimuman penalaan dan pengoptimuman keutamaan yang diselia, disepadukan untuk memastikan penggunaan yang bertanggungjawab.

prasyarat

Sebelum anda memulakan, pastikan anda mempunyai yang berikut:

akaun muka yang memeluk.
python 3.7 atau lebih tinggi dipasang.
• , transformers, dan torch perpustakaan. Pasangnya menggunakan: huggingface_hub

pip install transformers torch huggingface_hub

Mengakses PHI-4 melalui Face Hugging

mari kita meneroka bagaimana untuk mengintegrasikan Phi-4 dengan lancar ke dalam projek anda.

Langkah 1: Mewujudkan Akaun Face Hugging

Lawati laman web Hugging Face dan daftar untuk akaun percuma. Ini memberi akses kepada model awam dan swasta.

Langkah 2: Mengesahkan dengan muka yang memeluk

untuk mengakses PHI-4, mengesahkan akaun anda menggunakan CLI muka pelukan:

ikuti arahan di skrin untuk memberikan kelayakan anda.

huggingface-cli login

Langkah 3: Memasang perpustakaan yang diperlukan

(sudah dilindungi dalam prasyarat)

Langkah 4: Memuatkan Model PHI-4

Gunakan perpustakaan

untuk memuatkan model:

transformers

import transformers

pipeline = transformers.pipeline(
    "text-generation",
    model="microsoft/phi-4",
    model_kwargs={"torch_dtype": "auto"},
    device_map="auto",
)

Langkah 5: Menyediakan input anda

Phi-4 direka untuk interaksi gaya sembang. Format input anda sebagai senarai kamus:

pip install transformers torch huggingface_hub

Langkah 6: Menjana output

menghasilkan teks menggunakan saluran paip yang dimuatkan:

huggingface-cli login

Output Contoh:

Kesimpulan

ketersediaan Phi-4 pada muka memeluk memudahkan akses kepada keupayaannya yang kuat. Kecekapan dan ciri canggihnya menjadikannya aset yang berharga untuk pelbagai aplikasi yang memerlukan pemahaman dan generasi bahasa yang canggih.

Soalan -soalan yang sering ditanya

Q1: Apakah PHI-4? A: PHI-4 adalah model bahasa yang canggih dari Microsoft, yang direka untuk penalaran lanjutan dan generasi teks berkualiti tinggi.

Q2: Apakah keperluan sistem? Q3: Tugas apa yang PHI-4 sesuai untuk? transformers torch Q4: Apa format input yang digunakannya? huggingface_hub

Q5: Apakah ciri-ciri utama Phi-4?

Atas ialah kandungan terperinci Bagaimana cara mengakses phi-4 menggunakan muka pelukan?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!