Zephyr-7B에 대한 포괄적 인 가이드 : 기능, 사용 및 미세 조정

Zephyr-7b 탐색 : 강력한 오픈 소스 llm

OpenAi LLM 리더 보드는 GPT-4와 경쟁하기위한 새로운 오픈 소스 모델로 윙윙 거리고 있으며 Zephyr-7B는 눈에 띄는 경쟁자입니다. 이 튜토리얼은 WebPilot.ai 의이 최첨단 언어 모델을 탐색하여 변압기 파이프 라인과 함께 사용하고 에이전트 강의 데이터 세트에서 미세 조정을 보여줍니다. AI에 새로? AI 기초 기술 트랙은 좋은 출발점입니다.

zephyr-7b 이해 Zephyr 시리즈의 일부인 Zephyr-7b는 유용한 조수로 기능하도록 훈련되었습니다. 그것의 강점은 일관된 텍스트를 생성, 언어 번역, 정보 요약, 감정 분석 및 상황 인식 질문 응답에 있습니다. Zephyr-7b-β : 미세 조정 된 Marvel 시리즈의 두 번째 모델 인 Zephyr-7B-β는 미세 조정 된 Mistral-7B 모델입니다. 공개 및 합성 데이터 세트의 혼합에서 DPO (Direct Preference Optimization)를 사용하여 교육을받은 이들은 복잡한 쿼리를 해석하고 긴 텍스트를 요약하는 데 탁월합니다. 출시시, MT-Bench 및 Alpacaeval 벤치 마크에서 7B 채팅 모델 중 최고 자리를 차지했습니다. Zephyr 채팅에서 무료 데모로 기능을 테스트하십시오.

Zephyr Chat의 이미지

포옹 얼굴 변압기로 Zephyr-7B에 접근합니다 이 튜토리얼은 포옹 페이스 트랜스포머를 사용하여 쉽게 접근 할 수 있습니다. (로드 문제가 발생하면 추론 Kaggle 노트북을 참조하십시오.)

라이브러리 설치 :

최신 버전이 있는지 확인하십시오

도서관 가져 오기 :

파이프 라인 생성 : 는 여러 GPU를 사용하여 더 빠른 생성을 위해 사용합니다. 는 더 빠른 계산과 메모리 사용이 줄어든 (그러나 정밀도가 약간 낮음)를 제공합니다.

텍스트 생성 :

아래의 예는 파이썬 코드를 생성하는 것을 보여줍니다

시스템 프롬프트 :

Zephyr-7B 스타일 시스템 프롬프트로 응답을 사용자 정의합니다

!pip install -q -U transformers
!pip install -q -U accelerate
!pip install -q -U bitsandbytes

2. 사용자 정의 데이터 세트에서 미세 조정 zephyr-7b 이 섹션은 Kaggle의 무료 GPU (약 2 시간)를 사용하여 사용자 정의 데이터 세트에서 미세 조정 Zephyr-7B-Beta를 안내합니다. (문제 해결에 대해서는 미세 조정 Kaggle 노트북을 참조하십시오.) 환경 설정 및 준비 <h2> 라이브러리 설치 : </h2> <ol> <li> <strong> 가져 오기 모듈 : </strong> </li> </ol> <div class="code" style="position:relative; padding:0px; margin:0px;"><pre class="brush:php;toolbar:false">!pip install -q -U transformers !pip install -q -U accelerate !pip install -q -U bitsandbytes
   로그인 후 복사

Kaggle 비밀 (Kaggle 노트북) :
2. 포옹 얼굴과 무게 및 편견 API 키를 검색합니다.
포옹 얼굴과 웨이트 및 바이어스 로그인 :

import torch
from transformers import pipeline

3. 모델 및 데이터 세트 이름을 정의하십시오 :

4. AgentInstruct 데이터 세트 처리 함수는 데이터 세트를 Zephyr-7b의 프롬프트 스타일에 적용합니다.

모델을로드하고 준비합니다 <pre class="brush:php;toolbar:false">model_name = "HuggingFaceH4/zephyr-7b-beta" pipe = pipeline( "text-generation", model=model_name, torch_dtype=torch.bfloat16, device_map="auto", )

로그인 후 복사

4 비트 정밀도를 가진 로드 모델 :

제한된 VRAM을 사용하여 GPU에 대한 효율적인 교육에 중요합니다.

5. 로드 토큰 화기 :

prompt = "Write a Python function that can clean the HTML tags from the file:"

outputs = pipe(
    prompt,
    max_new_tokens=300,
    do_sample=True,
    temperature=0.7,
    top_k=50,
    top_p=0.95,
)
print(outputs[0]["generated_text"])

어댑터 레이어 추가 (PEFT) :

이를 통해 어댑터 레이어에서 매개 변수 만 업데이트하여 효율적인 미세 조정이 가능합니다.

모델 훈련 format_prompt 훈련 인수 :

하이퍼 파라미터 구성 (자세한 내용은 미세 조정 llama 2 튜토리얼 참조).

messages = [
    {
        "role": "system",
        "content": "You are a skilled software engineer who consistently produces high-quality Python code.",
    },
    {
        "role": "user",
        "content": "Write a Python code to display text in a star pattern.",
    },
]

prompt = pipe.tokenizer.apply_chat_template(
    messages, tokenize=False, add_generation_prompt=True
)

outputs = pipe(
    prompt,
    max_new_tokens=300,
    do_sample=True,
    temperature=0.7,
    top_k=50,
    top_p=0.95,
)
print(outputs[0]["generated_text"])

SFT 트레이너 :

포옹 페이스의 TRL 라이브러리를 사용하여 트레이너를 만듭니다.

1. 훈련 시작 :

%%capture
%pip install -U bitsandbytes
%pip install -U transformers
%pip install -U peft
%pip install -U accelerate
%pip install -U trl

미세 조정 모델을 저장하고 배포합니다

2. 모델을 저장 :

# ... (Import statements as in original tutorial) ...

포옹 페이스 허브로 밀어 넣으십시오 :

미세 조정 모델 테스트 다양한 프롬프트로 모델의 성능을 테스트하십시오. 예제는 원본 자습서에 제공됩니다

결론 Zephyr-7B-Beta는 인상적인 기능을 보여줍니다. 이 튜토리얼은 자원으로 제한 된 GPU 에서도이 강력한 LLM을 활용하고 미세 조정하는 포괄적 인 안내서를 제공합니다. 더 깊은 LLM 지식을위한 마스터 큰 언어 모델 (LLMS) 개념 과정을 고려하십시오.

위 내용은 Zephyr-7B에 대한 포괄적 인 가이드 : 기능, 사용 및 미세 조정의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!