Selepas Deepseek, Kimi K1.5 Outshines Openai O1

Kimi K1.5: Model penalaran AI generatif membentuk semula landskap

Kejayaan baru -baru ini dalam pembelajaran tetulang (RL) dan model bahasa yang besar (LLMs) telah memuncak dalam penciptaan Kimi K1.5, model yang bersedia untuk merevolusikan penalaran AI generatif. Artikel ini menyelidiki ciri -ciri utama Kimi K1.5, inovasi, dan kesan yang berpotensi, menarik pandangan dari penyelidikan yang disertakan.

Jadual Kandungan:

• Apa itu kimi k1.5?
• KIMI K1.5 Latihan
• Kimi K1.5 Benchmarks
• inovasi utama kimi k1.5
• Kimi K1.5 vs DeepSeek R1
• Mengakses Kimi K1.5 melalui API
• Kesimpulan

Apa itu kimi k1.5?

Kimi K1.5 mewakili lonjakan besar ke hadapan dalam skala RL dengan LLMS. Tidak seperti model konvensional yang bergantung kepada kaedah yang rumit seperti Monte Carlo Tree Search, ia menggunakan pendekatan yang diselaraskan yang berpusat pada ramalan autoregressive dan teknik RL. Reka bentuknya membolehkannya mengendalikan tugas multimodal, mempamerkan prestasi luar biasa dalam tanda aras seperti Vista Math dan Bench Live Code.

KIMI K1.5 Latihan

Latihan Kimi K1.5 adalah proses pelbagai peringkat yang direka untuk meningkatkan penalaran melalui integrasi RL dan multimodal:

1. Pretraining: Model ini pretrained pada dataset multimodal yang berkualiti tinggi yang merangkumi teks (bahasa Inggeris, Cina, kod, matematik, pengetahuan umum) dan data visual, ditapis dengan ketat untuk kaitan dan kepelbagaian.

2. Penalaan halus yang diselia (SFT):

   Ini melibatkan dua fasa: Vanilla SFT menggunakan ~ 1 juta contoh di pelbagai tugas, dan SFT-rantaian panjang (COT) SFT untuk latihan jalur penalaran kompleks.

Pembelajaran Penguatkuasaan (RL):
3. Set prompt yang dikendalikan dengan teliti memacu latihan RL. Model ini belajar untuk menghasilkan penyelesaian melalui urutan langkah -langkah penalaran, yang dipandu oleh model ganjaran yang menilai ketepatan tindak balas. Keturunan cermin dalam talian mengoptimumkan dasar.

Pelancaran separa:
4. untuk mengendalikan konteks yang panjang dengan cekap, Kimi K1.5 menggunakan pelancaran separa, menjimatkan bahagian yang belum selesai untuk kesinambungan kemudian.

Panjang Penalti & Pensampelan:
5. Penalti panjang menggalakkan jawapan ringkas, sementara kurikulum dan strategi persampelan yang diprioritaskan memfokuskan latihan pada tugas yang lebih mudah terlebih dahulu.
   Penilaian & lelaran:
Penilaian berterusan terhadap penanda aras Panduan Kemas Kini Model Iteratif.

6. Kimi K1.5 Gambaran Keseluruhan Sistem & Rajah Pelancaran Separa:

kimi k1.5 Benchmarks

Kimi K1.5 Menunjukkan prestasi terkini dalam pelbagai tugas:

• Matematik: mencapai skor sempurna 77.5 pada AIME 2024, melepasi Openai O1 (74.4) dan OpenAI O1 mini (63.6). Menjaringkan 96.2 pada Math-500.
• pengekodan: mencapai skor 94 pada codeforces, sepadan dengan OpenAI O1 dan melebihi O1-Mini dan QWQ 72B Preview.
• Penalaran visual: menjaringkan 74.9 pada Mathvista_test, melepasi QVQ 72B (71.4) dan OpenAI O1-Mini (71).
• Pengetahuan Umum: menjaringkan 87.4 pada MMLU (EM), mengatasi OpenAI 4O (87.2).

Diagram Strategi Penalaran:

kimi k1.5 Inovasi utama

• Konteks Long Scaling: Proses sehingga 128,000 token, meningkatkan kecekapan melalui pelancaran separa.
• Rantaian pemikiran pemikiran: menggabungkan strategi cot panjang dan pendek untuk kebolehsuaian.
• Paip Pembelajaran Penguatkuasaan: Paip RL yang ditapis dengan arahan yang dikendalikan, penalaan halus, dan pengoptimuman dasar.
• pengendalian data multimodal: dengan berkesan memproses teks dan data visual.

kimi k1.5 vs deepseek r1

Kimi K1.5 dan DeepSeek R1 mewakili pendekatan yang berbeza untuk pembangunan LLM. Kimi K1.5 yang diselaraskan seni bina, RL bersepadu, dan pengendalian konteks yang panjang membezakannya dari kaedah yang lebih tradisional Deepseek R1. Perbezaannya memberi kesan kepada prestasi mereka terhadap tugas-tugas yang kompleks dan konteks.

Mengakses Kimi K1.5 melalui API

Akses API memerlukan pendaftaran pada konsol pengurusan Kimi. Contoh coretan kod python menunjukkan interaksi API:

# ... (API key setup and message preparation) ...

stream = client.chat.completions.create(
    model="kimi-k1.5-preview",
    messages=messages,
    temperature=0.3,
    stream=True,
    max_tokens=8192,
)

# ... (streaming response handling) ...

Kesimpulan

Kimi K1.5 mewakili kemajuan yang signifikan dalam penalaran AI generatif, memudahkan reka bentuk RL sambil mencapai hasil yang canggih. Inovasinya dalam konteks skala dan kedudukan pengendalian data multimodal sebagai model utama dengan implikasi yang luas di pelbagai industri.

Atas ialah kandungan terperinci Selepas Deepseek, Kimi K1.5 Outshines Openai O1. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!