Pelajaran dari skala websockets

WebSockets: penting untuk aplikasi masa nyata, tetapi skala memerlukan perancangan yang teliti

Permintaan yang semakin meningkat untuk masa nyata, aplikasi yang disegerakkan telah menjadikan WebSockets sebagai komponen penting dalam pembangunan perisian moden. Di Compose, WebSockets adalah asas perkhidmatan kami, membolehkan SDK backend kami untuk menyampaikan aplikasi interaktif rendah latency menggunakan hanya kod backend. Walau bagaimanapun, skala websockets memberikan cabaran yang ketara. Berikut adalah pelajaran utama yang dipelajari:

penyebaran anggun: Mengekalkan ketekunan sambungan

Penyebaran lancar adalah penting; Pengguna tidak boleh mengalami gangguan. Untuk memastikan ketekunan sambungan WebSocket semasa penyebaran, kami menggunakan strategi penyambungan semula yang mantap:

1. pelayan baru dilancarkan.
2. Setelah sihat, pelayan lama mula kembali 503 (perkhidmatan tidak tersedia) Respons terhadap pemeriksaan kesihatan.
3. Selepas empat 503s berturut -turut, pengimbang beban menghilangkan pelayan yang tidak sihat. (Pemeriksaan kesihatan berlaku setiap 5 saat, untuk proses maksimum 25 saat.)
4. Pelayan lama menghantar mesej Tutup WebSocket Custom, mengarahkan pelanggan untuk menangguhkan penyambungan semula dengan selang rawak, menghalang lonjakan penyambungan semula. Mesej ini merangkumi:
   • mesej mesra pengguna semasa pemotongan ringkas (~ 10 saat).
   • Kelewatan rawak untuk mengelakkan masalah kawanan bergemuruh. Pelanggan juga secara eksponen meningkatkan backoff untuk penyambungan semula yang berkaitan dengan penggunaan.
   • Kelewatan 20 saat untuk membolehkan pengimbang beban mengalihkan trafik.

Pelayan lama ditutup sepenuhnya selepas pemotongan pelanggan. Perkhidmatan yang diuruskan seperti Render atau Railway memerlukan perhatian khusus untuk memastikan pemindahan sambungan klien yang anggun semasa penyebaran. Perkhidmatan ini sering menunggu semua permintaan selesai sebelum menutup, yang boleh melanjutkan downtime untuk sambungan WebSocket yang berterusan dengan ketara.

Skema mesej yang konsisten: Menentukan komunikasi yang jelas

Tidak seperti konvensyen penghalaan terbina dalam HTTP, WebSockets memerlukan skema mesej tersuai. Di Compose, kami menggunakan awalan jenis 2-bait untuk pengkategorian mesej:

• cekap ruang (hanya 2 bait), skala hingga 65,536 jenis.
• membolehkan pelanggan dengan mudah menghuraikan awalan jenis tanpa menjejaskan data.
• memudahkan peningkatan API melalui jenis mesej versi.

const MESSAGE_TYPE_TO_HEADER = {
  RENDER_UI: "aa",
  UPDATE_UI: "ab",
  SHOW_LOADING: "ac",
  RENDER_UI_V2: "ad",
  /* ... */
};

Kami juga menggunakan pembatas untuk memisahkan medan mesej, meningkatkan kelajuan pengekodan/penyahkodan dan kecekapan memori berbanding dengan JSON.

const DELIMITER = "|";

function createDelimitedMessage(type: string, args: any[]) {
  return [MESSAGE_TYPE_TO_HEADER[type], ...args].join(DELIMITER);
}

function parseDelimitedMessage(message: string) {
  const [type, ...args] = message.split(DELIMITER);
  return { type, args };
}

Menggunakan TypeScript membolehkan kami berkongsi skema mesej antara frontend dan backend, mencegah ketidakkonsistenan.

mekanisme degupan jantung: mengesan senyap putus

Sambungan yang tidak dijangka jatuh tanpa peristiwa dekat boleh menyebabkan sambungan basi. Mekanisme denyutan jantung yang mantap adalah penting:

• Pelayan menghantar mesej ping setiap 30 saat, mengharapkan respons pong.
• Pelanggan putus dan menyambung semula jika ping tidak diterima dalam masa 45 saat.
• Pelayan menutup sambungan yang terlepas respons pong dalam masa 45 saat.

Pemantauan denyutan jantung bidirectional ini mengesan dan mengendalikan situasi di mana rangkaian klien kelihatan berfungsi, tetapi pelayan tidak menerima respons.

http fallback: mengendalikan sekatan rangkaian

WebSockets boleh disekat pada rangkaian yang ketat. Compose Uses Server-Sent Events (SSE) sebagai sandaran untuk menerima kemas kini, dan permintaan HTTP untuk komunikasi pelanggan-ke-pelayan.

sifat berasaskan HTTP SSE menjadikannya kurang terdedah kepada menyekat, menawarkan alternatif yang boleh dipercayai dengan latensi yang agak rendah.

Pertimbangan lanjut

Skala WebSockets melibatkan kerumitan tambahan:

• Kekurangan perkakas standard: Ciri -ciri seperti mengehadkan kadar dan pengesahan data sering memerlukan pelaksanaan tersuai.
• Ketidakupayaan untuk memberi respons cache: Tidak seperti HTTP, WebSockets kekurangan mekanisme caching standard.
Pengesahan per-message:
• Memastikan kesahihan setiap mesej sebelum pemprosesan adalah penting untuk keselamatan.
Walaupun cabaran-cabaran ini, WebSockets tetap menjadi penyelesaian yang optimum untuk membina aplikasi cepat, masa nyata, dan kolaboratif. Di Compose, WebSockets menguasai seluruh platform kami, membolehkan pemaju membuat aplikasi web penuh dari logik backend menggunakan SDK kami. Ketahui lebih lanjut dalam dokumentasi kami.

Atas ialah kandungan terperinci Pelajaran dari skala websockets. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!