2025-10-16
Oct 16, 2025
ไปแงะ ML inference ecosystem ของฝั่ง web มา
ก็คงไม่ train/eval บน web stack อันนั้นทรมานตัวเองเกิน
สรุปสั้นๆ คือ google ทำ mediapipe library ที่มีหลาย module หากินในงาน ML ไว้ให้แล้ว พวก LLM/audio/vision/text
ไม่ได้แงะทั้งหมด แต่เห็นบางตัวอย่าง face detection ยืนอยู่บน tensorflow lite (เปลี่ยนเป็น LiteRT ละ รอบนี้รองรับ pytorch และ jax แล้ว) ซึ่ง browser runtime ก็ไม่รู้จัก tensorflow กะเขาหรอก แต่ไปยืมมือ wasm แทน
ถ้ามี scikit-learn ก็ได้สองท่า ไปเกาะ pyodide ที่เป็น python runtime in browser เอา หรือ ไปออก onnx ยืนพื้น wasm เหมือนเดิม แต่มี accelerator ตัวอื่นพอใช้ได้เหมือนกัน
ส่วน neural networks ก็ไปเกาะ LiteRT เอา
อันนี้ mediapipe catalog สำเร็จรูปมาให้แล้ว ใช้ไม่ยาก ตึมึน vibe coding ได้เลย ลองมาละ