LiteRT.js คืออะไร รัน AI ในเบราว์เซอร์ได้ประโยชน์และข้อจำกัดอะไร
เว็บ AI ไม่จำเป็นต้องส่งภาพ เสียง หรือข้อความทุกชิ้นไปประมวลผลบนเซิร์ฟเวอร์ LiteRT.js ของ Google เปิดทางให้นักพัฒนารันโมเดล .tflite ภายในเบราว์เซอร์และใช้ตัวเร่งของอุปกรณ์เมื่อรองรับ แนวทางนี้น่าสนใจทั้งเรื่องความเป็นส่วนตัวและความเร็ว แต่มีข้อแลกเปลี่ยนที่ต้องออกแบบให้ดี

LiteRT.js คือ runtime สำหรับรันโมเดลในเว็บ
LiteRT.js เป็น JavaScript binding ของ LiteRT สำหรับโหลดและรันโมเดล .tflite ในเบราว์เซอร์ ผ่าน WebAssembly และตัวเร่งฮาร์ดแวร์ที่รองรับ นักพัฒนาสามารถใช้กับงานอย่างจำแนกภาพ ตรวจจับวัตถุ ประมวลผลเสียง หรือสร้างข้อความโดยไม่จำเป็นต้องส่งข้อมูลดิบไปยังเซิร์ฟเวอร์ทุกครั้ง
Google วาง LiteRT.js เป็นเส้นทางที่ต่อยอดจาก TensorFlow.js สำหรับผู้ที่มีโมเดล .tflite และต้องการใช้ runtime ร่วมกับ Android, iOS และ desktop มากขึ้น ไม่ได้หมายความว่า TensorFlow.js ใช้ไม่ได้ แต่เป้าหมายและรูปแบบโมเดลที่เหมาะอาจต่างกัน
ประโยชน์หลักคือ local-first, latency และต้นทุนเซิร์ฟเวอร์
- ความเป็นส่วนตัว: ภาพ เสียง หรือข้อความสามารถอยู่ในอุปกรณ์ผู้ใช้ตลอดการอนุมาน
- ตอบสนองเร็ว: งาน real-time ลดเวลาส่งข้อมูลไปกลับเครือข่าย
- ทำงานได้บางส่วนเมื่อออฟไลน์: หลังดาวน์โหลดโมเดลและทรัพยากรที่ต้องใช้แล้ว
- ลดภาระ backend: การประมวลผลกระจายไปยังอุปกรณ์แทนการใช้เครื่องเซิร์ฟเวอร์ทุก request
การรันในเครื่องยังต้องดาวน์โหลดโมเดลและใช้หน่วยความจำ แบตเตอรี่ รวมถึงพลังประมวลผลของผู้ใช้ หากไฟล์ใหญ่ ควรแจ้งขนาดและให้ผู้ใช้เลือกว่าจะดาวน์โหลดเมื่อใด
CPU, GPU และ NPU ให้ผลต่างกันตามอุปกรณ์
LiteRT.js รองรับ CPU ผ่าน XNNPACK, GPU ผ่าน WebGPU และทิศทาง NPU ผ่าน WebNN ซึ่งยังอยู่ในสถานะทดลองบนเบราว์เซอร์บางตัว Google รายงานว่าในชุดทดสอบของตน LiteRT.js เร็วกว่าบาง runtime สูงสุด 3 เท่า และ backend แบบ GPU หรือ NPU อาจเร็วกว่าการรัน CPU หลายเท่าในบางงาน
ตัวเลขนี้มาจาก MacBook Pro ชิป M4 และสภาพแวดล้อมที่ควบคุม ประสิทธิภาพจริงขึ้นกับไดรเวอร์ การจำกัดความร้อน browser support และโครงสร้างโมเดล เว็บ production จึงต้องมี feature detection และ fallback ไม่ควรสมมติว่าผู้ใช้ทุกคนมี WebGPU หรือ WebNN
ก่อนเทียบ CPU กับ GPU ให้ทำบันทึกทดลองหนึ่งงานที่ใช้โมเดลและอินพุตเดียวกัน แยกเวลาดาวน์โหลด โหลดหรือ compile, warm-up และ inference รอบถัดไป พร้อมจดเบราว์เซอร์ อุปกรณ์ backend ที่ใช้จริง และผลลัพธ์ที่ตรวจว่าถูกต้อง หากรอบแรกช้ากว่า อย่าเรียกทั้งหมดว่าเวลา inference หรืออ้างว่ารอบถัดไปจะเร็วเท่ากันเสมอ นี่เป็นแผนวัดที่เสนอให้ทำ ไม่ใช่ benchmark ที่ KrobClick รันแล้ว
ขนาดโมเดลและ quantization สำคัญกับประสบการณ์เว็บ
โมเดลที่แม่นแต่มีขนาดหลายร้อยเมกะไบต์อาจทำให้หน้าโหลดช้า กิน data plan และถูก browser ปิดเมื่อหน่วยความจำไม่พอ LiteRT มีเครื่องมือแปลงโมเดลจาก PyTorch และ quantization เพื่อลดขนาดและเพิ่มความเร็ว แต่การลด precision อาจกระทบคุณภาพในบางงาน
ควรวัดทั้งเวลาหลังเข้าเว็บครั้งแรกและเวลารอบถัดไป แยกเวลา download, compile, warm-up และ inference รวมถึงทดสอบเครื่องระดับล่าง ไม่ใช่เฉพาะ laptop รุ่นใหม่
ตรวจการรับส่งข้อมูลทั้งหน้า แม้โมเดลรันในเบราว์เซอร์
การรันโมเดล local ลดการส่ง input ไป backend แต่หน้าเว็บอาจยังโหลดโมเดลจาก CDN ส่ง analytics หรือเรียก API อื่น นักพัฒนาควรอธิบายให้ตรงว่า “การอนุมานเกิดในเครื่อง” ไม่ใช่กล่าวกว้างว่า “ข้อมูลไม่ออกจากเครื่องเลย” หากส่วนอื่นยังมีการรับส่งข้อมูล
โมเดลและ runtime ที่ดาวน์โหลดมาควรมี version, integrity check และนโยบายอัปเดตที่ชัดเจน เพราะ supply-chain risk และโมเดลที่ถูกแก้ไขยังเป็นปัญหาแม้ inference จะเกิดใน browser
LiteRT.js เหมาะกับงานที่เล็กพอและได้ประโยชน์จากความใกล้ผู้ใช้
กรณีเหมาะสมคือการตรวจภาพก่อนอัปโหลด การถอดเสียงช่วงสั้น การค้นหาในข้อมูล local หรือประสบการณ์โต้ตอบที่ต้องตอบทันที ส่วนโมเดลใหญ่ งานที่ใช้เวลานาน หรืออุปกรณ์เป้าหมายมีทรัพยากรจำกัด อาจยังเหมาะกับ backend หรือสถาปัตยกรรม hybrid มากกว่า
จุดเริ่มต้นที่ดีคือทำ prototype ด้วยโมเดลเดียว ตั้งงบขนาดไฟล์และเวลา จากนั้น benchmark บนมือถือและคอมพิวเตอร์หลายระดับ พร้อม fallback ที่ยังใช้งานได้เมื่อ hardware acceleration ไม่พร้อม
แหล่งอ้างอิง
- Google Developers Blog: LiteRT.js, Google high performance Web AI Inference
- Google for Developers: Get started with LiteRT.js
- Google for Developers
บทความนี้อ้างอิงประกาศและผลทดสอบของ Google ณ วันที่ 7 ตุลาคม 2569 ตัวเลขประสิทธิภาพวัดในสภาพแวดล้อมที่กำหนดและอาจต่างตามเบราว์เซอร์ ฮาร์ดแวร์ อุณหภูมิ และโมเดล ควร benchmark กับอุปกรณ์เป้าหมายจริง