Gemini Batch API ต่างจากเรียก API ปกติอย่างไร งานแบบไหนคุ้มกับการรอ
ถ้าต้องให้ AI ช่วยจัดหมวดคำอธิบายสินค้า 10,000 รายการ ควรส่งทีละรายการแล้วรอคำตอบ หรือรวบรวมเป็นงานชุด? Gemini มี Batch API สำหรับงานไม่เร่งด่วน แต่ส่วนลดไม่ได้แปลว่าเหมาะกับทุกระบบ

Batch API รับงานไปประมวลผลแล้วให้กลับมารับผลภายหลัง
หากงานต้องตอบผู้ใช้ขณะกดปุ่ม ให้ใช้ API แบบโต้ตอบตามปกติ แต่ถ้างานมีคำขอจำนวนมากและยอมรอได้ ให้ประเมิน Batch API เพราะ Google ระบุว่าเป็นการประมวลผลแบบ asynchronous (ส่งงานแล้วมารับผลภายหลัง) โดยมีต้นทุน 50% ของ API แบบมาตรฐานสำหรับโมเดลเทียบเท่า และตั้งเป้าประมวลผลภายใน 24 ชั่วโมง ไม่ใช่คำรับประกันว่าจะเสร็จตรงเวลา (เอกสาร Batch API; ตรวจสอบ 16 ตุลาคม 2569)
แชตบอตบริการลูกค้าต้องตอบภายในช่วงที่ผู้ใช้รออยู่ ส่วนงานเตรียมคำอธิบายสินค้าให้ทีมตรวจในเช้าวันถัดไปอาจรอหลายชั่วโมงได้ งานหลังจึงเหมาะจะนำมาประเมิน Batch API มากกว่า
| เกณฑ์ | API แบบโต้ตอบ | Batch API |
|---|---|---|
| เวลาที่ต้องการผล | ขณะส่งคำขอ | รับภายหลังเมื่อชุดงานเสร็จ |
| งานเหมาะสม | แชตและฟีเจอร์หน้าเว็บ | จัดหมวดข้อมูล ตรวจคุณภาพข้อมูล ประมวลผลจำนวนมาก |
| ต้นทุนตามเอกสาร Google | อัตรามาตรฐานตามรุ่น | 50% ของอัตรามาตรฐานสำหรับรุ่นเทียบเท่า |
| การจัดการ | รับคำตอบหรือ error ต่อคำขอ | สร้างงาน ติดตามสถานะ รับผลและตรวจ error รายรายการ |
| โควตา | ตามโมเดลและระดับบัญชี | มีข้อจำกัดของ Batch แยกต่างหาก |
ตัวอย่างสมมติของค่าใช้จ่าย Batch API เทียบกับการเรียกทันที
สมมติว่าระบบต้องประมวลผล 10,000 รายการ และค่าใช้ API แบบปกติของชุดงานนี้เท่ากับ 40 ดอลลาร์สหรัฐ ตามสมมติฐานด้านจำนวนโทเค็นและราคาของรุ่นเดียวกัน หากทุกคำขอรองรับ Batch และไม่มีงานซ้ำหรือค่าใช้จ่ายส่วนอื่น ต้นทุน Batch ตามสัดส่วนที่ประกาศจะประมาณ 20 ดอลลาร์สหรัฐ ประหยัด 20 ดอลลาร์ หรือ 50% ตัวเลข 40 และ 20 ดอลลาร์เป็นตัวอย่างสมมติ ไม่ใช่ราคา Gemini รุ่นใด
สูตรประเมินที่นำไปแทนค่าจริงคือ ต้นทุนประมาณการ = (โทเค็นขาเข้า × ราคา input ต่อโทเค็น) + (โทเค็นขาออก × ราคา output ต่อโทเค็น) แล้วใช้อัตรา Batch ที่ประกาศสำหรับรุ่นนั้น ตรวจว่าอัตราของโทเค็นประเภทต่าง ๆ และฟีเจอร์เสริมเป็นอย่างไรที่ หน้าราคา Gemini API ก่อนตัดสินใจ
ค่าใช้จ่ายรวมยังมีการตรวจคำตอบที่ไม่ผ่านเกณฑ์ การส่งซ้ำ และเวลาที่ทีมงานต้องจัดการข้อมูล หากผลผิดมาก ส่วนลดด้าน API อาจไม่ใช่ต้นทุนหลักของงาน
Batch กับ Context Caching ลดต้นทุนคนละเงื่อนไข: Batch แลกเวลารอเพื่อประมวลผลเป็นชุด ส่วน caching ใช้ประโยชน์จากบริบทเดิมที่ส่งซ้ำ จึงควรประเมินตามงานและเงื่อนไขของรุ่น ไม่สมมติว่าส่วนลดทั้งสองบวกกันได้เสมอ
เริ่มออกแบบงานชุดอย่างไรโดยไม่ทำข้อมูลสลับกัน
- แบ่งงานให้เป็นอิสระ: เช่น จัดหมวดข้อความทีละรายการ ไม่ใช่งานที่คำตอบของรายการถัดไปต้องพึ่งรายการก่อนหน้า
- เลือกโมเดลที่รองรับ Batch: ตรวจหน้าโมเดลและข้อจำกัดปัจจุบัน เพราะไม่ได้หมายความว่าทุกรุ่นหรือทุกฟีเจอร์รองรับเหมือนกัน
- เตรียมคำขอ: เอกสารหน้านี้อธิบายการสร้างงาน generateContent งานขนาดเล็กส่งรายการ inline ได้ ส่วนงานใหญ่ Google รองรับไฟล์ JSON Lines (JSONL) ซึ่งแต่ละบรรทัดเป็น JSON หนึ่งคำขอพร้อม key ระบุรายการ
- สร้างงานและเก็บรหัสงาน: ใช้รหัสติดตามสถานะ ไม่สมมติว่าการส่งงานสำเร็จเท่ากับการประมวลผลสำเร็จ
- รับผลและจับคู่ด้วย key: ตรวจผลแต่ละรายการว่ามีคำตอบหรือ error และบันทึกเฉพาะรายการที่ต้องทำใหม่
- ตรวจคุณภาพ: ใช้ชุดข้อมูลตัวอย่างที่รู้คำตอบอยู่แล้วตรวจความถูกต้องก่อนนำไปใช้จริง
ตัวอย่างเชิงแนวคิด: ข้อมูลต้นทางมีรหัส item-001 และ item-002 ผลลัพธ์ควรจับคู่กลับด้วยรหัสเหล่านี้ ไม่อาศัยเพียงลำดับแถว เพราะกระบวนการทำงานแบบรอผลอาจมีการแยก error หรือประมวลผลไม่ครบทุกคำขอ ดูรูปแบบ JSONL และวิธีรับผลจริงใน เอกสาร Google
ข้อจำกัดที่ต้องรู้ก่อนย้ายงานทั้งหมดไป Batch
- เวลาตอบกลับเป็นเป้าหมาย ไม่ใช่ SLA สำหรับหน้าจอที่ผู้ใช้กำลังรอ จึงไม่ควรใช้ Batch แทนการโต้ตอบสดโดยตรง
- มีโควตาแยกสำหรับ Batch และปริมาณโทเค็นที่เข้าคิว ตรวจค่าของโปรเจกต์ตนเองใน Google AI Studio ไม่ยึดตัวเลขตัวอย่างจากผู้อื่น (Rate limits)
- ผลสำเร็จระดับงานไม่ได้แปลว่าทุกรายการมีคำตอบที่ถูกต้อง ต้องตรวจ error และเนื้อหา
- การส่งข้อมูลผ่าน API เป็นการส่งไปยังบริการภายนอก ตรวจสิทธิ์และความเหมาะสมของข้อมูลก่อนใช้ ไม่ส่งข้อมูลลับโดยไม่มีข้อตกลงที่รองรับ
เลือกตามเวลารอที่ยอมรับได้และต้นทุนรวม
เริ่มจากเวลาที่รับผลได้ หากผู้ใช้กำลังรอคำตอบอยู่หน้าจอ ให้ใช้ API ปกติ สำหรับงานที่รอได้หลายชั่วโมง ให้ตรวจว่างานแต่ละรายการแยกจากกันและจับคู่ผลกลับได้ จากนั้นประเมินต้นทุน Batch ของรุ่นจริง รวมการตรวจคำตอบและส่งซ้ำเฉพาะรายการที่มีปัญหา
แหล่งอ้างอิง
- Google AI for Developers: Batch API
- Google AI for Developers: Rate limits
- Google AI for Developers: Pricing
- Google: Creating a batch job
- Google Site Policies
ตรวจเอกสาร Batch API, Rate limits และ Pricing ของ Google วันที่ 16 ตุลาคม 2569 ไม่ได้ส่งงาน Batch หรือวัดเวลา API จริง ตัวเลข 40 และ 20 ดอลลาร์เป็นตัวอย่างสมมติ เงื่อนไขขึ้นกับรุ่นและฟีเจอร์ที่ใช้