Gemini API แบบ Streaming ต่างจากตอบครั้งเดียวอย่างไร เลือกให้เหมาะกับแอป

ทำไมแชตบางแอปแสดงคำตอบทีละคำ แต่อีกแอปต้องรอจนจบ? ใน Gemini API มีทั้งการรับคำตอบชุดเดียวและการทยอยรับหลายส่วน ความต่างนี้กระทบประสบการณ์ผู้ใช้ การแสดงข้อผิดพลาด และการตรวจข้อมูลก่อนบันทึกจริง

จดหมายหนึ่งฉบับเทียบกับแถบกระดาษที่ทยอยส่งผ่านตัวประมวลผล สื่อการรับคำตอบสองรูปแบบ

Streaming ทยอยส่งคำตอบให้แอปแสดงระหว่างรอ

เอกสาร Gemini ระบุว่า generateContent ส่งคำตอบกลับเมื่อสร้างเสร็จ ส่วน streamGenerateContent ส่งผลลัพธ์เป็นส่วน ๆ ผ่านการสตรีม ทำให้แอปแสดงข้อความระหว่างรอได้ (Google AI for Developers: Text generation) เลือกโหมดตามรูปแบบการรับข้อมูลที่แอปต้องการ โดยไม่ใช้ความต่างของโหมดเป็นหลักฐานเปรียบเทียบความแม่นยำของโมเดล

บทความนี้กล่าวถึง GenerateContent API และ SDK ที่เรียก endpoint คู่นี้โดยเฉพาะ เอกสาร Text generation ปัจจุบันยังมีตัวอย่าง Interactions API ซึ่งใช้ชื่อเมธอดและเหตุการณ์ต่างกัน จึงควรตรวจ API reference ของ endpoint ที่แอปใช้ ไม่คัดลอกชื่อจากคนละ API มาปนกัน และอย่าสับสน Streaming ในบทความนี้กับ Live API สำหรับการสนทนาแบบสองทาง

การสตรีมเหมาะกับแชตที่ผู้ใช้ต้องการเห็นความคืบหน้า ส่วนงานที่ต้องตรวจโครงสร้างก่อนแสดง เช่น ส่งข้อมูลเข้าระบบบัญชี ควรรวบรวมผลให้ครบแล้วตรวจอีกชั้น ไม่ควรถือว่าข้อความช่วงแรกคือคำตอบสุดท้าย

คำตอบไหลมาเป็นส่วน ๆ แอปต้องเก็บสถานะอะไร

ตัวอย่างจาก Google ใช้ generate_content_stream แล้ววนรับข้อความแต่ละส่วน

from google import genai

client = genai.Client()
response = client.models.generate_content_stream(
    model="gemini-3-flash",
    contents="Write a story about a magic backpack.",
)
for chunk in response:
    print(chunk.text, end="")
    print("_" * 80)

นี่เป็นโค้ดจากเอกสาร GenerateContent API ณ เวลาที่อ้างอิง ไม่ใช่ Interactions API หรือคำแนะนำเลือกรุ่นโมเดล และยังไม่ได้รันตัวอย่างนี้ ที่มา: เอกสารต้นทาง · Apache-2.0 / CC BY 4.0

  1. เริ่มคำขอ: แสดงว่ากำลังประมวลผลและป้องกันการกดส่งซ้ำโดยไม่ตั้งใจ
  2. รับแต่ละส่วน: ต่อข้อความตามลำดับที่ได้รับ ไม่สมมติว่าทุกส่วนเป็นประโยคสมบูรณ์
  3. จบคำขอ: ตรวจว่าได้รับสถานะสิ้นสุดที่คาดหวัง และตรวจเนื้อหาทั้งหมดก่อนบันทึกหรือใช้ต่อ
  4. เกิดข้อผิดพลาดกลางทาง: แยกข้อความที่แสดงชั่วคราวออกจากผลลัพธ์ที่ยืนยันแล้ว และให้ผู้ใช้รู้ว่าคำตอบอาจไม่ครบ

ตัวอย่าง SDK ใน Gemini API reference ใช้การวนรับ chunk แล้วนำข้อความมาต่อกัน KrobClick เสนอแนวทาง UI นี้สำหรับออกแบบการรับผล โดยยังไม่ได้ทดสอบประสิทธิภาพ

ตัวอย่างสมมติ: แอปสรุปคำขอคืนสินค้า

สมมติผู้ใช้ถามว่า “สรุปขั้นตอนคืนสินค้า 3 ข้อ” โหมดตอบครั้งเดียวอาจแสดงสถานะรอ แล้วจึงแสดงทั้งสามข้อพร้อมกัน ส่วนโหมด Streaming อาจแสดงข้อแรกก่อน ข้อสองตามมา และข้อสามเมื่อประมวลผลต่อเนื่อง

แต่ถ้าแอปต้องบันทึกคำตอบเป็น JSON เช่น {"steps":[...]} การแสดงส่วนแรกก่อนจบอาจทำให้ JSON ยังปิดวงเล็บไม่ครบ วิธีที่ปลอดภัยกว่าคือแสดงตัวอย่างชั่วคราวแยกจากข้อมูลที่จะบันทึก แล้วตรวจ JSON และความครบของฟิลด์หลังรับผลทั้งหมด อ่านเพิ่มเติมเรื่องการตรวจโครงสร้างที่ AI ตอบเป็น JSON แล้วทำไมระบบยังพัง

ข้อจำกัดของ Streaming ที่ต้องแจ้งผู้ใช้

การได้รับข้อความเร็วขึ้นไม่ได้รับประกันว่า เวลาจบทั้งคำตอบ จะสั้นลงเสมอไป ความเร็วขึ้นกับโมเดล ขนาดอินพุต เครือข่าย และภาระระบบที่เปลี่ยนได้ อีกทั้งคำตอบอาจถูกตัดหรือหยุดกลางทาง ผู้พัฒนาจึงต้องรองรับการยกเลิก การเชื่อมต่อหลุด และการแสดงข้อความไม่ครบอย่างชัดเจน

อย่าส่งข้อมูลสำคัญให้บริการภายนอกโดยไม่ได้พิจารณานโยบายข้อมูลและสิทธิ์การใช้งาน โหมด Streaming ไม่ได้ทำให้ข้อมูลกลายเป็นการประมวลผลในเครื่องโดยอัตโนมัติ

เลือกโหมดจากวิธีใช้ผลลัพธ์

ก่อนตัดสินใจ ลองงานเดียวกันทั้งสองโหมดด้วยโมเดลเดียวกัน แล้ววัดเวลาเริ่มเห็นผล เวลาเสร็จจริง และอัตราคำตอบไม่ครบ พร้อมดูว่าผู้ใช้ติดขัดตรงไหน บทความนี้เสนอวิธีทดสอบโดยยังไม่ได้ทดลองเรียก API เอง

อ่านต่อGemini API เจอ 429 หรือ 503 แก้อย่างไรออกแบบการจัดการข้อผิดพลาดและการลองใหม่โดยไม่ทำให้คำขอซ้ำ

แหล่งอ้างอิง

ตรวจเอกสาร Google วันที่ 18 ตุลาคม 2569 ตามเวลาไทย บทความอธิบาย GenerateContent API: generateContent และ streamGenerateContent ไม่ใช่ Gemini Live API หรือ Batch API ไม่มีการเรียก API หรือวัดความเร็วจริง ตัวอย่างแอปเป็นสถานการณ์สมมติ