Context Window ของ AI คืออะไร ทำไมใส่เอกสารยาวแล้วตอบตกหล่น
อัปโหลดรายงานหลายสิบหน้าให้ AI แล้วถามข้อมูลที่อยู่กลางเอกสาร แต่คำตอบกลับตกหล่น ทั้งที่ระบบบอกว่ารองรับข้อความยาวมาก ปัญหานี้ต้องแยกระหว่างพื้นที่บริบทที่รับได้กับความสามารถใช้ข้อมูลในพื้นที่นั้นให้ถูกต้อง

Context Window คือปริมาณข้อมูลที่ AI ประมวลผลในคำขอหนึ่งครั้ง
Context Window คือขีดจำกัดของปริมาณข้อมูลที่โมเดลประมวลผลร่วมกันในคำขอหนึ่งครั้ง โดยวัดเป็น โทเค็น (token) ไม่ใช่จำนวนหน้าเอกสารหรือจำนวนคำโดยตรง ข้อมูลที่ใช้พื้นที่อาจรวมคำสั่งของระบบ ประวัติสนทนาที่ส่งเข้าไป เอกสาร เครื่องมือ และพื้นที่สำหรับคำตอบ ทั้งนี้รายละเอียดการนับขึ้นกับโมเดลและบริการที่ใช้ เอกสาร OpenAI เรื่อง Context Window อธิบายความสัมพันธ์ระหว่างอินพุต เอาต์พุต และโทเค็นสำหรับการให้เหตุผลไว้
โทเค็นอาจเป็นคำเต็ม บางส่วนของคำ หรือเครื่องหมายวรรคตอน ภาษาไทยจึงไม่ควรประเมินจากสูตรจำนวนคำภาษาอังกฤษอย่างตรงตัว และไฟล์ที่มีรูป ตาราง หรือโครงสร้างข้อความอาจมีค่าใช้พื้นที่ต่างจากข้อความธรรมดา ตัวอย่างการนับโทเค็นด้วย tiktoken ของ OpenAI แสดงว่าการแบ่งข้อความต่างกันตาม encoding แม้เอกสารนี้ถูกจัดเป็นสูตรตัวอย่างเก่า หลักการนับยังช่วยอธิบายได้ แต่ต้องเลือก tokenizer ที่ตรงกับโมเดลและตรวจยอดใช้งานจริงในระบบของตน
เมื่อข้อมูลเกินขีดจำกัด บางบริการอาจปฏิเสธคำขอ บางบริการอาจย่อหรือตัดประวัติเดิมตามระบบของตน จึงไม่ควรสรุปว่าทุกแอปจะตัดส่วนต้นหรือส่วนท้ายเหมือนกัน และไม่ควรเข้าใจว่าไฟล์ที่อัปโหลดทุกหน้าจะอยู่ในบริบทของทุกคำถามเสมอไป
ตัวอย่างสมมติ: แบ่งพื้นที่ให้เอกสาร ประวัติ และคำตอบ
สมมติว่าระบบหนึ่งมีหน้าต่างบริบท 16,000 โทเค็น และเราวางงบประมาณไว้ดังนี้ ตัวเลขทั้งหมดเป็นตัวอย่างเพื่อสาธิตการจัดพื้นที่ ไม่ใช่สเปกหรือการวัดจากโมเดลใด
| รายการ | โทเค็นสมมติ | เหตุผล |
|---|---|---|
| คำสั่งและรูปแบบคำตอบ | 1,000 | กติกาและโจทย์ที่ต้องทำ |
| เอกสารประกอบ | 10,000 | เนื้อหาที่อยากให้ AI อ่าน |
| ประวัติสนทนาที่ส่งเข้ามา | 2,000 | คำถามและคำตอบก่อนหน้า |
| กันพื้นที่สำหรับผลลัพธ์ | 2,000 | คำตอบที่โมเดลต้องสร้าง |
| รวมที่วางแผน | 15,000 | เหลือส่วนเผื่อ 1,000 โทเค็น |
สูตรตรวจคือ 16,000 − (1,000 + 10,000 + 2,000 + 2,000) = 1,000 โทเค็น ที่ยังไม่จัดสรร แต่ในคำขอจริงอาจมีโทเค็นของโครงสร้างข้อความ เครื่องมือ หรือการให้เหตุผลเพิ่มเติม จึงต้องเผื่อและตรวจ usage ตามระบบ ไม่ใช่ใช้ตัวเลขนี้รับประกันว่าจะส่งได้แน่นอน
ถ้าเอกสารยาวเกินงบ การลดคำสั่งที่ซ้ำกันหรือเลือกเฉพาะส่วนที่เกี่ยวข้องอาจดีกว่าการตัดข้อมูลสำคัญแบบสุ่ม
ทดสอบความแม่นยำ แม้เอกสารยังอยู่ในขนาดที่รองรับ
งานวิจัย Lost in the Middle ฉบับปี 2023 ทดสอบโมเดลในงานตอบคำถามหลายเอกสารและค้นข้อมูลเฉพาะตำแหน่ง พบว่าโมเดลที่ทดสอบหลายรุ่นมีแนวโน้มทำได้แย่ลงเมื่อข้อมูลสำคัญอยู่ช่วงกลางของบริบทยาว แม้จะอยู่ภายในความยาวที่โมเดลรับได้
ข้อค้นพบนี้เป็น ผลภายใต้โมเดลและวิธีทดสอบในงานวิจัยนั้น ไม่ใช่หลักฐานว่า AI ทุกรุ่นในปี 2569 จะพลาดข้อมูลกลางเอกสารเสมอ หรือว่าการย้ายข้อความไปต้นไฟล์จะแก้ปัญหาทุกกรณี อย่างไรก็ตาม งานวิจัยชี้ว่าการดูเพียงตัวเลข Context Window สูงสุดยังไม่พอ ต้องทดสอบความแม่นยำเมื่อข้อมูลสำคัญอยู่หลายตำแหน่งด้วย
อีกปัญหาหนึ่งไม่เกี่ยวกับหน้าต่างบริบทโดยตรง: หากระบบอ่านไฟล์ PDF ที่เป็นภาพสแกนไม่ถูกต้อง หรือเครื่องมือค้นเอกสารดึงข้อความผิดหน้า โมเดลก็อาจตอบพลาดตั้งแต่ต้นทาง แม้มีพื้นที่เหลือมาก
จัดเอกสารยาวเป็นงานที่ตรวจย้อนกลับได้
- ตั้งคำถามให้เฉพาะ: แทน “สรุปทุกอย่าง” ให้ถามว่า “เงื่อนไขการยกเลิกอยู่หน้าใด และมีข้อยกเว้นอะไร”
- แยกเอกสารเป็นส่วนที่มีป้าย: เก็บชื่อไฟล์ ฉบับ วันที่ และเลขหน้าไว้กับข้อความ เพื่อให้ AI ระบุแหล่งอ้างอิงได้
- ส่งเฉพาะส่วนที่สัมพันธ์กับคำถาม: หากระบบรองรับการค้นคืน ให้ค้นส่วนที่เกี่ยวข้องก่อน แต่ตรวจว่าการค้นไม่ได้ตัดข้อยกเว้นสำคัญออก
- บังคับให้แยกหลักฐานกับข้อสรุป: ขอให้แสดงข้อความอ้างอิงสั้น ๆ และหน้าเอกสาร หากไม่พบให้ตอบว่าไม่พบแทนการเดา
- ตรวจกลับด้วยต้นฉบับ: เปิดหน้าอ้างอิงจริง โดยเฉพาะตัวเลข วันที่ ข้อยกเว้น และตาราง
ตัวอย่างคำสั่งสำหรับงานทั่วไป: “ใช้เฉพาะเอกสารที่ให้ ตอบว่าเงื่อนไขคืนเงินคืออะไร ระบุชื่อไฟล์และเลขหน้าของหลักฐานทุกข้อ หากเอกสารไม่กล่าวถึงให้ระบุว่าไม่พบ อย่าสรุปเกินข้อความต้นทาง” คำสั่งนี้ช่วยให้ตรวจง่ายขึ้น แต่ไม่รับประกันว่า AI จะอ้างอิงถูก ต้องเปิดหลักฐานจริงเสมอ
ทดสอบการตกหล่นด้วยคำถามที่มีเฉลยจากเอกสารจริง
ก่อนนำไปใช้กับงานสำคัญ ให้เตรียมคำถามที่ทราบคำตอบจากต้นฉบับ 9 ข้อ โดยเลือกข้อมูลจากช่วงต้น กลาง และท้ายเอกสารอย่างละ 3 ข้อ ทำเฉลยพร้อมเลขหน้าไว้ก่อน แล้วส่งคำถามด้วยการตั้งค่าและวิธีแนบไฟล์เดียวกัน
| สิ่งที่วัด | วิธีนับ | สัญญาณที่ต้องแก้ |
|---|---|---|
| ตอบถูกตามต้นฉบับ | จำนวนข้อถูก ÷ 9 × 100% | ผิดเฉพาะช่วงกลางหรือเอกสารบางประเภท |
| อ้างอิงตรวจพบ | จำนวนข้อที่เปิดหน้าแล้วพบข้อความรองรับ ÷ 9 × 100% | อ้างหน้าที่ไม่มีข้อความตามคำตอบ |
| ไม่แต่งเมื่อไม่มีข้อมูล | เพิ่มคำถามที่ไม่มีคำตอบแล้วตรวจการยอมรับข้อจำกัด | ตอบมั่นใจโดยไม่มีหลักฐาน |
เกณฑ์ 9 ข้อเป็น กรอบทดสอบตัวอย่างของบทความ ไม่ใช่มาตรฐานรับรองคุณภาพ และยังไม่ใช่ผลทดสอบของ KrobClick หากงานมีความเสี่ยงสูง ควรใช้ตัวอย่างมากขึ้นและให้ผู้รู้ตรวจ
ข้อจำกัดที่ไม่ควรมองข้าม: ภาษาไทย ความลับ และค่าใช้จ่าย
โมเดลและบริการแต่ละรายมีขนาดบริบท วิธีจัดการไฟล์ และเงื่อนไขใช้ข้อมูลต่างกัน การแบ่งข้อความไทยเป็นโทเค็นอาจต่างจากภาษาอังกฤษ จึงควรใช้เครื่องมือนับที่ตรงกับโมเดล แทนการประมาณจากจำนวนคำภาษาอังกฤษ
การส่งเอกสารยาวขึ้นอาจเพิ่มโทเค็นอินพุตและต้นทุนสำหรับบริการที่คิดค่าบริการตามการใช้ แต่ราคาและการแคชเปลี่ยนได้ตามแผนและรุ่นที่เลือก บทความนี้ไม่สมมติราคาปัจจุบัน ตรวจเอกสารผู้ให้บริการก่อนใช้จริง
เอกสารส่วนบุคคล สัญญาลับ หรือข้อมูลลูกค้าไม่ควรถูกอัปโหลดไปยังบริการภายนอกโดยไม่ตรวจสิทธิ์และนโยบายข้อมูล การใช้ AI ในเครื่องหรือระบบที่องค์กรอนุมัติอาจเหมาะกว่าในบางกรณี แต่ยังต้องดูว่าระบบเก็บบันทึกอะไรไว้
เลือกเนื้อหาที่เกี่ยวข้องและพิสูจน์คำตอบ ดีกว่าใส่เอกสารทุกหน้า
เมื่อ AI ตอบตกหล่น อย่าเริ่มจากการหาโมเดลที่มี Context Window ใหญ่ที่สุดอย่างเดียว ให้ตรวจสามเรื่องตามลำดับ: ข้อมูลถูกส่งเข้าโมเดลจริงหรือไม่ ข้อมูลที่ส่งเกี่ยวข้องกับคำถามหรือไม่ และคำตอบอ้างหลักฐานได้หรือไม่ แล้วใช้ชุดคำถามของตัวเองเปรียบเทียบวิธีจัดเอกสารหรือโมเดลที่เลือก
Context Window บอกขอบเขตที่ระบบอาจประมวลผลได้ ส่วนคุณภาพการตอบต้องพิสูจน์ด้วยโจทย์จริง หากกำลังเปรียบเทียบโมเดล อ่านต่อเรื่อง การอ่านคะแนน Benchmark อย่างถูกบริบท โดยไม่ใช้ตัวเลขความยาวแทนความแม่นยำ
แหล่งอ้างอิง
- OpenAI Cookbook: How to count tokens with Tiktoken (archived recipe)
- OpenAI API: Conversation state and context windows
- Liu et al. (2023): Lost in the Middle: How Language Models Use Long Contexts
บทความนี้อธิบายจากเอกสารต้นทางที่ตรวจสอบ ณ 13 ตุลาคม 2569 ตัวเลขโทเค็นและเกณฑ์ทดสอบเป็นตัวอย่างสมมติ ไม่ใช่สเปกหรือผลทดสอบโมเดลจริงของ KrobClick วิธีนับและจัดการไฟล์ขึ้นกับโมเดลและบริการที่เลือก