Context Window ของ AI คืออะไร ทำไมใส่เอกสารยาวแล้วตอบตกหล่น

อัปโหลดรายงานหลายสิบหน้าให้ AI แล้วถามข้อมูลที่อยู่กลางเอกสาร แต่คำตอบกลับตกหล่น ทั้งที่ระบบบอกว่ารองรับข้อความยาวมาก ปัญหานี้ต้องแยกระหว่างพื้นที่บริบทที่รับได้กับความสามารถใช้ข้อมูลในพื้นที่นั้นให้ถูกต้อง

แผ่นเอกสารไหลเข้าสู่กรอบบริบทที่มีพื้นที่จำกัด พร้อมช่องว่างสำหรับคำตอบ

Context Window คือปริมาณข้อมูลที่ AI ประมวลผลในคำขอหนึ่งครั้ง

Context Window คือขีดจำกัดของปริมาณข้อมูลที่โมเดลประมวลผลร่วมกันในคำขอหนึ่งครั้ง โดยวัดเป็น โทเค็น (token) ไม่ใช่จำนวนหน้าเอกสารหรือจำนวนคำโดยตรง ข้อมูลที่ใช้พื้นที่อาจรวมคำสั่งของระบบ ประวัติสนทนาที่ส่งเข้าไป เอกสาร เครื่องมือ และพื้นที่สำหรับคำตอบ ทั้งนี้รายละเอียดการนับขึ้นกับโมเดลและบริการที่ใช้ เอกสาร OpenAI เรื่อง Context Window อธิบายความสัมพันธ์ระหว่างอินพุต เอาต์พุต และโทเค็นสำหรับการให้เหตุผลไว้

โทเค็นอาจเป็นคำเต็ม บางส่วนของคำ หรือเครื่องหมายวรรคตอน ภาษาไทยจึงไม่ควรประเมินจากสูตรจำนวนคำภาษาอังกฤษอย่างตรงตัว และไฟล์ที่มีรูป ตาราง หรือโครงสร้างข้อความอาจมีค่าใช้พื้นที่ต่างจากข้อความธรรมดา ตัวอย่างการนับโทเค็นด้วย tiktoken ของ OpenAI แสดงว่าการแบ่งข้อความต่างกันตาม encoding แม้เอกสารนี้ถูกจัดเป็นสูตรตัวอย่างเก่า หลักการนับยังช่วยอธิบายได้ แต่ต้องเลือก tokenizer ที่ตรงกับโมเดลและตรวจยอดใช้งานจริงในระบบของตน

เมื่อข้อมูลเกินขีดจำกัด บางบริการอาจปฏิเสธคำขอ บางบริการอาจย่อหรือตัดประวัติเดิมตามระบบของตน จึงไม่ควรสรุปว่าทุกแอปจะตัดส่วนต้นหรือส่วนท้ายเหมือนกัน และไม่ควรเข้าใจว่าไฟล์ที่อัปโหลดทุกหน้าจะอยู่ในบริบทของทุกคำถามเสมอไป

ตัวอย่างสมมติ: แบ่งพื้นที่ให้เอกสาร ประวัติ และคำตอบ

สมมติว่าระบบหนึ่งมีหน้าต่างบริบท 16,000 โทเค็น และเราวางงบประมาณไว้ดังนี้ ตัวเลขทั้งหมดเป็นตัวอย่างเพื่อสาธิตการจัดพื้นที่ ไม่ใช่สเปกหรือการวัดจากโมเดลใด

รายการโทเค็นสมมติเหตุผล
คำสั่งและรูปแบบคำตอบ1,000กติกาและโจทย์ที่ต้องทำ
เอกสารประกอบ10,000เนื้อหาที่อยากให้ AI อ่าน
ประวัติสนทนาที่ส่งเข้ามา2,000คำถามและคำตอบก่อนหน้า
กันพื้นที่สำหรับผลลัพธ์2,000คำตอบที่โมเดลต้องสร้าง
รวมที่วางแผน15,000เหลือส่วนเผื่อ 1,000 โทเค็น

สูตรตรวจคือ 16,000 − (1,000 + 10,000 + 2,000 + 2,000) = 1,000 โทเค็น ที่ยังไม่จัดสรร แต่ในคำขอจริงอาจมีโทเค็นของโครงสร้างข้อความ เครื่องมือ หรือการให้เหตุผลเพิ่มเติม จึงต้องเผื่อและตรวจ usage ตามระบบ ไม่ใช่ใช้ตัวเลขนี้รับประกันว่าจะส่งได้แน่นอน

ถ้าเอกสารยาวเกินงบ การลดคำสั่งที่ซ้ำกันหรือเลือกเฉพาะส่วนที่เกี่ยวข้องอาจดีกว่าการตัดข้อมูลสำคัญแบบสุ่ม

ทดสอบความแม่นยำ แม้เอกสารยังอยู่ในขนาดที่รองรับ

งานวิจัย Lost in the Middle ฉบับปี 2023 ทดสอบโมเดลในงานตอบคำถามหลายเอกสารและค้นข้อมูลเฉพาะตำแหน่ง พบว่าโมเดลที่ทดสอบหลายรุ่นมีแนวโน้มทำได้แย่ลงเมื่อข้อมูลสำคัญอยู่ช่วงกลางของบริบทยาว แม้จะอยู่ภายในความยาวที่โมเดลรับได้

ข้อค้นพบนี้เป็น ผลภายใต้โมเดลและวิธีทดสอบในงานวิจัยนั้น ไม่ใช่หลักฐานว่า AI ทุกรุ่นในปี 2569 จะพลาดข้อมูลกลางเอกสารเสมอ หรือว่าการย้ายข้อความไปต้นไฟล์จะแก้ปัญหาทุกกรณี อย่างไรก็ตาม งานวิจัยชี้ว่าการดูเพียงตัวเลข Context Window สูงสุดยังไม่พอ ต้องทดสอบความแม่นยำเมื่อข้อมูลสำคัญอยู่หลายตำแหน่งด้วย

อีกปัญหาหนึ่งไม่เกี่ยวกับหน้าต่างบริบทโดยตรง: หากระบบอ่านไฟล์ PDF ที่เป็นภาพสแกนไม่ถูกต้อง หรือเครื่องมือค้นเอกสารดึงข้อความผิดหน้า โมเดลก็อาจตอบพลาดตั้งแต่ต้นทาง แม้มีพื้นที่เหลือมาก

จัดเอกสารยาวเป็นงานที่ตรวจย้อนกลับได้

  1. ตั้งคำถามให้เฉพาะ: แทน “สรุปทุกอย่าง” ให้ถามว่า “เงื่อนไขการยกเลิกอยู่หน้าใด และมีข้อยกเว้นอะไร”
  2. แยกเอกสารเป็นส่วนที่มีป้าย: เก็บชื่อไฟล์ ฉบับ วันที่ และเลขหน้าไว้กับข้อความ เพื่อให้ AI ระบุแหล่งอ้างอิงได้
  3. ส่งเฉพาะส่วนที่สัมพันธ์กับคำถาม: หากระบบรองรับการค้นคืน ให้ค้นส่วนที่เกี่ยวข้องก่อน แต่ตรวจว่าการค้นไม่ได้ตัดข้อยกเว้นสำคัญออก
  4. บังคับให้แยกหลักฐานกับข้อสรุป: ขอให้แสดงข้อความอ้างอิงสั้น ๆ และหน้าเอกสาร หากไม่พบให้ตอบว่าไม่พบแทนการเดา
  5. ตรวจกลับด้วยต้นฉบับ: เปิดหน้าอ้างอิงจริง โดยเฉพาะตัวเลข วันที่ ข้อยกเว้น และตาราง

ตัวอย่างคำสั่งสำหรับงานทั่วไป: “ใช้เฉพาะเอกสารที่ให้ ตอบว่าเงื่อนไขคืนเงินคืออะไร ระบุชื่อไฟล์และเลขหน้าของหลักฐานทุกข้อ หากเอกสารไม่กล่าวถึงให้ระบุว่าไม่พบ อย่าสรุปเกินข้อความต้นทาง” คำสั่งนี้ช่วยให้ตรวจง่ายขึ้น แต่ไม่รับประกันว่า AI จะอ้างอิงถูก ต้องเปิดหลักฐานจริงเสมอ

ทดสอบการตกหล่นด้วยคำถามที่มีเฉลยจากเอกสารจริง

ก่อนนำไปใช้กับงานสำคัญ ให้เตรียมคำถามที่ทราบคำตอบจากต้นฉบับ 9 ข้อ โดยเลือกข้อมูลจากช่วงต้น กลาง และท้ายเอกสารอย่างละ 3 ข้อ ทำเฉลยพร้อมเลขหน้าไว้ก่อน แล้วส่งคำถามด้วยการตั้งค่าและวิธีแนบไฟล์เดียวกัน

สิ่งที่วัดวิธีนับสัญญาณที่ต้องแก้
ตอบถูกตามต้นฉบับจำนวนข้อถูก ÷ 9 × 100%ผิดเฉพาะช่วงกลางหรือเอกสารบางประเภท
อ้างอิงตรวจพบจำนวนข้อที่เปิดหน้าแล้วพบข้อความรองรับ ÷ 9 × 100%อ้างหน้าที่ไม่มีข้อความตามคำตอบ
ไม่แต่งเมื่อไม่มีข้อมูลเพิ่มคำถามที่ไม่มีคำตอบแล้วตรวจการยอมรับข้อจำกัดตอบมั่นใจโดยไม่มีหลักฐาน

เกณฑ์ 9 ข้อเป็น กรอบทดสอบตัวอย่างของบทความ ไม่ใช่มาตรฐานรับรองคุณภาพ และยังไม่ใช่ผลทดสอบของ KrobClick หากงานมีความเสี่ยงสูง ควรใช้ตัวอย่างมากขึ้นและให้ผู้รู้ตรวจ

ข้อจำกัดที่ไม่ควรมองข้าม: ภาษาไทย ความลับ และค่าใช้จ่าย

โมเดลและบริการแต่ละรายมีขนาดบริบท วิธีจัดการไฟล์ และเงื่อนไขใช้ข้อมูลต่างกัน การแบ่งข้อความไทยเป็นโทเค็นอาจต่างจากภาษาอังกฤษ จึงควรใช้เครื่องมือนับที่ตรงกับโมเดล แทนการประมาณจากจำนวนคำภาษาอังกฤษ

การส่งเอกสารยาวขึ้นอาจเพิ่มโทเค็นอินพุตและต้นทุนสำหรับบริการที่คิดค่าบริการตามการใช้ แต่ราคาและการแคชเปลี่ยนได้ตามแผนและรุ่นที่เลือก บทความนี้ไม่สมมติราคาปัจจุบัน ตรวจเอกสารผู้ให้บริการก่อนใช้จริง

เอกสารส่วนบุคคล สัญญาลับ หรือข้อมูลลูกค้าไม่ควรถูกอัปโหลดไปยังบริการภายนอกโดยไม่ตรวจสิทธิ์และนโยบายข้อมูล การใช้ AI ในเครื่องหรือระบบที่องค์กรอนุมัติอาจเหมาะกว่าในบางกรณี แต่ยังต้องดูว่าระบบเก็บบันทึกอะไรไว้

เลือกเนื้อหาที่เกี่ยวข้องและพิสูจน์คำตอบ ดีกว่าใส่เอกสารทุกหน้า

เมื่อ AI ตอบตกหล่น อย่าเริ่มจากการหาโมเดลที่มี Context Window ใหญ่ที่สุดอย่างเดียว ให้ตรวจสามเรื่องตามลำดับ: ข้อมูลถูกส่งเข้าโมเดลจริงหรือไม่ ข้อมูลที่ส่งเกี่ยวข้องกับคำถามหรือไม่ และคำตอบอ้างหลักฐานได้หรือไม่ แล้วใช้ชุดคำถามของตัวเองเปรียบเทียบวิธีจัดเอกสารหรือโมเดลที่เลือก

Context Window บอกขอบเขตที่ระบบอาจประมวลผลได้ ส่วนคุณภาพการตอบต้องพิสูจน์ด้วยโจทย์จริง หากกำลังเปรียบเทียบโมเดล อ่านต่อเรื่อง การอ่านคะแนน Benchmark อย่างถูกบริบท โดยไม่ใช้ตัวเลขความยาวแทนความแม่นยำ

อ่านต่ออ่านคะแนน Benchmark ของ AI อย่างไรเรียนรู้การประเมินโมเดลด้วยโจทย์จริง ไม่อาศัยความยาวบริบทหรือคะแนนเพียงตัวเดียว

แหล่งอ้างอิง

บทความนี้อธิบายจากเอกสารต้นทางที่ตรวจสอบ ณ 13 ตุลาคม 2569 ตัวเลขโทเค็นและเกณฑ์ทดสอบเป็นตัวอย่างสมมติ ไม่ใช่สเปกหรือผลทดสอบโมเดลจริงของ KrobClick วิธีนับและจัดการไฟล์ขึ้นกับโมเดลและบริการที่เลือก