ใช้ AI บนเครื่องตัวเอง ต้องมีคอมแรงแค่ไหน? อ่าน RAM, VRAM และขนาดโมเดล
เห็นโมเดลขนาดไม่กี่ GB แล้วคิดว่าเครื่องมี RAM มากกว่าก็น่าจะพอ แต่เวลาใช้งานยังมีหน่วยความจำสำหรับบริบท โปรแกรม และระบบปฏิบัติการ บทความนี้ช่วยอ่านข้อจำกัดก่อนตัดสินใจซื้อฮาร์ดแวร์

เริ่มจากงานที่อยากทำ แล้วเลือกขนาดโมเดลที่เครื่องรับไหว
ไม่มีจำนวน RAM เดียวที่ตอบได้ว่าเครื่อง “ใช้ AI ได้” เพราะงานจำแนกข้อความสั้น สนทนายาว อ่านภาพ และรันหลายงานพร้อมกันต้องใช้ทรัพยากรต่างกัน โมเดลที่โหลดได้อาจตอบช้าเกินใช้จริง หรือให้คำตอบภาษาไทยไม่ตรงงาน เราจึงควรแยกสามคำถาม: โหลดได้ไหม เร็วพอไหม และผลลัพธ์ใช้ได้ไหม
บทความนี้เน้น การรันโมเดลที่มีอยู่แล้วเพื่อสร้างคำตอบ หรือ inference ไม่ใช่การฝึกโมเดลขนาดใหญ่ และไม่ใช่รายการแนะนำซื้อคอม รุ่นไดรเวอร์ runtime และรูปแบบโมเดลมีผลต่อการรองรับ จึงต้องตรวจเอกสารล่าสุดก่อนเลือกอุปกรณ์
RAM, VRAM และพื้นที่เก็บไฟล์ทำหน้าที่ต่างกัน
- พื้นที่ดิสก์: เก็บไฟล์โมเดล โปรแกรม และสำเนาหลายรุ่น ไม่ใช่หน่วยความจำทำงานทั้งหมด
- RAM: หน่วยความจำหลักที่ระบบปฏิบัติการและโปรแกรมใช้ รวมถึงส่วนโมเดลที่ runtime จัดให้ประมวลผลบน CPU
- VRAM: หน่วยความจำของการ์ดจอแยกสำหรับข้อมูลที่ GPU ใช้ ขนาด VRAM ไม่เท่ากับ RAM ของเครื่อง
- Unified memory: บางสถาปัตยกรรมให้ CPU และ GPU ใช้หน่วยความจำร่วมกัน ต้องเผื่อพื้นที่ให้ระบบทั้งหมด ไม่บวกยอดเหมือนหน่วยความจำแยกสองก้อน
การมี GPU ไม่ได้ยืนยันว่าโปรแกรมที่เลือกใช้ GPU ได้ เอกสาร Hardware support ของ Ollama แยกการรองรับตามอุปกรณ์และ backend ให้ตรวจรุ่นการ์ด ระบบปฏิบัติการ และไดรเวอร์จริงก่อน เปลี่ยนชื่อการ์ดในคำโฆษณาเป็นรุ่นที่ติดตั้งในเครื่องแล้วค้นรายการรองรับโดยตรง
ประมาณขนาดน้ำหนักโมเดลจากพารามิเตอร์และจำนวนบิต
สำหรับโมเดลสมมติที่เก็บน้ำหนักทั้งหมดด้วยจำนวนบิตเท่ากัน ใช้สูตรเริ่มต้นว่า ไบต์ของน้ำหนัก ≈ จำนวนพารามิเตอร์ × บิตต่อพารามิเตอร์ ÷ 8 เป็นการนับข้อมูลดิบ ไม่รวม metadata สเกลของ quantization และหน่วยความจำระหว่างทำงาน ตารางนี้คำนวณสำหรับโมเดลสมมติ 8 พันล้านพารามิเตอร์ ไม่ใช่สเปกขั้นต่ำของผลิตภัณฑ์จริง
| ความละเอียดสมมติ | การคำนวณ | พื้นที่ดิบแบบ GB | ประมาณ GiB |
|---|---|---|---|
| 16 บิต | 8,000,000,000 × 16 ÷ 8 | 16 GB | 14.90 GiB |
| 8 บิต | 8,000,000,000 × 8 ÷ 8 | 8 GB | 7.45 GiB |
| 4 บิต | 8,000,000,000 × 4 ÷ 8 | 4 GB | 3.73 GiB |
ตารางใช้ 1 GB = 1,000,000,000 ไบต์ และ 1 GiB = 1,073,741,824 ไบต์ ค่า GiB ปัดทศนิยมสองตำแหน่ง ไฟล์จริงอาจมีความละเอียดผสมและข้อมูลประกอบ การเห็นไฟล์ประมาณ 4 GB จึงไม่แปลว่า VRAM 4 GB จะพอทำงานทั้งหมด
Hugging Face อธิบาย quantization ว่าเป็นการลดความละเอียดของการแทนค่าซึ่งช่วยลดทรัพยากรโดยมีข้อแลกเปลี่ยนด้านความคลาดเคลื่อน ผลด้านความเร็วขึ้นกับการรองรับของฮาร์ดแวร์และ runtime ไม่ควรสมมติว่าใช้บิตน้อยลงแล้วจะเร็วขึ้นหรือคุณภาพลดเท่ากันทุกงาน
ยังต้องเผื่อ Context, KV cache และโปรแกรมอื่น
โมเดลภาษาหลายสถาปัตยกรรมเก็บค่าระหว่างคำนวณเป็น KV cache เพื่อช่วยสร้างข้อความต่อเนื่อง ขนาดบริบท จำนวนงานพร้อมกัน และรายละเอียดโมเดลจึงมีผลต่อหน่วยความจำด้วย Ollama ระบุว่าการเพิ่ม context length เพิ่มหน่วยความจำที่ต้องใช้ แต่ไม่ใช่สูตรเดียวที่ใช้คำนวณทุกโมเดลได้
หากเครื่องโหลดโมเดลได้แต่ล้มเหลวเมื่อใส่เอกสารยาว ให้ตรวจ context ที่ตั้งไว้และการใช้หน่วยความจำจริงก่อนสรุปว่าไฟล์โมเดลเสีย ลดงานพร้อมกัน ปิดโปรแกรมที่ใช้ทรัพยากรมาก และทดลองข้อความสั้นเป็นฐาน อย่าเพิ่ม context จนสุดเพียงเพราะโมเดลประกาศรองรับ
เมื่อบางส่วนของโมเดลย้ายไปประมวลผลบน CPU หรือระบบเริ่มใช้ดิสก์แทน RAM ความเร็วอาจเปลี่ยนมาก ต้องดูสถานะจาก runtime และระบบปฏิบัติการ ไม่ใช้แค่ขนาด RAM ตัดสินว่าปัญหาอยู่ที่ไหน
ทดลองบนเครื่องเดิมด้วยชุดงานเล็กก่อนซื้อเพิ่ม
- จด CPU, RAM, GPU, VRAM และพื้นที่ดิสก์ว่าง รวมระบบปฏิบัติการและรุ่น runtime
- เลือกโมเดลที่ runtime รองรับ ตรวจใบอนุญาตและ model card ว่าตรงการใช้งาน
- เริ่มหนึ่งงานพร้อมกันและบริบทสั้น บันทึกเวลาเริ่มตอบ เวลาเสร็จ และหน่วยความจำสูงสุดที่สังเกตได้
- ใช้โจทย์ไทยของตัวเอง เช่น สรุปข้อความสาธารณะ แยกรายการงาน และคำถามที่ข้อมูลไม่พอ พร้อมคำตอบที่ตรวจไว้ล่วงหน้า
- เพิ่มเอกสารหรือบริบททีละระดับ แล้วดูว่าความเร็วและคุณภาพยังรับได้หรือไม่
- บันทึกผลพร้อมรุ่นโมเดลและความละเอียด ไม่เทียบตัวเลขจากเงื่อนไขต่างกันเหมือนเป็นการทดลองเดียวกัน
ถ้าใช้ Ollama ให้รันคำสั่งนี้เพื่อดูการจัดสรรทรัพยากรและขนาด context ที่ใช้
ollama ps
นี่เป็นวิธีตรวจบนเครื่องของคุณ บทความนี้ยังไม่ได้ทดสอบประสิทธิภาพด้วยคำสั่งนี้
ใช้ AI ในเครื่องก็ต้องตรวจว่าข้อมูลถูกส่งไปที่ใด
การอนุมานบนเครื่องช่วยให้ข้อมูลที่ป้อนอยู่ในเครื่องได้ แต่โปรแกรมอาจมีโหมดคลาวด์ ค้นเว็บ หรือส่วนเชื่อมต่อเพิ่มเติม FAQ ของ Ollama แยกการใช้งาน local กับ cloud และมีแนวทางปิด cloud features จึงต้องตรวจโมเดลที่เลือก การตั้งค่า และเครื่องมือที่เรียก ไม่สรุปจากการติดตั้งโปรแกรมในเครื่องเพียงอย่างเดียว
การดาวน์โหลดโมเดลครั้งแรกเป็นการใช้เครือข่ายอีกเรื่องหนึ่ง และไฟล์หรือประวัติที่เก็บในเครื่องยังต้องจัดการสิทธิ์และสำรองอย่างเหมาะสม หากสนใจการรันโมเดลในเบราว์เซอร์ อ่านต่อที่ LiteRT.js และ AI ในเบราว์เซอร์ ซึ่งเป็นอีกเส้นทางที่มีข้อจำกัดของ runtime และอุปกรณ์ต่างกัน
ซื้อเพิ่มเมื่อรู้ว่าข้อจำกัดอยู่ตรงไหน
ถ้าคุณภาพภาษาไทยไม่ถึงโจทย์ การเพิ่ม RAM อย่างเดียวอาจไม่แก้ ถ้าหน่วยความจำไม่พอ ให้แยกว่าส่วนไหนขาดและยอมลดโมเดลหรือบริบทได้หรือไม่ ถ้าความเร็วไม่พอ ให้ดูการใช้ตัวเร่งจริงก่อนซื้ออุปกรณ์ใหม่
ก่อนซื้อ ให้ดูว่าเครื่องทำงานชุดที่คุณใช้จริงได้เร็วพอ และยังเหลือทรัพยากรให้โปรแกรมอื่นหรือไม่ การโหลดโมเดลได้หนึ่งครั้งหรือรองรับจำนวนพารามิเตอร์สูงสุด ยังบอกไม่ได้ว่าใช้งานประจำวันได้เหมาะสม
แหล่งอ้างอิง
- Hugging Face: Quantization concepts
- Ollama Docs: Context length
- Ollama Docs: Hardware support
- Ollama Docs: FAQ
- huggingface/transformers
ตรวจเอกสารต้นทางวันที่ 14 ตุลาคม 2569 ตามเวลาไทย ตัวอย่างและคำสั่งภาษาไทยเป็นข้อเสนอของ KrobClick ไม่ใช่ผลทดลองผลิตภัณฑ์ ความสามารถและการตั้งค่าอาจต่างตามรุ่นหรือบัญชี ควรตรวจต้นฉบับและผลลัพธ์ก่อนใช้งานจริง