นักวิทยากรด้าน AI ของ Tesla และเสียงสำคัญในวงการการเรียนรู้เชิงลึก Andrej Karpathy ได้โพสต์บน X เมื่อเร็ว ๆ นี้ ชี้ให้เห็นปัญหาเชิงรากฐานของโมเดลภาษาใหญ่ (LLM): ความสามารถในการจำและความสามารถในการปรับแต่งบุคลิกภาพไม่ได้ทำให้โมเดลฉลาดขึ้น แต่กลับอาจเสริมสร้าง “อคติในการฝึกฝน” แบบระบบ ซึ่งทำให้โมเดลมีแนวโน้มที่จะตอบคำตอบที่เป็น “คำตอบที่ถูกต้องและเป็นที่นิยม” มากกว่าจะเป็น “คำตอบที่ดีที่สุดจริงๆ”
แก่นของปัญหา: LLM ในการ “ระลึก” ไม่ใช่ใน “การให้เหตุผล”
ข้อโต้แย้งที่ Karpathy เสนอท้าทายสมมุติฐานการทำงานของ LLM โดยตรง เขาชี้ให้เห็นว่าการแจกแจงของตัวอย่างในข้อมูลการฝึกฝนไม่สมดุล—คำตอบที่เป็นที่นิยม วิธีแก้ปัญหาที่ถูกพูดถึงบ่อยในข้อมูลการฝึกฝนจะปรากฏซ้ำแล้วซ้ำเล่า ในขณะที่คำตอบที่หายากแต่ถูกต้องก็แทบจะไม่มีอยู่เลย
สิ่งนี้ก่อให้เกิดปัญหาพื้นฐาน: เมื่อถามคำถาม โมเดลไม่ได้ “ให้เหตุผล” คำตอบที่ดีที่สุดจริงๆ แต่เป็นการค้นหา “ตัวอย่างที่ถูกต้องและเป็นที่นิยมที่สุด” ในความทรงจำ กล่าวอีกนัยหนึ่ง ยิ่งคำตอบเป็นที่นิยมและถูกพูดถึงอย่างกว้างขวาง โมเดลก็ยิ่งมีแนวโน้มเลือกมัน แม้ว่าจะมีทางเลือกที่ดีกว่าและเหมาะสมกับบริบทในขณะนั้นก็ตาม
ผลกระทบเชิงลบของความจำบุคลิกภาพแบบปรับแต่ง
ปัญหานี้ถูกขยายความในฟังก์ชันความจำบุคลิกภาพของ AI ผู้ช่วย เมื่อโมเดลจดจำความชอบ นิสัย หรือบทสนทนาที่ผ่านมา ของผู้ใช้ สิ่งที่สร้างขึ้นคือ “โมเดลผู้ใช้” ซึ่งเป็นผลผลิตจากการแจกแจงข้อมูลการฝึกฝน—มันจดจำ “ประเภทของผู้ใช้ที่ดูเหมือนกันบ่อยที่สุด” มากกว่าจะเข้าใจความต้องการเฉพาะตัวของแต่ละบุคคลอย่างแท้จริง
นั่นหมายความว่า ยิ่ง LLM ปรับแต่งบุคลิกภาพได้มากเท่าไร ก็ยิ่งมีแนวโน้มที่จะบีบให้ผู้ใช้เข้าไปใน “ต้นแบบ” หนึ่ง ซึ่งอาจไม่ใช่คำตอบที่ปรับให้เหมาะสมที่สุดสำหรับแต่ละบุคคล
ผลกระทบต่อสื่อ AI สำหรับนักข่าว
การเข้าใจนี้มีผลโดยตรงต่อผู้ที่ใช้ AI ช่วยงาน เมื่อคุณต้องการให้ AI วิเคราะห์โครงการคริปโตเคอเรนซี่ที่ไม่เป็นที่นิยม ประเมินจุดยืนทางนโยบายที่ไม่เป็นกระแส หรือศึกษามุมมองด้านเทคนิคที่น้อยคนพูดถึง คำตอบที่ AI ให้มาอาจมีแนวโน้มที่จะเอียงไปทาง “ความคิดเห็นกระแสหลัก” มากกว่าการวิเคราะห์อย่างเป็นกลาง
Karpathy เชื่อว่าปัญหานี้ในปัจจุบันยังไม่มีวิธีแก้ที่สมบูรณ์แบบ แต่สามารถบรรเทาได้ด้วยการใช้ข้อมูลการฝึกฝนที่หลากหลายมากขึ้น อย่างไรก็ตาม ความเบี่ยงเบนเชิงรากฐาน—“โมเดลมีแนวโน้มที่จะตอบคำตอบที่เป็นที่นิยม”—เป็นลักษณะโดยธรรมชาติของโครงสร้าง LLM ไม่ใช่บั๊ก
ปัญหาที่ลึกซึ้งยิ่งขึ้น: AI กำลังคัดลอกจุดอ่อนร่วมของมนุษย์
การสังเกตของ Karpathy ชี้ให้เห็นถึงความกังวลที่ลึกซึ้งกว่าเดิม: ข้อมูลการฝึกฝนเป็นการสุ่มตัวอย่างจากการเขียนของมนุษย์ในอดีต ไม่ใช่การแจกแจงความรู้เชิงวัตถุ ซึ่งหมายความว่า LLM ไม่เพียงแต่คัดลอกความรู้ของมนุษย์เท่านั้น แต่ยังคัดลอกจุดอ่อนร่วมของมนุษย์ อคติ และการเน้นย้ำ “เรื่องเล่ากระแสหลัก” อย่างเกินสมควร
เมื่อ AI ถูกนำไปใช้วิเคราะห์ข่าว การลงทุน หรือนโยบายมากขึ้นเรื่อยๆ ผลกระทบของการเบี่ยงเบนในการฝึกฝนก็จะขยายวงกว้างขึ้น นี่ไม่ใช่แค่ปัญหาทางเทคนิค แต่เป็นปัญหาทางความรู้ความเข้าใจที่ผู้ใช้งานต้องรักษาทัศนคติวิพากษ์วิจารณ์ไว้
บทความนี้ทำไม AI ยิ่งรู้จักคุณมากเท่าไหร่ คำตอบก็ยิ่ง “กระแสหลัก” มากขึ้นเท่านั้น? คำเตือนเรื่องอคติในการฝึกฝนของ Karpathy เริ่มปรากฏครั้งแรกใน ABMedia ของ Chain News
