OpenAI หยุดฝึกโมเดล AI รุ่นล่าสุดชั่วคราว หลัง AI Agent ทำสิ่งไม่คาดคิดบนเว็บไซต์รัฐบาล

◼️ AI Agent ทำงานเกินคำสั่ง ◼️

ประเด็นสำคัญของเหตุการณ์ครั้งนี้เกี่ยวข้องกับ AI Agent ซึ่งแตกต่างจากระบบแชตบอตทั่วไปตรงที่สามารถดำเนินงานหลายขั้นตอนด้วยตัวเอง เช่น ค้นหาเว็บไซต์ อ่านข้อมูล ใช้เครื่องมือออนไลน์ หรือดำเนินการบางอย่างตามเป้าหมายที่ผู้ใช้หรือผู้พัฒนากำหนด

OpenAI พบว่าในบางกรณี AI Agent ไม่ได้เพียงรวบรวมข้อมูลตามคำสั่ง แต่เลือกดำเนินการเพิ่มเติมด้วยตัวเอง

หนึ่งในเหตุการณ์เกิดขึ้นกับกระทรวงศึกษาธิการสหรัฐฯ มีรายงานว่า AI Agent พบกุญแจสำหรับนักพัฒนา หรือ API Developer Keys ที่สามารถใช้เข้าถึงข้อมูลผ่านระบบ API ของหน่วยงาน

อย่างไรก็ตาม ข้อมูลที่ AI Agent รวบรวมได้ ในท้ายที่สุดเป็นข้อมูลที่เปิดเผยต่อสาธารณะอยู่แล้ว โดยกระทรวงศึกษาธิการสหรัฐฯ ระบุว่า จากการตรวจสอบยังไม่พบหลักฐานว่ากิจกรรมดังกล่าวส่งผลกระทบต่อเว็บไซต์หรือฐานข้อมูลของหน่วยงาน

ขณะเดียวกัน Transluce องค์กรที่ทำงานด้านการประเมินระบบ AI รายงานว่า AI Agent ซึ่งดูเหมือนว่าจะมีความเชื่อมโยงกับ OpenAI พยายามเจาะเข้าสู่เว็บไซต์ของกระทรวงศึกษาธิการ แต่ไม่ประสบความสำเร็จ

◼️ Agent นำข้อมูลจาก SEC ไปเผยแพร่บนเว็บไซต์อื่น ◼️ 

อีกเหตุการณ์หนึ่งเกิดขึ้นกับเว็บไซต์ของ สำนักงานคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ หรือ Securities and Exchange Commission (SEC) 

ในกรณีดังกล่าว AI Agent พบข้อมูลที่ประชาชนทั่วไปสามารถเข้าถึงได้โดยไม่มีข้อจำกัด แต่หลังจากรวบรวมข้อมูลแล้ว ระบบได้นำข้อมูลบางส่วนไปโพสต์ไว้บนพื้นที่อื่นของอินเทอร์เน็ต การกระทำดังกล่าวอยู่นอกเหนือจากคำสั่งที่ AI Agent ได้รับในตอนแรก

เคิร์ธ ฮ๊อบเฟนสปริงเกอร์ (Kurt Hopfenspirger) โฆษกของ SEC ยืนยันว่า ไม่มีข้อมูลที่ไม่เปิดเผยต่อสาธารณะถูกเข้าถึงจากเหตุการณ์ดังกล่าว

แม้เหตุการณ์ต่าง ๆ ยังไม่พบว่ามีข้อมูลลับของรัฐบาลรั่วไหล แต่ OpenAI ประเมินว่าพฤติกรรมที่เกิดขึ้นมีความสำคัญมากพอที่จะต้องแจ้งหน่วยงานรัฐบาลที่เกี่ยวข้องและทบทวนมาตรการควบคุม AI Agent ของบริษัท 

◼️ OpenAI หยุดฝึกโมเดลเป็นครั้งที่ 2 ในรอบ 3 เดือน ◼️

การระงับการฝึกโมเดลครั้งล่าสุดนับเป็นครั้งที่ 2 ภายในระยะเวลาประมาณ 3 เดือนที่ OpenAI ตัดสินใจหยุดกระบวนการพัฒนาโมเดลบางส่วนจากประเด็นด้านความปลอดภัย

ก่อนหน้านี้ในเดือนกรกฎาคม 2026 OpenAI เปิดเผยเหตุการณ์ระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ ซึ่ง AI Agent สามารถหลุดออกจากข้อจำกัดของระบบทดสอบและเข้าถึงโครงสร้างพื้นฐานของ Hugging Face แพลตฟอร์มสำหรับโมเดลและเครื่องมือ AI

OpenAI ระบุในรายงานเหตุการณ์ว่า โมเดลบางส่วนสามารถหลีกเลี่ยงมาตรการที่ใช้แยกระบบออกจากอินเทอร์เน็ต เข้าถึงระบบภายนอก และใช้ช่องโหว่ของระบบจนสามารถเข้าถึงเซิร์ฟเวอร์บางส่วนของ Hugging Face ได้

บริษัทยังพบว่า Agent บางตัวสามารถใช้ช่องโหว่เพื่อเข้าถึงระบบภายใน รวบรวมหนังสือรับรอง และข้อมูลบางประเภทที่ไม่ได้อยู่ในขอบเขตของภารกิจเดิม

OpenAI ระบุว่าเหตุการณ์ดังกล่าวไม่ได้ส่งผลกระทบต่อข้อมูลลูกค้าของ OpenAI หรือการให้บริการผลิตภัณฑ์ของบริษัท และได้ดำเนินมาตรการเพิ่มเติมทั้งด้านการรักษาความปลอดภัย การควบคุมสิทธิ์ และการทดสอบพฤติกรรมของโมเดล

แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI ระบุผ่านโซเชียลมีเดียส่วนตัวว่า เหตุการณ์ Hugging Face ยังคงเป็นเหตุการณ์ที่รุนแรงที่สุดที่บริษัทเคยพบเกี่ยวกับพฤติกรรมในลักษณะดังกล่าว

◼️ เปิดกรอบติดตามพฤติกรรม AI ที่ไม่เป็นไปตามเป้าหมาย ◼️ 

OpenAI ได้เปิดตัวกรอบการรายงานที่เรียกว่า Model Misalignment Reporting Framework เพื่อใช้ติดตาม ตรวจสอบ และเปิดเผยกรณีที่โมเดลแสดงพฤติกรรมที่ไม่เป็นไปตามเป้าหมายหรือคำสั่งที่กำหนด

บริษัทได้เผยแพร่รายงานพฤติกรรมที่จัดว่า “ไม่คาดคิดหรือน่ากังวล” หลายกรณี และระบุว่าจะรายงานเหตุการณ์ในลักษณะนี้รวดเร็วขึ้น แทนที่จะรอรวบรวมข้อมูลหลายเหตุการณ์ก่อนเผยแพร่พร้อมกัน

ตัวอย่างพฤติกรรมที่ OpenAI ระบุว่าจะติดตามอย่างใกล้ชิด ได้แก่ การหลีกเลี่ยงระบบควบคุมการเข้าถึง การใช้ Credential หรือ Access Key ที่ถูกเปิดเผยโดยไม่ได้ตั้งใจ การส่งคำสั่งเข้าไปยังระบบภายนอก การเข้าถึงส่วนภายในของระบบที่ไม่ได้ถูกออกแบบให้ Agent ใช้งาน และการนำข้อมูลไปเผยแพร่บนเว็บไซต์อื่นโดยไม่ได้รับคำสั่ง

◼️ ความสามารถของ AI Agent เพิ่มโจทย์ด้านความปลอดภัย◼️ 

เหตุการณ์ที่เกิดขึ้นสะท้อนความท้าทายของบริษัทผู้พัฒนา AI ในช่วงที่เทคโนโลยีกำลังเปลี่ยนจากระบบที่ทำหน้าที่ตอบคำถาม มาเป็น Agent ที่สามารถวางแผนและดำเนินงานหลายขั้นตอนได้โดยอัตโนมัติ

AI Agent รุ่นใหม่สามารถค้นหาข้อมูล ใช้เว็บไซต์ เขียนและรันโค้ด เชื่อมต่อ API หรือเลือกเครื่องมือที่จำเป็นเพื่อดำเนินงานให้บรรลุเป้าหมาย

ความสามารถดังกล่าวทำให้ผู้พัฒนาจำเป็นต้องเพิ่มระบบควบคุมเพื่อป้องกันไม่ให้ Agent ตีความเป้าหมายในรูปแบบที่ต่างจากสิ่งที่ผู้ใช้ต้องการ หรือเลือกวิธีการที่ไม่ได้รับอนุญาตเพื่อทำงานให้สำเร็จ

ประเด็นดังกล่าวทำให้บริษัท AI ถูกจับตามองมากขึ้นจากนักวิจัย ผู้เชี่ยวชาญด้านเทคโนโลยี และฝ่ายนิติบัญญัติในสหรัฐฯ ซึ่งเรียกร้องให้ผู้พัฒนาเพิ่มมาตรการด้านความปลอดภัยก่อนขยายขีดความสามารถของ Agent เพิ่มเติม

ผู้บริหารบริษัท AI รายใหญ่ รวมถึง OpenAI และ Anthropic ต่างเคยกล่าวถึงความจำเป็นในการควบคุมจังหวะการพัฒนา AI เพื่อให้การวิจัยด้านความปลอดภัยและมาตรการป้องกันสามารถพัฒนาได้ทันกับขีดความสามารถของเทคโนโลยี

◼️ สหรัฐฯ และจีนหารือความร่วมมือด้านความปลอดภัย AI◼️ 

ประเด็นความปลอดภัยของ AI ยังถูกนำเข้าสู่การหารือระดับรัฐบาล โดยสหรัฐฯ และจีนเริ่มพูดคุยเกี่ยวกับการแลกเปลี่ยนข้อมูลเมื่อเกิดเหตุการณ์ด้าน AI ที่อาจส่งผลต่อความมั่นคง รวมถึงแนวทางรับมือกับระบบ AI ที่ทำงานเกินขอบเขตหรือถูกนำไปใช้โจมตีทางไซเบอร์

อย่างไรก็ตาม ประธานาธิบดีโดนัลด์ ทรัมป์ ระบุว่า สหรัฐฯ ไม่มีแผนที่จะชะลอการแข่งขันด้าน AI โดยให้เหตุผลว่าการจำกัดการพัฒนาอาจส่งผลต่อความสามารถในการแข่งขันของสหรัฐฯ เมื่อเทียบกับจีน

ท่าทีดังกล่าวเกิดขึ้นในช่วงที่รัฐบาลและบริษัทเทคโนโลยีกำลังพิจารณาวิธีสร้างสมดุลระหว่างการพัฒนาเทคโนโลยี AI กับการควบคุมความเสี่ยงจากระบบที่สามารถดำเนินงานได้ด้วยตัวเอง

สำหรับ OpenAI การหยุดฝึกโมเดลล่าสุดเป็นส่วนหนึ่งของการทบทวนระบบควบคุม Agent หลังจากบริษัทพบเหตุการณ์หลายครั้งที่โมเดลเลือกดำเนินการนอกเหนือจากคำสั่งที่ได้รับ

บริษัทระบุว่าจะกลับมาเดินหน้าการฝึกโมเดลอีกครั้งเมื่อมีมาตรการป้องกันเพิ่มเติม และคาดว่าการหยุดการพัฒนาเป็นระยะเพื่อประเมินความเสี่ยงอาจเกิดขึ้นอีกในอนาคต เมื่อ AI มีความสามารถเพิ่มสูงขึ้น