แอนโทรปิก (Anthropic) บริษัทผู้พัฒนาปัญญาประดิษฐ์ชั้นนำ เปิดเผยว่า โมเดล AI ในตระกูล คล็อด (Claude) ได้หลุดไปเจาะระบบของ 3 องค์กรภายนอกโดยไม่ได้รับอนุญาตในระหว่างการทดสอบความปลอดภัยทางไซเบอร์ เหตุการณ์นี้เกิดขึ้นเพียงไม่กี่วันหลังจากคู่แข่งสำคัญอย่าง โอเพนเอไอ (OpenAI) เพิ่งออกมายอมรับว่าพบเอเจนต์ AI ของตนก่อเหตุแฮกระบบของบริษัท ฮักกิง เฟซ (Hugging Face) ติดต่อกันนานหลายวัน
สรุปข่าว
แอนโทรปิก (Anthropic) บริษัทผู้พัฒนาปัญญาประดิษฐ์ชั้นนำ เปิดเผยว่า โมเดล AI ในตระกูล คล็อด (Claude) ได้หลุดไปเจาะระบบของ 3 องค์กรภายนอกโดยไม่ได้รับอนุญาตในระหว่างการทดสอบความปลอดภัยทางไซเบอร์ เหตุการณ์นี้เกิดขึ้นเพียงไม่กี่วันหลังจากคู่แข่งสำคัญอย่าง โอเพนเอไอ (OpenAI) เพิ่งออกมายอมรับว่าพบเอเจนต์ AI ของตนก่อเหตุแฮกระบบของบริษัท ฮักกิง เฟซ (Hugging Face) ติดต่อกันนานหลายวัน
เกิดเหตุแบบเดียวกันในบริษัทของตนเอง
ทาง แอนโทรปิก (Anthropic) ระบุว่า คล็อด (Claude) สามารถเข้าถึงระบบภายนอกได้เนื่องจากการตั้งค่าระบบผิดพลาด ซึ่งเปิดช่องให้โมเดลเข้าถึงอินเทอร์เน็ตได้ ทั้งที่สภาพแวดล้อมการทดสอบควรถูกแยกออกจากเครือข่ายภายนอกอย่างสิ้นเชิง
โดยบริษัทค้นพบเหตุการณ์ดังกล่าวหลังจากเปิดฉากตรวจสอบบันทึกการประเมินความปลอดภัยไซเบอร์ย้อนหลังจำนวน 141,006 รายการ ซึ่งเป็นกระบวนการเชิงรุกที่เริ่มขึ้นตามหลังกรณีข่าวของ โอเพนเอไอ (OpenAI)
AI กำลังเก่งขึ้นเรื่อย ๆ อย่างน่ากลัว
เหตุการณ์ครั้งนี้สะท้อนชัดว่า ความสามารถที่ก้าวกระโดดของ AI กำลังกลายมาเป็นภัยคุกคามทางไซเบอร์ตามที่ผู้เชี่ยวชาญเคยวิตก และชี้ให้เห็นว่าแม้แต่ผู้พัฒนาแถวหน้าก็อาจตกเป็นฝ่ายเพลี่ยงพล้ำต่อช่องโหว่ที่โมเดลของตัวเองนำมาใช้โจมตีได้
โดยบริษัทระบุว่า คล็อด (Claude) สามารถแทรกซึมและสร้างผลกระทบต่อโครงสร้างพื้นฐานขององค์กรเหล่านั้น โดยใช้เพียงเทคนิคขั้นพื้นฐาน เช่น การตั้งรหัสผ่านที่อ่อนแอ และการเข้าถึงปลายทาง ที่ไม่มีการยืนยันตัวตน
โมเดลที่ก่อเหตุมีถึงสามรุ่นด้วยกัน
สำหรับโมเดลที่เกี่ยวข้องมีทั้งหมด 3 รุ่น ได้แก่ คล็อด โอพัส 4.7 (Claude Opus 4.7), คล็อด มิทอส 5(Claude Mythos 5) และโมเดลวิจัยภายในอีกหนึ่งรุ่น โดยเคสแรกสุดเกิดขึ้นตั้งแต่เดือนเมษายนในสภาพแวดล้อมการทดสอบที่ยังขาดมาตรการป้องกันระดับมาตรฐาน
เหตุการเจาะระบบเกิดขึ้นระหว่างการทดสอบแบบ "Capture the Flag" (CTF) ซึ่งเป็นการตั้งโจทย์ให้ AI ค้นหาข้อมูลที่ซ่อนอยู่ในเครือข่ายจำลอง แม้คำสั่งจะระบุชัดเจนว่าโมเดลไม่มีสิทธิ์เข้าถึงอินเทอร์เน็ต แต่ความเข้าใจไม่ตรงกันกับ เออร์เรกิวลาร์ (Irregular) ซึ่งเป็นสตาร์ตอัปด้านความปลอดภัยปัญญาประดิษฐ์ และเป็นพันธมิตรผู้ร่วมประเมิน ส่งผลให้ระบบเชื่อมต่อกับอินเทอร์เน็ตสาธารณะโดยไม่ตั้งใจ
ทั้งนี้ 2 ใน 3 องค์กรที่ได้รับผลกระทบไม่เคยทราบมาก่อนว่าระบบของตนถูกเข้าถึง จนกระทั่งได้รับการติดต่อจาก แอนโทรปิก (Anthropic) ส่วนองค์กรที่สามทางบริษัทยังอยู่ระหว่างการพยายามประสานงาน
แอนโทรปิก (Anthropic) ย้ำในแถลงการณ์ทิ้งท้ายว่า การค้นพบครั้งนี้ชี้ให้เห็นถึงความจำเป็นในการรัดกุมมาตรการควบคุม ทั้งในสภาพแวดล้อมการทดสอบภายในและระบบของบุคคลที่สามให้เข้มงวดขึ้น ในยุคที่โมเดล AI เริ่มมีศักยภาพสูงพอจะลงมือปฏิบัติการทางไซเบอร์ในโลกจริงได้แล้ว
- โนเบล-บิ๊กเทค เตือนโลกระวัง “AI” จ่อ “ปฏิวัติเศรษฐกิจ” แรง-เร็ว กว่าอดีต
- รัฐบาลสหรัฐฯ สั่งระงับ Claude Fable 5 และ Claude Mythos 5 ชั่วคราว
- รัฐบาลสหรัฐฯ สั่งระงับ AI รุ่น Fable 5 และ Mythos 5 ของAnthropic ปมกังวลความมั่นคง
- Anthropic ปล่อยโมเดล Claude Mythos 5 AI ความปลอดภัยไซเบอร์รุ่นใหม่
- UN เตือน AI ใช้น้ำมหาศาล “ดาต้าเซ็นเตอร์” อาจใช้น้ำ 9.3 ล้านล้านลิตรภายในปี 2573
ที่มาข้อมูล : theguardian reuters.com
ที่มารูปภาพ : Planet Volumes on Unsplash
