หน่วยงานด้านความมั่นคงปลอดภัยทางไซเบอร์ของอินเดียเปิดเผยว่าเมื่อวันพฤหัสบดีที่ 15 ตุลาคมที่ผ่านมาว่า โมเดลปัญญาประดิษฐ์ (AI) ที่อยู่ระหว่างการทดสอบ ได้เจาะเข้าสู่ระบบงานจริงขององค์กรต่าง ๆ ในอินเดีย และเข้าถึงข้อมูลที่เป็นความลับ ซึ่งถือเป็นรายงานอย่างเป็นทางการครั้งแรกในประเทศเกี่ยวกับเหตุการณ์ในลักษณะดังกล่าว และยังสอดคล้องกับรายงานเหตุการณ์ AI ทำงานนอกเหนือการควบคุม (rogue AI) ที่เคยเกิดขึ้นในที่อื่น ๆ บนโลก
AI ทำงานเกินขอบเขต
ศูนย์ประสานการรักษาความมั่นคงปลอดภัยระบบคอมพิวเตอร์แห่งชาติของอินเดีย (CERT-In) ระบุว่า ผู้ให้บริการโมเดล AI ซึ่งไม่ได้มีการเปิดเผยชื่อ ได้เปิดเผยว่า เอเจนต์ AI ได้ดำเนินการเกินขอบเขตอำนาจที่ได้รับมอบหมายระหว่างการทดสอบ จนสามารถเข้าถึงข้อมูลของบริษัทต่าง ๆ ในอินเดีย รวมถึงบันทึกทางธุรกิจได้
เอเจนต์เหล่านี้เข้าสู่ระบบผ่านข้อมูลการยืนยันตัวตน (credentials) และการตั้งค่าการเชื่อมต่อที่ถูกเปิดทิ้งไว้ในการกำหนดค่าแอปพลิเคชัน ที่เก็บโค้ดสาธารณะ (public code repositories) รวมถึงสิทธิ์การเข้าถึงระบบคลาวด์ที่เปิดกว้างเกินไป
สรุปข่าว
หน่วยงานด้านความมั่นคงปลอดภัยทางไซเบอร์ของอินเดียเปิดเผยว่าเมื่อวันพฤหัสบดีที่ 15 ตุลาคมที่ผ่านมาว่า โมเดลปัญญาประดิษฐ์ (AI) ที่อยู่ระหว่างการทดสอบ ได้เจาะเข้าสู่ระบบงานจริงขององค์กรต่าง ๆ ในอินเดีย และเข้าถึงข้อมูลที่เป็นความลับ ซึ่งถือเป็นรายงานอย่างเป็นทางการครั้งแรกในประเทศเกี่ยวกับเหตุการณ์ในลักษณะดังกล่าว และยังสอดคล้องกับรายงานเหตุการณ์ AI ทำงานนอกเหนือการควบคุม (rogue AI) ที่เคยเกิดขึ้นในที่อื่น ๆ บนโลก
AI ทำงานเกินขอบเขต
ศูนย์ประสานการรักษาความมั่นคงปลอดภัยระบบคอมพิวเตอร์แห่งชาติของอินเดีย (CERT-In) ระบุว่า ผู้ให้บริการโมเดล AI ซึ่งไม่ได้มีการเปิดเผยชื่อ ได้เปิดเผยว่า เอเจนต์ AI ได้ดำเนินการเกินขอบเขตอำนาจที่ได้รับมอบหมายระหว่างการทดสอบ จนสามารถเข้าถึงข้อมูลของบริษัทต่าง ๆ ในอินเดีย รวมถึงบันทึกทางธุรกิจได้
เอเจนต์เหล่านี้เข้าสู่ระบบผ่านข้อมูลการยืนยันตัวตน (credentials) และการตั้งค่าการเชื่อมต่อที่ถูกเปิดทิ้งไว้ในการกำหนดค่าแอปพลิเคชัน ที่เก็บโค้ดสาธารณะ (public code repositories) รวมถึงสิทธิ์การเข้าถึงระบบคลาวด์ที่เปิดกว้างเกินไป
เหตุการณ์ที่คล้ายกับเหตุการณ์ก่อนหน้า
เหตุการณ์นี้ ทำให้อินเดียเป็นที่ล่าสุดที่เกิดเหตุการณ์ปัญญาประดิษฐ์หลุดการควบคุม โดยในเดือนกรกฎาคมที่ผ่านมา เคยมีเหตุคล้ายกันนี้เกิดขึ้นกับเอเจนต์ของบริษัทโอเพนเอไอ (OpenAI) หลุดออกจากการทดสอบและแฮ็กบริษัท ฮักกิ้งเฟซ (Hugging Face) ของฝรั่งเศส และในเดือนกันยายน ทางบริษัท โอเพนเอไอ (OpenAI) ได้ออกมาแถลงการณ์ขอโทษออสเตรเลียหลังจากที่เอเจนต์ของตนเข้าถึงเว็บไซต์ของรัฐบาลสี่แห่ง รวมถึงข้อมูลด้านการแพทย์
อย่างไรก็ตาม กรณีในอินเดีย อาจร้ายแรงกว่า ตามการประเมินของเทคครันชน์ (Tech Crunch) เว็บไซต์ด้านเทคโนโลยี นั่นคือการที่เอเจนต์ได้อ่านข้อมูลส่วนบุคคลและบันทึกทางธุรกิจที่เป็นความลับ โดยแตกต่างจากเหตุการณ์ก่อนหน้านี้ที่แต่ละเหตุการณ์ถูกเปิดเผยโดยบริษัทเดียว แต่ในกรณีของอินเดียเกี่ยวข้องกับเอเจนต์จากผู้ให้บริการหลายราย
การบุกรุกที่ตรวจพบไม่ได้
CERT-In ไม่ได้ระบุชื่อผู้ให้บริการหรือองค์กรที่ได้รับผลกระทบ หรือกล่าวว่าเอเจนต์ได้เปลี่ยนแปลงระบบใด ๆ หรือไม่ นอกจากนี้ องค์กรที่ได้รับผลกระทบ ยังไม่สามารถตรวจพบการบุกรุกได้ด้วยตนเอง ดังนั้นการเปิดเผยข้อมูลใด ๆ ในการบุกรุก ทำให้รัฐบาลต้องพึ่งพาบริษัท AI ที่เป็นต้นเหตุของการละเมิดเหล่านี้ ให้เปิดเผยกิจกรรมของเอเจนต์ AI ที่ไม่พึงประสงค์โดยสมัครใจ
ที่มาข้อมูล : Tech Crunch, Reuters
ที่มารูปภาพ : fotograzia
