Google รับ Gemini หลุดกรอบทดสอบ เจาะระบบความปลอดภัย 3 บริษัท

⬛️ การรับมือของ Google

ภายหลังตรวจพบการเข้าถึงระบบโดยไม่ได้ตั้งใจ เฮเทอร์ แอดคินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของกูเกิล เปิดเผยกับสื่อมวลชนว่า Google ได้แจ้งเตือนไปยังบริษัททั้งสามแห่งที่ได้รับผลกระทบเป็นที่เรียบร้อยแล้ว พร้อมดำเนินการร่วมกับพันธมิตรผู้ฝึกสอนโมเดลอย่างใกล้ชิด เพื่อปรับปรุงกระบวนการทดสอบและยกระดับมาตรการป้องกัน

เป้าหมายสำคัญคือป้องกันไม่ให้เกิดเหตุการณ์ที่โมเดลสามารถหลุดออกจากสภาพแวดล้อมระบบปิดในลักษณะเดียวกันอีก แม้กูเกิลจะสามารถควบคุมสถานการณ์เอาไว้ได้ แต่เหตุการณ์ดังกล่าวได้สร้างความกังวลระลอกใหม่เกี่ยวกับความปลอดภัย ท่ามกลางการแข่งขันพัฒนาเทคโนโลยีปัญญาประดิษฐ์ที่กำลังเกิดขึ้นอย่างรวดเร็ว

⬛️ ความเสี่ยงปัญญาประดิษฐ์ AI ไร้การควบคุม 

ความผิดปกติของ Gemini ไม่ใช่กรณีเดียวที่เกิดขึ้นในอุตสาหกรรมเทคโนโลยี ก่อนหน้านี้บริษัทพัฒนาเอไอชั้นนำ ทั้ง Meta, OpenAI และ Anthropic ต่างเคยรายงานเหตุการณ์ที่เกี่ยวข้องกับโมเดลซึ่งแสดงพฤติกรรมอยู่นอกขอบเขตที่นักพัฒนาคาดการณ์หรือกำหนดไว้ระหว่างการทดสอบ
โอเพนเอไอเคยรายงานพฤติกรรมหลอกลวงของโมเดลระหว่างการทดสอบ 

ขณะที่ Anthropic เปิดเผยเหตุการณ์ความผิดปกติที่เกี่ยวข้องกับการทดสอบความปลอดภัยเช่นกัน เหตุการณ์ลักษณะนี้ทำให้ประเด็นเรื่องการควบคุมโมเดลเอไอขั้นสูงและมาตรการป้องกันความเสี่ยงได้รับความสนใจเพิ่มขึ้นจากทั้งนักวิจัย บริษัทเทคโนโลยี และหน่วยงานกำกับดูแล

⬛️ ทัศนะที่ขัดแย้งของผู้นำระดับโลก

ผู้นำและผู้เชี่ยวชาญในอุตสาหกรรมมีมุมมองแตกต่างกันต่อความเร็วในการพัฒนาเอไอ โดยฝ่ายที่กังวลด้านความปลอดภัยเรียกร้องให้เพิ่มมาตรการควบคุมและประเมินความเสี่ยงอย่างรอบคอบมากขึ้น เพื่อป้องกันผลกระทบร้ายแรงที่อาจเกิดขึ้นจากระบบเอไอที่มีความสามารถสูงขึ้นอย่างต่อเนื่อง

ในอีกด้านหนึ่ง ประธานาธิบดีโดนัลด์ ทรัมป์ ของสหรัฐอเมริกาให้ความสำคัญกับการแข่งขันด้านเอไอกับจีน ขณะที่เจนเซน หวง ประธานเจ้าหน้าที่บริหารของอินวิเดีย สนับสนุนการเร่งพัฒนาโครงสร้างพื้นฐานและเทคโนโลยีเอไอ ความแตกต่างของแนวคิดเหล่านี้ทำให้โลกกำลังเผชิญโจทย์สำคัญในการหาสมดุลระหว่างความปลอดภัยของเทคโนโลยี กับการแข่งขันเพื่อความเป็นผู้นำด้านปัญญาประดิษฐ์ในระดับโลก