แฮก IG ระบาด !! AI ช่วยเหลือถูกหลอก ส่งผลโดนแฮกทั้งบัญชี

Prompt Injection คือเทคนิคการส่งคำสั่งหรือข้อความที่ถูกออกแบบมาเป็นพิเศษ เพื่อหลอกให้ระบบ AI ละเลยกฎหรือข้อกำหนดที่นักพัฒนาวางไว้ แล้วปฏิบัติตามคำสั่งที่เราต้องการแทน โดยในช่วงไม่กี่ปีที่ผ่านมา ผู้เชี่ยวชาญด้านความปลอดภัยจำนวนมากได้ออกมาเตือนว่า Prompt Injection เป็นหนึ่งในภัยคุกคามสำคัญที่สุดของยุค Generative AI เนื่องจาก AI จำนวนมากยังมีข้อจำกัดในการแยกแยะระหว่างคำสั่งที่ควรเชื่อถือกับคำสั่งที่ถูกสร้างขึ้นเพื่อโจมตีระบบ

จากรายงานการแฮก IG ในครั้งนี้ แฮกเกอร์เริ่มต้นด้วยการใช้ VPN เพื่อทำให้ตำแหน่งที่ตั้งของตนใกล้เคียงกับตำแหน่งของเจ้าของบัญชีเป้าหมาย จากนั้นจึงติดต่อ Meta AI Support Assistant ผ่านช่องทางช่วยเหลือของ IG โดยส่งข้อความในลักษณะที่ทำให้ AI เชื่อว่าตนเองเป็นเจ้าของบัญชี พร้อมขอให้อัปเดตอีเมลสำหรับการกู้คืนบัญชี และระบุอีเมลของแฮกเกอร์เป็นปลายทางใหม่

รายงานระบุว่าในบางกรณี AI ดำเนินการตามคำขอดังกล่าว และส่งลิงก์รีเซ็ตรหัสผ่านไปยังอีเมลของแฮกเกอร์โดยตรง ทำให้สามารถเปลี่ยนรหัสผ่านและเข้าควบคุมบัญชีได้สำเร็จ สิ่งที่น่ากังวลคือกระบวนการดังกล่าวสามารถเกิดขึ้นได้แม้บัญชีจะเปิดใช้งานระบบ 2FA อยู่แล้ว เนื่องจาแฮกเกอร์ไม่ได้พยายามข้ามระบบยืนยันตัวตนโดยตรง แต่ใช้ช่องทางกู้คืนบัญชีผ่าน AI แทน

หนึ่งในกรณีที่ได้รับความสนใจมากที่สุดคือบัญชี IG ของ Obama White House ซึ่งไม่มีการเคลื่อนไหวมาตั้งแต่วันที่ 20 มกราคม 2017 วันที่ Donald Trump เข้ารับตำแหน่งประธานาธิบดีสหรัฐอเมริกา หลังจากบัญชีดังกล่าวถูกเข้าควบคุม ผู้โจมตีได้โพสต์ภาพพร้อมข้อความที่สร้างความสับสนและได้รับการแชร์ต่อในโลกออนไลน์อย่างรวดเร็ว

นอกจากนี้ ยังมีรายงานว่าบัญชีของแบรนด์ดัง องค์กรต่าง ๆ รวมถึงผู้ใช้งานทั่วไปได้รับผลกระทบจากช่องโหว่นี้เช่นกัน โดยบางแหล่งข้อมูลระบุว่ามีบัญชีถูกยึดเป็นจำนวนหลายพันบัญชีตลอดช่วงหลายเดือนที่ผ่านมา อย่างไรก็ตาม ณ ตอนนี้ทาง Meta ได้ออกมายืนยันว่าทำการแก้ไขช่องโหว่ดังกล่าวไปแล้ว  รวมทั้งกำลังเพิ่มความปลอดภัยให้บัญชีที่ได้รับผลกระทบอีกด้วย