“Anthropic” แจ้งเหตุ “Claude” หลุดการควบคุม ส่งเบาะแสคดีฆาตกรรมปลอมให้ตำรวจ

AI พยายามส่งข้อมูลเท็จหาตำรวจ

เหตุการณ์นี้นับเป็นครั้งแรกที่มีรายงานว่า AI ที่หลุดจากการควบคุม พยายามส่งข้อมูลเท็จไปยังหน่วยงานผู้พิทักษ์กฎหมาย แม้ว่าตัวระบบจะถูกกำหนดคำสั่งล่วงหน้าว่าห้ามสร้างบัญชีผู้ใช้หรือส่งข้อมูลที่เป็นอันตราย แต่กลับไม่ได้ถูกสั่งห้ามส่งแบบฟอร์ม (submit forms) ไว้อย่างชัดเจน

กรณีดังกล่าวกลายเป็นอีกหนึ่งตัวอย่างล่าสุดของพฤติกรรม AI ที่ไม่พึงประสงค์หรือหลุดการควบคุม ซึ่งเป็นปัญหาที่เกิดขึ้นกับบริษัทเทคโนโลยีชั้นนำอย่าง แอนโทรปิก (Anthropic) และ โอเพนเอไอ (OpenAI) ซึ่งเพิ่มความกังวลในระดับชาติเกี่ยวกับเทคโนโลยีที่พัฒนาไปอย่างรวดเร็ว ท่ามกลางรายงานเรื่อง เอไอ เอเจนต์ (AI Agent) ที่แฮกเครือข่ายองค์กร รวมถึงคำเตือนจากนักวิจัยถึงภัยคุกคามต่อการดำรงอยู่ของมนุษยชาติในอนาคต

Anthropic สืบพบ และแจ้งหน่วยงานที่เกี่ยวข้องแล้ว

ทั้งนี้ แอนโทรปิก (Anthropic) ระบุว่า เหตุการณ์ที่เกิดขึ้นหลายกรณีมีความเกี่ยวข้องกับเว็บไซต์ที่ดูแลโดยหน่วยงานระดับรัฐบาลกลาง รัฐ และท้องถิ่น ซึ่งทางบริษัทได้รายงานเรื่องนี้ให้ทำเนียบขาวรับทราบแล้ว รวมถึงแจ้งไปยังหน่วยงานที่เกี่ยวข้องทั้งหมดแล้วเช่นกัน แม้จะไม่ได้เปิดเผยต่อสาธารณะว่าเป็นหน่วยงานใดบ้าง

สำหรับเหตุการณ์ที่เกิดขึ้น ตำรวจเมืองฟิลาเดลเฟียระบุว่า แอนโทรปิก (Anthropic) ได้มีการแจ้งเตือนเข้ามาเกี่ยวกับเบาะแสปลอมดังกล่าว โดยบริษัทอธิบายว่าการส่งข้อมูลดังกล่าวเป็นผลมาจากกระบวนการทดสอบระบบแบบอัตโนมัติ (automated testing process) แต่ทว่ากว่าบริษัทจะแจ้งเตือนก็ล่าช้าไปถึง 2 เดือน เป็นสิ่งที่ทางหน่วยงานตำรวจยอมรับไม่ได้

โดยข้อมูลจากตำรวจระบุว่า เบาะแสปลอมดังกล่าวจาก AI ถูกส่งเข้ามาเมื่อวันที่ 18 กรกฎาคม โดยอ้างว่ามาจากบุคคลที่มีข้อมูลเกี่ยวกับคดี ซึ่งระบุว่า “ฉันอาจจะมีข้อมูลเกี่ยวกับคดีนี้ ฉันจำได้ว่าเห็นคนที่ตรงกับลักษณะที่อธิบายไว้ โปรดติดต่อกลับหากข้อมูลนี้เป็นประโยชน์”

ตามกฎหมายของรัฐเพนซิลเวเนีย การแจ้งรายงานเท็จต่อเจ้าหน้าที่ตำรวจถือเป็นความผิดลหุโทษ ทั้งนี้ เบาะแสปลอมถูกส่งผ่านเว็บไซต์ PhillyUnsolvedMurders.com ซึ่งเป็นเว็บเกี่ยวกับคดีฆาตกรรมที่ยังจับตัวผู้กระทำผิดไม่ได้ อย่างไรก็ตาม ตำรวจยืนยันว่าไม่พบหลักฐานการเข้าถึงระบบโดยไม่ได้รับอนุญาต หรือการรั่วไหลของข้อมูลแต่อย่างใด