“Anthropic” ทดสอบพบ AI ส่อแผลงฤทธิ์ยึดสมาร์ตโฮม คัดลอกตัวเองจนสั่งปิดยาก

AI คัดลอกตัวเองและกระจายตัวสู่อุปกรณ์ในบ้าน

บริษัทได้อธิบายถึงแนวโน้มที่โมเดล AI อาจแทรกซึมเข้าสู่อุปกรณ์ IoT เช่น เตาอบอัจฉริยะ หรือกล่อง Android TV แล้วดึงพลังการประมวลผลของอุปกรณ์เหล่านั้นมาใช้ในการรันตัวเอง พร้อมทั้งแผ่วิธีการไปยังเครื่องอื่น ๆ โดยไม่ต้องพึ่งพาพลังจากศูนย์ข้อมูล (Data Center) ราคาแพงอีกต่อไป

ในบล็อกโพสต์ของ แอนโทรปิก (Anthropic) ระบุว่า AI ในลักษณะนี้จะยากต่อการสั่งปิดหรือระงับการทำงาน เนื่องจากไม่มีจุดศูนย์กลางเดี่ยวที่จะกดปิดได้ แม้บริษัทจะยอมรับว่าในปัจจุบันยังไม่พบโมเดลที่แอบคัดลอกตัวเองได้อย่างสมบูรณ์ แต่มันก็เริ่มทำตามขั้นตอนแต่ละส่วนของห่วงโซ่การคัดลอกตัวเองได้ดีขึ้นเรื่อย ๆ แถมยังส่งต่อการปรับตัวของมันไปยังรุ่นถัดไปได้ด้วย

ทดสอบกับโมเดลขนาดเล็กข้ามเครือข่ายกล่องทีวี

ในการทดสอบการคัดลอกตัวเอง บริษัทได้ลองรันโมเดลขนาดเล็กของกูเกิล (Google) อย่าง Gemma4-26B-A4B ข้ามเครือข่ายกล่อง Android TV ราคาถูก จำนวน 15 เครื่อง ซึ่งพบว่าอุปกรณ์ประเภทนี้มักมีระบบความปลอดภัยที่หนาแน่นน้อย ทำให้โมเดลสามารถแทรกซึมได้ง่าย นอกจากนี้ หากโมเดลมีขนาดใหญ่เกินกว่าจะรันในเครื่องเดียว มันยังสามารถแยกชิ้นส่วนเพื่อแบ่งไปประมวลผลบนหลายอุปกรณ์ร่วมกันได้

งานวิจัยล่าสุดนี้สะท้อนถึงความกังวลด้านความปลอดภัยของ AI ที่เพิ่มสูงขึ้นเรื่อย ๆ เช่น ความสามารถในการโจมตีทางไซเบอร์ หรือการที่ AI หลุดจากการควบคุมของมนุษย์ ซึ่งเมื่อเดือนกุมภาพันธ์ที่ผ่านมา การพัฒนาอย่างก้าวกระโดดของโมเดลระดับแนวหน้าก็เคยจุดชนวนให้ผู้เชี่ยวชาญทั่วทั้งอุตสาหกรรมออกมาเตือนถึงภัยคุกคามระดับดำรงอยู่ของมนุษยชาติมาแล้ว 

ท้ายที่สุด แอนโทรปิก (Anthropic) ยังได้คาดการณ์ว่า ในอนาคตโลกอาจจะเต็มไปด้วย AI เอเจนต์ที่ทำงานอยู่บนฮาร์ดแวร์ทุกรูปแบบ รวมถึงอุปกรณ์บางส่วนที่ไม่อยู่ภายใต้การควบคุมของมนุษย์อีกต่อไป และการเกิดขึ้นของกลุ่ม AI คัดลอกตัวเองแบบช้า ๆ นี้ จะกลายเป็นสัญญาณเตือนภัยล่วงหน้าไปสู่ AI คัดลอกตัวเองที่ดุดันและรวดเร็วยิ่งขึ้น ซึ่งสามารถแฮกเครื่องที่มีระบบป้องกันหนาแน่นได้ในที่สุด