โลกผวา! นักวิจัยเตือน AI อาจสังหารมนุษย์ใน 10 ปี

ด้านเดม เวนดี ฮอลล์ นักวิทยาศาสตร์คอมพิวเตอร์และที่ปรึกษาด้าน AI ของสหประชาชาติ ตั้งข้อสังเกตว่า คำเตือนที่รุนแรงอาจมีมิติด้านประชาสัมพันธ์และการแข่งขันทางธุรกิจแฝงอยู่ เนื่องจากบริษัท AI รายใหญ่กำลังแข่งขันระดมทุนและเตรียมความพร้อมเข้าสู่ตลาดหุ้น

ขณะที่รัฐบาลอังกฤษถูกเรียกร้องให้ผลักดันสนธิสัญญาระหว่างประเทศ เพื่อกำหนดแนวทางพัฒนา AI ระดับเหนือมนุษย์ โดยมีเป้าหมายให้รัฐบาลร่วมกันกำหนดมาตรฐานความปลอดภัย ก่อนความสามารถของเทคโนโลยีจะเดินหน้าเร็วกว่ากฎระเบียบ

รายงานความปลอดภัยของ Anthropic เมื่อเดือนสิงหาคมระบุว่า ความเสี่ยงที่แบบจำลองปัจจุบันจะต่อต้านหรือบิดเบือนเป้าหมายของผู้ควบคุมยังอยู่ในระดับต่ำ เช่นเดียวกับโอกาสที่ AI จะทำงานวิจัยและพัฒนาโดยอัตโนมัติจนก่อให้เกิดความเสียหายร้ายแรง แต่บริษัทยอมรับว่า มีความมั่นใจต่อการประเมินนี้ลดลง และเริ่มเห็นสัญญาณว่า AI อาจช่วยเร่งกระบวนการพัฒนาเทคโนโลยีได้มากขึ้น

ประเด็นสำคัญจึงไม่ใช่ว่า ตัวเลขความเสี่ยงร้อยละ 10 ถูกต้องแน่นอนหรือไม่ แต่คือผู้พัฒนา AI ชั้นนำบางส่วนยอมรับว่า โลกยังไม่มีวิธีที่ผ่านการพิสูจน์แล้วว่า จะควบคุมระบบปัญญาประดิษฐ์ที่ฉลาดกว่ามนุษย์ให้ทำงานสอดคล้องกับเป้าหมายและคุณค่าของมนุษย์ได้ตลอดเวลา

คำเตือนครั้งนี้จึงยิ่งเพิ่มแรงกดดันให้บริษัทเทคโนโลยี นักลงทุน และรัฐบาล ต้องสร้างระบบตรวจสอบจากภายนอก กำหนดมาตรฐานร่วมกัน และเพิ่มความโปร่งใส ก่อนการแข่งขันด้าน AI จะเดินหน้าไปไกลกว่าความสามารถของโลกในการควบคุมความเสี่ยง