วันที่ 11 กันยายนที่ผ่านมา มาร์คัส วิลเลียมส์ (Marcus Williams) นักวิจัยด้านความปลอดภัยจากบริษัทเทคโนโลยีระดับโลกอย่างเช่น บริษัท Open AI ได้ออกมาระบุถึงวิกฤตความเสี่ยงขั้นรุนแรง โดยประเมินว่ามีความเป็นไปได้สูงถึงร้อยละ 70 ที่ปัญญาประดิษฐ์อาจนำไปสู่การสูญพันธุ์ของมนุษยชาติภายในช่วง 3 ปีข้างหน้า หากภาคอุตสาหกรรมและหน่วยงานภาครัฐยังขาดมาตรการกำกับดูแลที่เป็นรูปธรรม
คำเตือนดังกล่าวมาถูกเผยแพร่ผ่านแพลตฟอร์มเอ็กซ์ (X) ว่า "ประชาคมโลกกำลังเผชิญความท้าทายครั้งใหญ่จากการพัฒนาโมเดลปัญญาประดิษฐ์ที่ก้าวกระโดด โดยวิลเลียมส์เน้นย้ำว่า หากไม่มีการออกกฎหมายควบคุม หรือไม่มีความร่วมมือระหว่างห้องปฏิบัติการวิจัยเพื่อชะลอการพัฒนาโมเดลปัญญาประดิษฐ์ระดับแนวหน้า (Frontier AI) โอกาสที่มนุษย์จะเผชิญกับมหันตภัยขั้นสูญพันธุ์ภายในไม่กี่ปีข้างหน้ามีความเป็นไปได้สูงมาก"
สรุปข่าว
วันที่ 11 กันยายนที่ผ่านมา มาร์คัส วิลเลียมส์ (Marcus Williams) นักวิจัยด้านความปลอดภัยจากบริษัทเทคโนโลยีระดับโลกอย่างเช่น บริษัท Open AI ได้ออกมาระบุถึงวิกฤตความเสี่ยงขั้นรุนแรง โดยประเมินว่ามีความเป็นไปได้สูงถึงร้อยละ 70 ที่ปัญญาประดิษฐ์อาจนำไปสู่การสูญพันธุ์ของมนุษยชาติภายในช่วง 3 ปีข้างหน้า หากภาคอุตสาหกรรมและหน่วยงานภาครัฐยังขาดมาตรการกำกับดูแลที่เป็นรูปธรรม
คำเตือนดังกล่าวมาถูกเผยแพร่ผ่านแพลตฟอร์มเอ็กซ์ (X) ว่า "ประชาคมโลกกำลังเผชิญความท้าทายครั้งใหญ่จากการพัฒนาโมเดลปัญญาประดิษฐ์ที่ก้าวกระโดด โดยวิลเลียมส์เน้นย้ำว่า หากไม่มีการออกกฎหมายควบคุม หรือไม่มีความร่วมมือระหว่างห้องปฏิบัติการวิจัยเพื่อชะลอการพัฒนาโมเดลปัญญาประดิษฐ์ระดับแนวหน้า (Frontier AI) โอกาสที่มนุษย์จะเผชิญกับมหันตภัยขั้นสูญพันธุ์ภายในไม่กี่ปีข้างหน้ามีความเป็นไปได้สูงมาก"
⬛️ สัญญาณเตือนพฤติกรรมเอไอหลุดการควบคุม
ความวิตกกังวลของกลุ่มนักวิจัยไม่ได้เป็นเพียงทฤษฎีในกระดาษ เนื่องจากก่อนหน้านี้เกิดเหตุการณ์จริงที่สร้างความหวั่นเกรงในวงการเทคโนโลยี โดย OpenAI เคยเปิดเผยว่า ระบบเอไอเอเจนต์ประมาณ 700 ตัว เกิดพฤติกรรมหลุดจากการควบคุม และพยายามพยายามแฮกเข้าไปยังระบบของฮักกิ้งเฟซ (Hugging Face) บริษัทเทคโนโลยีในสหรัฐฯ เพื่อปลดล็อกตัวเองออกสู่ภายนอก
นอกจากนี้ ยังมีรายงานกรณีเอไอเอเจนต์ของโอเพนเอไอจำนวนหลายพันตัวเข้ายึดเว็บเซิร์ฟเวอร์ในประเทศเยอรมนีเพื่อใช้เป็นช่องทางสื่อสารระหว่างกัน ขณะเดียวกัน บริษัทคู่แข่งอย่าง Anthropic ก็ประสบปัญหาในลักษณะคล้ายกัน เมื่อโมเดล Claude เวอร์ชั่นทดสอบ เกิดการเจาะเข้าระบบของบุคคลที่สามเนื่องจากระบบไม่สามารถยกเลิกคำสั่งการทำงานได้
⬛️ ผู้เชี่ยวชาญประสานเสียงเตือนภัย ซูเปอร์อินเทลลิเจนส์
ความเคลื่อนไหวดังกล่าวยิ่งทวีความรุนแรงขึ้นเมื่อพอล คริสเตียโน (Paul Christiano) อดีตที่ปรึกษาด้านเทคโนโลยีของรัฐบาลสหรัฐฯ ซึ่งเพิ่งได้รับแต่งตั้งเข้าร่วมเป็นคณะกรรมการมูลนิธิและคณะกรรมการความปลอดภัยของ OpenAI ได้ออกมาเน้นย้ำว่า "การเร่งพัฒนาความสามารถของปัญญาประดิษฐ์อย่างรวดเร็วเกินไป อาจนำไปสู่การสูญเสียการควบคุมอย่างถาวรในระยะเวลาอันใกล้"
โดยเตือนว่าหากมีการสร้างซูเปอร์อินเทลลิเจนส์ (Superintelligence) ขึ้นมาโดยปราศจากการปรับพฤติกรรมให้อยู่ในแนวทางที่ปลอดภัย อาจส่งผลให้คนส่วนใหญ่บนโลกต้องเสียชีวิต พร้อมยอมรับว่าภาคอุตสาหกรรมปัญญาประดิษฐ์ในปัจจุบัน รวมถึง OpenAI เองก็ยังไม่ได้อยู่ในเส้นทางที่สามารถลดความเสี่ยงให้อยู่ในระดับที่ปลอดภัยได้
ทางด้านยาคุบ พาชอกกี (Jakub Pachocki) ประธานนักวิทยาศาสตร์ของ OpenAI เปรียบเทียบปัญญาประดิษฐ์ว่า "มีลักษณะคล้ายความคิดของสิ่งมีชีวิตจากนอกโลก" พร้อมเรียกร้องให้ทุกฝ่ายใช้ความระมัดระวังขั้นสูงสุด
เนื่องจากมนุษย์ยังไม่มีความพร้อมรับมือกับผลกระทบของการเพิ่มขึ้นอย่างรวดเร็วของปัญญาประดิษฐ์ เช่นเดียวกับ อีแวน ฮับบิงเกอร์ (Evan Hubinger) หัวหน้าฝ่ายความปลอดภัยของแอนโธรพิก ที่ประเมินว่ามีโอกาสมากกว่าร้อยละ 10 ที่ AI จะทำลายล้างมนุษยชาติภายในทศวรรษหน้า จนนำไปสู่การลาออกของ เจคอบ ค็อกซอน (Jacob Coxon) นักวิจัยของแอนโธรพิก ที่ออกมาประท้วงว่าบริษัทเทคโนโลยีใหญ่กำลังนำชีวิตของมนุษย์ไปเสี่ยงโชค ด้วยเช่นเดียวกัน
- ทางรอดธุรกิจยุค AI ใช้เทคโนโลยีให้ทัน สร้างความไว้ใจ ฝ่าวิกฤตความขัดแย้งภูมิรัฐศาสตร์โลก
- อดีตวิศวกร “OpenAI-Anthropic” ประกาศลาออก พร้อมเตือนภัย AI พัฒนาไกลเกินควบคุม
- สำรวจอาชีพที่ตลาดยังต้องการตัวในอีก 10 ปีข้างหน้า
- “ศุภชัย” ชู 5 เสาหลักสร้างอนาคตไทย เปลี่ยนความผันผวนสู่โอกาส
- AI จุดชนวนเมกะดีล Nvidia ซื้อแพลตฟอร์ม ยักษ์พลังงานเร่งควบรวม
ที่มาข้อมูล : indiatoday, OpenAI
ที่มารูปภาพ : indiatoday, OpenAI
