ยูเอ็นถกซีอีโอ AI ระดับโลก สกัดภัยคุกคามความมั่นคง

⬛️ สหประชาชาตินำประเด็นปัญญาประดิษฐ์ AI เข้าสู่วาระความมั่นคงโลก

โดยในรายงานวิเคราะห์ของซีเคียวริตี เคาน์ซิล รีพอร์ต (Security Council Report) องค์กรอิสระไม่แสวงหากำไรที่เผยแพร่เมื่อวันที่ 15 กันยายนที่ผ่านมา ระบุว่า AI กำลังเปลี่ยนแปลงรูปแบบของความขัดแย้งระหว่างประเทศ ทั้งด้านการทหาร ความมั่นคงทางไซเบอร์ การเผยแพร่ข้อมูลบิดเบือน และการแข่งขันเพื่อควบคุมเทคโนโลยีขั้นสูง

เช่น ในด้านการทหาร AI สามารถช่วยประมวลผลข้อมูลข่าวกรอง วิเคราะห์สถานการณ์ และสนับสนุนการตัดสินใจได้รวดเร็วขึ้น แต่ความเร็วที่เพิ่มขึ้นก็อาจทำให้ผู้บังคับบัญชามีเวลาตรวจสอบข้อมูลน้อยลง โดยเฉพาะในสถานการณ์ที่ประเทศคู่ขัดแย้งต้องตัดสินใจภายในระยะเวลาอันสั้น ซึ่งอาจเพิ่มความเสี่ยงจากการประเมินสถานการณ์ผิดพลาด

ขณะเดียวกัน AI ยังสามารถช่วยให้การโจมตีทางไซเบอร์และการผลิตข้อมูลบิดเบือนทำได้ง่ายขึ้น โดยผู้ไม่หวังดีอาจใช้ระบบ AI สร้างเนื้อหาปลอมจำนวนมาก หรือใช้เครื่องมืออัตโนมัติเพื่อเพิ่มประสิทธิภาพในการโจมตีระบบคอมพิวเตอร์ ความเสี่ยงเหล่านี้อาจส่งผลกระทบต่อโครงสร้างพื้นฐานสำคัญ การดำเนินงานของรัฐบาล และความไว้วางใจระหว่างประเทศ

อย่างไรก็ตาม AI ไม่ได้มีเฉพาะด้านที่เป็นภัยคุกคาม รายงานฉบับเดียวกันระบุว่าเทคโนโลยีนี้สามารถช่วยสหประชาชาติตรวจจับสัญญาณความขัดแย้ง วิเคราะห์ข้อมูลในพื้นที่สงคราม ติดตามการหยุดยิง และสนับสนุนภารกิจรักษาสันติภาพได้เช่นกัน ประเด็นสำคัญจึงอยู่ที่การกำหนดมาตรการเพื่อให้ประเทศต่าง ๆ สามารถใช้ประโยชน์จาก AI โดยลดความเสี่ยงที่อาจเกิดขึ้น

⬛️ ความกังวลใหม่ เมื่อ AI อาจพัฒนาตัวเองและทำงานเกินการควบคุม

ประเด็นสำคัญของการประชุมวันที่ 23 กันยายน คือ ความเสี่ยงจาก AI ที่มีความสามารถสูงขึ้นอย่างต่อเนื่อง โดยเฉพาะระบบที่สามารถวางแผน เลือกใช้เครื่องมือ และดำเนินงานหลายขั้นตอนได้ด้วยตัวเอง หรือที่เรียกว่า AI Agent

เอกสารประกอบการประชุมให้ความสำคัญกับปัญหา AI Alignment หรือการทำให้เป้าหมายและพฤติกรรมของ AI สอดคล้องกับความต้องการของมนุษย์ รวมถึงความเสี่ยงจากการสูญเสียการควบคุมระบบ AI ที่มีความสามารถสูง หากระบบเหล่านี้สามารถดำเนินการบางอย่างได้โดยอัตโนมัติ ก็อาจสร้างผลกระทบต่อความมั่นคง เช่น การโจมตีโครงสร้างพื้นฐานสำคัญ

อีกประเด็นหนึ่ง คือ รีเคอร์ซีฟ เซลฟ์ อิมพรูฟเมนต์ (Recursive Self-Improvement) หรือแนวคิดที่ AI สามารถนำความสามารถของตัวเองมาช่วยพัฒนา AI รุ่นถัดไปให้มีความสามารถสูงขึ้นอย่างต่อเนื่อง

ความกังวล คือ หากกระบวนการดังกล่าวเกิดขึ้นอย่างรวดเร็ว มนุษย์อาจมีเวลาจำกัดในการประเมินความสามารถและตรวจสอบความปลอดภัยของระบบรุ่นใหม่ อย่างไรก็ตาม ความเป็นไปได้ที่ AI จะพัฒนาตัวเองอย่างต่อเนื่องจนมนุษย์ไม่สามารถควบคุมได้ยังเป็นสถานการณ์ความเสี่ยงที่อยู่ระหว่างการศึกษา ไม่ใช่เหตุการณ์ที่ได้รับการยืนยันว่าเกิดขึ้นแล้ว

การประชุมครั้งนี้จึงต้องการหาคำตอบว่าประเทศต่าง ๆ จะสามารถประเมิน ตรวจสอบ และพัฒนามาตรการด้านความปลอดภัยให้ทันความสามารถของ AI ที่เพิ่มขึ้นได้อย่างไร

⬛️ เชิญซีอีโอ OpenAI และ Anthropic เข้าร่วมการประชุม

การประชุมครั้งนี้มีซีอีโอบริษัทเทคโนโลยีระดับโลกเตรียมขึ้นให้ข้อมูลต่อคณะมนตรีความมั่นคงประกอบด้วย แซม อัลต์แมน (Sam Altman) ซีอีโอของโอเพนเอไอ (OpenAI), ดาริโอ อโมเดอี (Dario Amodei) ซีอีโอของแอนโทรปิก (Anthropic), เคลมองต์ เดอลองก์ (Clément Delangue) ซีอีโอของฮักกิงเฟซ (Hugging Face) และโยชัว เบนจิโอ (Yoshua Bengio) นักวิจัย AI ซึ่งดำรงตำแหน่งประธานร่วมของคณะผู้เชี่ยวชาญด้านวิทยาศาสตร์ AI ของสหประชาชาติ

การเชิญผู้บริหารบริษัท AI เข้าร่วมมีความสำคัญ เนื่องจากบริษัทเหล่านี้เป็นผู้พัฒนาเทคโนโลยีที่มีความสามารถสูง และมีข้อมูลโดยตรงเกี่ยวกับกระบวนการฝึกโมเดล การทดสอบความปลอดภัย และข้อจำกัดของระบบที่กำลังพัฒนา

ด้านสำนักข่าวรอยเตอร์ส (Reuters) รายงานว่า อัลต์แมนเตรียมเสนอให้ผู้นำประเทศต่าง ๆ ร่วมกันกำหนดเกณฑ์มาตรฐานสำหรับวัดความสามารถของ AI และประเมินมาตรการความปลอดภัยที่บริษัทนำมาใช้ระหว่างการพัฒนาเทคโนโลยี โดยมีเป้าหมายให้ประเทศต่าง ๆ สามารถใช้หลักเกณฑ์ที่เปรียบเทียบกันได้

การหารือครั้งนี้ยังเกิดขึ้นในช่วงที่ผู้นำบริษัท AI มีความคิดเห็นแตกต่างกันเกี่ยวกับความเร็วในการพัฒนาเทคโนโลยี บางฝ่ายต้องการเพิ่มมาตรการตรวจสอบและควบคุมจังหวะการพัฒนา ขณะที่อีกฝ่ายให้ความสำคัญกับการเดินหน้าพัฒนาอย่างรวดเร็ว เพื่อรักษาความสามารถในการแข่งขัน

คาดว่าซีอีโอของบริษัทเทคโนโลยีดังกล่าวจะขึ้นให้ข้อมูลเวลา 02.00 น. ในคืนวันที่ 24 กันยายนนี้ ตามเวลาในประเทศไทย หรือเวลา 15.00 น. ตามเวลาที่สำนักงานสหประชาชาติ นครนิวยอร์ก สหรัฐอเมริกา

⬛️ เป้าหมายการประชุมครั้งนี้

การประชุมวันที่ 23 กันยายนจะมีผู้นำบริษัท AI และผู้แทนประเทศมหาอำนาจเข้าร่วม แต่ยังไม่ใช่การประชุมเพื่อลงนามในสนธิสัญญาควบคุม AI ระหว่างประเทศ

เอกสารประกอบการประชุมของฝรั่งเศสกำหนดคำถามสำคัญไว้เพียง 4 ด้าน ได้แก่ ความเสี่ยงจาก AI ต่อสันติภาพและความมั่นคงระหว่างประเทศ บทบาทของรัฐบาลและภาคเอกชนในการลดความเสี่ยง เครื่องมือทางการทูตและความร่วมมือระหว่างประเทศ รวมถึงวิธีประเมินและตรวจสอบ AI ให้ทันกับความก้าวหน้าของเทคโนโลยี

ในขณะเดียวกัน อันโตนิโอ กูเตอร์เรส (António Guterres) เลขาธิการสหประชาชาติ ได้เรียกร้องระหว่างกล่าวสุนทรพจน์ต่อที่ประชุมสมัชชาใหญ่เมื่อวันที่ 22 กันยายน ให้ประเทศที่เป็นผู้นำด้าน AI แลกเปลี่ยนข้อมูลเกี่ยวกับความเสี่ยงที่เกิดขึ้นใหม่ ร่วมมือกันทดสอบและประเมินระบบ และพัฒนากรอบบริหารความเสี่ยงระหว่างประเทศที่มีการตรวจสอบอย่างเป็นอิสระ

อย่างไรก็ตาม การสร้างข้อตกลงที่มีผลผูกพันระหว่างประเทศยังต้องอาศัยการเจรจาเพิ่มเติม โดยเฉพาะการหาข้อสรุปร่วมกันระหว่างประเทศมหาอำนาจที่มีผลประโยชน์ด้านเทคโนโลยีแตกต่างกัน

การประชุมคณะมนตรีความมั่นคงแห่งสหประชาชาติครั้งนี้เป็นอีกขั้นของความพยายามนำความเสี่ยงจาก AI เข้าสู่การหารือด้านความมั่นคงระหว่างประเทศ โดยเฉพาะประเด็นที่เกี่ยวข้องกับระบบ AI ที่มีความสามารถสูง การทำงานแบบอัตโนมัติ และความเป็นไปได้ที่มนุษย์อาจสูญเสียการควบคุมเทคโนโลยี

คำถามสำคัญไม่ได้อยู่ที่การหยุดหรือเดินหน้าพัฒนา AI เพียงอย่างเดียว แต่รวมถึงการกำหนดมาตรฐานความปลอดภัยที่ประเทศต่าง ๆ สามารถนำไปใช้ร่วมกัน การสร้างระบบแจ้งเตือนเมื่อเกิดเหตุการณ์ร้ายแรง การรักษาความร่วมมือระหว่างประเทศที่ยังแข่งขันกันพัฒนาเทคโนโลยีเดียวกัน และการหาข้อตกลงร่วมกันเพื่อลดความเสี่ยงต่อความมั่นคงระหว่างประเทศ