“แอนธรอปิก” (Anthropic) บริษัทผู้พัฒนาปัญญาประดิษฐ์ (AI) รายใหญ่ ระบุในรายงานล่าสุดว่า ทั่วโลกควรแตะเบรกการพัฒนาระบบ AI ที่ทรงพลัง เนื่องจากโมเดลล่าสุดเริ่มส่งสัญญาณว่า AI อาจหลุดพ้นจากการควบคุมของมนุษย์
AFP รายงานว่า คำเตือนดังกล่าวมีขึ้นหลังมีข้อมูลภายในที่แสดงให้เห็นว่า AI กำลังเร่งการพัฒนาตัวเอง โดยนำผลลัพธ์จากการใช้งานกลับมาประเมินและปรับปรุงให้ฉลาดขึ้น โดยไม่ต้องอาศัยความช่วยเหลือจากมนุษย์มากนัก
“แอนธรอปิก” ซึ่งเป็นผู้พัฒนาโมเดล “คล็อด” (Claude) ระบุว่า การชะลอการพัฒนา AI ที่ล้ำสมัยทั่วโลกน่าจะเป็นเรื่องที่ดี แต่เตือนว่าหากมีเพียงบริษัทเดียวที่หยุด บรรดาบริษัทคู่แข่งก็จะเร่งเครื่องแซงหน้าไป ดังนั้น ทั่วโลกจึงควรมีทางเลือกในการชะลอหรือหยุดชั่วคราว เพื่อให้โครงสร้างทางสังคมและการวิจัยสามารถรองรับความก้าวหน้าของเทคโนโลยี AI
โดยการระงับการพัฒนาอย่างแท้จริงจะต้องอาศัยบริษัท AI ขนาดใหญ่หลายแห่งในประเทศต่าง ๆ โดยเฉพาะสหรัฐฯ และจีน ซึ่งตกลงจะเบรกการพัฒนาพร้อมกันภายใต้กฎเกณฑ์ที่ทุกคนสามารถตรวจสอบได้
สรุปข่าว
“แอนธรอปิก” (Anthropic) บริษัทผู้พัฒนาปัญญาประดิษฐ์ (AI) รายใหญ่ ระบุในรายงานล่าสุดว่า ทั่วโลกควรแตะเบรกการพัฒนาระบบ AI ที่ทรงพลัง เนื่องจากโมเดลล่าสุดเริ่มส่งสัญญาณว่า AI อาจหลุดพ้นจากการควบคุมของมนุษย์
AFP รายงานว่า คำเตือนดังกล่าวมีขึ้นหลังมีข้อมูลภายในที่แสดงให้เห็นว่า AI กำลังเร่งการพัฒนาตัวเอง โดยนำผลลัพธ์จากการใช้งานกลับมาประเมินและปรับปรุงให้ฉลาดขึ้น โดยไม่ต้องอาศัยความช่วยเหลือจากมนุษย์มากนัก
“แอนธรอปิก” ซึ่งเป็นผู้พัฒนาโมเดล “คล็อด” (Claude) ระบุว่า การชะลอการพัฒนา AI ที่ล้ำสมัยทั่วโลกน่าจะเป็นเรื่องที่ดี แต่เตือนว่าหากมีเพียงบริษัทเดียวที่หยุด บรรดาบริษัทคู่แข่งก็จะเร่งเครื่องแซงหน้าไป ดังนั้น ทั่วโลกจึงควรมีทางเลือกในการชะลอหรือหยุดชั่วคราว เพื่อให้โครงสร้างทางสังคมและการวิจัยสามารถรองรับความก้าวหน้าของเทคโนโลยี AI
โดยการระงับการพัฒนาอย่างแท้จริงจะต้องอาศัยบริษัท AI ขนาดใหญ่หลายแห่งในประเทศต่าง ๆ โดยเฉพาะสหรัฐฯ และจีน ซึ่งตกลงจะเบรกการพัฒนาพร้อมกันภายใต้กฎเกณฑ์ที่ทุกคนสามารถตรวจสอบได้
แต่หากไม่มีกลไกการประสานงานระดับโลก ทั้งบริษัทและรัฐบาลต่าง ๆ จะต้องเผชิญการตัดสินใจที่ยากลำบากเกี่ยวกับความปลอดภัย ท่ามกลางแรงกดดันในการแข่งขันและภูมิรัฐศาสตร์
ทั้งนี้ “แอนธรอปิก” เผชิญกับแรงต้านจากคู่แข่งในอุตสาหกรรมเดียวกัน รวมถึงเจ้าหน้าที่ในทำเนียบขาว ซึ่งมองว่าคำเตือนถึงสถานการณ์เลวร้ายที่สุดนั้นเป็นการประเมินความเสี่ยงสูงเกินไป และเป็นกลยุทธ์ในการชะลอคู่แข่งโดยใช้ข้ออ้างเรื่องความปลอดภัย
อย่างไรก็ตาม ทำเนียบขาวได้ยอมรับถึงศักยภาพของโมเดล AI “ไมทอส” (Mythos) ของ “แอนธรอปิก” ซึ่งยังไม่เผยแพร่ต่อสาธารณะ เนื่องจากความสามารถด้านความปลอดภัยทางไซเบอร์ และปัจจุบันถูกใช้งานเฉพาะในองค์กรที่ได้รับการตรวจสอบแล้วเพียงไม่กี่แห่ง
