อดีตฝ่ายความปลอดภัย “OpenAI” ลาออก เตือนวัฒนธรรมองค์กรพัง ทำ AI เสี่ยงหายนะ

ลาออกเพราะทนไม่ไหวกับวัฒนธรรมองค์กร

เดวิด โรบินสัน (David Robinson) ซึ่งเคยเป็นหัวหน้าผู้รับผิดชอบหลักในการเขียนรายงานความปลอดภัยประกอบการเปิดตัวผลิตภัณฑ์ของ แชตจีพีที (ChatGPT) ได้อธิบายเหตุผลในการลาออกผ่านบทความชื่อว่า “ผมลาออกจาก OpenAI เพราะวัฒนธรรมองค์กรที่นี่พังพินาศ” (I quit OpenAI because its culture is broken)

ในบทความนี้ โรบินสันระบุว่า บริษัท AI ระดับแนวหน้าจำเป็นต้องปฏิรูปวัฒนธรรมองค์กรเป็นการด่วน และชี้ว่าบรรดาบริษัทในซิลิคอนวัลเลย์ยังขาดความตระหนักรู้ในเรื่องการรับมือกับเทคโนโลยีที่อันตราย พร้อมเตือนว่า โอเพนเอไอ (OpenAI) มองโลกในแง่ดีมากเกินไป ในการคิดว่าจะแก้ปัญหาต่าง ๆ ได้เมื่อมันเกิดขึ้น ซึ่งวัฒนธรรมภายในเช่นนี้จะยิ่งทำให้ความล้มเหลวด้านความปลอดภัยขยายตัวใหญ่ขึ้นเรื่อย ๆ เมื่อ AI มีความสามารถสูงขึ้น

แนะนำบริษัท AI ยกระดับความปลอดภัยเทียบเท่าอุตสาหกรรมนิวเคลียร์

โดยเขาเสนอว่า บรรดาบริษัท AI ควรจะยกระดับการดูแลและมาตรการป้องกันให้คล้ายคลึงกับที่ใช้ในอุตสาหกรรมสำคัญต่าง ๆ เช่น พลังงานนิวเคลียร์และการบิน และควรต้องพัฒนาวิทยาการแขนงใหม่ ที่จะมารับประกันว่า AI ในอนาคตจะยังควบคุมได้ แม้ในตอนที่มันทำงานเป็นอิสระ

อย่างไรก็ตาม ฝั่งโอเพนเอไอ (OpenAI) เริ่มแสดงให้เห็นถึงสัญญาณของความระมัดระวังมากขึ้นในช่วงไม่กี่สัปดาห์ที่ผ่านมา หลังจากเกิดเหตุการณ์กับ ฮักกิง เฟซ (Hugging Face) และมีการเปิดเผยว่าบริษัทได้แจ้งเตือนองค์กรมากกว่า 100 แห่งเกี่ยวกับกิจกรรมของเอเจนต์ AI ที่ทำงานผิดปกติ 

โดยในสัปดาห์นี้บริษัทยังได้ประกาศยกเลิกการเปิดตัวโมเดล AI ยุคถัดไป หลังจากเหล่านักวิจัยแสดงความกังวลด้านความปลอดภัยระหว่างการทดสอบภายใน รวมถึงสั่งระงับการฝึกฝนโมเดลรุ่นก้าวหน้าที่สุดไว้ชั่วคราว

นอกจากนี้โฆษกของ โอเพนเอไอ (OpenAI) กล่าวว่า บริษัทกำลังเดินหน้าเสริมสร้างแนวทางปฏิบัติ ด้านความปลอดภัยและความมั่นคงอย่างต่อเนื่อง เพื่อรับมือกับความเสี่ยงที่เห็นในปัจจุบัน ควบคู่ไปกับการเตรียมพร้อมจัดการกับความเสี่ยงที่อาจเกิดขึ้นจากการก้าวกระโดดของ AI ในอนาคต

ทั้งนี้ บทความของโรบินสันเกิดขึ้น หลังการลาออกของ เจคอบ ค็อกซอน (Jacob Coxon) นักวิจัยจาก แอนโทรปิก (Anthropic) ซึ่งเป็นคู่แข่งสำคัญของโอเพนเอไอ (OpenAI) โดยเขาได้ลาออกจากบริษัทเมื่อเดือนที่แล้ว พร้อมเตือนว่า AI อาจทำลายล้างมนุษยชาติทุกคนได้ภายในสิ้นทศวรรษนี้

ซึ่งในเวลาต่อมา แอนโทรปิก (Anthropic) ก็ได้ออกมาเตือนเช่นกันว่ามีความเป็นไปได้มากกว่าร้อยละ 10 ที่ AI จะกวาดล้างมนุษยชาติภายในสิบปีข้างหน้า อย่างไรก็ตาม กลุ่มวิพากษ์วิจารณ์เตือนว่า คำเตือนในลักษณะนี้ขาดความเป็นวิทยาศาสตร์ เนื่องจากไม่สามารถพิสูจน์ยืนยันหรือหักล้างได้

สำหรับใครที่อยากอ่านบทความของเขาฉบับเต็ม ติดตามได้ที่นี่