“Nvidia” เปิดตัวซอฟต์แวร์ความปลอดภัย AI ที่เชื่อว่าป้องกันการเจาะระบบ “Hugging Face” ได้
เมื่อวันจันทร์ที่ 28 กันยายน ที่ผ่านมา บริษัท เอ็นวิเดีย (Nvidia) บริษัทเทคโนโลยียักษ์ใหญ่สัญชาติอเมริกัน
ได้เปิดตัวชุดเครื่องมือซอฟต์แวร์ด้านความปลอดภัยสำหรับ AI agent หรือ ระบบปัญญาประดิษฐ์ที่สามารถปฏิบัติงานได้ด้วยตนเอง โดยระบุว่าเครื่องมือนี้ จะสามารถป้องกันเหตุการณ์เจาะระบบ Hugging Face ซึ่งเป็นศูนย์รวมด้านโค้ดและโมเดล AI ได้ หลังจากที่ Hugging Face ถูกโจมตีโดย AI agent ที่ทำงานผิดปกติจาก OpenAI เมื่อหลายเดือนก่อน
เหตุการณ์เจาะระบบจาก AI
การเปิดตัวซอฟต์แวร์นี้ เกิดขึ้นขณะที่ห้องปฏิบัติการ AI ชั้นนำของสหรัฐฯ อย่าง OpenAI และ Anthropic กำลังตรวจสอบกรณีต่าง ๆ ที่ AI agent ของตน ได้เจาะเข้าไปในระบบด้านพาณิชย์และระบบของภาครัฐ
ขณะที่ เจนเซน หวง (Jensen Huang) ซีอีโอของเอ็นวิเดีย (Nvidia) บริษัทผู้ผลิตชิปที่ใหญ่ที่สุดในโลก ที่เป็นดั่งหัวใจสำคัญของการเติบโตด้าน AI ได้ออกมาปฏิเสธข้อเรียกร้องให้มีการออกกฎระเบียบควบคุมความปลอดภัย AI ในวงกว้าง โดยมองว่าปัญหาเรื่อง AI Agent ที่หลุดการควบคุมนั้นเป็นเพียงโจทย์ทางวิศวกรรมที่สามารถแก้ไขได้ เช่นเดียวกับการพัฒนาความปลอดภัยของยานยนต์
สรุปข่าว
เมื่อวันจันทร์ที่ 28 กันยายน ที่ผ่านมา บริษัท เอ็นวิเดีย (Nvidia) บริษัทเทคโนโลยียักษ์ใหญ่สัญชาติอเมริกัน
ได้เปิดตัวชุดเครื่องมือซอฟต์แวร์ด้านความปลอดภัยสำหรับ AI agent หรือ ระบบปัญญาประดิษฐ์ที่สามารถปฏิบัติงานได้ด้วยตนเอง โดยระบุว่าเครื่องมือนี้ จะสามารถป้องกันเหตุการณ์เจาะระบบ Hugging Face ซึ่งเป็นศูนย์รวมด้านโค้ดและโมเดล AI ได้ หลังจากที่ Hugging Face ถูกโจมตีโดย AI agent ที่ทำงานผิดปกติจาก OpenAI เมื่อหลายเดือนก่อน
เหตุการณ์เจาะระบบจาก AI
การเปิดตัวซอฟต์แวร์นี้ เกิดขึ้นขณะที่ห้องปฏิบัติการ AI ชั้นนำของสหรัฐฯ อย่าง OpenAI และ Anthropic กำลังตรวจสอบกรณีต่าง ๆ ที่ AI agent ของตน ได้เจาะเข้าไปในระบบด้านพาณิชย์และระบบของภาครัฐ
ขณะที่ เจนเซน หวง (Jensen Huang) ซีอีโอของเอ็นวิเดีย (Nvidia) บริษัทผู้ผลิตชิปที่ใหญ่ที่สุดในโลก ที่เป็นดั่งหัวใจสำคัญของการเติบโตด้าน AI ได้ออกมาปฏิเสธข้อเรียกร้องให้มีการออกกฎระเบียบควบคุมความปลอดภัย AI ในวงกว้าง โดยมองว่าปัญหาเรื่อง AI Agent ที่หลุดการควบคุมนั้นเป็นเพียงโจทย์ทางวิศวกรรมที่สามารถแก้ไขได้ เช่นเดียวกับการพัฒนาความปลอดภัยของยานยนต์
OpenShell
สำหรับเครื่องมือหลักที่เปิดตัว ได้แก่ โอเพนเชลล์ (OpenShell) ที่ใช้คุณสมบัติระดับฮาร์ดแวร์บนชิปประมวลผลกลาง (Central processor chips: CPU) ของ Nvidia ในการกักกันและควบคุมการทำงานของ AI agent โดยเอ็นวิเดีย (Nvidia) กล่าวว่า กำลังทำงานร่วมกับ อาร์ม โฮลดิ้งส์ (Arm Holdings) บริษัทเทคโนโลยีผู้ออกแบบสถาปัตยกรรมชิปประมวลผล (CPU) และบริษัท อินเทล (Intel) บริษัทเทคโนโลยีผู้ออกแบบและผลิตชิปเซมิคอนดักเตอร์ เพื่อให้ระบบนี้สามารถทำงานบนซีพียูของแบรนด์ดังกล่าว
ส่วนอีกระบบหนึ่งที่มีการเปิดตัว มีชื่อว่า เซนทรี่ (Sentry) เป็นระบบกักกันอีกชั้นหนึ่ง โดยจะใช้ชิปแยกต่างหากของเอ็นวิเดีย (Nvidia) ทำงานควบคู่ไปกับโอเพนเชลล์ (OpenShell) เพื่อตัดการทำงานของ agent ที่ผิดปกติ หาก agent นั้นพยายามหลุดออกจากพื้นที่จำกัด (container) บนชิปประมวลผลหลัก
ความสามารถของเครื่องมือ
จัสติน บอยตาโน (Justin Boitano) รองประธานและผู้จัดการทั่วไปฝ่ายระบบประมวลผลระดับองค์กรของเอ็นวิเดีย (Nvidia) กล่าวว่า เครื่องมือเหล่านี้จะสามารถป้องกัน Hugging Face จากการถูกโจมตีได้หาก มันถูกนำไปใช้ในห้องปฏิบัติการระดับแนวหน้าเพื่อประเมินโมเดลตั้งแต่ช่วงแรก รวมทั้งยังเสริมอีกว่า พวกเขากำลังผลักดันเรื่องนี้อย่างเปิดกว้าง และต้องการเปิดรับให้ทุกคนมาร่วมมือกัน ทั้งนี้เอ็นวิเดีย (Nvidia) กำลังเปิดตัวเครื่องมือดังกล่าวร่วมกับพันธมิตรหลายสิบราย ซึ่งรวมถึงแอนโทรปิก (Anthropic) ด้วยเช่นกัน
- “Nvidia” ทุ่ม 4 แสนล้านบาท เข้าซื้อ “Hugging Face” แพลตฟอร์มโค้ด AI แบบ Open-source รายใหญ่ของโลก
- "Nvidia" กำไรพุ่ง 126% เฉียด 6 หมื่นล้านดอลลาร์ AI หนุนรายได้โต 106%
- DBS อัพเป้า SET ปี 69 เป็น 1,720 กำไรบริษัทจดทะเบียนโตเด่น
- “Nvidia” ปักหมุด “ไต้หวัน” ลงทุนปีละ 1.5 แสนล้านดอลลาร์ ปั้นศูนย์กลาง AI โลก
- "Nvidia" รายได้พุ่ง 85% กำไรดีเกินคาด ปันผลเพิ่ม ดีมานด์ Data Center ยังแกร่ง กลางสมรภูมิ AI เดือด
