ผู้เชี่ยวชาญเตือน! “คลิป AI ผลไม้ขยะ” ปลูกฝังความรุนแรง เสี่ยงบ่มเพาะแนวคิดสุดโต่งในเด็ก

คลิปผลไม้ AI ที่ดูไม่เป็นภัยอันตราย

แรกเริ่มเดิมที คลิปสั้นเหล่านี้มักดูไม่มีพิษมีภัย โดยนำเสนอเรื่องราวแนว เบรนรอต (Brainrot) หรือลักษณะเนื้อหาไร้สาระที่เน้นสร้างความเพลิดเพลิน ของเหล่าตัวการ์ตูนผลไม้สีสันสดใส ที่ผ่านเหตุการณ์ดราม่าอย่างความรักสามเส้า การตกงาน หรือมิตรภาพ 

ทว่านักวิเคราะห์จาก GNET พบว่า คลิปเหล่านี้เริ่มกลายพันธุ์ไปสู่แนว "AI Fruit Gore" หรือการทรมาน ตัดตัดอวัยวะ และถ่ายทอดความรุนแรงที่โหดร้ายทารุณมากขึ้น

สิ่งที่น่ากลัวยิ่งกว่าคือ ภาพความรุนแรงดังกล่าวไม่ได้เกิดขึ้นแบบลอย ๆ แต่มีการแฝงสัญลักษณ์ สื่อถึงกลุ่มอุดมการณ์เฉพาะ เช่น แก๊งอาชญากรรม กลุ่มขวาจัด หรือแนวคิดสูญนิยมแบบสุดโต่ง (Nihilism) 

นักวิเคราะห์เตือนว่า คอนเทนต์ AI ขยะที่เน้นความรุนแรงจะกระตุ้นให้เกิดความหลงใหลในความรุนแรงเพื่อความสะใจ ปลูกฝังวัฒนธรรมยกย่องความรุนแรง ในกลุ่มเยาวชน และอาจกลายเป็นกับดักที่นำไปสู่การเสพเนื้อหาที่โหดร้ายยิ่งขึ้น จนนำไปสู่การถลำลึกเข้าสู่แนวคิดสุดโต่งในที่สุด

ไม่ใช่ทุกคลิปจะเป็นคลิปอันตราย ยังต้องรอการศึกษา

อย่างไรก็ตาม ข้อสรุปที่ว่า AI กำลังชักนำเด็กไปสู่ความรุนแรงยังคงต้องรอการพิสูจน์ผ่านงานวิจัยทางวิชาการเพิ่มเติม เนื่องจากรายงานของ GNET เป็นเพียงการวิเคราะห์ระดับพื้นฐาน และมีการอ้างอิงบทความที่สร้างจาก AI อยู่ด้วย 

อย่างไรก็ตาม ประเด็นสำคัญอาจไม่ได้อยู่ที่ว่าคลิปผลไม้ AI จะทำให้เด็กกลายเป็นผู้ก่อการร้ายหรือไม่ แต่อยู่ที่คอนเทนต์ขยะเหล่านี้กำลังถูกผลิตออกมาโดยฟาร์มบอต (Farmbot) ในระดับอุตสาหกรรม หรือการผลิตจำนวนมาก ซึ่งอาจจะทำให้ผู้ใช้งานเด็ก ๆ ที่ยังขาดภูมิคุ้มกันในการรู้เท่าทันสื่อ เข้าสู่เขาวงกตของอัลกอริทึมที่ถูกปรับแต่งให้ยกย่องความรุนแรง  การเหยียดเชื้อชาติ หรือปัญหาสังคมอื่น ๆ ได้อย่างง่ายดาย