TNN online วิจัยเผย AI แสดงถึงอคติทางเชื้อชาติได้อย่างแม่นยำ โดยวิเคราะห์จากรูปภาพเอกซเรย์

TNN ONLINE

Tech

วิจัยเผย AI แสดงถึงอคติทางเชื้อชาติได้อย่างแม่นยำ โดยวิเคราะห์จากรูปภาพเอกซเรย์

วิจัยเผย AI แสดงถึงอคติทางเชื้อชาติได้อย่างแม่นยำ โดยวิเคราะห์จากรูปภาพเอกซเรย์

การวิจัยชี้ว่า ข้อมูลเกี่ยวกับเชื้อชาติสามารถรวมเข้ากับการวิเคราะห์ภาพของ AI ทำให้เกิดอคติทางเชื้อชาติและความเหลื่อมล้ำในด้านการแพทย์ได้

งานวิจัยล่าสุด เผยให้เห็นว่าปัญญาประดิษฐ์ (AI) มีความสามารถในการคาดเดาเชื้อชาติของบุคคลผ่านภาพเอกซเรย์ได้อย่างแม่นยำ ซึ่งนักวิจัยกล่าวว่า นี่คือสิ่งที่ผู้เชี่ยวชาญที่เป็นมนุษย์ไม่สามารถทำได้ 


นักวิจัยเผยถึงงานวิจัยล่าสุดที่ตีพิมพ์ใน The Lancet (เดอะแลนเซต) วารสารการแพทย์รายสัปดาห์ที่มีความน่าเชื่อถือสูง โดยนักวิจัยชี้ว่า การศึกษานี้เผยให้เห็นถึงความเป็นไปได้ที่ AI จะมีอคติทางเชื้อชาติ และแม้ว่า AI จะถูกใช้เพื่อวินิจฉัยการเจ็บป่วยทางการแพทย์ผ่านการใช้เหตุผลและสติปัญญาเหมือนที่มนุษย์ 


การศึกษาจาก The Lancet กล่าวว่า อาจมีปัจจัยหลายประการที่นำไปสู่อคติ เช่น การใช้ข้อมูลที่ไม่ได้ครอบคลุมตัวแทนของประชากรผู้ป่วยทั้งหมด อีกปัจจัยหนึ่งที่สามารถนำไปสู่อคติของ AI ก็คือการเรียนรู้เกี่ยวกับลักษณะที่อาจมีอยู่ในกลุ่มประชากร เช่น ฟีโนไทป์ (phenotypes) หรือลักษณะทางพันธุกรรมของสิ่งมีชีวิตที่ปรากฏให้เห็นโดยการควบคุมของยีน เช่น ความหนาแน่นของกระดูก


ต่อมา ทีมวิจัยต้องการศึกษาว่า AI สามารถระบุเชื้อชาติได้จากการเอกซเรย์ทรวงอกเท่านั้นหรือไม่ โดยพวกเขาใช้ชุดข้อมูลขนาดใหญ่สามชุดที่มีประชากรจำนวนมากและหลากหลาย แต่กลับกลายเป็นว่า AI สามารถทำนายเชื้อชาติของผู้ป่วยได้อย่างแม่นยำโดยอาศัยภาพเอกซ์เรย์เพียงอย่างเดียว ซึ่งแม้แต่ผู้เชี่ยวชาญก็ไม่สามารถทำได้


"AI ยังสามารถระบุเชื้อชาติได้แม้ว่าภาพจะมีคุณภาพแย่มาก หรือถูกครอบตัดให้เหลือหนึ่งในเก้าของขนาดดั้งเดิม หรือเมื่อความละเอียดได้รับการแก้ไขจนถึงระดับที่ภาพแทบจะดูไม่ออกว่าเป็นภาพเอกซเรย์" ดร. จูดี กิโชยา (Judy Gichoya) ผู้เขียนหลักงานวิจัยเผย


และเพื่อป้องกันอคติทางเชื้อชาติผ่านฟีโนไทป์ นักวิจัยได้ใช้ชุดข้อมูลเอกซ์เรย์อื่น ๆ นอกเหนือจากทรวงอก ซึ่งรวมถึงแมมโมแกรม การสแกนทรวงอกด้วยเครื่องเอกซเรย์คอมพิวเตอร์ (CT Scan) และใช้การฉายแสงถ่ายภาพกระดูกสันหลังส่วนคอ แต่ถึงกระนั้น AI ก็ยังสามารถระบุเชื้อชาติของบุคคลได้


“เราจำเป็นต้องเร่งความเข้าใจว่าทำไมอัลกอริทึมเหล่านี้จึงมีความสามารถนี้ เพื่อให้ไม่เป็นอันตรายต่อประชากรกลุ่มน้อยและผู้ป่วยที่ด้อยโอกาส” ทีมวิจัยกล่าว


แม้ว่านักวิจัยกำลังพยายามตรวจสอบว่า AI คาดเดาเชื้อชาติได้ถูกต้องได้อย่างไร แต่พวกเขาก็ยังไม่พบสาเหตุที่แท้จริง โดยพวกเขาไม่สามารถระบุปัจจัยเฉพาะใด ๆ ที่อธิบายความสามารถของ AI ในการทำนายเชื้อชาติด้วยตนเองได้อย่างถูกต้อง กล่าวอีกนัยหนึ่งคือ AI จำแนกเชื้อชาติได้ แม้ว่าจะไม่มีอะไรที่เป็นปัจจัยทางกายภาพบ่งบอกเลย


ทั้งนี้ ทีมวิจัยระบุว่า พวกเขาตระหนักถึงข้อดีและข้อเสียในการสร้าง AI ที่มีความสามารถใกล้เคียงกับความฉลาดของมนุษย์ ซึ่งมันสามารถยกระดับระบบการดูแลสุขภาพไปอีกขั้น ในขณะที่ยังแสดงอคติโดยไม่ได้ตั้งใจได้เช่นกัน


“AI มีศักยภาพในการปฏิวัติการวินิจฉัย การรักษา และการเฝ้าติดตามโรคและสภาวะต่าง ๆ ได้อย่างมากมาย และสามารถกำหนดแนวทางในการดูแลสุขภาพของเราได้อย่างมาก” ดร. จูดี กิโชยา (Judy Gichoya) ผู้เขียนหลักงานวิจัยเผย “อย่างไรก็ตาม สำหรับ AI ที่จะเป็นประโยชน์ต่อผู้ป่วยทุกรายอย่างแท้จริง เราต้องการความเข้าใจมากขึ้นว่า อัลกอริทึมเหล่านี้ตัดสินใจอย่างไรเพื่อป้องกันอคติที่ไม่ได้ตั้งใจ” กิโชยาเสริม


อย่างไรก็ตาม มีการเปิดเผยก่อนหน้านี้เกี่ยวกับ AI ที่มีอคติทางเชื้อชาติ เช่น งานวิจัยก่อนหน้านี้เกี่ยวกับ DeepAI ที่ระบุว่า AI อาจเรียนรู้พฤติกรรมการเหมารวมได้ ซึ่งรายงานระบุว่า “โชคไม่ดีที่การทดลองของเราแสดงให้เห็นอย่างชัดเจนว่า AI สามารถแสดงพฤติกรรมเหมารวมในเชิงลบเกี่ยวกับเพศ เชื้อชาติ” 


การวิจัยของ DeepAI ยังกล่าวว่า AI รู้จักจดจำเพศชายได้มากกว่าเพศหญิง และจดจำคนผิวขาวมากกว่าคนที่มีผิวสีอื่น ๆ ไม่เพียงเท่านั้น แต่การวิจัยยังแสดงให้เห็นว่า AI ยังเลือกใช้ทัศนคติแบบเหมารวมในทางลบต่อทั้งเพศหญิงและคนเชื้อชาติอื่น ๆ ด้วย 


ส่วนการวิจัยอื่น ๆ เช่น ในวารสาร Nature Medicine แสดงให้เห็นว่า AI สามารถได้รับอิทธิพลจากข้อมูลประชากร ซึ่งรวมถึงความแตกต่างทางเชื้อชาติ โดยงานวิจัยดังกล่าวเผยว่า "มีความกังวลเพิ่มขึ้นว่าระบบ AI ดังกล่าวอาจสะท้อนและขยายอคติของมนุษย์ และลดคุณภาพของประสิทธิภาพการให้บริการในกลุ่มประชากรที่ตกค้างในอดีต เช่น ผู้ป่วยหญิง ผู้ป่วยผิวดำ หรือผู้ป่วยที่มีสถานะทางเศรษฐกิจและสังคมต่ำ" 


ซึ่งกรณีนี้ นี้แสดงให้เห็นว่าแนวคิดเรื่องอคติของ AI ไม่ใช่เรื่องใหม่ที่น่าประหลาดใจ แต่เป็นประเด็นที่น่าหนักใจในเหล่าผู้พัฒนาที่ต้องระมัดระวังการสร้างอคติขึ้น


ที่มาของข้อมูล interestingengineering.com

ที่มาของรูปภาพ Umanoide

ข่าวแนะนำ

ข่าวที่เกี่ยวข้อง