ปัญญาประดิษฐ์ไม่ใช่เรื่องง่าย และปัญหากับมันอาจเกิดขึ้นได้แม้ในบริษัทที่มีประสบการณ์การพัฒนาที่กว้างขวางในสาขานี้ นอกจากนี้ยังเกิดขึ้นกับ อเมซอน. ตามที่สำนักข่าว Reuters รายงาน: “บริษัทต้องล้มเลิกโครงการที่ใช้ AI ซึ่งคัดเลือกบุคลากรโดยอัตโนมัติ ปัญหาหลักของเขาคือการกดขี่ผู้หญิง”
การทดลองที่ล้มเหลวโดย Amazon
ในกรณีส่วนใหญ่ การฝึกอบรม AI จะทำโดยการวิเคราะห์ข้อมูลในอดีต ปัญหาที่พบบ่อยคือการปฏิบัติงานตาม "อคติ" ในกรณีนี้ "อคติ" คือผู้ชายจำนวนมากที่ทำงานด้านไอที ซอฟต์แวร์ได้พัฒนาอัลกอริทึมที่จัดอันดับแบบสอบถามที่มีรายชื่อวิทยาลัยสตรีและมีคำว่า "สตรี" ในตำแหน่งสุดท้ายในการให้คะแนน
อ่าน: Amazon เปิดตัว Echo Wall Clock พร้อมรองรับผู้ช่วยเสียงของ Alexa
"ทีมพัฒนาพยายามพัฒนาโปรแกรมที่ส่งใบสมัครจาก 100 รายการ เลือกที่ดีที่สุด 5 รายการตามเกณฑ์ที่กำหนด" - รายงานแหล่งที่มาที่ไม่มีชื่อ
อ่าน: Amazon นำเสนอลำโพงอัจฉริยะ Echo Show ที่อัปเดตพร้อมจอแสดงผลขนาดใหญ่ 10 นิ้ว
เมื่อบริษัทตระหนักว่าโปรแกรมให้ผลลัพธ์ตามความแตกต่างทางเพศ บริษัทจึงตัดสินใจปรับแต่งอัลกอริทึม AI อย่างไรก็ตาม ชื่อเสียงของโครงการถูกทำลาย นอกจากนี้ยังไม่มีการรับประกันว่าไม่มี "อคติ" อื่น ๆ ในโปรแกรม ดังนั้นโดยไม่ต้องคิดนาน Amazon จึงตัดสินใจปิดโครงการจนกว่าจะถึงเวลาที่ดีกว่า
เราได้แต่หวังว่าโครงการจะได้รับการแก้ไขและจะทำให้ผู้ใช้พึงพอใจด้วยผลลัพธ์ที่ซื่อสัตย์ต่อไป
Dzherelo: theverge