ตามที่ผู้ปกครองที่โพสต์ภาพหน้าจอของประวัติกิจกรรมของ Alexa ผู้ช่วยเสียงของ Amazon เมื่อเด็กขอให้เสนอความท้าทาย ให้ตัวอย่างการทดลองร้ายแรงกับไฟฟ้า โดยนำคำอธิบายออกจากบริบทของบทความแบบสุ่ม คอลัมน์ Echo พูดคุยเกี่ยวกับการทดลองที่เป็นที่นิยมในหมู่แฟน ๆ ของ TikTok โดยใช้เหรียญและที่ชาร์จสำหรับสมาร์ทโฟน - มีการรายงานเหตุการณ์ต่างๆ การบาดเจ็บ และไฟไหม้จำนวนมากหลังการใช้งานโดยสื่อต่างๆ มากกว่าหนึ่งครั้ง เห็นได้ชัดว่าอุปกรณ์ได้รับแนวคิดสำหรับความท้าทายนี้จากบทความที่อธิบายว่าเป็นอันตรายโดยอ้างถึงรายงานเกี่ยวกับการท้าทาย TikTok ที่ถูกกล่าวหา
ตามภาพหน้าจอที่ถ่ายโดย Christine Livdahl เมื่อถูกขอให้ "แสดงงานให้ฉันดู" Echo ตอบว่า "นี่คือสิ่งที่ฉันพบทางออนไลน์" จากข้อมูลของ ourcommunitynow.com งานนั้นง่ายมาก: "ใส่ที่ชาร์จโทรศัพท์เข้าไปในเต้าเสียบประมาณครึ่งหนึ่ง จากนั้นแตะที่หมุดเปล่าด้วยเศษสตางค์"
ในแถลงการณ์ของ BBC Amazon ยืนยันพฤติกรรมของ Alexa โดยกล่าวว่า "ทันทีที่เราทราบข้อผิดพลาดนี้ เราก็ดำเนินการแก้ไขทันที" Livdahl ทวีตเมื่อวานนี้ว่าคำขอท้าทายไม่ทำงานอีกต่อไป ผู้ใช้บนเว็บยังทดสอบคำขอกับ Alexa และได้ผลลัพธ์ที่คล้ายกัน
OMFG เด็กอายุ 10 ขวบของฉันเพิ่งขอให้ Alexa ในรายการ Echo ของเราเพื่อท้าทาย และนี่คือสิ่งที่เธอพูด pictwitter.com/HgGgrLbdS8
— คริสติน ลิฟดาห์ล (@klivdahl) December 26, 2021
Amazon ไม่ใช่บริษัทเดียวที่พบปัญหาในการวิเคราะห์เนื้อหาเว็บ ในเดือนตุลาคม ผู้ใช้รายหนึ่งรายงานว่า Google กำลังแสดงคำแนะนำที่อาจเป็นอันตรายในตัวอย่างข้อมูล หากคุณพิมพ์ "คุณกำลังมีอาการชัก ต้องทำอย่างไร" ใน Google ข้อมูลดังกล่าวนำมาจากส่วนของหน้าเว็บที่อธิบายถึงสิ่งที่ไม่ จะทำอย่างไรถ้ามีคนชัก อย่างไรก็ตาม ผู้ใช้ได้รายงานปัญหาอื่นที่คล้ายคลึงกัน รวมถึงผู้ใช้รายหนึ่งที่รายงานว่า Google ส่งคืนผลลัพธ์สำหรับความดันเลือดต่ำแบบมีพยาธิสภาพเมื่อค้นหาความดันเลือดต่ำแบบมีพยาธิสภาพ และอีกรายโพสต์ภาพหน้าจอของ Google ซึ่งแสดงคำแนะนำที่น่ากลัวสำหรับการปลอบโยนผู้โศกเศร้าตามข้อความ "ดีใจที่คุณ ไม่เป็นไร" หรือ "อย่าเศร้า! เป็นกำลังใจให้!".
สรุปการค้นหาของ Google เทียบกับหน้าจริง pictwitter.com/OJxt1FrBqh
— soft.linden (ทั่วไป) ตุลาคม 16, 2021
นอกจากนี้ เรายังเห็นคำเตือนเกี่ยวกับพฤติกรรมที่เป็นอันตรายซึ่งยกระดับปัญหาให้ใหญ่ขึ้นกว่าเดิม เมื่อต้นเดือนนี้ เขตการศึกษาบางแห่งในสหรัฐฯ ถูกสั่งปิดเมืองหลังจากมีรายงานการขู่กราดยิงบน TikTok ปรากฎว่าพายุโซเชียลมีสาเหตุหลักมาจากการที่ผู้คนพูดถึงภัยคุกคามมากกว่าภัยคุกคามที่มีอยู่จริง ในกรณีของ Alexa อัลกอริทึมเลือกส่วนที่เป็นคำอธิบายของคำเตือนและขยายขอบเขตโดยไม่มีบริบทดั้งเดิม แม้ว่าผู้ปกครองจะเข้าไปแทรกแซงทันที แต่ก็เป็นเรื่องง่ายที่จะจินตนาการถึงสถานการณ์ที่ไม่เป็นเช่นนั้นและผลที่ตามมา
Livdahl ทวีตว่าเธอใช้โอกาสนี้ในการ "ปรึกษาเรื่องความปลอดภัยทางอินเทอร์เน็ตกับลูกของเธอ และอย่าเชื่อสิ่งที่คุณอ่านโดยปราศจากการค้นคว้าและตรวจสอบ" ซึ่งเราขอแนะนำให้คุณทำเช่นกัน
อ่าน: