กลุ่ม Facebook ใช้อีโมจิแครอทเพื่อซ่อนเนื้อหาต่อต้าน vax จากเครื่องมือกลั่นกรองอัตโนมัติ

BBC ได้เห็นหลายกลุ่ม กลุ่มหนึ่งมีสมาชิกหลายแสนคน ซึ่งอิโมจิปรากฏขึ้นแทนคำว่า "วัคซีน"

ชวนเพื่อนเล่น ชวนเพื่อนรวย ได้เงินจาก Lucabet

อัลกอริธึมของ Facebook มักจะเน้นที่คำมากกว่ารูปภาพ

กลุ่มนี้ถูกใช้เพื่อแชร์คำกล่าวอ้างที่ไม่ได้รับการยืนยันว่ามีผู้ได้รับบาดเจ็บหรือเสียชีวิตจากวัคซีน

เมื่อ BBC แจ้งเตือน Meta ซึ่งเป็นบริษัทแม่ของ Facebook กลุ่มต่างๆ ก็ถูกลบออกไป

“เราได้นำกลุ่มนี้ออกเนื่องจากละเมิดนโยบายการให้ข้อมูลเท็จที่เป็นอันตราย และจะตรวจสอบเนื้อหาอื่นๆ ที่คล้ายคลึงกันตามนโยบายนี้ เรายังคงทำงานอย่างใกล้ชิดกับผู้เชี่ยวชาญด้านสาธารณสุขและรัฐบาลสหราชอาณาจักรเพื่อจัดการกับข้อมูลที่ผิดเกี่ยวกับวัคซีนโควิด” บริษัทกล่าวใน คำสั่ง

อย่างไรก็ตาม กลุ่มได้ปรากฏขึ้นอีกครั้งในการค้นหาของเรา

กลุ่มหนึ่งที่เราเห็นอยู่มาเป็นเวลาสามปีแล้ว แต่ได้รีแบรนด์ตัวเองเพื่อมุ่งเน้นไปที่เรื่องราวของวัคซีน จากการเป็นกลุ่มสำหรับแชร์ "ล้อเล่น เดิมพัน และวิดีโอตลก" ในเดือนสิงหาคม 2022

กฎของกลุ่มใหญ่มาก: "ใช้คำรหัสสำหรับทุกสิ่ง" มันเพิ่ม: "อย่าใช้คำ c, v word หรือ b word ตลอดไป" (covid, วัคซีน, บูสเตอร์) ก่อตั้งขึ้นเมื่อกว่าปีที่แล้วและมีสมาชิกมากกว่า 250,000 คน

Marc Owen-Jones นักวิจัยบิดเบือนข้อมูล และรองศาสตราจารย์ที่มหาวิทยาลัย Hamad Bin Khalifa ในกาตาร์ ได้รับเชิญให้เข้าร่วม

“คนที่เล่าถึงญาติผู้เสียชีวิตหลังจากรับวัคซีนโควิด-19 ได้ไม่นาน” เขากล่าว "แต่แทนที่จะใช้คำว่า "โควิด-19" หรือ "วัคซีน" พวกเขากลับใช้อีโมจิของแครอทแทน

"ตอนแรกฉันรู้สึกสับสนเล็กน้อย แล้วมันก็คลิก - มันถูกใช้เพื่อหลบเลี่ยงหรือหลบเลี่ยงอัลกอริธึมการตรวจจับข่าวปลอมของ Facebook"

ในปี 2564 ข้อมูลจากสำนักงานสถิติแห่งชาติระบุว่ามีความเสี่ยงในการเสียชีวิตจากวัคซีนโควิด 1 ใน 5 ล้านเทียบกับความเสี่ยงที่เสียชีวิต 35,000 รายต่อการเสียชีวิตจากโควิดเอง 5 ล้านคน หากไม่ได้รับวัคซีน

ยักษ์ใหญ่ด้านเทคโนโลยีใช้อัลกอริธึมในการลากอวนลากบนแพลตฟอร์มเพื่อหาเนื้อหาที่เป็นอันตราย - แต่โดยหลักแล้วพวกเขาได้รับการฝึกฝนเกี่ยวกับคำและข้อความHannah Rose Kirk เขียนในบล็อกของ Oxford Internet Institute

Ms Rose Kirk เป็นส่วนหนึ่งของทีมวิจัยซึ่งสร้างเครื่องมือที่เรียกว่าHatemojiCheckซึ่งเป็นรายการตรวจสอบสำหรับระบุพื้นที่ที่ระบบ AI ไม่สามารถจัดการกับการละเมิดโดยใช้อีโมจิได้เป็นอย่างดี

"แม้ว่าจะมีความเข้าใจอย่างน่าประทับใจเกี่ยวกับวิธีการทำงานของภาษา แต่โมเดลภาษา AI ก็ยังเห็นอิโมจิน้อยมาก" เธอกล่าว "พวกเขาได้รับการฝึกอบรมเกี่ยวกับกลุ่มหนังสือ บทความ และเว็บไซต์ แม้กระทั่งวิกิพีเดียภาษาอังกฤษทั้งหมด แต่ข้อความเหล่านี้ไม่ค่อยมีลักษณะเป็นอีโมจิ"

แพลตฟอร์มดังกล่าวถูกวิพากษ์วิจารณ์เนื่องจากล้มเหลวในการบล็อกหรือลบอิโมจิของลิงและกล้วยเมื่อโพสต์เป็นท่าทางเหยียดผิวในบัญชีของนักฟุตบอลผิวดำ