อัลกอริธึมการละเมิดของ YAHOO ได้ผล 90% ของเวลา

อัลกอริทึมคอมพิวเตอร์ช่วย

บทความข่าวของ Yahoo มีความคิดเห็นที่น่ารังเกียจมากมาย เช่นเดียวกับส่วนอื่นๆ ของอินเทอร์เน็ต ดังนั้นทีม Yahoo จึงตัดสินใจใช้ส่วนความคิดเห็นเพื่อพัฒนาอัลกอริทึมที่สามารถระบุตัวผู้กระทำความผิดที่เลวร้ายที่สุดได้สำเร็จ ของพวกเขา อัลกอริธึมการตรวจจับการละเมิดใหม่ ทำงานได้ 90 เปอร์เซ็นต์ของเวลา ซึ่งพวกเขากล่าวว่าทำให้มีประสิทธิภาพมากกว่าความพยายามขององค์กรอื่นๆ ในการดำเนินการที่คล้ายคลึงกัน และอธิบายว่าเป็นก้าวสำคัญที่ก้าวไปข้างหน้าในภาคสนาม 90 เปอร์เซ็นต์ ทำ เสียงค่อนข้างดีฉันยอมรับ

มีสาย รายงานว่า Yahoo ยังเปิดตัวฐานข้อมูลเกี่ยวกับวาจาสร้างความเกลียดชังออนไลน์ที่เผยแพร่ต่อสาธารณะซึ่งเป็นส่วนหนึ่งของโครงการเพื่อต่อต้านการละเมิด ซึ่งหมายความว่าไซต์อื่นๆ จะสามารถใช้ฐานข้อมูลความคิดเห็นของ Yahoo เพื่อออกแบบอัลกอริทึมของตนเองได้ อัลกอริธึมของ Yahoo ได้รับการพัฒนาโดยอาศัยการเรียนรู้ของเครื่องและจากข้อมูลที่ผู้ใช้รายงานเกี่ยวกับส่วนความคิดเห็น

ส่วนที่ยากที่สุดของอัลกอริธึมการตรวจสอบความคิดเห็นคือการจัดการกับผลบวกที่ผิดพลาด อัลกอริธึมการตรวจจับการละเมิดจำนวนมากมองหาคำหรือวลีที่เฉพาะเจาะจง เช่น การใส่ร้ายป้ายสีหรือการดูหมิ่นทั่วไป และตั้งค่าสถานะความคิดเห็นโดยอัตโนมัติเพื่อการตรวจสอบ อย่างไรก็ตาม สิ่งนี้ส่งผลให้ความคิดเห็นถูกตั้งค่าสถานะแม้ว่าพวกเขาจะอ้างอิงถึงคำหยาบคายในบริบทที่บอกว่าไม่เหมาะสม ตัวอย่างเช่น หรือหากความคิดเห็นนั้นเป็นการล้อเลียนประชดประชันของโทรลล์ อัลกอริธึมของ Yahoo สามารถตรวจจับรูปแบบคำพูดบางอย่างได้ และได้รับการออกแบบมาเพื่อให้สามารถแยกแยะความแตกต่างระหว่างการเสียดสีล้อเลียนและการใช้ในทางที่ผิดได้ (แน่นอน หากความคิดเห็นที่ตลกขบขันของคุณแยกไม่ออกจากการละเมิดจริง ฉันค่อนข้างแน่ใจว่าอัลกอริทึมจะยังตั้งค่าสถานะนั้นอยู่ แต่ฉันไม่สามารถบอกได้อย่างแน่นอนว่าส่วนนั้นของ AI ทำงานอย่างไร

Yahoo เกณฑ์ผู้ตรวจสอบความคิดเห็นที่ได้รับการฝึกอบรมเพื่อช่วยให้อัลกอริทึมสมบูรณ์แบบ และพวกเขายังจ่ายเงินให้ผู้ตรวจสอบที่ไม่ได้รับการฝึกฝน และพบว่าผู้ดูแลที่ผ่านการฝึกอบรมสามารถค้นหาความคิดเห็นที่เหมาะสมได้ดีกว่ามาก (ไม่ต้องคิดมาก แต่เดี๋ยวก่อน) ระหว่างการสร้าง AI นั้น Yahoo พบว่างานของผู้กลั่นกรองที่เป็นมนุษย์เหล่านี้มีความสำคัญต่อการรักษาประสิทธิภาพของอัลกอริธึมและทำให้เทคนิคการตรวจจับสมบูรณ์แบบ

แน่นอน, อัลกอริทึมยังคงมีอคติ ซึ่งจะทำให้ทีมผู้กลั่นกรองที่เป็นมนุษย์ (หวังว่าจะมีความหลากหลาย) จำเป็นต้องทำซ้ำตามระเบียบวิธีที่ใช้ในการจัดประเภทความคิดเห็นต่อไป ฟังดูเหมือนเป็นงานที่ยาก แต่อย่างน้อยตอนนี้ Yahoo เข้าใจถึงความสำคัญของการฝึกอบรมและการประเมินบทบาทของทั้งผู้ดูแลที่เป็นมนุษย์ที่ได้รับการฝึกฝนมาเป็นอย่างดีและเพื่อนร่วมงาน AI ใหม่ของพวกเขา