במאמרי החדשות של יאהו יש שפע של תגובות לא נעימות, בדומה לשאר האינטרנט, ולכן צוות יאהו החליט להשתמש בסעיף ההערות שלהם על מנת לפתח אלגוריתם שיוכל לזהות בהצלחה את העבריינים הגרועים ביותר. שֶׁלָהֶם אלגוריתם חדש לגילוי שימוש לרעה עובד 90 אחוז מהמקרים, מה שלדבריהם הופך את זה ליעיל יותר מניסיונותיהם של ארגונים אחרים לקבל מעללים דומים, ותואר כצעד גדול קדימה בתחום. 90 אחוז עושה נשמע די טוב, אני מודה.
קווית מדווח כי יאהו משחררת גם את מאגר המידע הראשון של דברי שטנה מקוונים הזמינים לציבור כחלק מהפרויקט שלהם למאבק בהתעללות. המשמעות היא שאתרים אחרים יוכלו להשתמש במאגר התגובות של יאהו על מנת לעצב אלגוריתמים משלהם. האלגוריתם של יאהו פותח על סמך למידה ממוחשבת וגם על נתונים המדווחים על ידי המשתמשים על קטעי התגובות שלהם.
החלק הכי מסובך בכל אלגוריתם שממתן תגובות הוא להתמודד עם תוצאות חיוביות שגויות. אלגוריתמים רבים שמזהים שימוש לרעה מחפשים מילים או ביטויים ספציפיים, כמו השמצות או עלבונות נפוצים, ומסמנים אוטומטית את התגובות לצורך התמתנות. עם זאת, התוצאה היא שתגובות מסומנות גם אם הן מתייחסות לטשטוש בהקשר לאמירה שזה לא מתאים, למשל, או אם ההערה היא חיקוי סרקסטי של טרול. האלגוריתם של יאהו כנראה יכול לזהות דפוסי דיבור מסוימים, והוא נועד להיות מסוגל להבדיל בין סרקזם מבודח להתעללות ממשית. (כמובן, אם לא ניתן להבחין בין התגובה המצחיקה שלך לבין התעללות בפועל, אני די בטוח שהאלגוריתם עדיין יסמן אותו, אבל אני לא יכול לומר בוודאות איך החלק הזה של ה- AI עובד.)
יאהו גייסה מנחי הערות מאומנים שיעזרו לשכלל את האלגוריתם, והם שילמו גם לכמה מנחים לא מאומנים, והם מצאו כי המנחים שהוכשרו היו הרבה יותר טובים בלהבין אילו הערות מתאימות (קצת לא מוחות, אבל היי). במהלך יצירת AI, יאהו מצאה שעבודתם של המנחים האנושיים המאומנים הללו חיונית לשמירה על יעילות האלגוריתם ולשכלול טכניקות האיתור שלו.
כמובן, לאלגוריתמים יש עדיין הטיות , מה שיחייב צוות (מקווה מגוון) של מנחים אנושיים להמשיך ולבחון את המתודולוגיות המשמשות לסיווג הערות. נשמע כמו עבודה קשה, אבל לפחות יאהו מבינה כעת את החשיבות של הכשרה והערכת התפקידים של המנחים האנושיים המאומנים שלהם ושל עמיתם החדש ל- AI.
משפט באמצעות תו חניה קרבי
(באמצעות האינטרנט הבא , תמונה באמצעות מייקל קורדדה / פליקר )
