A Yahoo hírcikkei rengeteg kellemetlen kommentet tartalmaznak, hasonlóan az internet többi részéhez, ezért a Yahoo csapata úgy döntött, hogy a megjegyzések szakaszát felhasználva olyan algoritmust fejleszt ki, amely sikeresen azonosíthatja a legsúlyosabb elkövetőket. Az övék új visszaélést észlelő algoritmus az esetek 90 százalékában működik, ami szerintük hatékonyabb, mint más szervezetek hasonló bravúrok felvállalására tett kísérletei, és nagy előrelépésnek minősül a területen. 90 százalék csinál nagyon jól hangzik, bevallom.
Vezetékes arról számol be, hogy a Yahoo a visszaélések leküzdésére irányuló projektje részeként kiadja az első nyilvánosan elérhető kurált adatbázist is az online gyűlöletbeszédről. Ez azt jelenti, hogy más webhelyek képesek lesznek használni a Yahoo megjegyzés-adatbázisát saját algoritmusaik megtervezéséhez. A Yahoo algoritmusát a gépi tanulás és a felhasználók által közölt adatok alapján fejlesztették ki.
A megjegyzés-moderáló algoritmusok legbonyolultabb része a hamis pozitívumokkal foglalkozik. Sok visszaélést észlelő algoritmus konkrét szavakat vagy kifejezéseket keres, például rágalmazásokat vagy gyakori sértéseket, és automatikusan megjegyzésként megjelöli a megjegyzéseket. Ez azonban azt eredményezi, hogy a megjegyzéseket akkor is megjelölik, ha hivatkoznak egy rágalomra, mondván, hogy például nem megfelelő, vagy ha a megjegyzés egy troll szarkasztikus utánzata. A Yahoo algoritmusa nyilvánvalóan képes észlelni bizonyos beszédmintákat, és úgy lett kialakítva, hogy meg lehessen különböztetni a vicces szarkazmust és a tényleges bántalmazást. (Természetesen, ha vidám megjegyzését nem lehet megkülönböztetni a tényleges visszaéléstől, akkor biztos vagyok abban, hogy az algoritmus továbbra is megjelöli, de nem tudom biztosan megmondani, hogyan működik az AI ezen része.)
A Yahoo képzett komment moderátorokat vett fel az algoritmus tökéletesítéséhez, és fizettek néhány képzetlen moderátort is, és azt tapasztalták, hogy a képzett moderátorok sokkal jobban tudták kitalálni, hogy melyek a megfelelő megjegyzések (amolyan nem okoskodó, de hé). Az AI létrehozása során a Yahoo megállapította, hogy ezen képzett emberi moderátorok munkája elengedhetetlen az algoritmus hatékonyságának fenntartásához és detektálási technikáinak tökéletesítéséhez.
Természetesen, az algoritmusoknak még mindig vannak elfogultságai , amely szükségessé teszi egy (remélhetőleg sokszínű) emberi moderátorok csapatát, hogy folytassák a kommentek osztályozásához használt módszerek ismétlését. Nehéz munkának hangzik, de a Yahoo legalábbis megérti a képzés fontosságát és megbecsüli mind a jól képzett emberi moderátorok, mind az új mesterséges intelligencia kollégájuk szerepét.
fekete párduc mid credits jelenet
(keresztül A következő web , kép keresztül Michael Cordedda / Flickr )
