L'algoritmu di rilevazione di abusi di Yahoo funziona 90% di u tempu è hè un primu passu maiò in u so campu

L'articuli di nutizie di Yahoo anu un saccu di cummenti sgradevuli, assai cum'è u restu di l'internet, cusì a squadra di Yahoo hà decisu d'utilizà a so sezione di cumenti per sviluppà un algoritmu chì puderia identificà cù successu i peghju culpevuli. U so novu algoritmu di rilevazione di abusi travaglia 90 per centu di u tempu, chì dicenu chì a rende più efficace chè e prove d'altre urganizazioni per piglià fatti simili, è discritta cum'è un passu maiò in avanti in u campu. 90 per centu face sona abbastanza bè, ricunnoscu.

Cundutu informa chì Yahoo rilascia ancu a prima basa di dati curata dispunibile publicamente di discorsi d'odiu in ligna cum'è parte di u so prughjettu per cumbatte l'abusu. Questu significa chì altri siti puderanu aduprà a basa di dati di Yahoo di cumenti per cuncepisce i so algoritmi. L'algoritmu di Yahoo hè statu sviluppatu basatu annantu à l'apprendimentu machine è ancu nantu à i dati riportati da l'utilizatori nantu à e so sezioni di cumenti.

A parte più complicata di qualsiasi algoritmu di moderazione di cumenti hè di trattà di falsi pusitivi. Parechji algoritmi di rilevazione di abusi cercanu parolle o frasi specifiche, cum'è insulti o insulte cumuni, è signalanu automaticamente i cumenti per a moderazione. Tuttavia, questu risultu in i cumenti chì sò marcati ancu s'elli facenu riferenza à un slur in u cuntestu di dì chì ùn hè micca adatta, per esempiu, o se u cummentariu hè una imitazione sarcastica di un troll. L'algoritmu di Yahoo apparentemente pò rilevà certi mudelli di discursu, è hè cuncipitu per pudè distingue trà u sarcasimu scherzosu è l'abusu propiu. (Benintesa, se u vostru divertente commentu ùn si distingue micca da l'abusu attuale, allora sò abbastanza sicuru chì l'algoritmu u banderà sempre, ma ùn possu micca dì sicuru cumu funziona quella parte di l'AI.)

Yahoo hà arruinatu moderatori di cumenti addestrati per aiutà à perfezziunà l'algoritmu, è anu ancu pagatu alcuni moderatori non addestrati, è anu trovu chì i moderatori addestrati eranu assai megliu à capì quali cumenti eranu adatti (un pocu micca brainer, ma ehi). In u corsu di a creazione di l'AI, Yahoo hà trovu chì u travagliu di sti moderatori umani addestrati era essenziale per mantene l'efficacia di l'algoritmu è perfezziunà e so tecniche di rilevazione.

Benintesa, l'algoritmi anu sempre pregiudiziu , chì avrebbe bisognu di una squadra (speremu diversa) di moderatori umani per cuntinuà à iterà nantu à e metodulugie aduprate per classificà i cumenti. Sembra un travagliu duru, ma almenu Yahoo capisce avà l'importanza di a furmazione è di valutà i roli sia di i so moderatori umani ben addestrati sia di u so novu cumpagnu di IA.

Lilo et Stitch scène supprimée

(via U Prossimu Web , imagine via Michael Cordedda / Flickr )