Fostă angajată Facebook: Compania nu face suficient să combată conținutul extremist în alte limbi decât engleza, iar asta crește violența

Compania nu investește suficient în limbi care nu sunt engleza, spune Frances Haugen, fost manager de produs în cadrul Facebook, pentru DW. 

Rețeaua socială încearcă, în primul rând, să evite reglementările în Statele Unite, așa că limba engleză primește cea mai multă atenție când vine vorba de adaptarea software-ului de inteligență artificială (AI) al companiei.

„Din păcate, cele mai fragile locuri din lume sunt cele mai diverse când vine vorba de limbi”, explică Haugen.

Rolul pe care îl joacă Facebook în amplificarea tensiunilor etnice și politice arată cât de urgentă este nevoia de schimbare la nivelul rețelei sociale, crede fosta angajată, care va fi audiată pe 8 noiembrie în Parlamentul European.  

Cele peste 10 mii de documentele scurse de Haugen au adus acuzații grave asupra companiei, inclusiv că platforma este folosită pentru trafic de persoane, că algoritmii facilitează dezinformarea și știrile false și că amplifică ura și violența între utilizatori.  

Violența facilitată de rețelele sociale

Facebook se bazează pe inteligența artificială ca să identifice conținutul extremist și să se asigure că nu ajunge foarte sus în feed-ul utilizatorilor. 

Dar ca strategia să funcționeze la nivel global, acele sisteme AI ar trebui reconstruite în fiecare limbă, iar Facebook nu face asta în prezent, explică fosta angajată. 

Recomandări

De ce nimeni nu poate prezice strategia Trump 2.0 privind Ucraina

Să te bazezi pe inteligența artificială pentru a menține siguranța publică, dar să nu actualizezi sistemele în alte limbi, poate să aibă consecințe majore în lumea reală, continuă Haugen.

Știam că nu aș putea trăi cu mine dacă aș vedea 10 milioane, 20 de milioane de oameni murind în următorii 20 de ani din cauza violenței care a fost facilitată de rețelele sociale.

Frances Haugen, fosta angajată a Facebook:

Cazul Etiopiei

Situația din Etiopia, țară prinsă într-un război civil de aproape un an, arată cum rețelele sociale pot să alimenteze violența și tensiunile etnice, precizează Frances Haugen. 

Discursurile instigatoare la ură s-au înmulțit pe rețelele sociale în Etiopia, pe fondul avansului forțelor rebele Tigrayan. 

Amnesty International a avertizat că multe postări care „incită la violență” și folosesc insulte împotriva etnicilor tigrayeni „au rămas necontrolate”.

Facebook a eliminat recent o postare a premierului etiopian Abiy Ahmed, spunând că a încălcat politicile companiei împotriva apelurilor la violență.

Vineri, Twitter și-a suspendat secțiunea „Trends” din Etiopia, invocând o creștere a amenințărilor cu violență fizică.

Urmărește-ne pe Google News