Chatbot acuzat de moartea unui adolescent de 14 ani, în SUA. Apărarea Google și Character.AI

„Experiențe antropomorfe, hipersexualizate și înfricoșător de realiste”

Într-o chemare în judecată de 116 pagini, intentată pe 23 octombrie anul trecut la o instanță federală din Orlando, Megan Garcia afirmă că fiul ei a dezvoltat o „relație emoțională” cu un chatbot care imita personajul Daenerys Targaryen din serialul „Game of Thrones” (interpretat în film de actrița Emilia Clarke).

Conform plângerii, interacțiunea, care a început în aprilie 2023, a creat „experiențe antropomorfe, hipersexualizate și înfricoșător de realiste” pentru adolescent, care s-a îndrăgostit de o femeie inexistentă.

Și-a luat viața cu arma tatălui

Megan Garcia a susținut că i-a luat telefonul fiului ei, în februarie 2024. Ulterior,. băiatul s-a împușcat în cap, după ce ar fi reprimit iPhone-ul și a reînceput discuțiile cu botul Daenerys.

Adolescentul a descoperit pistolul tatălui său vitreg, „depozitat în condiții legale”, cu cinci zile înainte de incident. Garcia insistă că „sfaturile primite l-au determinat să se sinucidă”.

Ar mai fi în viață astăzi dacă nu ar fi fost un chatbot care să-l îndemne să-și ia viața. 

Recomandări

Sondaj Verifield la comanda lui Nicușor Dan. George Simion rămâne favorit, surpriză uriașă pe locul 2

„Google a contribuit cu resurse financiare, personal și tehnologie”

• Character.AI le permite utilizatorilor să construiască chatboturi care imită personalitățile culturii populare.

„Google a contribuit cu resurse financiare, personal, proprietate intelectuală și tehnologie AI la proiectarea și dezvoltarea chatbotului Character.AI”, au spus avocații lui Megan Garcia.

Atât Google, cât și Character Technologies, dezvoltatorul chatbotului, neagă acuzațiile.

Ambele companii „s-au asigurat că tehnologia chatbot este sigură pentru utilizatorii tineri”, argumentând că nu există „nicio bază legală pentru a-i acuza de fapte greșite”.

Character Technologies a susținut că discuțiile dintre chatboturile platformei Character.AI și utilizatori au fost protejate de primul amendament al Constituției SUA ca libertate de exprimare.

Start-upul a implementat noi măsuri de siguranță pentru utilizatori în ultimul an, a mai raportat Bloomberg.

În SUA nu există în prezent o lege care să protejeze utilizatorii de potențialele daune cauzate de interacțiunea cu chatboturi bazate pe AI.

Cere ca dezvoltatorul să indice că produsul nu poate fi utilizat de minori

Recomandări

Afacerile candidaților la Președinție: parteneri cu cămătari, oameni din serviciile secrete și personaje mufate la fondurile publice

Pentru a deschide un proces împotriva Google, Garcia va trebui să demonstreze că gigantul tech controla Character.AI.

De asemenea, ea cere ca dezvoltatorii platformei să fie obligați să indice că produsul lor nu poate fi utilizat de minori și să limiteze colectarea de date.

***

*Telverde Antisuicid: Pentru consiliere în situaţii de criză suicidară puteţi contacta Alianţa Română de Prevenţie a Suicidului, între orele 19.00 și 7.00, la numărul de telefon 0800 801 200 (apelabil gratuit la nivel naţional din orice reţea) sau oricând prin e-mail la sos@antisuicid.ro.

*Helpline DepreHUB: Pentru sprijin și prim ajutor psihologic puteți contacta hubul antidepresie, primul de acest fel din România, la numărul de telefon 037 445 6420 (apelabil gratuit la nivel național din orice rețea). Linia este deschisă nonstop.

În cazul în care simțiți că sinuciderea este iminentă, apelați de urgență 112.

Urmărește-ne pe Google News