O cercetătoare română de la Heidelberg, din Germania, le-a explicat unor elevi din Constanța de ce să nu respingă inteligența artificială: „Nu mereu cel mai deștept te și controlează”

După ce a studiat Fizica și Informatica, Letiția Pârcălăbescu și-a început doctoratul la Universitatea Heidelberg. Cercetarea ei se concentrează pe rețele neuronale care învață să integreze limbajul cu văzul. Proiectul ei secundar se învârte în jurul canalului YouTube „AI Coffee Break with Letitia”, unde împreună cu animata „doamnă Coffee Bean” explică și vizualizează concepte din inteligența artificială.

Marți, 23 mai, a pus pentru o oră pe pauză transmisiunile pe YouTube, ca să se întâlnească cu elevii de la Liceul Tehnologic Independența, în format hibrid. Elevii de la postliceală și profesorii lor au avut tot felul de curiozități despre aplicațiile mobile pe care le folosesc, despre furtul de date și cum să se protejeze online.

„Nu am așteptarea ca ChatGPT să-mi răspundă corect”

– Eu am încercat ChatGPT într-un proiect și l-am întrebat inițial despre surse de poluare în municipiul Constanța și mi-a dat câteva exemple, iar apoi am întrebat care este gradul de poluare de la atomocentrala de la Cernavodă și mi-a scris că aceste date sunt confidențiale. Am observat că nu mi-a dat niciun procent și răspunsul era cu un spectru larg. De ce nu este exact?

Recomandări

Primul tren nou cumpărat de România în ultimii 20 de ani s-a stricat a doua zi după inaugurare

– Când îl întreb pe ChatGPT ceva, nici măcar nu am așteptarea să-mi răspundă corect pentru că nu a fost niciodată antrenat ca acele date pe care le spune să fie corecte.

OpenAI, cei care au creat acest program, vor să spună că „e super, folosiți-l”, ei sunt puși pe vânzare. Ar fi foarte important ca toată lumea să știe care a fost obiectivul în timpul antrenării ChatGPT.

Scopul lui nu a fost niciodată să facă ceva corect, scopul lui a fost să citească tot ce scrie pe internet, de la Wikipedia la Reddit, la Twitter, toate site-urile web, orice a fost publicat înainte de 2021. Obiectivul nu a fost să spună chestii adevărate.

Luăm o propoziție de pe internet și putem să-i ștergem ultimele trei cuvinte, la alegere, iar el este antrenat să completeze propozițiile: Ana are… mere, Gică are… pere.

Când aude Cernavodă, probabil se gândește la energie atomică, dar el nu se uită în date exact care este procentul de poluare, iar dacă pe undeva a dat de un procent de poluare, îl va asocia cu Cernavodă, dar e posibil ca acel număr să nu aibă nicio legătură. Pentru că el a fost antrenat doar să „rimeze” un text, să asocieze cuvinte într-o formă care să aibă sens, dar nu a avut niciodată obiectivul de „corect/fals”.

Recomandări

Vladimir Putin, primul discurs după ce Ucraina a folosit rachete ATACMS ca să lovească Rusia. Avertisment pentru Occident: „Întotdeauna va exista un răspuns”

E ca un om carismatic căruia îi place să vorbească, sună bine ce spune, dar nu e neapărat corect ce spune.

– Vom ajunge în punctul în care ne va controla inteligența artificială?

– Dacă o lăsăm să ne controleze, ne va controla, putem să-i lăsăm hățurile și-o să ne ducă de râpă, dar momentan, AI nu este deloc în stare să ne controleze. Trebuie să ne întrebăm ce înseamnă controlat.

Dacă stăm să ne gândim, ne controlează și acum când stăm pe tot felul de platforme și primim reclame în funcție de locurile pe care le-am vizitat, lucrurile care ne interesează și dacă asta ne influențează următoarea cumpărătură pe care o facem, putem spune că ne controlează.

Dar cine ne controlează este cel care a programat inteligența artificială și o pune la noi pe site, e vorba de oamenii și companiile din spatele AI. Dacă ne gândim la scenariile de filme, suntem foarte departe de chestia asta.

Nu neapărat cel care e cel mai inteligent te și controlează. În mod normal, distribuirea de putere se face mai complex, cu reguli, cu hățuri și cu diferite feluri de comportament. Chiar dacă sunteți mai inteligenți ca profesorii voștri, n-o să vă apucați să vă comportați negativ și să încercați să-i controlați, pentru că există acel respect.

Recomandări

Super-armele cerute insistent de Ucraina Occidentului și cum au influențat ele războiul. De la HIMARS la ATACMS, reușite și eșecuri I Analiză

Există bineînțeles această întrebare, ce vom face când se va ajunge ca AI să fie mult mai inteligentă ca noi? Pe unele aspecte este deja mai inteligentă ca noi, poate juca mai bine șah ca noi și acel joc Go, poate să rezolve anumite probleme de știință, ajută în cercetare în locuri în care oamenii sunt limitați, fiindcă noi avem o memorie limitată. 

– Ar exista posibilitatea unui scenariu de „Terminator” în care Skynet, acea rețea globală, pusese stăpânire pe arme și pe internet și toate mașinile s-au întors împotriva omenirii?

– Aș spune că va mai dura foarte, foarte mulți ani, pentru că ce asumă acel film este că noi vom crea o rețea care are o cheie și dacă controlăm acea cheie putem să manipulăm tot sistemul și să îl întoarcem împotriva cuiva. Cumva, această ipoteză spune că există un singur buton care controlează dacă ceva e de o parte sau de alta. Eu nu am încredere în omenire că ne vom organiza vreodată într-un fel atât de uniform.

Internetul e o rețea de care mă minunez zilnic că funcționează pentru că sunt literalmente niște cabluri legate între ele. Dar internetul este foarte nestructurat, s-au legat niște cabluri, apoi s-au mai adăugat altele, apoi s-a pus un cablu transatlantic, dar dacă și cade un cablu, nu cade tot. Nu e ca un pom, dacă tăiem trunchiul, tăiem și accesul la apă al frunzelor. Nu. În cazul internetului, dacă tăiem o parte, restul bestiei continuă să existe. Mereu se strică noduri de conectare, dar informația mereu poate să găsească alte rute pentru că nu sunt controlate de cineva, de un stat sau de o persoană. Statele pot doar să reglementeze ce date se trimit, ce am voie să trimit, dar nu mai mult.

Deci nu există o cheie a internetului și cineva care ar putea să o aibă și să controleze totul. Este atât de neorganizat, de organic totul, încât nu poți să-l controlezi. Avem sisteme politice diferite, țări cu regulile lor, culturi cu normele lor, eu nu cred că se va uniformiza curând toată lumea așa încât să creăm un Skynet cu acces la el. Pentru că nu ne-am organiza niciodată atât de bine, oamenii sunt foarte dezorganizați și haotici.

„Noi, oamenii, avem această predilecție spre a găsi patternuri unde nu există”

– Ați sesizat că, dacă vorbim acum despre un produs, imediat ce deschidem telefonul, apare o reclamă. Uneori îți apare exact la ce te gândești. Marile companii ne ascultă ca să ne vândă lucruri?

– Este greu de știut, deoarece companiile nu recunosc și au foarte mare interes să nu spună, dar ideea este că nici măcar nu trebuie să spună anumite lucruri ca să-și dea seama un algoritm că noi vrem o anumită chestie. Cum există acei oameni care sunt mai buni la a citi dacă un om minte sau nu, uitându-se la niște detalii la care noi nu ne uităm: cum își mișcă mâinile, cum privește, lucruri mici, dar care spun că minte.

La fel sunt tot felul de lucruri care pot să dea unui algoritm informația că noi vrem un anumit lucru. De exemplu, eu mi-am dus mașina la inspecția tehnică acum doi ani, am fost pe un site web al locului de inspecție, am scris probabil anumite mailuri și am uitat complet că acum doi ani am făcut asta. Apoi, parcă îmi amintesc că se apropie vremea de inspecție tehnică și chiar atunci încep să primesc reclame să mă duc la inspecție.

Noi, oamenii, avem psihologic această predilecție spre a găsi patternuri unde ele nu există. Dacă eu, spre exemplu, mă gândesc la ceva și la alta, și la alta, dar apoi m-am gândit fix la aceeași chestie cu colegul meu, zic: wow, suntem suflete pereche! La fel cu reclamele, ne gândim la multe lucruri, ne vin multe reclame, nu le băgăm în seamă, dar apoi vine acea reclamă la care noi tocmai ne-am gândit: wow, îmi citește gândurile, ascultă ce vorbesc! Noi înregistrăm aceste fapte cu mai multă predilecție și le memorăm și avem impresia că ne citește gândurile, dar nu numărăm de câte ori nu ni le citește.

Sunt doi factori aici: această predilecție umană spre a număra lucrurile când se întâmplă mai mult decât când nu se întâmplă, coincidențele, și doi, algoritmii care detectează tot felul de dorințe din comportament și rețin anumite lucruri periodice și ne vor da înainte de împlinirea termenului această sugestie: ți s-au stricat sandalele, poate vrei unele noi.

„Nu vorbesc cu toți oamenii din autobuz, nu trebuie să vorbesc nici cu toți de pe internet”

– Foarte mulți dintre elevi au primit mesaje, poate chiar de la roboți. De unde își pot da ei seama, ce unealtă au la dispoziție să știe că mesajul este adevărat sau înșelător?

– Devin din ce în ce mai convingătoare pentru că una e să primesc mailuri de la prințul Nigeriei decât de la PayPal sau Amazon. Sunt oameni care copiază felul în care Amazon scrie mesajele. Trebuie să fim foarte atenți și să ne educăm.

La fel cum nu credem tot ce zice cineva, la fel trebuie să ne uităm la lucruri în spațiul virtual. Când vine un e-mail e important să ne uităm de la cine vine, nu doar la numele persoanei, ci și adresa de e-mail. Dacă este de la Amazon, se va termina cu @amazon.com și adresa de e-mail este de la companie și se vede asta. Dacă e cineva care doar imită Amazon va fi @oricealtcevașinuamazon, tot felul de chestii inventate.

Pur și simplu, regula numărul 1 este să nu vorbim cu persoane necunoscute. Mama mi-a spus când eram mică să nu vorbesc cu necunoscuții. La fel și pe internet.

– Snapchat îți pune și el întrebări și îți cere poze. Te întreabă cum a fost ziua ta sau îți cere o poză cu tine. Mi se pare suspect…

– Uneori îmi cer și mie, dar nu le dau. Câteodată nici nu sunt roboți, sunt chiar oameni care își fac un hobby din a primi nuduri, alții au jobul ăsta de a vorbi cu tine până le dai bani.

Nu există o aplicație care să le aibă pe toate. Am pur și simplu grijă când primesc mesaje de la oameni necunoscuți să vorbesc doar când văd că cineva este bine intenționat.

Dacă văd că o invitație este prea vagă și ar putea fi adresată oricui, nu intru în conversație. Am un timp limitat de viață și nu trebuie să mă bag în toate conversațiile din online, la fel cum nu ne băgăm în seamă cu toată lumea din autobuz.

Interviul complet, în Școala 9. 

Urmărește-ne pe Google News