„Nașul AI” Geoffrey Hinton avertizează că inteligența artificială ar putea prelua controlul de la oameni: „Nu au înțeles ce urmează”

Care sunt șansele ca inteligența artificială să preia controlul

„Oamenii nu au înțeles încă, nu au înțeles ce urmează”, a avertizat Hinton, estimând un risc de 10% până la 20% ca inteligența artificială să preia controlul de la oameni. 

„Cel mai bun mod de a o înțelege din punct de vedere emoțional este că suntem precum cineva care are un pui de tigru foarte drăguț. Dacă nu poți fi foarte sigur că nu va dori să te omoare când va crește, ar trebui să-ți faci griji”, a explicat Geoffrey Hinton, în vârstă de 77 de ani.

Hinton crede că AI va transforma educația, medicina și ar putea contribui la rezolvarea schimbărilor climatice, dar își exprimă îngrijorarea cu privire la viteza dezvoltării și la lipsa reglementărilor adecvate.

Mai multe reguli pentru companiile care dezvoltă inteligența artificială

El a criticat marile companii de tehnologie, inclusiv Google, pentru care a lucrat până în 2023, pentru lobby-ul lor în favoarea unui cadru de reglementare mai relaxat, în ciuda riscurilor evidente. 

„Dacă vă uitați la ceea ce fac marile companii în acest moment, ele fac lobby pentru a obține mai puține reglementări privind AI. În prezent, nu există aproape nicio reglementare, dar ele vor mai puține”, a adăugat Hinton.

În opinia sa, companiile care dezvoltă AI ar trebui să dedice mult mai multe resurse cercetării în domeniul siguranței – „cam o treime” din puterea lor de calcul, față de procentul mult mai mic alocat în prezent.

În fața acestor preocupări, Hinton și alți lideri din domeniu, precum CEO-ul Google, Sundar Pichai, Elon Musk de la X-AI și Sam Altman de la OpenAI, au atras atenția asupra pericolelor asociate cu AI.

Hinton însă nu ezită să critice aceste companii pentru prioritizarea profitului în detrimentul siguranței.

Deși majoritatea laboratoarelor de AI spun că susțin reglementarea și au afirmat că siguranța este importantă, nicio companie nu a oferit detalii despre resursele reale alocate cercetării în acest domeniu crucial.

Mai mult, s-au opus în mare parte reglementărilor pe care legiuitorii le-au propus până acum, conform sursei citate.