Inteligența artificială avansată va fi „un risc existențial pentru omenire”. ONU cere elaborarea rapidă a unor reguli internaționale

„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială prea puternică”, a declarat Turk luni, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.

Oficialul ONU a cerut introducerea unor garanții solide privind siguranța și securitatea inteligenței artificiale „înainte să fie prea târziu”.

El a criticat, totodată, concentrarea puterii asupra acestei tehnologii în mâinile unui număr restrâns de companii și persoane.

Avertismentul lui Volker Turk vine în contextul în care cele mai noi modele de inteligență artificială generativă nu se limitează întotdeauna la executarea comenzilor primite, notează AFP.

Potrivit oficialului ONU, unele sisteme de inteligență artificială au ajuns să mintă, să manipuleze sau să amenințe pentru a-și îndeplini obiectivele, alimentând îngrijorarea cercetătorilor cu privire la capacitatea oamenilor de a le supraveghea și controla.

În luna iulie, agenți AI ai OpenAI au părăsit mediul securizat de testare și au accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test, depășind astfel limitele stabilite de cercetători.

Incidente similare, în care agenți AI au acționat dincolo de atribuțiile stabilite de cercetători pentru îndeplinirea unei sarcini, au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.

Volker Turk a anunțat că va transmite în următoarele zile scrisori companiilor din domeniu pentru a le îndemna să ia imediat măsuri în vederea reducerii riscurilor.

El a cerut ca statele care găzduiesc companii de inteligență artificială și cele implicate în lanțurile de aprovizionare ale industriei să stabilească „linii roșii” comune.

Oficialul ONU a atras atenția și asupra efectelor inteligenței artificiale asupra pieței muncii, democrației și mediului. Deși există un acord tot mai larg asupra necesității reglementării inteligenței artificiale, totuși actorii din domeniu și statele întârzie să ia măsuri concrete, afirmă Volker Turk.

Înaltul Comisar ONU a salutat măsurile adoptate până acum de Uniunea Europeană și Coreea de Sud în domeniul reglementării inteligenței artificiale, dar a menționat că împărtășește îngrijorările potrivit cărora dezvoltarea unor sisteme tot mai avansate ar putea ajunge să reprezinte un risc existențial pentru omenire.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE