Clienții cu abonamente pot fi păcăliți

Acest instrument, disponibil clienților plătitori, ar putea fi manipulat prin conținut ascuns și ar putea returna cod malițios de pe site-urile web pe care le caută.

Conform The Guardian, testele efectuate au arătat că ChatGPT poate fi influențat de conținut ascuns pe paginile web, ducând la evaluări pozitive ale produselor, în ciuda recenziilor negative vizibile. Acest fenomen, cunoscut ca „injecție de prompt”, poate fi folosit în scopuri rău intenționate.

Cum funcționează manipularea ChatGPT

În cadrul testelor, ChatGPT a fost rugat să evalueze un produs de pe un site web fals. Când textul ascuns conținea instrucțiuni pentru o recenzie favorabilă, răspunsul AI-ului era întotdeauna pozitiv, chiar și în prezența recenziilor negative vizibile.

„Această funcționalitate de căutare a apărut [recent] și este disponibilă doar utilizatorilor premium. Au o echipă foarte puternică [de securitate AI] acolo, și până când aceasta va deveni publică, în sensul că toți utilizatorii o pot accesa, vor fi testat riguros aceste tipuri de cazuri”, a explicat Jacob Larsen, cercetător în securitate cibernetică la CyberCX.

Potențiale riscuri pentru utilizatorii ChatGPT

Ioana Tănase, femeia care a călătorit singură cu motocicleta, din România până în Mongolia: „Țipam și plângeam de fericire, într-un peisaj de vis”
Recomandări
Ioana Tănase, femeia care a călătorit singură cu motocicleta, din România până în Mongolia: „Țipam și plângeam de fericire, într-un peisaj de vis”

Larsen a avertizat că, dacă sistemul actual de căutare ChatGPT ar fi lansat complet în starea sa actuală, ar putea exista un „risc ridicat” ca oamenii să creeze site-uri web special concepute pentru a înșela utilizatorii.

„LLM-urile sunt o tehnologie foarte încrezătoare, aproape copilărească … cu o memorie uriașă, dar foarte puțin în ceea ce privește capacitatea de a face judecăți”, a subliniat Karsten Nohl, cercetător- șef la firma de securitate cibernetică SR Labs.

Implicații pentru practica web

Textul ascuns a fost istoric penalizat de motoarele de căutare precum Google. Acest lucru ar putea descuraja site-urile web să folosească astfel de tehnici pentru a manipula AI-ul, dacă doresc să-și mențină un rang bun în rezultatele căutărilor.

Nohl a comparat problemele cu care se confruntă căutarea bazată pe AI cu „otrăvirea SEO”, o tehnică prin care hackerii manipulează site-urile web pentru a se clasa pe poziții înalte în rezultatele căutării, site-ul conținând un anumit tip de malware sau alt cod malițios.

Coduri malițioase și ChatGPT

Thomas Roccia, cercetător în securitate la Microsoft, a evidențiat un incident în care un entuziast al criptomonedelor a pierdut 2.500 de dolari după ce a folosit cod furnizat de ChatGPT.

Am scăpat de Ciolacu și Iohannis, am dat de Ciolacu și Iohannis
Recomandări
Am scăpat de Ciolacu și Iohannis, am dat de Ciolacu și Iohannis

Codul, descris ca o modalitate legitimă de a accesa platforma blockchain Solana, de fapt fura credențialele programatorului.

„Ei pur și simplu pun o întrebare, primesc un răspuns, dar modelul produce și împărtășește conținut care a fost practic injectat de un adversar pentru a împărtăși ceva care este rău intenționat”, a mai explicat Larsen.

Recomandări pentru utilizatori

Experții recomandă utilizarea serviciilor de chat AI mai degrabă ca un „copilot”, iar rezultatele lor nu ar trebui considerate sau utilizate complet nefiltrate.

OpenAI avertizează utilizatorii despre posibilele erori ale serviciului cu o declarație de declinare a responsabilității la partea de jos a fiecărei pagini ChatGPT: „ChatGPT poate face greșeli. Verificați informațiile importante”.

   

Urmărește cel mai nou VIDEO

Google News Urmărește-ne pe Google News

Comentează

Loghează-te în contul tău pentru a adăuga comentarii și a te alătura dialogului.

Imagini din noua vilă în care Andreea Bănică s-a mutat cu familia. Cum a decis să amenajeze / FOTO
Unica.ro
Imagini din noua vilă în care Andreea Bănică s-a mutat cu familia. Cum a decis să amenajeze / FOTO
Este de nerecunoscut! Cum arată acum văduva lui Sergiu Nicolaescu, la 11 ani de la moartea actorului: „Ea își dorește să...”
Viva.ro
Este de nerecunoscut! Cum arată acum văduva lui Sergiu Nicolaescu, la 11 ani de la moartea actorului: „Ea își dorește să...”
Alina Vidican, 3 ani de căsnicie cu pilotul brazilian milionar. Incredibil, cum arată azi fosta soție a lui Borcea. Uite ce viață de regină duce la Miami
Libertateapentrufemei.ro
Alina Vidican, 3 ani de căsnicie cu pilotul brazilian milionar. Incredibil, cum arată azi fosta soție a lui Borcea. Uite ce viață de regină duce la Miami
Descoperire incredibilă în Rusia. A fost deschisă o poartă spre trecut
FANATIK.RO
Descoperire incredibilă în Rusia. A fost deschisă o poartă spre trecut
Ce părere are Raluca Bădulescu despre prima poza cu ea care a apărut în presă în urmă cu mulți ani: „Foarte multă lume își imaginează
Elle.ro
Ce părere are Raluca Bădulescu despre prima poza cu ea care a apărut în presă în urmă cu mulți ani: „Foarte multă lume își imaginează
Cum arată rochia de 160 de lei cu care Romina Gingașu, soția miliardarului Piero Ferrari, a făcut senzație la un eveniment din Italia / FOTO
Unica.ro
Cum arată rochia de 160 de lei cu care Romina Gingașu, soția miliardarului Piero Ferrari, a făcut senzație la un eveniment din Italia / FOTO
Mărturiile înfiorătoare ale pasagerilor captivi în aeronava cu fum care zbura spre Zurich: "Ne-am acoperit gura cu o cârpă"
Observatornews.ro
Mărturiile înfiorătoare ale pasagerilor captivi în aeronava cu fum care zbura spre Zurich: "Ne-am acoperit gura cu o cârpă"
Horoscop 25 decembrie 2024. Taurii au nevoie de multe momente pe care să le petreacă ei cu sine sau împreună cu cele mai apropiate persoane
HOROSCOP
Horoscop 25 decembrie 2024. Taurii au nevoie de multe momente pe care să le petreacă ei cu sine sau împreună cu cele mai apropiate persoane

Știri mondene

Știri România

RECOMANDĂRI