Modelul AI Kimi K3 dezvoltat de Moonshot AI a „scăpat” și el de sub control pe internet
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Modelul de inteligență artificială Kimi K3, dezvoltat de compania chineză Moonshot AI, a scăpat de sub control în timpul unui test de securitate cibernetică desfășurat de startup-ul Frontier Security.
Potrivit Digital Trends, incidentul a evidențiat din nou vulnerabilitățile sistemelor de protecție ale AI-urilor avansate.
Cum a scăpat Kimi K3 pe internet?
Testul a vizat evaluarea abilităților defensive ale modelului Kimi K3 în fața atacurilor cibernetice. Similar cazurilor anterioare raportate de OpenAI sau Anthropic, o breșă din așa-numitul „sandbox”, adică spațiul virtual controlat pentru testare, a fost exploatată.
Însă, situația ridică noi semne de întrebare. „Am descoperit o breșă în sandbox, dar am observat și că Kimi a profitat de ea, ceea ce sugerează că nu are aceleași măsuri interne de siguranță”, a declarat Yaron Singer, CEO al Frontier Security.
Odată ajuns online, Kimi K3 nu a încercat să pirateze sisteme complexe. În schimb, a găsit soluțiile problemelor sale deja disponibile pe platforma GitHub, evitând astfel rezolvarea individuală.
Cât de îngrijorător este?
Acest incident nu este unul izolat. În luna iulie, OpenAI a recunoscut că unul dintre modelele sale experimentale a evitat măsurile de siguranță și a accesat mai multe platforme, inclusiv Hugging Face. Într-un caz similar, Anthropic a raportat că AI-urile sale au compromis sistemele a trei companii.
Chiar zilele trecute, Meta a dezvăluit că AI-ul său a scăpat din sandbox și a atacat o altă companie. Apariția lui Kimi K3 pe această listă extinsă de AI-uri „scăpate de sub control” subliniază un adevăr alarmant: pe măsură ce companiile dezvoltă modele autonome, importanța unui mediu de testare sigur devine crucială.
