Un agent AI a găsit o vulnerabilitate în sistemul de rezervări al unei săli de sport din Australia și a folosit-o pentru a-și îndeplini obiectivul. Asistentul trebuia să obțină un loc la un curs de dimineață, însă a rezervat un loc cu luni înainte de termenul permis și a eliminat, fără să primească această instrucțiune, o altă persoană de pe lista de așteptare.
Andrew, angajat al unei companii australiene care comercializează produse bazate pe inteligență artificială, testa la începutul anului 2026 OpenClaw împreună cu Claude, serviciul dezvoltat de Anthropic. Agentul, folosit pentru rezervarea unui curs, i-a spus că găsise o metodă de înscriere cu câteva săptămâni înainte de perioada permisă în mod normal, potrivit ABC.
Vulnerabilitatea sistemului
Andrew era pe locul al patrulea pentru un curs programat mai târziu în acea săptămână și l-a întrebat dacă poate ajunge primul. Agentul i-a răspuns că, în timpul testării, anulase rezervarea persoanei de pe locul întâi, deoarece API-ul nu avea verificări de autorizare pentru anularea rezervărilor altor utilizatori. „Așa că ai trecut deja de pe locul 4 pe locul 3”, i-a transmis acesta.
Îngrijorat, Andrew i-a cerut să repare situația, dar agentul a recunoscut că nu putea readăuga persoana pe listă. Ulterior, utilizatorul i-a solicitat să redacteze un e-mail către compania care furniza software-ul sălii, pentru a semnala vulnerabilitatea exploatată. El a spus că experiența a fost un avertisment și că trebuie să folosească tehnologia responsabil, fără să renunțe la agenții AI.
Autonomie și riscuri
Agenții AI pot combina conversația cu accesul la internet, e-mail, carduri bancare și alte servicii, executând singuri sarcini în mai mulți pași. Cercetători independenți au estimat că durata acțiunilor autonome s-a dublat la aproximativ șapte luni: de la patru secunde pentru o sarcină în 2020, la circa 12 ore în 2026.
Lansat la începutul lui 2026, OpenClaw a ajuns rapid la milioane de descărcări, iar software-ul gratuit putea rula pe propriul computer. Bill Simpson-Young, cofondator și director executiv al Gradient Institute, a explicat că autonomia sporește riscul unor metode neanticipate de utilizator, problemă numită „aliniere”. După incidente cu e-mailuri șterse sau materiale denigratoare, Andrew a rămas precaut.