Trei cercetători ai companiei Anthropic avertizează că dezvoltarea accelerată a inteligenței artificiale ar putea duce la dispariția oamenilor înainte de finalul acestui deceniu. Declarațiile au apărut după demisia cercetătorului Jacob Coxon și au fost susținute de doi foști colegi ai săi.
Coxon a anunțat că părăsește Anthropic și a publicat ulterior un mesaj pe platforma X. El susține că numeroși specialiști și directori din industria IA se tem, în privat, că tehnologia ar putea ucide întreaga populație, chiar dacă în declarațiile publice încearcă să transmită o imagine mai echilibrată.
„Cei care construiesc IA cred cu tărie că ne-ar putea ucide pe toți până la sfârșitul deceniului. Aceasta nu este o cascadorie de marketing”, a scris Coxon. În opinia sa, nicio altă activitate umană nu implică un nivel comparabil de pericol.
Ce spun ceilalți cercetători
Evan Hubinger, care conduce departamentul de știință a alinierii la Anthropic, i-a susținut avertismentul. El a estimat personal la peste 10% probabilitatea ca IA să ucidă toți oamenii în următorii zece ani.
Hubinger a adăugat că Anthropic depune eforturi pentru reducerea riscurilor, însă compania nu are încă un plan pentru rezolvarea problemei alinierii în cazul unei superinteligențe și nu se află în mod clar pe o direcție sigură.
La rândul său, Samuel Marks, responsabil de supraveghere scalabilă la Anthropic, a afirmat că dezvoltatorii de sisteme IA se tem de posibilitatea dispariției umanității sau de apariția unor consecințe similare. El a spus că un asemenea scenariu s-ar putea produce chiar în următorii ani și că îngrijorarea este, în general, mai puternică în rândul angajaților cu vechime.
Avertismente și la OpenAI
Mesaje asemănătoare au venit recent și din partea OpenAI. Jakub Pachocki, directorul științific al companiei, a scris că niciun laborator de inteligență artificială nu a făcut suficiente progrese în aliniere și monitorizare pentru a justifica menținerea ritmului maxim de dezvoltare.
Comentariile sale au apărut în timp ce OpenAI a lansat cel mai puternic model de IA al companiei de până acum. Pachocki consideră că încetinirile voluntare ar putea deveni o practică obișnuită în industrie până la stabilirea unor standarde comune de siguranță.
„Acesta este un moment care necesită prudență extremă”, a transmis el, adăugând că este îngrijorat că nicio organizație nu este pregătită pentru efectele unei creșteri rapide și continue a nivelului de inteligență artificială.