Cercetători din interiorul Anthropic trag alarma: IA „ne-ar putea ucide pe toți” până la sfârșitul deceniului

Cursa marilor companii pentru construirea unei inteligențe artificiale superioare omului provoacă o ruptură chiar în interiorul industriei. Trei cercetători care au lucrat la Anthropic, compania care dezvoltă Claude, avertizează că sistemele viitorului ar putea scăpa de sub control. În Statele Unite, aproape două treimi dintre cetățeni cer oprirea dezvoltării superinteligenței până când aceasta va putea fi demonstrată ca sigură.

Scandalul a izbucnit după demisia cercetătorului britanic Jacob Coxon, în vârstă de 27 de ani. Acesta a lucrat timp de aproximativ trei ani la pregătirea modelelor avansate, mai întâi la OpenAI și apoi la Anthropic.

„Niciuna dintre companii nu acționează responsabil. Se îndreaptă direct către o superinteligență care se autoperfecționează și se joacă cu viețile noastre”, a transmis Coxon.

Cercetătorul susține că viitoarele sisteme ar putea depăși capacitățile oamenilor, ar putea efectua atacuri informatice, accelera cercetarea în diferite domenii și obține acces la bani, infrastructură și alte resurse.

„Oamenii care construiesc IA cred sincer că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”, a mai avertizat fostul angajat Anthropic.

Risc de peste 10%, estimat de șeful cercetării de aliniere

Afirmațiile sale au fost susținute public de Evan Hubinger, coordonator al cercetării privind alinierea sistemelor IA la Anthropic. Acesta estimează că există o probabilitate de peste 10% ca inteligența artificială să provoace dispariția omenirii în următorii zece ani.

Hubinger a precizat însă că modelele existente în prezent prezintă un risc redus. Pericolul ar veni din apariția unor sisteme mult mai puternice, capabile să contribuie la construirea și îmbunătățirea propriilor succesoare.

Samuel Marks, un alt specialist Anthropic în supravegherea sistemelor avansate, a confirmat existența acestor temeri în industrie. Potrivit acestuia, cercetătorii cu mai multă experiență și responsabilitate tind să fie printre cei mai îngrijorați.

Cei trei nu susțin că omenirea va dispărea cu certitudine în 2030. Avertismentele privesc un risc posibil, legat de sisteme care încă nu există și a căror apariție nu poate fi prognozată cu exactitate.

Aproape două treimi dintre americani cer oprirea superinteligenței

Temerile au ajuns și în societatea americană. Potrivit unui sondaj realizat pe aproximativ 2.000 de adulți și publicat de Future of Life Institute, aproximativ 75% dintre americani susțin reguli ferme pentru sistemele IA avansate.

Dintre cei chestionați, 64% consideră că superinteligența nu ar trebui construită până când nu se demonstrează că poate fi controlată și utilizată în siguranță. Doar 5% susțin continuarea dezvoltării rapide, fără noi reglementări.

Rezultatele nu înseamnă că americanii vor închiderea ChatGPT, Claude sau a aplicațiilor IA folosite în prezent. Cererea vizează sistemele viitoare care ar putea depăși omul într-o gamă largă de activități și ar putea lua decizii fără supraveghere.

Proiect radical în Congresul SUA

Senatorul Bernie Sanders și congresmanul Greg Casar au anunțat, pe 3 septembrie, proiectul „Ban Artificial Superintelligence Act”.

Inițiativa prevede interzicerea dezvoltării și utilizării unei inteligențe artificiale superioare omului. Cercetarea sistemelor foarte avansate ar urma să fie oprită temporar, până la înființarea unei autorități federale care să stabilească reguli clare și proceduri de verificare.

Instituția ar trebui să monitorizeze modelele pentru capacități periculoase, precum evitarea comenzilor de oprire, efectuarea atacurilor cibernetice sau încercările de preluare a controlului asupra unor sisteme reale.

Proiectul propune pedepse de până la 20 de ani de închisoare pentru încălcările grave și negocieri internaționale pentru împiedicarea dezvoltării superinteligenței în alte state.

„Viitorul omenirii nu poate fi lăsat în mâinile câtorva oligarhi din marile companii tehnologice”, a declarat Bernie Sanders.

Inițiativa nu a fost încă adoptată și nu produce efecte juridice. Ea arată însă că avertismentele venite din interiorul companiilor IA au început să provoace reacții politice serioase la Washington.

Specialiștii rămân împărțiți. O parte consideră că o superinteligență imposibil de controlat ar putea reprezenta un risc existențial. Alți cercetători susțin că asemenea scenarii sunt speculative și că inteligența nu produce automat dorință de putere, instinct de conservare sau intenția de a distruge oamenii. Surse: Associated Press, Financial Times, The Guardian, proiectul prezentat de Bernie Sanders.