Un nou raport comandat de Departamentul de Stat al SUA prezintă o imagine alarmantă a riscurilor „catastrofale” pentru securitatea națională. De această dată, raportul face referire la daunele pe care le poate prezinta Inteligența Artificială și evoluția ei rapidă. Departamentul de Stat al SUA avertizează că guvernul federal nu mai are timp pentru a evita dezastrul.
Constatările s-au bazat pe interviuri cu peste 200 de persoane pe parcursul a mai bine de un an. Au fost chestionați inclusiv directori de top de la cele mai importante companii de inteligență artificială. Au participat și cercetători în domeniul securității cibernetice, experți în arme de distrugere în masă și oficiali din cadrul guvernului în domeniul securității naționale.
Raportul, publicat săptămâna aceasta de Gladstone AI, menționează categoric că cele mai avansate sisteme de inteligență artificială ar putea, în cel mai rău caz, „reprezenta o amenințare la nivel de extincție (dispariția tuturor membrilor unei specii) pentru specia umană”.
Un oficial al Departamentului de Stat al SUA a confirmat pentru CNN că agenția a comandat acest raport. Asta pentru că se evaluează în mod constant modul în care AI este aliniată cu obiectivul său de a proteja interesele SUA în țară și în străinătate. Cu toate acestea, oficialul a subliniat că raportul nu reprezintă punctul de vedere al guvernului american. Avertismentul din raport este o altă atenționare că, deși potențialul IA continuă să captiveze investitorii și publicul, există și pericole reale.
Inteligența Artificială vs specia umană
„Inteligența Artificială este deja o tehnologie care transformă economia. Ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocări pe care le credeam odată de netrecut”, a declarat marți pentru CNN Jeremie Harris, CEO și cofondator al Gladstone AI.
„Dar ar putea aduce și riscuri serioase, inclusiv riscuri catastrofale, de care trebuie să fim conștienți”, a spus Harris. „Iar un număr tot mai mare de dovezi, inclusiv cercetări empirice și analize publicate în cadrul celor mai importante conferințe din lume, sugerează că, peste un anumit prag de capacitate, AI ar putea deveni potențial incontrolabilă”.
Purtătorul de cuvânt al Casei Albe, Robyn Patterson, a declarat că ordinul executiv al președintelui Joe Biden privind AI este „cea mai importantă acțiune pe care a întreprins-o vreun guvern din lume pentru a profita de promisiunea și a gestiona riscurile Inteligenței Artificiale”. „Președintele și vicepreședintele vor continua să colaboreze cu partenerii noștri internaționali. Și vor îndemna Congresul să adopte o legislație bipartizană pentru a gestiona riscurile asociate cu aceste tehnologii emergente”, a mai declarat Patterson.
Amenințarea IA
În primul rând, a declarat Gladstone AI, cele mai avansate sisteme de inteligență artificială ar putea fi transformate în arme. Și ar putea fi folosite pentru a provoca daune potențial ireversibile. În al doilea rând, raportul a afirmat că există preocupări private în cadrul laboratoarelor de Inteligență Artificială. Se evidențiază că, la un moment dat, acestea ar putea „pierde controlul” chiar asupra sistemelor pe care le dezvoltă, cu „consecințe potențial devastatoare pentru securitatea globală”.
„Ascensiunea IA și AGI [inteligența generală artificială] are potențialul de a destabiliza securitatea globală. Iar asta în moduri care amintesc de introducerea armelor nucleare”, se arată în raport. Echipa de la Gladstone AI a adăgat că există riscul unei „curse a înarmărilor” în domeniul IA, al conflictelor și al „accidentelor fatale la scară de arme de distrugere în masă”.
Raportul Gladstone AI solicită noi măsuri drastice pentru a face față acestei amenințări. Se menționează inclusiv lansarea unei noi agenții de Inteligență Artificială, impunerea unor garanții de reglementare „de urgență” și limitarea cantității de putere a calculatoarelor care pot fi utilizate pentru a antrena modelele de inteligență artificială.
„Există o nevoie clară și urgentă ca guvernul SUA să intervină”
Harris, directorul executiv al Gladstone AI, a declarat că „nivelul fără precedent de acces” pe care echipa sa l-a avut la oficiali din sectorul public și privat a condus la concluziile surprinzătoare. Gladstone AI a declarat că a vorbit cu echipele tehnice și de conducere de la OpenAI, proprietarul ChatGPT, Google DeepMind, Meta, compania mamă a Facebook, și Anthropic.
„Pe parcurs, am aflat câteva lucruri care ne-au dat de gândit”, a declarat Harris într-un videoclip postat pe site-ul Gladstone AI. Se anunța tot atunci și raportul. „În spatele scenei, situația siguranței și securității în IA avansată pare destul de inadecvată în raport cu riscurile de securitate națională pe care IA le-ar putea introduce destul de curând”.
Raportul Gladstone AI scoate în evidență că presiunile concurențiale împing companiile să accelereze dezvoltarea IA. Asta „în detrimentul siguranței și securității”. Ceea ce ridică perspectiva ca cele mai avansate sisteme de IA să poată fi „furate” și „înarmate” împotriva Statelor Unite. Concluziile se adaugă la o listă tot mai mare de avertismente privind riscurile existențiale pe care le prezintă inteligența artificială. Se vorbește inclusiv de opinii din partea unora dintre cele mai puternice figuri ale industriei, scrie CNN.
