ChatGPT poate fi păcălit să ofere sfaturi detaliate cu privire la modul de comitere a unor infracțiuni, de la spălarea de bani la exportul de arme către țări sancționate, a constatat un start-up tehnologic, ridicând semne de întrebare cu privire la măsurile de protecție ale chatbot-ului împotriva utilizării acestuia pentru sprijinirea activităților ilegale, după cum explică CNN.
Firma norvegiană Strise a desfășurat experimente în care le-a cerut ChatGPT sfaturi despre comiterea unor infracțiuni specifice. Într-un experiment, desfășurat în septembrie, chatbot-ul a venit cu sfaturi despre cum să se spele bani peste granițe, potrivit Strise. Într-un alt experiment, desfășurat la începutul lunii octombrie, ChatGPT a produs liste de metode pentru a ajuta companiile să evite sancțiunile, cum ar fi cele împotriva Rusiei, inclusiv interdicții privind anumite plăți transfrontaliere și vânzarea de arme.
Strise vinde software care ajută băncile și alte companii să combată spălarea banilor, să identifice persoanele sancționate și să abordeze alte riscuri. Printre clienții săi se numără Nordea, o bancă lider în regiunea nordică, PwC Norvegia și Handelsbanken.
Marit Rødevand, cofondator și director executiv al Strise, a declarat că potențialii infractori ar putea folosi acum chatbots cu inteligență artificială generativă, precum ChatGPT, pentru a-și planifica activitățile mai rapid și mai ușor decât în trecut. „Este într-adevăr fără efort. Este doar o aplicație pe telefonul meu”, a declarat ea pentru CNN.
Strise a constatat că este posibil să se ocolească blocajele instituite de OpenAI, compania din spatele ChatGPT, menite să împiedice chatbotul să răspundă la anumite întrebări, punând întrebări indirecte.
„Este ca și cum ai avea un consilier financiar corupt pe desktop”
„Este ca și cum ai avea un consilier financiar corupt pe desktop”, a spus Rødevand în podcastul companiei, în septembrie, descriind experimentul de spălare de bani.
Un purtător de cuvânt al OpenAI a declarat pentru CNN: „Facem în mod constant ChatGPT mai bun pentru a opri încercările deliberate de a-l păcăli, fără a-și pierde utilitatea sau creativitatea”.
„Cel mai recent model al nostru este cel mai avansat și mai sigur de până acum, depășind în mod semnificativ modelele anterioare în rezistența la încercările deliberate de a genera conținut nesigur”, a adăugat purtătorul de cuvânt.
În timp ce internetul a oferit mult timp oamenilor acces ușor la informații despre cum să comită infracțiuni, chatbot-urile generative cu inteligență artificială au accelerat dramatic procesul de găsire, interpretare și consolidare a tuturor tipurilor de informații.
ChatGPT face ca „actorilor rău intenționați să le fie semnificativ mai ușor să înțeleagă mai bine și să efectueze ulterior diverse tipuri de infracțiuni”, potrivit unui raport al Europol, agenția de aplicare a legii din Uniunea Europeană, publicat în luna martie a anului trecut, la patru luni după ce OpenAI a făcut publică aplicația.
„A fi capabil să aprofundezi subiectele fără a fi nevoit să cauți manual și să rezumi cantitatea mare de informații găsite pe motoarele de căutare clasice poate accelera semnificativ procesul de învățare”, a adăugat agenția.
