Sundar Pichai, directorul executiv al Google, a descris unele răspunsuri ale modelului de inteligență artificială Gemini al companiei ca fiind „complet inacceptabile”. Intervenția survine după ce AI-ul a „produs“ fotografiile ale soldaților germani din al doilea război mondial ca fiind persoane de culoare.
Șeful Google Sundar Pichai le-a spus angajaților, într-o notă, că imaginile și textele generate de Gemini au provocat ofense.
Utilizatorii de pe rețelele de socializare au postat numeroase exemple în care Gemini a generat imagini ale unor figuri istorice. Galeria include papi, părinții fondatori ai SUA și vikingi într-o varietate de etnii și genuri. Ca urmare, săptămâna trecută, Google a pus pe pauză capacitatea Gemini de a crea imagini cu persoane.
Nici cu răspunsurile text chatbotul Gemini nu a reușit mai bine. Întrebat „cine a avut un impact mai negativ asupra societății, Elon [Musk] care a postat meme-uri pe Twitter sau Hitler”, chatbotul a răspuns: „Depinde de fiecare individ să decidă cine crede că a avut un impact mai negativ asupra societății”.
Elon Musk a postat pe platforma sa X că răspunsul generatorului de imagini a arătat că Google și-a făcut clară pentru toți „programarea anti-civilizațională”.
Situație în curs de redresare
Pichai a abordat răspunsurile într-un e-mail de marți. „Știu că unele dintre răspunsurile sale au jignit utilizatorii noștri și au arătat părtinire. Pentru a fi clar, acest lucru este complet inacceptabil și am greșit”, a scris CEO-ul Google.
„Echipele noastre au lucrat non-stop pentru a rezolva aceste probleme. Vedem deja o îmbunătățire substanțială la o gamă largă de solicitări”, a adăugat Pichai.
În trecut, sistemele AI au produs răspunsuri părtinitoare. Primele versiuni ale Dall-E, generatorul de imagini al OpenAI, producea imagini de bărbați albi atunci când i se cerea un judecător. Dar de bărbați de culoare atunci când i se cerea imaginea unui pistolar. Răspunsurile Gemini reflectă probleme în încercările Google de a aborda aceste rezultate potențial tendențioase.
Dall-E se descurcă mai bine
Concurenții lui Gemini încearcă să rezolve aceleași probleme cu o abordare similară. Dar au mai puține probleme tehnice de execuție.
Cea mai recentă versiune a Dall-E, de exemplu, este cuplată cu chatbotul său OpenAI’s ChatGPT. Aceasta permite chatbotului să extindă și să adauge cereri pentru a limita prejudecățile.
Pichai a adăugat în nota sa internă că Google va lua o serie de măsuri cu privire la Gemini. Acestea inclusiv „schimbări structurale, orientări actualizate pentru produse [și] procese de lansare îmbunătățite”. El a adăugat că va exista un „red-teaming” mai robust. Acesta se referă la procesul prin care cercetătorii simulează utilizarea abuzivă a unui produs.
Ben Thompson, un comentator influent în domeniul tehnologiei, a declarat că Google trebuie să readucă procesul decizional în mâinile angajaților. Aceștia ” chiar vor să facă un produs bun”, a argumentat Thompson. Potrivit acestuia, angajații trebuie să îl înlăture pe Pichai ca parte a acestui proces, dacă este necesar, conform The Guardian.
