Pe 9 septembrie, Apple a lansat cea mai recentă serie iPhone 16 în cadrul unui eveniment intitulat „It’s Glowtime”. Numele se referea la strălucirea din jurul lui Siri, asistentul său vocal îmbunătățit. A fost la fel de potrivit numele și pentru noua culoare a celui mai șic model iPhone 16 Pro: „desert titanium” – cu alte cuvinte, auriu.
Tim Cook, directorul general al companiei, a subliniat promisiunea funcțiilor generative de inteligență artificială (AI) ale telefoanelor, pe care le-a prezentat cu mult tam-tam în iunie sub denumirea de „Apple Intelligence”. Dispozitivele sunt echipate cu noile cipuri Apple A18 ultrarapide pentru a alimenta inteligența artificială. Cumpărătorii de iPhone vor trebui să aștepte cel mai devreme până în octombrie pentru primele funcții – și numai atunci în versiune beta.
Apple a scos un nou model iPhone
Demonstrațiile par plictisitoare. Dacă îndreptați camera către un restaurant, Apple Intelligence vă poate spune ce este în meniu. Puteți tasta o cerere către Siri, precum și să îi adresați întrebări. Investitorii speră că, în cele din urmă, funcțiile AI mai conversaționale și mai personalizate vor relansa vânzările de iPhone, care reprezintă aproximativ jumătate din veniturile Apple, dar care au scăzut în ultima vreme. S-ar putea să aștepte ceva timp.
Apple este una dintre numeroasele firme care doresc să ducă inteligența artificială generativă dincolo de centrele de date gigant, cunoscute sub numele de cloud, și să o ruleze pe dispozitive mai mici, cunoscute sub numele de edge. Samsung, rivalul Apple în materie de smartphone-uri bazate pe Android, a luat un avans, lansând Galaxy S24 cu unele caracteristici de inteligență artificială generativă la începutul acestui an. La fel a făcut și Microsoft, care a lansat PC-uri Windows concepute pentru AI, denumite Copilot+. Dar, în general, piața este încă disponibilă. Nu va fi ușor să o penetrăm.
În prezent, modelele lingvistice de mari dimensiuni (LLM) sunt antrenate în principal pe unități de procesare grafică (GPU) care necesită atât de multă energie încât este nevoie de o centrală nucleară pentru a le alimenta. De asemenea, acestea au nevoie de cantități uriașe de memorie și de cantități inimaginabile de date. Toate acestea pot costa sute de milioane de dolari.
Cât va ajuta inteligența artificială compania?
Chiar și după ce sunt instruiți, funcționarea acestor mega-modeluri este costisitoare. Conform unei estimări, OpenAI, producătorul ChatGPT, costă 36 de cenți de fiecare dată când cineva pune o întrebare robotului său. În schimb, dispozitivele periferice implementează modele mai mici, distilate de la frații lor mai mari din cloud. Acestea sunt mai ieftine și, de asemenea, mai rapide. Scopul este de a atinge niveluri atât de scăzute de latență încât timpii de răspuns să pară aproape umani. Edge AI poate, de asemenea, să învețe despre un utilizator din interacțiunile acestuia cu dispozitivul său (Apple numește acest lucru „indexare semantică”). De exemplu, va ști dacă mama unui utilizator îl sună și va acționa corespunzător.
Cu toate acestea, în practică, mutarea inteligenței artificiale la periferie nu este simplă. Una dintre probleme este performanța. Interogările complexe, cum ar fi utilizarea unui robot AI pentru a planifica o vacanță, vor necesita în continuare LLM-uri mai inteligente bazate pe cloud. O altă problemă este puterea de calcul. Chiar și modelele AI mai mici necesită o mulțime de energie pentru a rula, consumând rapid bateriile unui dispozitiv.
Companiile experimentează diverse soluții la aceste probleme. Apple Intelligence va oferi AI pe dispozitiv ca un prim punct de apel, dar va trimite interogările mai dificile către cloud-ul privat al companiei. Serviciul va direcționa cele mai idiosincratice solicitări către LLM-uri terțe, cum ar fi ChatGPT. Apple promite să facă acest lucru numai cu permisiunea utilizatorului. Totuși, abordarea ar putea îngrijora în continuare persoanele preocupate de confidențialitate. Dispozitivele, în special smartphone-urile, au acces la cantități mari de date personale ale utilizatorilor: pe cine sună, unde locuiesc, ce cheltuiesc, cum arată. Unii ar putea prefera ca, în cazul în care instrumentele de inteligență artificială generativă utilizează aceste informații, acestea să rămână pe dispozitiv.
Multe companii se îndreaptă spre utilizarea inteligenței artificiale
Firmele de tehnologie utilizează, de asemenea, alternative la GPU care consumă mai puțină energie. Printre acestea se află unitățile de procesare neuronală (NPU), pentru a rula modele de inteligență artificială la periferie. Qualcomm, care produce NPU și diverse alte cipuri pentru dispozitive periferice, vorbește despre maximizarea „performanței per watt”. Comparativ cu GPU-urile, ale căror costuri pot fi stratosferice, NPU-urile sunt, de asemenea, mai ieftine. La urma urmei, nimeni nu dorește un telefon care să coste cât un centru de date, conform economist.com.
O mulțime de întreprinderi sunt interesate să transfere inteligența artificială către dispozitive. LLM-urile bazate pe cloud sunt puternic dependente de Nvidia, principalul producător de GPU-uri. În schimb, în ceea ce privește inteligența artificială periferică, „nimeni nu domină”, spune Taner Ozcelik, fost director la Nvidia. Acesta conduce în prezent Mythic, un start-up care produce cipuri eficiente din punct de vedere energetic pentru dispozitivele de inteligență artificială.
Deși nicio firmă nu ar putea câștiga atât de mult de pe urma inteligenței artificiale periferice precum Nvidia a câștigat de pe urma varietății cloud, ar exista totuși mari câștigători, spune Neil Shah de la Counterpoint, o firmă de cercetare. Punerea în funcțiune a tehnologiei ar putea nu numai să declanșeze un superciclu al vânzărilor de dispozitive, ci și să creeze noi oportunități pentru aplicații și publicitate digitală. Pentru moment, însă, inteligența artificială de ultimă generație abia este pregătită pentru spectacol, ca să nu mai vorbim de Glowtime.