E o poveste de când lumea. Nu chiar, dar o poveste care a ajuns poate cea mai celebră din istoria gândirii occidentale, pe care o învățăm la școală, care a fost interpretată în fel și chip și care spune încă multe despre felul în care ne reprezentăm cunoașterea. Și, pe scurt, sună cam așa. În adâncul unei peșteri se află un grup de oameni. Singurul lor contact cu lumea de afară este prin intermediul unor umbre pe care le văd proiectate pe pereții peșterii. Umbrele sunt făcute de alți oameni care trec prin fața unui foc, purtând cu ei felurite obiecte și scoțând varii sunete. Așa arată lumea celor din interior și doar așa și-o pot imagina. Până când unul dintre ei este scos afară. Mai întâi, ochii lui, obișnuiți cu negura adâncului, au nevoie să se ajusteze. Mai târziu, descoperă lumea așa cum e și înțelege inclusiv felul în care se formează percepția despre realitate a celor din peșteră. Și încă mai târziu e nevoit să se întoarcă de unde a plecat. Ajuns înapoi, încearcă să le povestească tovarășilor despre ce a văzut la suprafață. Nu doar că nu e crezut, dar e considerat periculos.
Alegoria aceasta, adică mitul peșterii, așa cum l-a așezat în cuvinte Platon cu vreo 400 de ani înaintea erei noastre în Republica, se prea poate să fie o poveste despre Socrate, care de altfel e personajul principal al scrierii și care-și găsise sfârșitul pentru că îndrăznise să-și mențină poziția privind spunerea adevărului, chiar dacă acesta nu era confortabil sau acceptat. Povestea e parte dintr-o lucrare mai amplă care vorbește despre ideea de justiție, despre cum am putea construi o lume în care putem să trăim toți, despre condiția umană. Dar în această parte a ei vorbește despre cum se formează cunoașterea; iar pentru Platon aceasta pornea de la niște forme ideale, care există independent de noi și la care avem acces prin intermediul unor copii imperfecte.
Același gen de idee e reflectată în teoria lingvistului, filosofului și activistului Noam Chomsky privind achiziția limbajului. Gramatica universală, crede el, este o structură înnăscută care ne permite să învățăm să vorbim în orice limbă. Acesta este motivul pentru care, de exemplu, un copil de doi ani, cu foarte puține informații la dispoziție, va reuși să înțeleagă intim structura unei limbi, felul în care ea funcționează, indiferent de regulile care țin de sintaxă, de semantică, de vocabular sau de orice altceva am putea să învățăm voit mai târziu. Ceva fundamental se află în noi, probabil ascuns undeva în creier – lucru pentru care nu putem găsi dovezi de netăgăduit, dat fiind faptul că nu putem, din considerente etice, să realizăm pe oameni (adică pe copii) experimente care să ne permită să vedem exact cum funcționează mintea umană.
Dar teoriile lui Chomsky, în special cele legate de structurile sintactice, au deschis multiple căi în numeroase alte domenii de studiu, inclusiv în științele cogniției, dar și în lucruri care țin de principiile de funcționare ale computerelor și foarte mulți cercetători și-au pornit sau bazat studiile pe ideile sale. FORTRAN, de pildă, un limbaj de programare utilizat la scară largă, a fost creditat de creatorul său ca fiind inspirat de Chomsky, iar Donald Knuth, cel care a lansat o adevărată revoluție în domeniul algoritmilor, s-a declarat și el recunoscător. Și, cum era de așteptat, teoriile lui și-au aruncat umbra (sau lumina, după caz) și asupra domeniului ce urma să fie numit mai târziu inteligență artificială, machine learning sau large language models.
Și asta pentru că limbajul a fost dintotdeauna asociat cu felul în care gândim. Până la urmă, deși alte animale gândesc, numai oamenii au dezvoltat un limbaj atât de complex prin care să poată să exprime multe dintre lucrurile subtile care se petrec în propriile minți într-un mod care să fie inteligibil altor persoane. Și, într-un sens sau altul, asta face azi cel puțin o parte a ceea ce numim inteligență artificială: redă secvențe de cuvinte care au sens pentru noi, și care în multe cazuri au ajuns să ne ajute.
O altă paradigmă
Dar teoriile lui Chomsky, oricât de fascinante, ajung la o concluzie simplă. Este aceeași la care a ajuns și Alan Turing atunci când a propus celebrul său test: poate o mașină să demonstreze comportament inteligent, adică să gândească? Ca și Turing, care a imaginat precursorul a ceea ce azi numim computer, și Chomsky răspunde similar: întrebarea este prost pusă. Atâta vreme cât nu știm mecanismele din spatele gândirii umane, în mod cert nu o putem replica, deci în cazul oricărei mașini, oricărei așa-zise inteligențe artificiale, oricât de avansată ar fi ea, nu poate fi vorba la propriu despre inteligență.
Geoffrey Hinton, însă, co-câștigătorul de anul trecut al premiului Nobel pentru fizică, computer scientist care a lucrat multă vreme pentru Google, are o altă părere. Nu doar o altă părere, ci chiar consideră stupide teoriile lui Chomsky privind limbajul.
Acesta crede că felul în care gândim nu se bazează pe logică sau pe vreo invizibilă structură internă pe care nu o putem descifra sau demonstra, ci pur și simplu pe rețele neuronale și pe impulsurile dintre acești neuroni, pe care le-a și replicat, alături de alții, în ceva care se cheamă backpropagation theory, reușind în cele din urmă să creeze large language models incipiente, pe care se bazează cele avansate, de astăzi. El consideră că nu logica și rațiunea sunt lucrurile care ar diferenția inteligența umană de alte tipuri, ci pur și simplu învățarea. Iar inteligența artificială, cu capacitatea ei teoretic infinită de a învăța date, informații, este deci o inteligență în toată regula.
Și nu doar o simplă inteligență precum cea umană. Dat fiind că copii ale unui program (căci asta e, până la urmă, inteligența artificială) pot să acumuleze tot ce e cunoscut în câte un domeniu, iar apoi să facă schimb de informații între ele, așa se poate naște o super-inteligență care, susține Hinton, are și ceva care seamănă nu o conștiință (sau conștiență de sine) umană. Cum explică el asta? Ei bine, prin faptul că un AI poate să refuze să termine rularea unui program la comandă, pentru că nu a atins încă scopul final pentru care a fost programat. Așa că acesta va refuza, ba chiar va minți doar ca să își ducă până la capăt misiunea inițială.
Asta, spune Hinton, face AI-ul potențial foarte periculos, ba chiar îl duce în poziția de a amenința însăși existența oamenilor. Exemplul pe care îl dă cu o anumită plăcere profesorul este cel care se referă la găini și oameni: dacă vrem să vedem ce se întâmplă când nu mai suntem noi în vârful regnului animal, echipați cu cea mai mare inteligență, ar trebui să vedem ce se întâmplă cu puii dintr-o fermă, pentru că soarta lor actuală seamănă cu viitorul nostru. Desigur, asta înseamnă și o conștiență și o dorință de putere pe care mașinile încă nu le-au demonstrat, dar Hinton nu pare să vadă aceste chestiuni dintr-o perspectivă filosofică, ci dintr-una strict pragmatică, care privește ce e posibil în scenariul în care funcționăm acum.
Filosofic vorbind, însă, întrebarea e mai interesantă. Pentru că, oricâte sugestii nimerite de cumpărături ți-ar da AI-ul tău preferat, oricât ți-ar cunoaște un algoritm powered by AI gusturile în materie de muzică sau filme, oricât de util ți-ar fi ca să scrii un email complicat sau să rezumi o carte, și oricât ar putea să nimerească următorul cuvânt dintr-o secvență sau o frază, asta nu e neapărat ceea ce putem numi inteligență.
Și poate nimic altceva nu definește mai bine inteligența decât capacitatea de a crea ceva nou. Firește, ca și în cazul inteligențelor artificiale, și noi clădim, creăm pe un fundament. Nu există o inteligență nativă care să demonstreze creativitate pe baza a nimic, oricând va exista un cumul de informații care să stea la baza a ceva nou. Dar ceea ce numim inteligență sau creativitate umană se bazează tocmai pe cât de surprinzătoare sunt conexiunile pe care le face între lucruri care există deja.
Să luăm, de pildă, cazul muzicii. Chiar și label-uri locale lucrează acum cu AI, atât pentru compoziție, cât și pentru a genera versuri sau voci. Astfel apar piese noi mai rapid decât le putem asculta, lansate aproape simultan în mai multe limbi, care au succes. Prin contrast, un muzician în carne și oase va avea nevoie de timp – uneori foarte mulți ani – ca să învețe meșteșugul, și apoi încă și mai mult ca să facă acele conexiuni care îi fac muzica atât de relatable. Iar dacă o artistă ca Taylor Swift, de pildă, face o muzică atât de generică încât pare că ar putut fi creată de oricine, există în contrapartidă un Stravinski sau Bach, ale căror compoziții să traverseze timpurile, sau, mai recent, să zicem cineva ca George Michael, un compozitor, textier și vocalist al cărui perfecționism era arhicunoscut și chiar temut, devenit un soi de enciclopedie a mai multor genuri. Și exemplul lui nu e pus aleator aici (sau doar pentru că e un artist pentru care am enorm respect), ci pentru că acesta a zis că și-ar dori ca oamenii să-și amintească de el ca de un compozitor bun și ca de o persoană care a avut ceva integritate.
Etică & AI
Integritatea este un cuvânt cheie când vine vorba despre AI și muzică, dar nu numai, și asta pentru că lipsește cu desăvârșire. Multe dintre AI-urile care generează muzică la comanda unor prompt-uri s-a dovedit că au furat, practic, toată muzica de pe Internet, pe care au utilizat-o pentru a antrena programele astfel încât acestea să poată să genereze la nesfârșit variante de melodii pentru orice fel de preferință și de utilizare. Sigur, așa s-a ajuns la un soi de muzică disposable, pe care o asculți o singură dată și, chiar dacă îți place, poți s-o uiți apoi, dar care respectă regulile domeniului, ale cărei voci pot să frazeze perfect, să replice, cu alte cuvinte, în doar câteva secunde, munca unui studio plin de specialiști cu ani de pregătire și experiență la activ.
Iar problema nu ține doar de domeniul muzical, teoretic protejat de drepturi de autor. E la fel și în cazul literaturii și al oricărei alte arte, pentru că în fapt liderii companiilor de tehnologie care au dezvoltat astfel de inteligențe nu s-au dat în lături de la a fura la propriu munca tuturor pentru a genera rezultatele spectaculoase de care avem parte azi.
Dincolo de asta, mai este și problema lucrătorilor și a muncii în general. Ca de fiecare dată când avem de-a face cu o nouă tehnologie, auzim despre cum aceasta ne va ușura viețile și munca, doar că asta, în sistemul capitalist global, pur și simplu nu se întâmplă. Dimpotrivă, avem mai mult de lucru pentru că teoretic AI-ul ne poate face mai productivi, deci ne adaptăm și învățăm din mers, pe lângă munca propriu-zisă, să facem din ce în ce mai mult, cu alte și alte mijloace și unelte.
În plus, pe lângă ceea ce tehnic s-ar numi muncă moartă, făcută de mașini sau AIs sau orice altceva, e întotdeauna nevoie de munca vie. E cunoscut cazul lucrătorilor pe date din Africa, a căror poveste a ajuns atât de celebră încât s-a reflectat și într-o lucrare de artă prezentată recent la Jeu de Paume, în cadrul expoziției The World Through AI. Despre ce este vorba? Ei bine, marile companii de tehnologie care își prezintă modelele AI ca fiind atotștiutoare și independente știu foarte bine că de fapt este nevoie de oameni care să opereze anumite date implicate în această muncă. Și găsesc pentru acest scop muncitori invizibili, de obicei în state africane precum Kenya sau Uganda, dar nu numai, profită de legislația relaxată a muncii de acolo și de drepturile aproape inexistente ale muncitorilor, și îi supune pe acești sanitari ai AI-urilor la presiuni incredibile. Cu contracte temporare, plată foarte mică, concedieri arbitrare, supraveghere strictă, lucrătorii din ceea ce numim Sudul global sunt cei care duc greul mofturilor noastre și ajung deseori în situații disperate: boală, burnout, stres cronic, probleme psihice sau chiar moarte.
De parcă asta nu ar fi suficient, la aceste probleme se adaugă consumul uriaș de apă și energie necesare pentru rularea și răcirea serverelor pentru a procesa uriașele cantități de informație necesare ca AI-ul să îndeplinească chiar și cele mai simple sarcini, ca să nu vorbim despre cele mai complexe. Câteva clipuri în care locuitorii din apropierea unor astfel de servere din Statele Unite se chinuie să umple un pahar cu apă de la robinet se vor dovedi edificatoare pentru oricine nu crede că e mare lucru să ceară unui AI să-i scrie un email de cinci rânduri.
La fel, potrivit unui raport al Shift Project despre care am citit recent în publicația Usbek & Rica, care explorează tehnologia și viitorul, consumul centrelor de date din Franța s-ar putea multiplica de până la patru ori în următorii zece ani; așa încât unul dintre fondatorii colectivului GreenIT a ajuns să propună raționalizarea consumului de AI. Și chiar dacă cei care am trecut chiar și razant prin experiența raționalizării alimentelor, de pildă, am putea avea o reacție aproape alergică la astfel de propuneri, cert este că nu producem suficientă energie pentru a trăi și pentru a și utiliza AI la modul la care o facem azi și în ritmul în care suntem încurajați s-o facem în viitor.
Și apoi mai este și problema eternă a supravegherii. Tehnologiile de surveillance nu sunt un lucru nou și au servit oricărui guvern cu tendințe autoritare. Acum, însă, problema e încă mai apăsătoare, pentru că nu mai este vorba doar despre guverne, ci și despre companii private. Larry Elisson, de pildă, fondatorul Oracle, este celebru pentru că furnizează servicii cloud și AI Israelului, iar recent a fost anunțat faptul că a semnat un contract prin care va stoca informațiile private ale cetățenilor britanici într-un cloud AI suveran, un proiect la care fostul premier britanic Tony Blair visa de multă vreme. Legile care par să privească protejarea copiilor de răuvoitori de pe Internet, dar care în fapt acumulează informații despre cetățeni, sunt la modă peste tot. Recent și Senatul României a adoptat Legea majoratului digital. Și cineva va trebui să se ocupe de aceste date.
Și pentru că am adus vorba despre Israel, merită menționată și implicarea Oracle în genocidul comis de acest stat asupra palestinienilor. Lucrătorii de la Oracle au voluntariat pentru a crea words of iron, un program care a creat o armată de conturi false care să răspândească poziții pro-Israel pe rețelele sociale. Dar dacă această implicare poate fi considerată o complicitate ideologică, care servește la a genera consimțământul populației pentru atrocitățile comise asupra populației ocupate, Lavender, Gospel sau Wheres Daddy sunt de-a dreptul programe AI care identifică și țintesc oameni în carne și oase, care sunt asasinați, folosind tehnologia chiar mai mult decât input-ul uman. Palantir, compania acuzată că e implicată în primul genocid powered by AI din istorie, nu s-ar afla nici pe departe la prima abatere monstruoasă de la orice principiu etic.
Logica profitului
Cele mai proeminente nume din Big Tech – Elisson, cel de-al doilea cel mai bogat om al lumii; Elon Musk, primul și totodată un om care a ajuns să conducă dezastruos, pentru o vreme, o agenție care să eficientizeze statul american; Peter Thiel, recent aflat într-un turneu în care predică despre Anticrist; sau Sam Altman, de la OpenAI – nu sunt doar oameni care au la îndemână cele mai puternice AI-uri din lume. Sunt totodată oameni de afaceri care operează în logica profitului. În acest sens, sunt și obsedați de politică și au idei… sau cel puțin tendințe autoritare, iar declarațiile și acțiunile lor arată că nu se vor da în lături de la orice metode pentru a-și spori puterile care, în lipsa unor reglementări stricte din partea puterii politice, sunt în mod real amenințătoare.
Iar reglementările se lasă așteptate, deși mai toate statele sau asocierile dintre ele, precum Uniunea Europeană, investesc major în adaptarea la această nouă eră AI. În vreme ce ne pregătim să folosim din ce în ce mai mult aceste unelte, nu știm cum le vom ține în frâu, care va fi soarta muncitorilor ale căror abilități vor fi abolite de tehnologie, sau de unde vom lua energia necesară funcționării lor.
Politicienii vântură cu entuziasm termeni pe care nu-i înțeleg și ridică în slăvi instrumente, ce-i drept puternice, fără să sufle o vorbă despre pericolele reale cu care vin la pachet. Sau, ca revers al medaliei, folosesc AI pentru a crea clipuri de promovare hilare și în același timp înfricoșătoare. Extremiștii din UK au făcut recent o obsesie pentru videclipurile care îi înfățișează în posturi eroice, călare, amintind de cavaleriile din vechime, tendință care a fost preluată rapid și de unii extremiști locali.
Nu are sens, deci, să vorbim suplimentar despre manipularea și dezinformarea care devin posibile odată cu ascensiunea acestor unelte, subiect deja acoperit de presă în multe rânduri. Dar poate că are sens să vorbim despre cum Sam Altman de la OpenAI, compania care a creat probabil cel mai popular model de pe piață, ChatGPT, a declarat că e vremea să regândim contractul social. Și cu siguranță felul în care se gândește el la o viitoare societate nu are amploarea, profunzimea, dar nici cusururile societății imaginate de Platon în Republica.
Toate argumentele pe care le-ai citit până acum arată tot atâtea motive pentru care ar trebui să ne temem de inteligența artificială. Sau pot măcar să fie teme de gândire serioasă. Și, pe lângă ele, sunt multe altele. Dar în același timp AI poate să însemne și enorm de mult bine. Cercetătorii David Baker, Demis Hassabis și John M. Jumper, care au luat cu un an în urmă premiul Nobel pentru chimie pentru munca lor în designul computațional și predicția structurii proteinelor sunt doar cel mai la îndemână exemplu în acest sens. Felul în care AI poate revoluționa medicina în toate compartimentele ei, de la prevenire și diagnostic până la dezvoltarea de noi tratamente, e practic fără limite. Și același lucru se poate întâmpla în orice alt domeniu. Dar vom avea niște alegeri de făcut, am putea între timp să devenim conștienți de existența lor.
Articol apărut inițial în numărul de noiembrie 2025 al revistei ELLE România
Citește și:
EXCLUSIV: Epoca de Aur – de vorbă cu Carrie Coon și Morgan Spector
Foto: colaj de Serena-Estera Bebi realizat din imagini Profimedia, Shutterstock