Acest articol este o mărturisire, nu un manifest. Nu am pretenția de a reprezenta o școală de gândire. Am pretenția, mai modestă și mai periculoasă, de a spune ce am văzut.
Singurătatea celui care nu aplaudă. Există un moment specific — și cine a trăit înțelege exact despre ce moment vorbesc — în care simți că sala întreagă bate din palme și tu stai cu mâinile în poală, nu din lene, nu din rea-voință, ci pentru că nu ai văzut nimic care să merite aplauze.
Momentul acela e incomod. Nu pentru că ești sigur că ai dreptate. Ci pentru că nu ești sigur nici că greșești. Și tocmai această suspendare, această nehotărâre lucidă, te face invizibil în conversația publică, unde se cere ori entuziasm, ori frică — ambele la decibeli mari, ambele vândute bine pe rețelele sociale, ambele convenabile industriei care produce hype.
Eu am ajuns la scepticismul meu față de inteligența artificială generativă pe o cale care nu trece printr-un laborator. Am ajuns la el prin munca de zi cu zi cu instituții publice românești — primării, școli, consilii județene — care cumpărau sau doreau să cumpere „soluții AI" fără să știe bine ce cumpărau și, mai important, fără să știe ce pierdeau prin simplul act al cumpărării. Am ajuns la el prin lectură: Filocalia, Jung, Noica, Petre Țuțea. Prin conversații cu oameni simpli care mi-au spus, cu intuiția aceea directă pe care o cultivă sărăcia și viața grea, că „vorba multă, sărăcia omului" — și că o mașinărie care produce mii de cuvinte pe secundă ar trebui privită cu aceeași suspiciune cu care privești pe cel care vorbește cel mai tare la o petrecere.
Dar pentru o vreme — să fiu sincer, pentru mai mult decât o vreme — m-am simțit singur în această poziție. Nu persecutat. Nu marginalizat. Pur și simplu singur. Ca omul din sat care spune că norul de la apus aduce ploaie și toți ceilalți privesc spre aplicația de meteo de pe telefon.
Apoi i-am găsit pe ei.
Nu i-am căutat programatic. Nu am construit o bibliografie tematică a scepticilor în AI. I-am găsit pe rând, în perioade diferite, fiecare apărând în câmpul meu vizual printr-o referință, un articol, o dezbatere care a ajuns la mine prin canalele oblice ale internetului. Și de fiecare dată am simțit același lucru: recunoașterea. Nu acordul mecanic — că gândim exact la fel — ci recunoașterea mai profundă: cineva a pus mâna pe același perete și a simțit același frig.
Îi cheamă Gary Marcus, Ted Chiang și Karl Friston. Niciunul nu e român. Niciunul nu citește Filocalia, probabil. Și totuși.
Gary Marcus sau: curajul de a fi previzibil
„Cine spune adevărul nu are nevoie să-și amintească ce a spus."
Gary Marcus este psiholog cognitiv la New York University. Fost fondator de startup de machine learning, cumpărat de Uber. Un om din interior, cu toate creditele interioare intacte. Și totuși — sau poate tocmai de aceea — omul care nu a încetat să spună, cu obstinație metodică, că împăratul e gol.
Nu o spune poetic. Nu o spune cu metafore. O spune cu date, cu predicții publice, cu termene, cu verificare. Asta e, de fapt, partea care deranjează cel mai tare pe entuziașii AI: Marcus nu e un profet romantic al catastrofei. E un om plictisitor de precis.
Ce spune el, în esență? Că modelele mari de limbaj — acele LLM-uri care produc text fluent și convingător — sunt „aproximări ale utilizării limbajului, nu ale înțelegerii lui." Distincția pare tehnică. Nu e. E fundamentală.
Gândiți-vă la diferența dintre un actor care recită perfect o rugăciune și un credincios care o rostește cu lacrimi în ochi. Amândoi produc aceleași cuvinte. Unul știe ce spune. Sau măcar: unul are o relație cu ceea ce spune, o experiență interioară care precede și însoțește cuvintele. Celălalt e un mecanism de reproducere, oricât de sofisticat. „Vorba din gură nu-i din suflet." Știau asta și bătrânii noștri — și nu aveau nevoie de un doctorat în știința cognitivă ca să o formuleze.
Marcus a prezis, înainte de 2024, șapte lucruri despre evoluția AI. Le-a publicat public, cu date. La sfârșitul anului 2024, toate șapte s-au verificat: ecosistemul a rămas blocat la nivelul GPT-4, halucinațiile nu au fost rezolvate, adoptarea corporativă a fost mult mai limitată decât se promisese, profitabilitatea companiilor AI era fictivă în afara hardware-ului. Șapte din șapte. Și totuși nimeni nu i-a oferit o tribună pe CNN. Nimeni nu l-a invitat la Davos să prezideze o masă rotundă. Sam Altman, care promisese AGI în 2025 și agenți AI care schimbă forța de muncă globală, era omniprezent.
De ce? De ce e omul care greșește mai vizibil decât omul care are dreptate?
Răspunsul nu e misterios. „Nu e frumos ce e frumos, e frumos ce place." Și industriei AI, investitorilor în AI, jurnaliștilor care acoperă AI le place narativul prometeic: mașina care va salva sau va distruge omenirea, în funcție de tabăra din care vorbești. Marcus oferă ceva mult mai greu de vândut: nuanță, precauție, metodologie. Previzibilitate. Corectitudine predictivă. Lucruri care n-au niciodată audiență pe termen scurt.
Există, în scepticismul lui Marcus, ceva care rezonează adânc cu propria mea experiență de practician în web pentru instituții publice. Când un primar îmi cere să implementez „soluții AI" pe site-ul primăriei, el nu cere înțelegere. Cere aparența înțelegerii. Cere ca mașinăria să pară deșteaptă. Marcus ar recunoaște imediat: nu e o problemă tehnică. E o problemă de iluzie colectivă convenabilă. Și iluziile colective convenabile sunt, în istoria omenirii, cele mai greu de dezrădăcinat.
„Minciuna are picioare scurte", spune românul. Dar picioarele scurte pot duce departe dacă aleargă prin culoare largi și nimeni nu pune întrebări.
Marcus pune întrebări. Nu e popular. Dar e prezent, consecvent, și — lucru rar în dezbaterea publică despre AI — verificabil.
Ted Chiang sau: artistul care a înțeles ce nu pot înțelege inginerii
Există oameni care văd structura unui lucru mai bine din afara lui decât cei care îl construiesc. Ted Chiang e unul dintre ei.
Chiang nu e cercetător. Nu are un laborator. E scriitor de science fiction — și prin această calificare, mulți oameni din industria tech ar fi tentați să-l ignore. Greșeală fatală. Unii dintre cei mai preciși diagnosticieni ai unei epoci au fost ficționarii ei. Kafka a înțeles birocrația mai bine decât orice sociolog contemporan. Orwell a înțeles limbajul puterii înaintea tuturor analiștilor politici. Și Chiang a înțeles limitele inteligenței artificiale generative cu o claritate pe care puțini cercetători au atins-o public.
Metafora lui centrală — cea care l-a făcut cunoscut dincolo de cercurile SF — e simplă și devastatoare: ChatGPT este un JPEG neclar al internetului. O compresie cu pierderi. Ceva care reține aproximarea, nu substanța. Ceva care arată ca originalul, dacă stai suficient de departe și nu pui întrebări inconfortabile.
Eu am descoperit această metaforă cu o senzație de recunoaștere imediată, fizică aproape. Pentru că exact asta văzusem în munca mea: textele generate de AI pentru site-urile instituțiilor publice arată ca texte oficiale. Au tonul corect, lungimea potrivită, termenii tehnici la locul lor. Dar sunt goale. Sunt JPEG-uri neclare ale birocrației românești, fără experiența din spatele lor, fără responsabilitatea care ar trebui să le însoțească, fără omul concret care știe că ceea ce semnează produce efecte reale în viața unui cetățean real.
„Praf în ochi", zice românul. Și nu e metaforă retorică — e diagnostic precis.
Chiang merge mai departe. Într-un eseu din The New Yorker, el compară AI cu McKinsey & Company — firma de consultanță celebră nu pentru soluțiile pe care le oferă, ci pentru funcția pe care o îndeplinește în realitate: spălarea responsabilității. Când o corporație angajează McKinsey și aplică recomandările McKinsey, poate concedia oameni, poate distruge comunități, poate lua decizii profund imorale — și poate spune: nu noi am decis, am urmat expertiza externă. AI face același lucru. Permite celor care iau decizii să se ascundă în spatele algoritmului. „Sistemul a generat asta." „Modelul a recomandat." „Nu avem ce face, datele spun."
Aceasta nu e o problemă tehnică. E o problemă morală. Și e o problemă pe care am văzut-o concret, în carne și oase, când instituții publice românești refuzau să asume răspunderea pentru conținut generat automat, invocând tocmai automatizarea ca scut. Exonerarea prin algoritm. Iresponsabilitate digitală cu aer de modernitate.
Chiang spune ceva și mai profund despre artă — și prin extensie, despre orice formă de producție autentică de sens. Dacă arta e un produs concentrat al intenției, atunci AI generativă e o metodă de diluare a intenției. Intenție diluată. Câte lucruri pot fi descrise cu această sintagmă? Câte texte oficiale, câte discursuri politice, câte scrisori de condoleanțe generate în două secunde? Intenție diluată. Sens diluat. Responsabilitate diluată.
Și totuși — iată paradoxul pe care Chiang îl trăiește și îl articulează cu onestitate — el nu e anti-tehnologie. Nu e un luddist digital. El diferențiază: o chitară electrică nu face chitara mai ușoară, o transformă. O cameră foto nu a simplificat fotografia artistică, a creat un nou domeniu de dificultate și expresie. Instrumentele bune amplifică dificultatea în direcția potrivită. AI generativă, în forma ei actuală, face invers: simplifică ceea ce ar trebui să fie greu, elimină rezistența care produce creștere, oferă un scurtcircuit exact acolo unde ar fi necesar efortul.
„Omul sfințește locul", nu mașina care simulează sfințenia.
Am citit eseurile lui Chiang cu creionul în mână — metaforă reală, nu retorică, am și urme pe hârtie. Și de fiecare dată am simțit că cineva cu instrumente diferite de ale mele — cu fiction, cu eseu literar, nu cu teologie sau filosofie românească — ajungea la același perete și bătea în el cu aceleași degete.
Karl Friston sau: ce înseamnă să gândești cu adevărat
Dacă Marcus e omul datelor și Chiang e omul metaforelor, Karl Friston e omul ecuațiilor. Și tocmai de aceea e cel mai inconfortabil dintre cei trei pentru industria AI — pentru că nu poate fi acuzat că nu înțelege matematica.
Friston e psihiatru și neurolog computațional la University College London. E autorul unuia dintre cele mai citate principii din neuroștiința modernă: Principiul Energiei Libere — o formulare matematică a modului în care sistemele biologice procesează informația, reduc surpriza și se adaptează la lume. Nu voi intra în ecuații. Voi spune doar ce contează pentru argumentul nostru.
La Davos, în 2024, Friston a spus public, în fața elitei financiare mondiale, că arhitectura deep learning pe care se bazează AI-ul generativ are limitări fundamentale față de modul în care funcționează inteligența biologică. Nu ca insultă. Ca diagnostic tehnic.
Și iată de ce contează asta concret: creierul unui copil de patru ani, spunea Friston în dezbatere cu Yann LeCun, a procesat mai multă informație senzorială decât cel mai mare model de limbaj din lume — și a procesat-o cu o eficiență energetică de neimaginat comparativ cu serverele care consumă electricitate cât un orășel mediu. Dar mai important decât eficiența: creierul copilului acționează asupra lumii. Testează. Confirmă sau infirmă. Construiește un model intern al realității prin interacțiune fizică, prin greșeli, prin căderi și ridicări. Un copil care învață că focul arde nu a citit despre foc. L-a atins.
Modelele mari de limbaj nu ating nimic. Ele procesează text. Text scris de oameni care au atins, au simțit, au greșit, au iubit, au plâns — și au transformat experiența în cuvinte. AI colectează cuvintele, nu experiența. E ca și cum ai vrea să înveți să înoți citind toate cărțile despre înot. La un moment dat, poți să descrii perfect tehnica crawl. Dar când sari în apă, te îneci.
„Poveștile nu înlocuiesc pâinea." Și nici textele despre lume nu înlocuiesc lumea.
Friston propune o arhitectură complet diferită pentru inteligența artificială — Inferența Activă — bazată pe principiile biologice ale minimizării surprizei prin acțiune și percepție continuă. Un sistem care nu consumă text, ci interacționează cu mediul. Care nu prezice cuvântul următor, ci anticipează consecințele acțiunilor sale. Ceva care seamănă mai mult cu un organism decât cu o bibliotecă.
Nu știu dacă Friston va reuși. Nu știu dacă arhitectura lui va funcționa la scara care contează. Dar știu că întrebarea lui e corectă: ce înseamnă să gândești cu adevărat, și de ce soluția curentă nu e nici pe departe un răspuns la această întrebare?
Și în această întrebare, recunosc ceva din tradiția pe care o port eu: din Filocalia, care face distincția radicală între cunoaștere și înțelepciune, între acumularea de informație și transformarea lăuntrică pe care o produce experiența autentică. Sfinții Părinți știau, fără ecuații, că nu orice acumulare de cuvinte produce luminare. Că poți citi Scriptura toată viața și să rămâi în întuneric dacă lectura nu e însoțită de asceza care deschide înțelegerea.
AI generativă e, în această lumină, un exercițiu de acumulare fără asceza corespunzătoare. Poate reproduce Scriptura. Nu poate trăi după ea.
„Știința fără credință e oarbă", ar fi spus bunicul meu. El vorbea despre altceva, dar — paradox viu — vorbea exact despre asta.
Cei consecvenți și obscuri — ceilalți care nu se văd
Marcus, Chiang, Friston sunt vizibili. Au publicații, tribune, urmăritori. Dar curentul de scepticism lucid față de AI e mult mai larg decât cele trei nume. E populat de oameni pe care nu-i cunoaște nimeni în afara specialității lor — și tocmai de aceea opinia lor e mai pură, necontaminată de nevoia de audiență.
Meredith Broussard, jurnalist de date la NYU, a scris „Artificial Unintelligence" — un titlu care spune tot — demonstrând sistematic cum prejudecățile din datele de antrenament produc sisteme care perpetuează inegalitățile existente, nu le rezolvă. Dacă datele pe care le-a văzut AI-ul au fost produse de o lume inegală, AI-ul va reproduce inegalitatea cu o eficiență sporită și cu un paravan de obiectivitate care o face mai greu de contestat. Mai greu de contestat decât nedreptatea umană — pentru că nedreptatea umană are față, poate fi chemată la răspundere, poate fi rușinată public. Nedreptatea algoritmică e invizibilă și impersonală. Nu dai în judecată un model.
Timnit Gebru, cercetătoare în etică AI, concediată de Google după ce a publicat o lucrare despre riscurile modelelor mari de limbaj, a arătat că aceste sisteme codifică prejudecăți istorice la scară industrială. Nu ca opinie politică — ca rezultat măsurabil. A fost concediată. Episodul n-a schimbat nimic în industrie pe termen scurt. A schimbat, în schimb, câteva mii de cercetători care au înțeles că scepticismul față de AI nu e o poziție de stânga sau de dreapta, e o poziție de onestitate intelectuală — și că onestitatea intelectuală se plătește uneori cu locul de muncă.
Emily Bender, lingvistă, a introdus termenul de „papagal stochastic" — un sistem care produce șiruri plauzibile de cuvinte fără să le înțeleagă, exact cum un papagal repetă sunete umane fără să le priceapă. Metafora a fost preluată, distorsionată, atacată furios — semn sigur că atinsese ceva sensibil. Când o metaforă produce furie în loc de contraargumente, metafora a nimerit ținta.
Și mai sunt alții, mai puțin vizibili chiar și pentru mine: cercetători în laboratoare universitare care publică studii ignorate de presa mainstream, ingineri din interiorul marilor companii tech care semnează anonim scrisori deschise, filosofi ai minții care arată că testul Turing — testul pe care AI-ul modern îl trece cu brio — nu a testat niciodată ce credea lumea că testează. Testul Turing verifică dacă o mașină pare inteligentă unui observator uman. Nu verifică dacă e inteligentă. E un test de inducere în eroare, nu de competență. Și l-am trecut. Felicitări.
„Mulți se duc, puțini se întorc", zice românul despre drumul greu. Curentul acesta de scepticism e populat de oameni care au pornit în interior — în laboratoarele AI, în corporațiile tech, în publicațiile de prestigiu — și s-au întors cu vești pe care nimeni nu voia să le audă. Nu s-au întors cu ură față de tehnologie. S-au întors cu onestitate față de ce văzuseră.
Onestitatea asta costă. Costă vizibilitate, costă confort, costă uneori cariere. Dar e singurul bun care nu se devalorizează cu versiunea următoare.
De ce sunt toți ignorați în același fel
Există un pattern care leagă toate aceste voci — și care mă leagă pe mine de ele, cu tot cu distanța geografică și disciplinară care ne separă.
Toți suntem tratați în același mod: nu cu contraargumente, ci cu minimizare retorică.
Marcus e „mediocre deep learning skeptic" — cuvintele lui Sam Altman, reproduse în presă cu condescendență aprobativă. Nu „are dreptate în punctele X, Y, Z, dar greșește în W." Pur și simplu: e mediocru. Adjective, nu argumente. Etichetă, nu dezbatere.
Chiang e „un scriitor de science fiction" — subtext: ce știe el, nu e inginer. Ca și cum ingineria ar fi singura epistemologie validă pentru a discuta despre inteligență și sens. Ca și cum Dostoievski n-ar fi înțeles psihologia umană mai bine decât psihologii contemporani lui. Ca și cum Kafka n-ar fi cartografiat birocrația modernă mai precis decât orice sociolog al epocii.
Friston e „prea tehnic, prea abstract" — paradox comic, dat fiind că adversarii lui se laudă cu matematica lor. Prea tehnic pentru jurnaliști, prea filosof pentru ingineri, prea radical pentru academia convențională. Nicăieri acasă, tocmai pentru că e pretutindeni corect.
Iar eu — la scara mea incomparabil mai mică — sunt „sceptic de principiu", „fără să înțeleagă tehnologia", „depășit de epocă." Am auzit toate acestea. Nu din rea-voință neapărat. Din comoditate. E mai ușor să etichetezi decât să argumentezi.
„Câinele latră, caravana trece", zice proverbul. Dar cine e câinele și cine e caravana? Uneori caravana e industria de miliarde de dolari cu o mie de PR-iști, și câinele e omul singur care spune că ceva nu e în regulă. În versiunea originală a proverbului, câinele e cel care nu înțelege. Dar mai există o versiune, mai puțin citată: câinele latră tocmai pentru că a mirosit ceva ce caravana refuză să mirosească.
Există o tehnică retorică pe care o recunosc din lecturile despre propagandă: naturalizarea revoluției — momentul în care o inovație e prezentată nu ca alegere, ci ca inevitabilitate. „AI-ul va transforma totul" — nu dacă, nu poate, nu depinde — va transforma. Indicativ viitor, fără subiect care să poarte responsabilitatea. Când inevitabilul e proclamat, cel care îl pune la îndoială nu mai e un interlocutor legitim — devine un obstacol ilogic în calea progresului. Un dușman al viitorului.
Aceasta e, în fond, cea mai sofisticată formă de violență discursivă: nu atacul, ci excluderea din câmpul conversației legitime. Nu „greșești", ci „ești irelevant."
Marcus, Chiang, Friston au rezistat acestei excluderi prin calitățile diferite ale rezistenței lor: Marcus prin precizie verificabilă, Chiang prin claritate poetică, Friston prin profunzimea matematică. Eu rezist, cu instrumentele mele mai modeste, prin ceea ce am: experiență practică, tradiție filosofică și teologică, și convingerea că „omul cu o idee bună valorează mai mult decât o armată cu idei proaste."
Convergența — ce ne unește pe toți
Nu am vorbit cu niciunul dintre ei. Nu știu dacă știu că exist. Și totuși există ceva care ne leagă, ceva mai profund decât acordul pe o poziție: un mod comun de a pune întrebările.
Toți ne întrebăm: ce lipsește?
Nu: cât de mult poate face AI? Nu: cât de repede crește? Nu: câți bani produce? Ci: ce anume, specific și esențial, lipsește din ceea ce face?
Marcus răspunde: înțelegerea lumii, modelul intern al realității, capacitatea de a distinge adevărul de plauzibilitate. Chiang răspunde: intenția, responsabilitatea, experiența care precede cuvântul și îi dă greutate. Friston răspunde: acțiunea în lume, testarea prin consecințe, reducerea surprizei prin implicare activă cu realitatea. Eu răspund, cu vocabularul meu: prezența, relația, răspunderea față de un tu concret care are chip și nume.
Sunt răspunsuri diferite la aceeași întrebare. Și întrebarea asta — ce lipsește? — e singura întrebare care merită pusă. Pentru că dacă răspunzi la ea cu onestitate, tot restul urmează: ce e util, ce e periculos, ce merită implementat și ce merită respins.
Industria AI evită această întrebare cu o metodologie elegantă: înlocuiește ce lipsește? cu ce urmează? Devierea de la ontologie la cronologie. Nu discutăm ce e AI-ul în fond, ci ce versiune a lui vine luna viitoare. Perpetuu viitor, perpetuă anticipare, perpetuă uitare a prezentului real — și a întrebărilor incomode care se pot pune numai în prezent.
„Graba strică treaba." Și graba stricată sistematic, la scară industrială, cu miliarde de dolari în spate, graba stricată în avans înainte ca nimeni să aibă timp să observe ce s-a stricat — asta e cu totul altceva. Asta e politică, nu accidente.
Ce înseamnă să fii din interior
Un detaliu important, pe care l-am lăsat pentru acest punct: Marcus, Chiang și Friston nu sunt outsideri. Nu sunt luddiste digitale. Nu vin din afara domeniului cu furcile ridicate.
Marcus a fondat o companie de machine learning. Chiang a lucrat ani de zile ca documentarist tehnic pentru companii de software din Silicon Valley, înțelege codul, înțelege arhitecturile, înțelege limitele din interior. Friston a construit unele dintre cele mai influente modele computaționale ale creierului din ultimele decenii — modelele lui sunt folosite de cercetători din întreaga lume.
Toți au mâinile în aluatul domeniului.
Și tocmai de aceea vocea lor are o altă greutate decât a unui filosof pur sau a unui teolog care privește de la distanță. Ei spun: am văzut cum se face asta. Știu ce e înăuntru. Și tocmai de aceea vă spun că afară nu e ce credeți.
E diferența dintre omul care a intrat în uzina chimică și te avertizează despre miros și omul care citește rapoartele de mediu. Amândoi pot avea dreptate. Dar primul a inspirat.
Am simțit nevoia să fac această distincție pentru că propria mea poziție e mai degrabă a celui din afara laboratorului. Eu nu am construit modele AI. Scepticismul meu vine din altă parte: din practică, din filosofie, din teologie, din experiența cu instituții care folosesc sau abuzează tehnologia. E un scepticism valid, dar e diferit — e scepticismul celui care vede efectele, nu al celui care cunoaște cauzele tehnice.
Ceea ce mi-au dat Marcus, Chiang și Friston e confirmarea că scepticismul meu — cu toate limitele lui — nu e produsul ignoranței. E produsul unui tip diferit de vedere. Și că vederea dinăuntru și vederea dinafară, când ajung la același diagnostic, produc împreună o certitudine mai grea decât oricare singură.
„Doi ochi văd mai bine decât unul." Și doi ochi care s-au uitat din direcții opuse și au văzut același lucru — asta e deja știință.
Scepticismul ca act de iubire
Vreau să închei cu ceva care ar putea părea paradoxal: scepticismul meu față de AI, și al celor pe care i-am descris, nu e un act de ostilitate față de tehnologie sau față de cei care o construiesc.
E un act de iubire față de ceea ce tehnologia ar putea deveni dacă ar fi privită cu onestitate.
Cea mai mare trădare pe care o poate face cineva față de un lucru real este să-l substituie cu aparența lui și să declare că aparența e destul. Să spui că o halucinație credibilă înlocuiește cunoașterea. Că un JPEG neclar înlocuiește fotografia originală. Că un text fluent înlocuiește gândul care l-a produs. Că viteza înlocuiește adâncimea. Că numărul de cuvinte pe secundă înlocuiește greutatea unui singur cuvânt spus la momentul potrivit.
Noi nu suntem împotriva AI. Suntem împotriva minciunii comode că AI-ul actual e ceea ce ni se spune că e.
Marcus vrea ca AI să fie evaluat cinstit — nici mai mult, nici mai puțin. Chiang vrea ca intenția umană să nu fie diluată în spatele unui algoritm fără chip. Friston vrea ca inteligența artificială să devină, cu adevărat, inteligentă — nu să simuleze inteligența pe text. Eu vreau ca instituțiile publice românești care deservesc cetățeni reali să nu înlocuiască responsabilitatea cu automatizarea iresponsabilă.
Sunt dorințe compatibile. Sunt, în fond, aceeași dorință formulată cu instrumente diferite: ca lucrurile să fie ce pretind că sunt.
„Omul e om la nevoie", zice românul. Și omul e om și la adevăr — la capacitatea de a spune da, e bine sau nu, nu e ceea ce spui fără să calculeze ce îi e convenabil să creadă, fără să verifice mai întâi cum aplaudă ceilalți.
Capacitatea aceasta — de a sta cu o întrebare incomodă fără să o rezolvi prematur — e poate cea mai importantă formă de inteligență pe care nu o va dobândi niciun model de limbaj, oricât de mare. Nu pentru că e imposibil în principiu. Ci pentru că nu a fost niciodată în specificațiile de produs.
Epilog: Nu sunt singur și nici voi nu trebuie să fiți
Am început cu momentul singurătății. Închei cu ieșirea din el.
Nu am ieșit din singurătate prin convertire — nu am ajuns să aplaud ceea ce nu merită aplauze. Am ieșit descoperind că singurătatea mea era parțial iluzie: eram singur în camera mea, dar nu singur în lume.
Există o tradiție lungă și onorabilă de oameni care au refuzat să confunde zgomotul cu muzica, mulțimea cu adevărul, viteza cu direcția. Nu toți sunt celebri. Mulți sunt obscuri — profesori de liceu care pun întrebări incomode elevilor, programatori care refuză să semneze documentația unui sistem în care nu au încredere, jurnaliști care scriu că împăratul e gol într-o epocă în care publicul vrea povești despre hainele împăratului.
Gary Marcus, Ted Chiang, Karl Friston nu sunt profeți. Nu sunt eroi. Sunt, pur și simplu, oameni care s-au uitat cu atenție la ceva și au spus ce au văzut. E un act mic și absolut esențial. E un act care costă ceva — confort, colegialitate, uneori contracte — și tocmai de aceea e demn de atenție.
Dacă ai citit până aici — dacă ceva din ce am scris a rezonat cu ceva din experiența ta, cu un moment în care și tu ai stat cu mâinile în poală în timp ce sala aplauda — atunci știi că nici tu nu ești singur.
Tribul există. E răspândit, inconsistent ca organizare, variat ca instrumente și ca limbaje. Dar există. Și în ziua în care cineva va pune cu adevărat întrebarea ce lipsește? și va cere un răspuns onest, tribul acesta va fi cei care au răspunsul pregătit.
„Fă bine și aruncă în apă", zice românul. Nu pentru că nu contează. Ci pentru că binele făcut cu adevărat nu are nevoie să fie văzut azi pentru a conta mâine.
Scriu asta și îl gândesc pe fiul meu. Și îmi spun că cel mai bun lucru pe care i-l pot lăsa nu e o concluzie despre AI — nici pentru, nici contra. Ci un model de a întreba. De a sta cu întrebarea. De a nu înlocui înțelegerea cu viteză, gândul cu text, prezența cu eficiența.
De a nu aplauda înainte să știe de ce.
Petru Cojocaru scrie la cojocarupetru.info despre tehnologie, cultură digitală și limitele mașinilor. E fondatorul ABSOLUT WEB EXPERT SRL, cu opt ani de experiență în construirea și întreținerea site-urilor pentru instituții publice românești.
Referințe și lecturi recomandate
- Gary Marcus — Taming Silicon Valley (2024)
- Gary Marcus & Ernest Davis — Rebooting AI (2019)
- Ted Chiang — „ChatGPT Is a Blurry JPEG of the Web", The New Yorker (2023)
- Ted Chiang — „Will A.I. Become the New McKinsey?", The New Yorker (2023)
- Ted Chiang — „Why A.I. Isn't Going to Make Art", The New Yorker (2024)
- Karl Friston — Dezbaterea Davos 2024, World Economic Forum (disponibilă pe YouTube)
- Meredith Broussard — Artificial Unintelligence (2018)
- Emily Bender et al. — „On the Dangers of Stochastic Parrots" (2021)
- Timnit Gebru — lucrările despre prejudecăți în modele mari de limbaj (accesibile pe Google Scholar)
Întrebări și răspunsuri — și ce exagerează articolul
Secțiune complementară la: „Regele e gol"
15 întrebări la care răspunde articolul
1. De ce se simte autorul singur în scepticismul față de AI?
Pentru că dezbaterea publică despre inteligența artificială e dominată de două voci extreme — entuziasmul messianic și frica apocaliptică — și nu lasă loc poziției de mijloc: scepticismul lucid, verificabil, fără ură față de tehnologie. Cine refuză ambele extreme devine invizibil, nu contradictoriu.
2. Cine este Gary Marcus și de ce contează opinia lui?
Gary Marcus este psiholog cognitiv la NYU și fost fondator de startup de machine learning cumpărat de Uber. Nu e un outsider — e un om din interior care a ales să spună public ceea ce mulți din domeniu gândesc privat: că modelele mari de limbaj produc text plauzibil fără să înțeleagă nimic din ceea ce produc. Importanța lui vine din precizie: predicțiile lui sunt publice, datate și verificabile.
3. Ce a prezis Gary Marcus și s-a adeverit?
Înainte de 2024, Marcus a publicat șapte predicții despre evoluția AI: că ecosistemul va rămâne la nivelul GPT-4 fără salt revoluționar, că halucinațiile nu vor fi rezolvate, că adoptarea corporativă va fi mult sub așteptări, că profitabilitatea companiilor AI va fi fictivă în afara hardware-ului. Toate șapte s-au verificat în mare măsură — fără să-i aducă vizibilitatea pe care o aveau promotorii care greșeau.
4. Care e distincția centrală pe care o face Marcus despre LLM-uri?
Că modelele mari de limbaj sunt aproximări ale utilizării limbajului, nu ale înțelegerii lui. Produc output corect statistic, nu output derivat din înțelegere. E diferența dintre un actor care recită perfect o rugăciune și un credincios care o rostește. Cuvintele sunt identice. Relația cu ele — nu.
5. Cine este Ted Chiang și de ce e relevant în dezbaterea despre AI?
Ted Chiang e scriitor de science fiction, autor al poveștii care a stat la baza filmului Arrival. A publicat o serie de eseuri în The New Yorker care analizează AI generativă cu o claritate pe care puțini cercetători tehnici au atins-o public. Relevanța lui vine tocmai din faptul că e din afara ingineriei: vede structura problemei fără să fie orbit de entuziasmul constructorului.
6. Ce înseamnă „ChatGPT e un JPEG neclar al internetului"?
E metafora centrală a lui Chiang: o compresie cu pierderi. La fel cum un JPEG comprimat agresiv păstrează aproximarea imaginii originale — culorile, formele mari — dar pierde detaliile și acuratețea, AI generativă păstrează aproximarea limbajului uman — fluiditatea, structura, tonul — dar pierde ceea ce era în spatele lui: experiența, intenția, responsabilitatea. Arată ca originalul dacă stai suficient de departe.
7. De ce compară Chiang AI-ul cu McKinsey?
Pentru că ambele servesc aceeași funcție: spălarea responsabilității. McKinsey permite corporațiilor să ia decizii dure și să spună „am urmat expertiza externă." AI permite instituțiilor să producă conținut, să ia decizii algoritmice și să spună „sistemul a generat asta." Responsabilitatea dispare în spatele unui intermediar prezentabil. Nu e o problemă tehnică — e una morală.
8. Cine este Karl Friston și ce critică el în AI-ul actual?
Karl Friston e psihiatru și neurolog computațional la University College London, autorul Principiului Energiei Libere — una dintre cele mai citate teorii din neuroștiința modernă. Critica lui e tehnică și profundă: arhitectura deep learning pe care se bazează AI-ul generativ nu replică modul în care funcționează inteligența biologică. Creierul nu prezice textul următor — acționează, testează, confirmă sau infirmă prin contact real cu lumea. LLM-urile nu ating nimic.
9. Ce propune Friston ca alternativă?
Inferența Activă — o arhitectură bazată pe principiile biologice ale minimizării surprizei prin acțiune continuă. Un sistem care interacționează cu mediul, testează consecințele acțiunilor sale și își actualizează modelul intern al lumii prin implicare reală, nu prin procesarea pasivă a textului. Ceva mai apropiat de un organism decât de o bibliotecă.
10. Care e legătura dintre scepticismul tehnic și tradiția filosofică românească invocată în articol?
Filocalia face distincția radicală între cunoaștere și înțelepciune — între acumularea de informație și transformarea lăuntrică produsă de experiența autentică. AI generativă acumulează masiv, fără asceza corespunzătoare. Poate reproduce Scriptura fără să o trăiască. Scepticii tehnici — Marcus, Friston — ajung la același diagnostic pe cale matematică: fără contact cu lumea reală, acumularea de text nu produce înțelegere. Vocabularele sunt diferite; peretele e același.
11. De ce sunt scepticii ignorați sau minimizați în loc să fie contrazisi cu argumente?
Pentru că argumentele cer efort și produc incertitudine. Etichetele sunt rapide și produc confort. Marcus e „mediocru" — cuvântul lui Altman, preluat fără contraargumente. Chiang e „doar un scriitor SF." Friston e „prea abstract." Niciunul nu e contrazis pe fond. Excluderea din câmpul conversației legitime — nu prin atac, ci prin declararea irelevanței — e cea mai eficientă formă de cenzură, tocmai pentru că nu se vede.
12. Ce leagă toate vocile sceptice descrise în articol, dincolo de domenii diferite?
O singură întrebare comună: ce lipsește? Nu cât produce AI, nu cât de repede crește, nu câți bani face — ci ce anume, specific și esențial, lipsește din ceea ce face. Marcus răspunde: modelul intern al realității. Chiang: intenția și responsabilitatea. Friston: acțiunea în lume. Autorul: prezența și răspunderea față de un tu concret. Răspunsuri diferite, aceeași întrebare. Și întrebarea asta e singura care deschide o dezbatere reală.
13. De ce scepticismul față de AI e descris ca „act de iubire" și nu ca ostilitate?
Pentru că cea mai mare trădare față de un lucru real este să-l substitui cu aparența lui. A spune că AI-ul actual e ceea ce pretinde că e — inteligent, înțelegător, responsabil — e o trădare față de ce ar putea deveni dacă ar fi privit cu onestitate. Scepticismul autentic nu vrea mai puțin tehnologie; vrea tehnologie mai bună, evaluată cinstit, folosită acolo unde chiar funcționează și respinsă acolo unde simulează funcționarea.
14. Care e relevanța acestui argument pentru instituțiile publice românești?
Concretă și imediată. Instituțiile publice — primării, școli, spitale, consilii județene — adoptă sau sunt presate să adopte „soluții AI" fără să știe ce cumpără și fără să poată evalua ce pierd: responsabilitatea față de cetățean, asumarea unui text oficial, relația directă cu realitatea pe care o administrează. AI generativă în administrație publică nu e o problemă tehnoLogică — e o problemă de responsabilitate democratică.
15. Ce ar trebui să facă un cititor care rezonează cu argumentele articolului?
Să înceapă cu întrebarea ce lipsește? ori de câte ori se confruntă cu o prezentare entuziastă a AI. Nu să refuze tehnologia — să o evalueze onest. Să citească Marcus, Chiang, Friston. Să observe diferența dintre text fluent și gând real. Să nu aplice instrumentul acolo unde simularea funcționării face mai mult rău decât absența instrumentului. Și, poate cel mai important: să nu se simtă singur dacă nu poate aplauda.
Ce exagerează articolul?
După ce am recitit textul am observat căteva excese de zel pe care vreau să le detaliez. Recunosc am exagerat puțin, dar strategic — în ton și generalizări, nu în fapte de bază.
Articolul de față e un text de opinie polemic, cu un stil retoric puternic. Expresii ca „regele e gol", „iluzie colectivă", „minciuna are picioare scurte" sunt deliberat absolutiste — fac parte din vocea și din mizele textului. Dar onestitatea intelectuală cere să numim și locurile unde formularea depășește realitatea măsurabilă. Iată o analiză echilibrată, bazată pe textul articolului și pe datele disponibile în 2025–2026.
1. Cea mai semnificativă exagerare: „stagnarea totală la nivelul GPT-4"
Articolul preia predicțiile lui Marcus și spune că ecosistemul AI „a rămas blocat la nivelul GPT-4." Predicțiile s-au verificat în mare parte — dar nu complet.
Ce e corect: Modelele pure de scaling au dezamăgit. GPT-5 a fost descris de Marcus și de alți analiști ca „overdue, overhyped și underwhelming." Problemele de fond — halucinații persistente, lipsa unui world-model robust, costuri energetice uriașe — rămân nerezolvate. AGI nu a venit. Adoptarea corporativă la scară largă nu s-a materializat la nivelul promis.
Ce e mai nuanțat: Au apărut progrese reale în reasoning (modelele de tip o1/o3), în coding agents, în modele open-source precum DeepSeek R1, și în aplicații practice limitate dar funcționale. Nu e „nimic nou" — e mai degrabă „nu ce s-a promis": o încetinire a revoluției promise, cu o schimbare de paradigmă spre agenți și reasoning chains, nu o blocare totală.
Concluzie: Articolul prezintă situația ca o blocare absolută. Realitatea e o dezamăgire față de promisiuni, cu progrese reale în nișe specifice. Scepticii au dreptate în esența lor — hype-ul a depășit livrarea — dar formularea „blocat" e mai dramatică decât „mai lent și mai limitat decât s-a promis."
2. „Profitabilitatea era fictivă" — exagerare mică, aproape de adevăr
Articolul afirmă că profitabilitatea companiilor AI era fictivă, cu excepția producătorilor de hardware.
Realitatea în 2026: Foarte aproape de adevăr. OpenAI raportează venituri semnificative, dar proiecțiile de pierdere continuă sunt masive — estimări de zeci de miliarde cumulative până la o eventuală profitabilitate, poate 2029–2030. Majority companiilor LLM ard capital masiv pe compute. Producătorii de cipuri — NVIDIA în primul rând — sunt singurii cu profituri solide și consistente.
Concluzie: Această observație e corectă și confirmată de date financiare publice. Nu e o exagerare semnificativă.
3. Tonul general: „toată lumea aplaudă orbește"
Comparațiile cu basmul Andersen, cu iluzii colective convenabile, cu scepticii marginalizați și entuziaștii omniprezenți — aceasta e zona de exagerare retorică cea mai clară.
Realitatea: Nu toată lumea aplaudă orbește. Dezbaterile între Marcus și susținătorii scaling-law sunt publice, intense și vizibile. Mulți ingineri și analiști recunosc deschis limitele — halucinații, costuri, lipsa de reliability. Scepticismul nu e marginal: e prezent pe Substack, pe Twitter/X, în The New Yorker, în rapoarte academice. Autorul exagerează izolarea sa și a scepticilor pentru efect dramatic — se simte „singur", dar scepticismul are o comunitate activă și vizibilă.
Concluzie: E exagerare retorică deliberată, nu eroare factuală. Funcționează în logica textului — momentul de singurătate urmat de descoperirea tribului are forță narativă. Dar citit ca descriere sociologică exactă, supraevaluează marginalizarea scepticilor.
4. Alte nuanțe
Metafora JPEG neclar (Ted Chiang) — corectă și bine calibrată, nu exagerare.
Friston nu e doar cercetător academic, ci și Chief Scientist la VERSES AI Inc. — o companie comercială care promovează tocmai Inferența Activă ca alternativă la deep learning. Există deci un potențial conflict de interese în cazul lui Friston pe care articolul nu îl semnalează.
Diluarea responsabilității în administrație — foarte relevantă pentru contextul românesc, dar generalizată ca problemă universală a AI-ului. Există contexte în care AI asistă fără să înlocuiască responsabilitatea umană — articolul nu le distinge.
Legătura cu Filocalia și asceza — frumoasă cultural, coerentă cu vocea autorului, dar subiectivă și filosofică. Nu e un fapt care se poate exagera — e o interpretare, și ca interpretare e legitimă în cadrul unui eseu personal.
Principala vulnerabilitate a textului este absolutismul tonal — prezintă o dezbatere complexă ca pe un basm cu eroi ignorați și mulțimi oarbe, ceea ce simplifică o realitate mai nuanțată.
Concluzie echilibrată
Articolul exagerează mai mult în ton și absolutism — „blocaj total", „toată lumea e orbită", iluzie colectivă inevitabilă — decât în fapte concrete. Predicțiile Marcus, problemele economice ale industriei AI și limitările arhitecturale sunt în mare măsură corecte conform datelor din 2025–2026.
E un antidot sănătos la hype-ul excesiv. Dar ca orice manifest sceptic, simplifică puțin realitatea complexă: progrese lente dar reale în nișe, comunitate sceptică mai vizibilă decât sugerează narativul singurătății, diferența dintre „nu ce s-a promis" și „nimic nou."
Nu e propagandă. Nu e halucinație. E o mărturisire personală bine documentată, cu un pic de dramatism românesc — și dacă e citit ca opinie, nu ca analiză tehnică neutră, e bun. Revin cu alte critici de la prieteni.