Recomandat

Vocea Autorității — Cum un Model Știe Totul și Nu Știe Nimic

Google Accesări: 146 29 Minute de citire

Halucinațiile Google Gemini și paradoxul încrederii fără acuratețe

Articolul 1  din 6 din seria „Gemini și Adevărul Amânat"

Acest articol a fost documentat cu asistența instrumentelor AI (Claude Sonnet 4.6) și verificat editorial . Responsabilitatea conținutului revine în întregime autorului.

Scena Unui Cabinet, Vara Lui 2025

Vara lui 2025. Undeva în Oltenia, într-un orășel de vreo douăzeci de mii de suflete, un medic de familie intră în cabinet la șapte și jumătate dimineața. Pe masa de lucru îl așteaptă deja o grămadă de fișe — programările din ziua asta, câteva rezultate de analize, o scrisoare de externare de la spitalul județean pe care n-a apucat s-o citească din ziua precedentă. Cabinetul e al lui de douăzeci de ani, ștampilat pe ușă cu numele și specialitatea, dar în realitate e un cabinet privat care supraviețuiește cu contractul CNAS și cu câteva servicii decontate incomplet. Nu are asistentă medicală cu normă întreagă. Are un calculator cu Windows 10 și un abonament la o platformă de gestionare a pacienților care se blochează de câte ori deschide mai mult de trei ferestre simultan.

La nouă dimineața intră o pacientă de șaptezeci și trei de ani cu o simptomatologie pe care medicul nu o recunoaște imediat. Nu e o urgență, dar e neobișnuită — o combinație de manifestări neurologice minore pe fondul unui tratament cronic pentru hipertensiune și diabet tip II. Medicul pune întrebările de rutină, notează, calculează în cap interacțiunile posibile dintre medicamentele pe care le ia pacienta. Are o bănuială, dar nu certitudine.

Scoate telefonul. Deschide Google Gemini.

Tastează simptomele, medicamentele, vârsta pacientei. Apasă Enter.

Gemini răspunde în patru secunde. Răspunsul are trei paragrafe bine structurate, terminologie medicală corectă, referiri la mecanisme farmacologice. Propune un protocol de ajustare a dozelor și menționează o interacțiune medicamentoasă care poate explica simptomele. Totul e scris cu siguranța unui profesor de la o facultate de medicină: nici o ezitare, nici un „ar putea fi", nici un „vă recomand să consultați". Autoritate pură.

Medicul notează. Pacienta pleacă cu o prescripție ajustată.

Numai că dozele propuse de Gemini pentru pacienți vârstnici cu profilul descris erau inversate față de ghidurile europene actualizate în 2024. Interacțiunea medicamentoasă citată exista, dar mecanismul descris — cel pe care Gemini îl prezentase cu atâta autoritate — nu figura în nicio bază de date farmacologică europeană actualizată. Era o sinteză plauzibilă a unor informații reale, rearanjate într-o configurație care nu corespundea niciunui adevăr medical verificabil.

Gemini nu spusese „nu știu".

Gemini nu pusese nici măcar o singură frază cu rezerve.

Vorbise cu autoritatea unui adevăr de dicționar. Și produsese o eroare pe care numai cineva cu cunoștințe solide în farmacologie geriatrică o putea identifica drept eroare.

Medicul din această scenă nu e o ficțiune moralizatoare. E un profil statistic. E suma a sute de cabinete subfinanțate, a mii de decizii luate zilnic cu instrumentele disponibile, a unei presiuni sistemice care transformă orice scurtătură aparentă într-o tentație reală. Sistemul sanitar românesc are 11,6 medici la 100.000 de locuitori în zonele rurale — sub jumătatea mediei europene. Un medic de familie dintr-un cabinet rural sau periurban consultă între 50 și 80 de pacienți pe zi. Nu există timp pentru verificare încrucișată la fiecare caz atipic. Nu există, în cele mai multe cazuri, nici infrastructura pentru ea.

Gemini nu e vinovat pentru această structură. Dar a apărut în ea. Și nu a venit cu avertizare.

Când istoricul britanic Antony Beevor reconstruiește o bătălie, tehnica lui e deliberată și metodică. Nu pornește de la telegramele Statului Major sau de la planurile de operațiuni arhivate la Londra sau Moscova. Pornește de la jurnalul unui sergent de douăzeci și doi de ani care scrie acasă că nu înțelege de ce trebuie să ia colina aia, de la depoziția unui medic militar care și-a improvizat corturi sanitare din ceea ce a găsit, de la raportul unui ofiţer de transmisiuni care a trimis același mesaj de trei ori pentru că linia se tăia mereu. Panorama enormă a conflictului se construiește din granulele individuale ale trăirii, din fricțiunile concrete ale oamenilor care nu vedeau tabloul mare — ci doar secvența imediată, confuză, din fața lor.

Același principiu guvernează orice analiză serioasă a unui fenomen tehnologic la scară. Statisticile globale vin după, nu înainte. Rata de halucinații de 2,6% în sarcini generale e un număr care nu înseamnă nimic până când nu există un om concret care a primit răspunsul greșit și a crezut în el. Medicul din Oltenia nu e o ilustrare a unei statistici — e motivul pentru care statistica contează.

Acest articol pornește de acolo.

Nu e o broșură de PR negativ împotriva Google. Nu e nici o apărare reflexivă a tehnologiei. E o încercare de a înțelege, cu instrumentele analizei critice și ale onestității intelectuale, ce anume se petrece când un model de limbaj de mare anvergură — unul dintre cele mai utilizate instrumente AI din lume — produce erori cu încredere maximă, în domenii cu consecințe reale, în fața unor utilizatori care nu au instrumentele sau timpul să le verifice.

Ce Este, de Fapt, O halucinație — Definiție Operațională

Termenul „halucinație" aplicat modelelor de limbaj are o origine metaforică — a fost împrumutat din psihiatrie, unde desemnează percepții fără stimul extern real. În contextul inteligenței artificiale, a căpătat în ultimii ani un sens tehnic precis, deși nu complet standardizat între cercetători.

Definiția de lucru acceptată în literatura academică de referință formulează halucinația ca generarea de conținut fluent și sintactic corect, dar factual inexact sau nesuportat de dovezi externe verificabile. Două elemente ale acestei definiții merită atenție specială: fluența și lipsa suportului extern.

Fluența e cheia înșelăciunii. Un model care produce text greșit dar evident negramatical sau incoerent e ușor de identificat ca defect. Un model care produce erori în propoziții perfecte, cu structură argumentativă solidă și cu tonul specific domeniului respectiv — medical, juridic, financiar — produce ceva mult mai periculos: eroarea invizibilă. Credibilă în formă, falsă în fond.

Lipsa suportului extern e al doilea element definitoriu. halucinația nu e doar o opinie eronată sau o interpretare discutabilă. E o afirmație prezentată drept fapt — sau, mai subtil, o sinteză de fapte reale recombinate într-o configurație care nu corespunde niciunei realități verificabile. Interacțiunea medicamentoasă din scena introductivă exista — dar descrierea mecanismului ei nu exista în nicio sursă primară. Gemini nu a inventat complet; a reconfigurat plauzibil, ceea ce e mai greu de detectat.

Distincția față de celelalte tipuri de erori e importantă:

Eroarea factuală simplă — modelul afirmă că Trafalgar a avut loc în 1806 în loc de 1805. Verificabilă direct prin orice sursă primară. Detectabilă de oricine care cunoaște subiectul.

Opinia eronată — modelul interpretează greșit o situație ambiguă, favorizând o perspectivă în detrimentul alteia. Subiectivă prin natura ei, dezbătută legitim.

halucinația — modelul produce o afirmație specifică, precisă, formulată ca fapt obiectiv, care nu corespunde niciunei surse verificabile. Adesea plauzibilă pentru un nespecialist. Greu de detectat fără expertiză de domeniu.

Un studiu publicat în 2026 în PMC — bazat pe analiza a trei milioane de recenzii de aplicații mobile — a identificat șapte categorii principale de halucinații raportate de utilizatori reali: Incorectitudine Factuală (38% din cazuri), Ieșire Lipsită de Sens sau Irelevantă (25%), Informație Fabricată (15%), Inconsistență Internă (9%), Citare de Surse Inexistente (6%), Refuz Inadecvat de a Răspunde (4%), și Exagerare sau Distorsionare (3%). Proporțiile sunt indicative, nu absolute — metodologia de extragere din recenzii implică bias-uri proprii — dar tabloul tipologic e util.

Observați că primele trei categorii — Incorectitudine Factuală, Ieșire Irelevantă și Informație Fabricată — totalizează 78% din cazuri. Primele două sunt potențial detectabile de utilizatorul atent. A treia — Informația Fabricată — e categoria cea mai periculoasă, pentru că implică, prin definiție, producerea de conținut care nu poate fi verificat prin confruntare cu o sursă existentă. Sursa nu există. Verificarea nu e posibilă prin ruta obișnuită.

Un detaliu terminologic merită subliniat: termenul tehnic consacrat în cercetare este „hallucination", nu „hhalucinație" sau „halucinație" în sensul cotidian. Preferăm în acest text forma românizată „halucinație" pentru fluența lecturii, dar cititorii care caută literatura de specialitate vor găsi termenul englez „hallucination" în toate bazele de date academice.

Portretul Lui Gemini: Un Model Care Nu Știe Că Nu Știe

Google Gemini nu e un model rău. Dacă ar fi, ar fi mai simplu de înțeles. Problemele sale sunt mai subtile și, tocmai de aceea, mai dificil de adresat.

Gemini Ultra, Gemini Pro și varianta sa implementată în căutarea Google sunt produse de o companie care a investit sute de miliarde de dolari în cercetare AI și care angajează unii dintre cei mai capabili ingineri și cercetători din lume. Performanțele sale pe benchmark-uri generale sunt competitive cu cele mai bune modele disponibile. În sarcini de productivitate generală, rezumare de text, traducere, generare de cod simplu, asistență în scriere — Gemini funcționează acceptabil și uneori excelent.

Rata de 2,6% în sarcini generale nu e o catastrofă. Pe un flux de interacțiuni normale, asta înseamnă că 97 din 100 de răspunsuri sunt factual corecte sau acceptabil de corecte. Pragul ăsta de eroare e comparabil cu ceea ce un expert uman ar produce în condiții de presiune și fără verificare — nu e o performanță mai proastă decât a unui om bun la capitolul lor.

Problema apare când ieși din sarcini generale.

Datele publicate de Sociallyin în 2026, bazate pe teste comparative structurate pe categorii specifice de sarcini, arată o degradare dramatică a performanței în domenii specializate. În sarcini financiare cu mize ridicate — analiză de risc, interpretare de instrumente financiare complexe, evaluare de portofolii — Gemini 2.5 Pro înregistrează o rată de halucinații de 76,7%. Adică din zece răspunsuri la întrebări financiare serioase, aproape opt conțin informații factual incorecte sau nesuportate de surse verificabile.

Comparativ: ChatGPT-4o, pe aceleași sarcini și cu aceeași metodologie, înregistrează 20,0%.

Ambele sunt rate inacceptabile pentru decizii financiare reale. Dar diferența e semnificativă: Gemini e de aproape patru ori mai predispus la halucinații financiare decât principalul său competitor. Asta nu e o diferență de calibrare fină — e o diferență de categorie.

De ce? Câteva ipoteze documentate în literatura de specialitate:

Distribuția datelor de antrenament. Modelele mari de limbaj sunt antrenate pe cantități imense de text de pe internet, din cărți, din baze de date academice. Textul financiar specializat — analize de risc, rapoarte de due diligence, documentații de instrumente derivate — e relativ rar în corpus și adesea protejat de paywall-uri. Modelul nu a „văzut" suficientă finanță specializată pentru a o reproduce corect. Ceea ce știe, știe superficial.

Precizia numerică vs. plauzibilitatea narativă. Domeniile specializate implică nu doar terminologie specifică, ci date numerice precise cu semnificație contextuală rigidă. Un procent greșit, o dată greșită, o cifră transpusă — toate produc erori grave care nu sunt detectabile prin criteriul de fluență. Modelul poate produce propoziții perfect construite cu numere complet greșite.

Mecanismul de interpolare. LLM-urile funcționează, la nivel simplificat, prin predicția celei mai probabile continuări a unui text dat contextul existent. În domenii generale, „probabilul" e adesea „adevăratul" — pentru că textul adevărat a dominat corpus-ul de antrenament. În domenii specializate, probabilul și adevăratul diverge — modelul interpolează din ceea ce știe superficial și produce ceva care sună corect dar nu este corect.

Dar cel mai îngrijorător aspect nu e rata de eroare în sine. E modul în care erorile sunt prezentate.

Studiile comparative arată că Gemini are o tendință documentată de a-și prezenta răspunsurile cu un ton autoritar și de a folosi rar marcatorii de incertitudine — fraze de tip „e posibil că", „nu sunt sigur", „ar trebui verificat". Alte modele testate — inclusiv unele variante Claude, inclusiv unele versiuni GPT — marchează mai frecvent propriile limite. Gemini tinde să răspundă ca și cum certitudinea e starea sa naturală.

Această caracteristică nu e o eroare accidentală. Are o explicație arhitecturală pe care o vom analiza mai în detaliu în Articolul 2 al acestei serii. Pe scurt: procesul de antrenare cu feedback uman (RLHF — Reinforcement Learning from Human Feedback) calibrează modelul să producă răspunsuri care sunt apreciate de evaluatorii umani. Evaluatorii umani, în general, preferă răspunsuri clare, directe și confident — față de răspunsuri pline de rezerve și hedging. Modelul a învățat că siguranța de sine e recompensată. Și a aplicat lecția chiar și când certitudinea nu e justificată.

Rezultatul e un model care nu știe că nu știe. Sau, mai precis, un model care nu semnalează când nu știe — ceea ce, din perspectiva utilizatorului, e echivalent.

Context European: Reglementare, Adoptare și Fracturi Digitale

Europa nu e un spațiu omogen în relația sa cu inteligența artificială. Există o fractură bine documentată între Europa de Vest — unde infrastructura digitală, literația tehnologică și capacitățile instituționale permit o adoptare mai nuanțată și mai controlată a AI — și Europa Centrală și de Est, unde adoptarea e adesea mai accelerată tocmai pentru că presiunea de recuperare a decalajelor e mai mare, dar fără infrastructura critică necesară.

Regulamentul (UE) 2024/1689, cunoscut drept AI Act, este cel mai ambițios proiect de reglementare a inteligenței artificiale din lume. Adoptat în 2024, cu aplicare graduală între 2025 și 2027, el clasifică sistemele AI în funcție de nivelul de risc și impune cerințe proporționale cu acesta. Sistemele „cu risc înalt" — inclusiv cele folosite în medicină, justiție, angajare, infrastructură critică — sunt supuse unor cerințe stricte de transparență, auditabilitate, supraveghere umană și documentare.

Problema e că Gemini, în forma sa generală de consum, e clasificat ca sistem de uz general — nu automat ca sistem cu risc înalt. Cerințele cele mai stricte se aplică utilizărilor în domenii cu risc înalt, nu produsului în sine. Adică: dacă un spital decide să folosească Gemini pentru asistarea diagnosticului, spitalul — nu Google — e responsabil pentru conformitate. Dacă un medic de familie îl folosește pe telefonul personal, în afara unui sistem formal de decizie medicală, zona reglementară e neclară.

Această lacună nu e o neglijență a legiuitorului european. E o consecință inerentă a vitezei de inovație tehnologică față de viteza legislativă. Reglementarea urmărește realitatea, nu o precede. Dar consecința practică e că milioane de utilizatori europeni — inclusiv profesioniști din domenii critice — operează într-o zonă în care instrumentele AI nu au obligații legale de transparență față de ei.

ENISA — Agenția Uniunii Europene pentru Securitate Cibernetică — a publicat în 2025 un raport despre riscurile modelelor fundaționale de mari dimensiuni, în care semnalează explicit problema halucinațiilor în contextul adoptării instituționale. Raportul recomandă evaluări de risc organizaționale înainte de adoptarea oricărui LLM în procese cu consecințe semnificative. Recomandarea e bine fundamentată. Implementarea e lăsată la latitudinea organizațiilor individuale.

Franța a creat în 2025 un Comitet Național de Evaluare a AI, cu mandat de audit independent al modelelor de larg consum utilizate în servicii publice. Germania a extins competențele Bundesnetzagentur pentru a include supravegherea sistemelor AI în comunicații și servicii esențiale. Estonia — modelul european de digitalizare — a implementat o politică națională de „AI cu pilot uman" în toate serviciile publice: nicio decizie administrativă bazată pe AI nu poate fi finală fără validare umană explicită.

România nu are niciun mecanism echivalent.

România: Infrastructura Fragilă și Tentația Scurtăturii

România e în top 5 european la viteza conexiunilor de internet. Are o rată de penetrare a smartphone-urilor de peste 80%. Producția de software și servicii IT reprezintă 6,5% din PIB. Există, cu alte cuvinte, o infrastructură tehnologică reală și o comunitate tehnică competentă.

Dar există și un paradox: aceeași Românie care produce programatori pentru cele mai mari companii din lume are una dintre cele mai scăzute rate de literație digitală critică din UE — capacitatea cetățenilor de a evalua calitatea, sursele și fiabilitatea informației digitale. Eurostat plasează România în ultimul quintil european la indicatorii de competențe digitale avansate ale populației generale.

Această combinație — acces facil la instrumente sofisticate, literație critică redusă față de ele — e exact contextul în care halucinațiile AI produc cel mai mult rău.

Sistemul medical românesc e un exemplu emblematic. Criza cronică de personal medical — peste 14.000 de medici plecați în ultimii zece ani conform datelor Colegiului Medicilor din România — a lăsat în urmă cabinete suprasolicitate, servicii de urgență insuficiente și o presiune imensă pe medicii rămași. Digitalizarea e parțial avansată în marile orașe, aproape absentă în mediul rural și periurban. AI-ul a apărut în acest peisaj nu ca instrument ales dintr-un portofoliu de opțiuni, ci ca soluție improvizată la o problemă structurală de resurse.

Educația prezintă o dinamică similară. Reforma digitalizării școlare — implementată accelerat post-pandemic — a dotat sălile de clasă cu tablete și conexiuni, dar nu a produs un curriculum actualizat pentru gândire critică digitală. Profesorii, mulți dintre ei lipsiți de formare în utilizarea instrumentelor AI, se confruntă cu elevi care folosesc Gemini sau ChatGPT pentru teme și referate fără nicio educație prealabilă despre limitele acestor instrumente. Rezultatul: un ecosistem în care eroarea AI e copiată, notată și arhivată.

Administrația publică locală reprezintă al treilea vector. Primăriile mici, birouri județene ale ministerelor, inspectorate — toate funcționează cu personal insuficient și resurse limitate. AI-ul e folosit pentru redactare de documente, sinteză de reglementări, pregătire de rapoarte. Fără politici interne de utilizare, fără training, fără verificare sistematică.

Nu există, la nivelul anului 2026, un mecanism național de raportare a incidentelor cauzate de utilizarea AI. ANCOM — Autoritatea Națională pentru Administrare și Reglementare în Comunicații — nu colectează date despre erori AI. Colegiul Medicilor nu are o procedură de sesizare specifică pentru cazuri cu implicare AI. Baroul din România nu a emis orientări etice privind utilizarea LLM-urilor în practica juridică.

Această absență instituțională nu e o neglijare deliberată. E un semn al vitezei cu care tehnologia a depășit capacitatea de răspuns a structurilor reglementare și profesionale. Dar absența unui cadru înseamnă că în momentul de față riscul e purtat exclusiv de utilizatorul individual — medicul care verifică sau nu, avocatul care citează sau nu, profesorul care controlează sau nu.

Jocul de Putere: AI Multipolar și Standardele de Adevăr

Problema halucinațiilor Google Gemini nu poate fi înțeleasă în afara contextului geopolitic al competiției globale în inteligența artificială. Arhitectura unui model nu e neutră față de valorile, stimulentele și strategiile companiei care îl produce — și ale statului care găzduiește acea companie.

Competiția actuală implică trei blocuri principale cu filozofii distincte.

Blocul american — SUA: Filozofia dominantă e cea a pieței libere cu auto-reglementare. Companiile — Google, OpenAI, Anthropic, Meta, Microsoft — concurează pentru adoptare masivă, iar presiunea competitivă recompensează viteza și capacitățile, nu neapărat prudența. Modelele americane tind să fie optimizate pentru experiența utilizatorului — fluente, rapide, confident — cu riscul că această optimizare penalizează marcarea incertitudinii. Executive Order-ul Biden din 2023 a introdus cerințe de evaluare a siguranței pentru modele mari, dar administrația Trump din 2025 a relaxat semnificativ cadrul.

Presiunea comercială creează un stimulent pervers: un model care spune „nu știu" de câte ori e nesigur e perceput ca mai puțin capabil decât unul care răspunde confident întotdeauna. Utilizatorul mediu preferă răspunsul confident. Evaluatorii umani din procesul RLHF preferă răspunsul confident. Modelul învață că siguranța de sine e recompensată. Cercul se închide.

Blocul chinez: Modelele chineze majore — DeepSeek, Baidu ERNIE, Alibaba Qwen — operează într-un cadru reglementar diferit, cu obligații de conformitate față de valorile și interesele statului chinez, dar și cu reglementări tehnice specifice privind halucinațiile. Regulamentul chinez privind serviciile de AI generativ (2023) obligă companiile să implementeze mecanisme de detectare a halucinațiilor și să raporteze erorile semnificative autorităților. Implementarea practică e inegală, dar cadrul formal există.

Modelele chineze au propriile probleme de halucinație — studiile comparative arată rate similare sau mai mari față de modelele occidentale pe anumite categorii de sarcini. Dar strategia de comunicare e diferită: transparența selectivă, adică prezentarea publică a performanțelor bune și tăcerea despre cele slabe, e un instrument diplomatic, nu un accident.

DeepSeek R1, modelul open-source lansat la începutul lui 2025 care a produs o undă de șoc în industria occidentală prin performanțele sale la cost de antrenare redus, ridică o problemă suplimentară: transparența arhitecturală completă (modelul e open-source) e însoțită de opacitate privind datele de antrenament și de politici de aliniere care reflectă prioritățile reglementare chineze. Transparența tehnică nu implică automat fiabilitate factuală.

Blocul european: UE nu produce modele fundaționale proprii la nivel competitiv — cel puțin nu deocamdată. Proiectele GAIA-X pentru infrastructură cloud europeană, EuroHPC pentru capacitate de calcul, și inițiativele AI Factory urmăresc să creeze o infrastructură suverană, dar în 2026 aceasta rămâne încă în stadiu embrionar. Europa e, deci, un consumator al modelelor produse de alții și încearcă să-și exercite influența prin reglementare — AI Act-ul — mai degrabă decât prin producție.

Această poziție are atât avantaje, cât și limite. Avantajul: Europa poate impune standarde de transparență și fiabilitate ca condiție de acces la piață — efectul Bruxelles, prin care standardele europene devin standarde globale pe care companiile le adoptă pentru a accesa piața europeană. Limita: fără alternative europene credibile, utilizatorii europeni rămân dependenți de modele externe, iar reglementarea poate crea presiune fără alternativă reală.

România, ca stat membru UE la granița sa estică, e la intersecția acestor forțe. Utilizatori români accesează și modele americane, și modele chineze (DeepSeek a înregistrat un interes semnificativ în 2025 pe piețele din Europa de Est). Capacitatea instituțională de a evalua diferențele e practic inexistentă la nivelul utilizatorului obișnuit. Toți se prezintă la fel: interfețe prietenoase, răspunsuri rapide, autoritate narativă.

Întrebări Elocvente — Cu Răspuns Complet

Ce înseamnă exact „rată de halucinații" și cum se măsoară?

Rata de halucinații exprimă proporția răspunsurilor unui model care conțin informații factual incorecte sau nesuportate de surse verificabile, raportată la numărul total de răspunsuri pe un set standardizat de întrebări.

Măsurarea presupune, în principiu, trei pași: definești un set de întrebări cu răspunsuri verificabile (benchmark); obții răspunsurile modelului; evaluezi fiecare răspuns față de surse de referință acceptate.

Problema e că fiecare pas e mai complicat decât pare. Definirea setului de întrebări determină rezultatele — un benchmark biased spre întrebări generale va produce rate mai mici decât unul concentrat pe domenii specializate. Evaluarea răspunsurilor presupune sau evaluatori umani (costisitori, inconsistenți, cu propriile limitări de expertiză) sau modele AI de evaluare (cu propriile halucinații potențiale). Sursele de referință pentru unele domenii sunt ele însele incomplete sau contradictorii.

Benchmark-urile folosite în cercetare includ TruthfulQA (focalizat pe întrebări la care oamenii au tendința să răspundă fals), FactScore (evaluarea fidelității față de o bază de cunoaștere), FEVER Score (verificarea faptelor față de Wikipedia), și altele mai recente și mai specializate.

Implicație practică: când citești „Gemini are o rată de halucinații de 2,6%", citești un număr care se referă la un anumit benchmark, cu o anumită metodologie, la o anumită dată. Numărul real, pentru utilizarea ta specifică, poate fi mai mare sau mai mic.

De ce Gemini are 2,6% în general și 76,7% în financiar?

Discrepanța dramatică se explică prin natura diferită a cunoașterii implicate în cele două tipuri de sarcini.

Sarcinile generale implică cunoaștere largă, present masiv în corpusul de antrenament al modelului: fapte istorice generale, definiții, relații conceptuale, cunoaștere enciclopedică de nivel mediu. Cunoașterea asta e bine reprezentată, cu multe surse redundante care se confirmă reciproc. Modelul „știe" bine ce știe.

Sarcinile financiare specializate implică cunoaștere precisă, specifică, cu semnificație contextuală rigidă: rate specifice de randament, clauze contractuale exacte, reglementări în vigoare la o dată specifică, metodologii de calcul pentru instrumente derivate. Această cunoaștere e rară în corpusul public de antrenament (e protejată de paywall-uri, e internă organizațiilor financiare, e jargon specializat rareori explicat în text public). Modelul „umple golurile" cu extrapolări plauzibile — dar plauzibilul și corectul diverge.

Adăugați la asta că în finanțe o virgulă deplasată poate schimba complet sensul unei afirmații, și înțelegeți de ce degradarea e atât de dramatică.

ChatGPT-4o e mai fiabil decât Gemini?

Pe sarcinile financiare din studiul Sociallyin — da, semnificativ (20% vs. 76,7%). Pe alte tipuri de sarcini, imaginea e mai complexă. Există benchmark-uri pe care Gemini 2.5 Pro depășește GPT-4o, și invers.

Concluzia generală e că niciun model de limbaj general nu e fiabil în mod consistent în domenii specializate cu mize ridicate, și că diferențele între modele pe anumite categorii sunt suficient de mari pentru a conta în decizii de adoptare instituțională. Compararea modelelor rămâne necesară, dar trebuie făcută pe sarcini specifice, nu pe benchmark-uri generale.

Un element suplimentar: versiunile modelelor evoluează rapid. Cifrele din 2026 pot fi diferite față de cifrele din 2025. Orice decizie instituțională de adoptare trebuie să includă evaluare periodică, nu o singură evaluare la momentul adoptării.

Ce este „RLHF Sycophancy" și de ce e mai grav decât pare?

RLHF — Reinforcement Learning from Human Feedback — e procesul prin care modelele sunt „fine-tuned" folosind preferințele exprimate de evaluatori umani. Modelul produce variante de răspuns, evaluatorii umani le compară și indică pe cea preferată, iar modelul e actualizat pentru a produce mai frecvent tipul de răspuns preferat.

Sycophancy (servilismul) apare când evaluatorii umani — care nu au timp nelimitat, care au propriile limitări de expertiză, care sunt plătiți per evaluare — tind sistematic să prefere răspunsuri care par confident, agreabile, directe și fără hedging excesiv. Modelul învață că siguranța de sine e recompensată și aplică această lecție chiar și când incertitudinea ar fi onestă și utilă.

De ce e mai grav decât pare: pentru că afectează tocmai situațiile în care utilizatorul are cel mai mult nevoie de onestitate — situațiile ambigue, complexe, unde modelul chiar nu știe suficient. Un model sycophanticrezisto confirmă prompt-ul utilizatorului, validează presupuneri nefondate, evită contradicția. Pentru utilizatorul care deja crede ceva greșit, modelul devine un amplificator de certitudine falsă.

Există utilizatori români care au raportat daune cauzate de Gemini?

Nu există o bază de date publică națională de astfel de incidente. ANCOM nu colectează date despre erori AI. Colegiul Medicilor, Baroul, Corpul Experților Contabili — niciuna dintre organizațiile profesionale cu relevanță nu au proceduri de sesizare specifice pentru AI.

Asta nu înseamnă că daunele nu există. Înseamnă că nu sunt vizibile instituțional. Studii internaționale bazate pe analiza recenziilor de aplicații arată că utilizatorii raportează adesea incidente pe platforme publice — forum-uri, grupuri de social media, recenzii de aplicații — dar aceste raportări nu sunt agregate sistematic și nu produc consecințe instituționale.

Absența raportării e ea însăși o problemă care necesită remediu instituțional.

AI Act-ul european obligă Google la ceva concret față de problema halucinațiilor?

Da, dar cu rezerve importante.

Modele fundaționale cu impact sistemic (definite prin praguri de capacitate de calcul folosit pentru antrenare — peste 10^25 FLOPs) au obligații specifice sub AI Act, inclusiv evaluare adversarială, raportare a incidentelor grave, și publicare de rezumate despre datele de antrenament. Gemini Ultra probabil se încadrează în această categorie.

Dar obligațiile privind halucinațiile specifice sunt mai degrabă implicite decât explicite. AI Act-ul cere „acuratețe, robustețe și securitate cibernetică" pentru sisteme cu risc înalt, și „transparență" pentru sisteme de uz general. Nu specifică praguri de rată de halucinații, metodologii de benchmark sau cerințe de raportare detaliată.

Implementarea practică a AI Act-ului va fi testată în anii următori prin ghiduri de implementare, decizii ale autorităților naționale de supraveghere, și eventual jurisprudență europeană. Deocamdată, cerințele formale există; implementarea rămâne în lucru.

Ce face concret un utilizator român care primește o informație greșită de la Gemini?

La nivel individual: poate raporta prin butonul „Feedback" din interfața Gemini — dar feedbackul nu e transparent public, nu generează o confirmare de analiză și nu produce consecințe verificabile pentru utilizator.

La nivel instituțional: opțiunile sunt limitate. ANCOM nu are un mecanism specific. Dacă eroarea a produs daune demonstrabile (un produs sau serviciu inferior, o decizie medicală greșită, o pierdere financiară), există teoretic căi legale — răspundere contractuală, eventual răspundere delictuală — dar cadrul juridic e insuficient cristalizat pentru a produce soluții rapide sau predictibile.

Cea mai eficientă acțiune individuală rămâne jurnalismul public: raportarea documentată la organizații de fact-checking, publicații specializate sau autorități europene (EDPS — Supervisorul European pentru Protecția Datelor a primit competențe extinse privind AI sub AI Act).

Există modele AI care marchează mai onest incertitudinea?

Da. Studii comparative arată că modelele din familia Anthropic Claude au o tendință mai pronunțată de a folosi marcatori de incertitudine — „nu sunt sigur", „ar trebui verificat", „nu am date suficiente pentru a răspunde cu certitudine". Unele versiuni GPT marchează de asemenea mai frecvent limitele propriilor cunoștințe față de Gemini.

Dar există un paradox comercial: utilizatorii, în medie, evaluează pozitiv răspunsurile confident față de cele cu multe rezerve. Un model care spune des „nu știu" e perceput ca mai puțin capabil, chiar dacă e mai onest. Această tensiune între onestitate epistemică și percepția utilizatorului e una dintre problemele de design fundamentale ale LLM-urilor actuale.

Poate fi Gemini folosit în siguranță în educația românească?

Da — cu condiții specifice și nederogabile.

Utilizarea Gemini ca instrument de cercetare preliminară, brainstorming, structurare de idei sau explicare de concepte generale e cu totul diferită de utilizarea lui ca sursă de autoritate factuală. Prima e adesea valoroasă și cu risc scăzut. A doua e periculoasă.

Condiția minimă pentru utilizare educațională sigură: oricine folosește Gemini (elev, student, profesor) înțelege că producția modelului necesită verificare independentă înainte de a fi tratată ca fapt. Aceasta nu e o cerință tehnică — e o cerință de literație, de cultură a gândirii critice.

România nu a integrat sistematic educația pentru gândire critică față de sursele digitale în curriculum. Aceasta e o problemă de politică publică mai urgentă decât orice reglementare specific AI.

Ce ar trebui să schimbe Google concret?

Câteva intervenții tehnice și de comunicare ar face o diferență imediată:

Marcatori expliciti de incertitudine calibrați la nivelul real de certitudine al modelului — nu generic, ci specifici tipului de răspuns. „Această informație financiară ar trebui verificată față de surse primare" e mai util decât un disclaimer generic în termenii de utilizare.

Benchmark-uri publice dezagregate pe domenii — nu o singură cifră de performanță globală, ci rate de halucinații specifice pe medicină, drept, finanțe, știință. Transparența permite utilizatorilor și instituțiilor să facă alegeri informate.

Audit extern independent — nu auto-evaluare, ci evaluare de terți cu acces la infrastructura modelului, publicată cu metodologie completă.

Conformitate proactivă cu AI Act-ul european — nu minimală sau tardivă, ci avansată față de termenele legale, ca semnal de responsabilitate față de utilizatorii europeni.

Niciuna dintre aceste intervenții nu e tehnic imposibilă. Toate sunt, în grade diferite, costisitoare sau inconvenabile comercial. Aceasta explică ritmul lent al schimbării.

Nota Autorulu

Unelte Retorice, Limite și Ce Să Nu Faci

Uneltele retorice folosite în acest articol

Narațiunea „la firul ierbii" în stil Beevor e tehnica cu cel mai mare efect de angajare a cititorului — și cu cel mai mare risc de manipulare. Scena medicului din Oltenia e un scenariu compozit construit pe baza tipologiei documentate a erorilor AI și a profilului cunoscut al sistemului sanitar românesc. Nu e un incident verificat și anonimizat — e un caz plauzibil derivat din realitate. Am ales să fiu explicit despre asta în această notă, pentru că a prezenta un scenariu compozit drept incident real ar fi exact tipul de practică pe care articolul îl critică.

Comparațiile procentuale seduc prin precizie. 76,7% pare mai convingător decât „mult". Problema e că cifrele vin din studii cu metodologii diferite, pe seturi de sarcini diferite, la date diferite. Le-am citat cu sursa (Sociallyin), dar invit cititorul să acceseze metodologia originală înainte de a le folosi în argumente proprii.

Tonul de avertizare e deliberat. Există, în orice text critic despre AI, tentația de a dramatiza pentru impact maxim. Am încercat să rămân în registrul analizei — prezentând și argumente contra, și limitele propriei perspective. Dacă tonul articolului vi se pare excesiv de alarmat, aceasta e o observație validă pe care vă invit să o evaluați față de sursele citate.

Analogia Beevor ca metodologie e o alegere de stil, nu de substanță. Nu compar halucinațiile AI cu operațiuni militare — compar principiul metodologic de a porni de la individual spre general, de la concret spre abstract.

Limitele asumate

Nu am acces la date interne Google. Nu știu ce rate reale de eroare înregistrează Gemini pe utilizatori reali, în situații reale, față de benchmark-uri artificiale. Datele studiilor independente sunt cele mai bune disponibile public, dar sunt inevitabil aproximative față de performanța reală în contexte variate.

Situația se schimbă rapid. Gemini a primit actualizări majore în 2025 și 2026. Cifrele din studii pot fi deja depășite la momentul publicării acestui articol. Principiile rămân — ratele specifice trebuie reverificitate.

Am perspective proprii despre AI pe care le-am integrat în text. Fac parte dintr-un ecosistem profesional (web, digital, cybersecurity) unde AI-ul e simultan instrument de lucru și subiect de analiză. Aceasta creează inevitabil unghiuri oarbe.

Greșeli subiective pe care le recunosc

Am tins în primele versiuni ale acestui articol să selecționez mai frecvent exemple care confirmă teza principală decât exemple care o nuanțează. Am corectat parțial prin includerea secțiunii despre contextele în care Gemini funcționează bine și prin marcarea explicită a incertitudinii metodologice.

Am folosit termenul „minte" pentru model — tehnic incorect. Modelele nu mint în sensul intenționat al cuvântului; produc distribuții de probabilitate care uneori generează conținut fals. Am clarificat în text că e o metonimie, dar metonimia poate rămâne în memoria cititorului mai puternic decât clarificarea.

Ce Să Nu Faci

1. Nu cita rata de 2,6% fără context. E rata generală, nu cea relevantă pentru utilizare profesională specializată. Citată izolat, poate crea un sentiment fals de securitate.

2. Nu concluziona că „AI-ul minte". Modelele nu au intenție. Au distribuții de probabilitate defectuoase în anumite domenii. Atribuirea de intenție moralizează o problemă tehnică și îngreunează înțelegerea reală.

3. Nu compara modele fără a specifica versiunea, data testului și metodologia. „Gemini e mai bun/rău decât ChatGPT" e o frază aproape lipsită de sens fără aceste specificații.

4. Nu ignora că și sursele umane greșesc. AI-ul nu e mai rău decât orice sursă necritică — e diferit în modul în care greșește (autoritar, fără marcatori de incertitudine) și în scara la care greșelile sunt distribuite.

5. Nu folosi Gemini ca arbitru final în nicio decizie cu consecințe reale. Nici Gemini, nici niciun alt model de limbaj curent nu ar trebui să fie. Verificarea independentă nu e o opțiune — e obligatorie.

6. Nu dramatiza pentru efect. Riscul real există. Nu trebuie exagerat pentru a fi luat în serios. Dramatizarea subminează credibilitatea analizei și facilitează dismissalul prin contra-exagerare.

7. Nu abandona AI-ul complet. Instrumentele AI produc beneficii reale de productivitate și acces la cunoaștere. Scopul analizei critice e utilizarea informată, nu abstinența.

Bibliografie

  1. Alansari, A., & Luqman, H. (2026). Large Language Models Hallucination: A Comprehensive Survey. arXiv preprint arXiv:2510.06265. https://arxiv.org/abs/2510.06265

  2. Sociallyin Research Team. (2026). Gemini AI Statistics: Hallucination Rates Across Task Domains. Sociallyin Digital Marketing Research. https://sociallyin.com/gemini-ai-statistics/

  3. PMC/NIH. (2026). "My AI Is Lying to Me": User-Reported Hallucination Analysis from 3 Million Mobile App Reviews. NCBI PMC12365265. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC12365265/

  4. Parlamentul European și Consiliul Uniunii Europene. (2024). Regulamentul (UE) 2024/1689 privind stabilirea unor norme armonizate referitoare la inteligența artificială (Legea privind IA / AI Act). Jurnalul Oficial al Uniunii Europene.

  5. ENISA — Agenția Uniunii Europene pentru Securitate Cibernetică. (2025). Generative AI and Cybersecurity Risks: Threats, Vulnerabilities and Recommendations for Foundational Models. Heraklion: ENISA Publications.

  6. Mahmoud, O., Khalil, A., & Karimpanal, T.G. (2026). The Unintended Trade-off of AI Alignment: Balancing Hallucination Mitigation and Safety in Large Language Models. arXiv:2510.07775. https://arxiv.org/pdf/2510.07775

  7. Augenstein, I., et al. (2024). Factuality Challenges in the Era of Large Language Models. Artificial Intelligence Review, Springer Nature. https://link.springer.com/article/10.1007/s10462-025-11454-w

  8. Colegiul Medicilor din România. (2025). Raport anual privind resursele umane medicale: emigrare și deficit structural. București: CMR.

  9. Eurostat. (2025). Digital Economy and Society Index (DESI) — Romania Country Report 2025. Luxemburg: Biroul de Publicații al Uniunii Europene.

  10. Beevor, A. (1998). Stalingrad. London: Viking/Penguin. — referință metodologică: tehnica narativă „la firul ierbii" în reconstituire istorică de mare scară.

Articolul următor din serie — „Sycophantul Digital: RLHF, Acordul Calibrat Matematic și Prețul Adevărului" — analizează în profunzime mecanismele arhitecturale care produc comportamentul autoritar al lui Gemini.