Recomandat

Miza Vieții

Petru Cojocaru Google 09 August 2026 Accesări: 107 30 Minute de citire

Miza Vieții — Gemini în Medicină, Drept și Finanțe: Când 76,7% nu e o Statistică

Subtitlu: Domeniile critice și prețul uman al încrederii necondiționate în AI

Articolul 4 din 6 seria „Gemini și Adevărul Amânat"

Acest articol a fost documentat cu asistența instrumentelor AI (Claude Sonnet 4.6) și verificat editorial de Petru Cojocaru. Responsabilitatea conținutului revine în întregime autorului.

O Firmă de Avocatură, Toamna Lui 2025

Toamna lui 2025. O firmă mică de avocatură din Timișoara — trei avocați, un secretariat, un birou închiriat în clădirea unui fost centru de calcul din anii optzeci reconvertit în spații de birouri — primește un client nou. Clientul e o firmă de import-export cu sediul în Arad care a intrat în conflict contractual cu un partener german. Dosarul e complex: drept comercial internațional, regulamentul european privind serviciile, câteva directive comunitare cu aplicabilitate transfrontalieră. Exact genul de dosar pe care o firmă mică poate să-l câștige dacă documentarea juridică e solidă.

Avocatul care preia dosarul are opt ani de practică. E capabil. E și suprasolicitat — are douăsprezece dosare active, o executare silită care s-a complicat pe ultima sută de metri, și o audiere programată în aceeași săptămână la Cluj. Nu e lene și nici superficialitate. E presiunea aritmetică a unui cabinet care supraviețuiește cu marje mici.

Pentru documentarea dosarului german-român, avocatul deschide Gemini și cere o sinteză a jurisprudenței CJUE relevante privind executarea contractelor comerciale transfrontaliere în litigii între state membre. Gemini returnează trei pagini dense și bine structurate: opt hotărâri CJUE cu numere de caz, date și paragrafe citate, o sinteză a principiilor aplicabile, o analiză a tendințelor jurisprudențiale.

Documentul arată mai bine decât ce produce un stagiar în prima lună. Arată, de fapt, mai bine decât ce produce mulți avocați cu experiență medie în documentare.

Avocatul integrează sinteza în memoriul depus la Tribunalul Timiș. Șase săptămâni mai târziu, instanța respinge memoriul. Motivul: două dintre hotărârile CJUE citate nu există — numerele de dosar nu corespund niciunui caz înregistrat în baza de date EUR-Lex. O a treia hotărâre există, dar concluziile sale sunt opuse față de cum le-a citat Gemini — modelul a inversat sensul deciziei.

Clientul pierde termenul util pentru atacarea hotărârii primare. Firma de avocatură se confruntă cu o potențială plângere disciplinară. Relația cu clientul e compromisă.

Avocatul știa că trebuie să verifice. Știa, în abstract, că AI-ul poate greși. Dar a evaluat greșit probabilitatea erorii față de presiunea timpului. Asta nu e o scuză — e un mecanism.

Antony Beevor, în reconstituirea campaniei aliate din Italia (1943-1945), a descris consecințele unui raport artileristic eronat din bătălia de la Cassino. Unitățile aliate au tras pe propria infanterie timp de câteva minute critice, bazându-se pe o coordonată greșită transmisă prin radio. Nu a fost neglijență în sine — coordonata a fost transmisă corect de un ofițer care a citit greșit o hartă deteriorată de ploaie. Eroarea s-a propagat prin sistem cu autoritatea unui ordin verificat.

Ceea ce Beevor a observat, cu ochiul istoricului care lucra din arhive decenii mai târziu, e că sistemele militare din acea perioadă nu aveau mecanisme de verificare încrucișată suficiente pentru ritmul operațional cerut. Presiunea de timp și complexitatea operațiunilor depășeau capacitatea procedurilor de verificare. Erorile nu erau excepție — erau cost acceptat al vitezei.

Exact această structură descrie adoptarea AI în domeniile critice în 2026. Viteza și presiunea operațională depășesc capacitatea de verificare a profesioniștilor individuali. Eroarea devine cost acceptat, implicit, fără ca cineva să fi luat această decizie explicit.

De Ce Domeniile Specializate Amplifică Alucinațiile

Articolul 1 al acestei serii a stabilit că Gemini are o rată de alucinații de 2,6% în sarcini generale și de 76,7% în sarcini financiare specializate. Înainte de a analiza fiecare domeniu critic în parte, e util să înțelegem mecanismele prin care specializarea agravează problema — pentru că ele sunt comune medicinei, dreptului și finanțelor, nu specifice unuia dintre ele.

Mecanismul 1 — Raritatea în corpus. Modelele mari de limbaj sunt antrenate pe text public de pe internet, din cărți, din articole academice. Textul de specialitate — protocoale medicale interne, dosare juridice complete, analize financiare de due diligence — e în mare parte protejat de confidențialitate sau paywall. Modelul a văzut mult mai puțin text specializat real decât text general. Acolo unde cunoașterea e rară, interpolarea e mai riscantă.

Mecanismul 2 — Sensibilitatea la precizie. În domeniile critice, diferența dintre 5 mg și 50 mg, dintre articolul 17 și articolul 71, dintre 2019 și 2021 nu e o aproximare acceptabilă — e eroare cu consecințe. Modelele de limbaj nu au un mecanism intern de precizie numerică sau terminologică — ele produc ceea ce e plauzibil din perspectiva distribuției textuale, nu ceea ce e exact din perspectiva conținutului factual.

Mecanismul 3 — Absența feed-back-ului corectiv. În sarcini generale, utilizatorul detectează frecvent erorile — știe că răspunsul e greșit, pentru că are cunoaștere de bază suficientă. În domenii specializate, utilizatorul non-expert nu detectează eroarea — pentru că nu are cunoaștere de specialitate. Și utilizatorul expert, sub presiunea timpului, poate să nu verifice — pentru că sinteza pare suficient de plauzibilă.

Mecanismul 4 — Autoritatea formei. Terminologia specializată, structura formală a unui document juridic sau medical, notațiile financiare — toate produc o aparență de competență care e independentă de conținut. Un document care arată ca o opinie juridică inspiră mai multă încredere decât un text care arată ca o brainstorming. Gemini produce forma bine; conținutul e variabil.

Sectorul Medical — Doza, Diagnosticul și Sistemul Suprasolicitat

Medicina e domeniul în care consecințele erorilor AI sunt cel mai dramatic individuale și imediate. Nu în sensul că fiecare eroare ucide — marea majoritate nu o fac. Dar sunt domenii în care eroarea poate ucide, și asta schimbă fundamental calculul de risc.

Ce știm despre performanța LLM-urilor în medicină

Cercetătorii de la Google Health și DeepMind au publicat în 2023 rezultatele pentru Med-PaLM 2, un model de limbaj specializat pentru medicină, antrenat pe date clinice și evaluat pe benchmark-ul MedQA (examene de medicină umană). Med-PaLM 2 a atins o rată de răspuns corect de 86,5% pe întrebările de tip examen USMLE — performanță comparabilă cu medicii umani de nivel intermediar.

Dar benchmark-ul de examen și practica clinică reală sunt categorii fundamental diferite. Examenul medical testează cunoașterea de principii și protocoale standard. Practica clinică implică aplicarea principiilor la pacienți reali, cu comorbidități, cu medicamente concomitente, cu variabilitate individuală, cu informații incomplete. Studiile care au evaluat LLM-urile pe cazuri clinice reale — nu pe întrebări standardizate — arată performanțe semnificativ mai slabe și pattern-uri de eroare îngrijorătoare.

Un studiu publicat în The Lancet Digital Health în 2024 a evaluat performanța mai multor LLM-uri — inclusiv versiuni Gemini și GPT-4 — pe o serie de cazuri clinice complexe prezentate unui panel de specialiști. Concluzia principală: modelele aveau performanțe acceptabile pe cazurile cu prezentare tipică a bolilor comune, și performanțe semnificativ scăzute pe cazurile atipice sau rare — exact categoria de cazuri în care un medic ar fi cel mai tentat să ceară asistență AI.

Erorile cele mai frecvente documentate: doze medicamentoase incorecte (în special pentru pacienți vârstnici, copii sau cu insuficiență renală), interacțiuni medicamentoase omise sau incorect evaluate, diagnostic diferențial incomplet pentru afecțiuni rare, și — relevant pentru problema sycophancy discutată în Articolul 2 — tendința de a confirma diagnosticul sugerat implicit în întrebare în loc să îl evalueze independent.

Situația în România

Sistemul sanitar românesc operează în condiții care cresc sistematic probabilitatea utilizării AI fără verificare adecvată.

Deficitul de personal medical e documentat și acut. Conform Colegiului Medicilor din România, în 2025 aproximativ 14.200 de medici lucrau în străinătate față de numărul estimat necesar pentru acoperire adecvată. Raportul medici per locuitor în zonele rurale și mici urbane e la 60-70% din media europeană. Un medic de familie în mediul rural sau periurban consultă între 50 și 80 de pacienți pe zi — volum la care verificarea sistematică a oricărei surse pentru orice caz atipic e imposibilă în timp de lucru normal.

Informatizarea sistemului medical e avansată în marile spitale universitare și precară în structurile primare. Nu există un sistem integrat de alertă pentru interacțiuni medicamentoase și doze inadecvate care să funcționeze consistent la nivelul cabinetelor individuale. AI-ul nu înlocuiește un sistem care funcționează — umple un vid lăsat de lipsa infrastructurii.

Nu există, la nivelul Ministerului Sănătății sau al Colegiului Medicilor, ghiduri formale privind utilizarea instrumentelor AI în practica medicală. Singura reglementare relevantă e implicită: standardul de diligență medicală impus de legislația privind răspunderea medicală — un standard care se aplică la eroarea medicală indiferent de instrumentul care a contribuit la ea.

Aceasta înseamnă că un medic care a urmat o recomandare de dozaj greșită generată de Gemini e expus răspunderii profesionale și civile exact ca și cum ar fi ales dozajul dintr-o sursă eronată tipărită. AI-ul nu transferă răspunderea — o lasă integral pe medicul care a ales să-l utilizeze fără verificare.

Cazul farmacologiei geriatrice

Un domeniu specific în care eroarea AI e documentat mai frecventă: farmacologia geriatrică. Pacienții vârstnici au farmacocinetica alterată față de adulții tineri — absorbție, distribuție, metabolism și eliminare diferite care necesită ajustări de doze semnificative față de dozele standard pentru adulți. Aceste ajustări sunt documentate în ghiduri specializate (Beer Criteria, STOPP/START criteria) relativ mai puțin reprezentate în corpus-ul general de antrenament față de farmacologia generală.

Studii independente arată că LLM-urile sugerează consistent doze pentru vârstnici la nivelul dozelor standard pentru adulți, fără ajustările necesare, în proporții îngrijorătoare. Aceasta e exact tipul de eroare descris în scena introductivă din Articolul 1 — plauzibilă pentru un nespecialist, detectabilă doar cu cunoaștere de geriatrie farmacologică.

Sectorul Juridic — Jurisprudența Fabricată și Deontologia Profesională

Avocatura e profesia în care AI-ul a produs deja incidentele publice cele mai documentate la nivel internațional — nu pentru că jurisprudența e mai ușor de fabricat decât datele medicale, ci pentru că erorile juridice sunt detectabile și înregistrabile instituțional în mod transparent.

Cazul Schwartz și precedentul internațional

Cazul Mata v. Avianca (S.D.N.Y., 2023) a devenit în câteva luni emblema globală a riscurilor AI în practica juridică. Avocatul Steven Schwartz a depus un memoriu care cita șase hotărâri judecătorești — toate generate de ChatGPT, toate inexistente. Cazul a generat sancțiuni disciplinare, amendă, și o amplă dezbatere în comunitatea juridică americană.

Cazul Schwartz nu e izolat. Până în 2026, incidente similare au fost documentate public în instanțe din SUA, Canada, Marea Britanie, Australia și câteva state europene. Pattern-ul e consistent: avocat (de obicei junior sau cu experiență medie) folosește LLM pentru documentare, memoriul citat ajunge la instanță, instanța sau adversarul identifică referințele fictive.

În cazul Gemini specific, caracteristicile sunt ușor diferite față de ChatGPT. Gemini tinde să producă numere de dosare cu o structură mai plausibilă numeric față de cele generate de GPT-3 sau primele versiuni GPT-4 — ceea ce face detectarea mai dificilă fără verificare directă în baze de date. Un număr de dosar CJUE plauzibil structural dar inexistent e mai greu de identificat drept fictiv la prima vedere decât un număr evident malformat.

Obligații deontologice în România

Statutul profesiei de avocat din România, adoptat de Uniunea Națională a Barourilor din România, impune obligația de diligență profesională — avocatul trebuie să depună toată priceperea și diligența pentru apărarea intereselor clientului și nu poate depune la instanță documente pe care le știe false sau inexacte.

Întrebarea care nu are încă răspuns formal în dreptul deontologic românesc: ce nivel de verificare e impus de obligația de diligență în contextul utilizării AI? Dacă avocatul a folosit Gemini bona fide, fără să știe că referințele sunt fabricate, e responsabil disciplinar sau civil?

Analogia cu alte surse oferă un ghid parțial. Un avocat care citează dintr-un tratat juridic tipărit care conține o eroare de tipărire nu e în culpă dacă eroarea nu era detectabilă rezonabil. Dar un avocat care citează dintr-o sursă despre care știe că nu e verificată și care nu a făcut niciun efort de verificare — chiar dacă sursa e electronică — e în culpă pentru lipsă de diligență.

Concluzia practică, în absența ghidurilor specifice: obligația de diligență implică verificarea oricărei referințe juridice — număr de dosar, dată, concluzii — indiferent de sursa din care provine, inclusiv AI. Aceasta e și poziția emergentă a barourilor americane, britanice și a Consiliului Barourilor Europene (CCBE), care au emis ghiduri preliminare în 2024-2025.

Situația în România

Baroul din România nu a emis, la nivelul august 2026, un ghid formal privind utilizarea AI în practica juridică. Discuțiile sunt în curs la nivel de UNBR, dar formalitatea ghidului lipseșete.

Instanțele românești nu au adoptat reguli formale privind conținutul generat AI în dosare. Câteva instanțe din marile orașe au adoptat prin decizii interne cerința marcării conținutului AI, dar nu există un standard național.

Aceasta lasă avocații români în situația de a opera cu instrumentele AI fără cadru de referință formal — cu răspunderea integrală a deciziilor de utilizare, dar fără ghiduri clare privind cum să le utilizeze responsabil.

Domenii juridice cu risc specific

Dreptul european și internațional e categoria cu risc maxim, pentru câteva motive. Corpus-ul jurisprudențial CJUE e vast și tehnic. Modelele au antrenament inconsistent pe decizii CJUE recente (post-2022) față de decizii mai vechi. Structura formală a hotărârilor CJUE e recognoscibilă și reprodusă plauzibil de modele, chiar când conținutul e fabricat.

Dreptul fiscal e al doilea domeniu cu risc specific: reglementările fiscale se schimbă frecvent, iar modelele au un lag natural față de modificările legislative recente. O referință la o prevedere fiscală care a fost abrogată sau modificată în 2024 poate fi prezentată cu autoritate de un model al cărui antrenament s-a oprit înainte.

Sectorul Financiar — Cifre, Risc și 76,7%

Finanțele reprezintă domeniul pentru care avem datele cele mai clare privind performanța Gemini: rata de alucinații de 76,7% în sarcini financiare cu mize ridicate, documentată de Sociallyin în 2026 și necontrazisă de studii independente publice.

Să înțelegem ce înseamnă practic 76,7%.

Dacă folosești Gemini pentru a analiza un portofoliu de investiții și primești zece afirmații specifice despre active, randamente, riscuri sau reglementări aplicabile, statisticile sugerează că aproximativ șapte din zece vor conține erori factuale sau informații nesuportate de surse verificabile. Nu vor fi toate greșite în mod flagrant — unele vor fi greșite marginal, altele vor fi greșite esențial. Dar proporția de răspunsuri pe care te poți baza fără verificare e, în medie, sub 25%.

Aceasta nu e o rată care permite utilizare profesională directă în niciun context financiar cu consecințe reale.

Categorii de risc în serviciile financiare

Consultanță de investiții: Gemini poate genera recomandări de portofoliu care citează randamente istorice incorecte, corelații de active greșite, sau profiluri de risc care nu corespund documentației oficiale a instrumentelor. Un client care acționează pe baza unei astfel de recomandări poate suferi pierderi financiare cu consecințe legale pentru consultantul care le-a intermediat.

Due diligence: Procesul de due diligence financiar în tranzacții M&A implică verificarea datelor financiare, a structurii juridice, a pasivelor contingente. Gemini poate produce rezumate de due diligence care omit pasive sau distorsionează cifre — omisiuni care pot invalida evaluarea unei tranzacții.

Declarații fiscale și conformitate: Legislația fiscală e complexă, specifică jurisdicțional și se modifică frecvent. Utilizarea Gemini pentru interpretarea obligațiilor fiscale sau a modului de completare a declarațiilor fiscale poate produce erori cu consecințe de amendă sau penalități.

Rapoarte de analiză sectorială: Conținut analitic financiar generat AI și publicat fără verificare poate influența decizii de investiție ale cititorilor — cu răspundere potențială pentru publicatorul care l-a diseminat fără disclaimer adecvat.

Poziția instituțiilor de reglementare din România

Autoritatea de Supraveghere Financiară (ASF) a publicat în 2025 un ghid de conformitate privind utilizarea AI în serviciile financiare — unul dintre primele documente de reglementare specific AI emise de o autoritate națională românească. Ghidul nu interzice utilizarea AI, dar impune entităților reglementate să documenteze sistemele AI utilizate, să implementeze controale de calitate pentru output-ul AI, și să mențină supraveghere umană calificată pentru deciziile cu impact semnificativ.

Banca Națională a României a inclus riscurile tehnologice — inclusiv riscurile asociate utilizării AI necontrolate — în Raportul de Stabilitate Financiară din 2025, semnalând că entitățile din sectorul bancar trebuie să evalueze și să controleze riscurile introduse de instrumentele AI în procesele de creditare, scoring și conformitate.

Aceste documente reprezintă un progres față de absența completă a ghidurilor. Limitele lor: sunt indicative, nu prescriptive. Nu specifică ce nivel de eroare e inacceptabil, ce metode de verificare sunt suficiente, sau cum se angajează răspunderea când ghidul nu e respectat.

Context European — AI Act și Domeniile cu Risc Înalt

Regulamentul (UE) 2024/1689 — AI Act — a creat un cadru specific pentru sistemele AI utilizate în domeniile critice, cu cerințe diferențiate față de sistemele AI de uz general.

Clasificarea high-risk

Anexa III a AI Act listează categoriile de sisteme AI clasificate drept „cu risc înalt". Printre ele, cu relevanță directă pentru acest articol:

— Sisteme AI utilizate în gestionarea și operarea infrastructurii critice (inclusiv sisteme medicale de diagnostic sau asistare a deciziei clinice) — Sisteme AI utilizate în administrarea justiției și procesele democratice (inclusiv asistarea judecătorilor sau avocaților în interpretarea probelor sau legii) — Sisteme AI utilizate în servicii private și publice esențiale (inclusiv scoring de credit și evaluarea eligibilității pentru servicii financiare)

Clasificarea ca „high-risk" nu interzice utilizarea — impune cerințe suplimentare: sistem de management al calității documentat, log-uri de activitate păstrate, transparență față de utilizatori, supraveghere umană capabilă să înțeleagă și să corecteze output-ul AI, testare de robustețe înainte de lansare, și înregistrare într-o bază de date europeană.

Cine e responsabil

Structura de responsabilitate din AI Act e complicată și relevantă:

Furnizorul (provider) — compania care a dezvoltat modelul (Google pentru Gemini) — are responsabilități privind caracteristicile intrinseci ale modelului: documentare, testare, conformitate tehnică înainte de lansare.

Deployerul (deployer) — organizația care utilizează modelul în context specific (spitalul, firma de avocatură, banca) — are responsabilități privind utilizarea adecvată: monitorizare, supraveghere umană, informarea utilizatorilor finali.

Utilizatorul final individual (medicul, avocatul, consultantul financiar) e în afara structurii formale de responsabilitate AI Act — dar nu în afara răspunderii profesionale și civile care îi incumbă oricum din legislația specifică domeniului.

Termenele de aplicare

AI Act are o implementare graduală: — Interdicțiile privind sistemele AI inacceptabile: aplicabile din februarie 2025 — Cerințele pentru modelele de uz general cu impact sistemic: aplicabile din august 2025 — Cerințele pentru sistemele high-risk: aplicabile din august 2026 — Cerințele pentru anumite categorii de sisteme high-risk existente: aplicabile din august 2027

Aceasta înseamnă că în momentul publicării acestui articol (august 2026), cerințele pentru sistemele high-risk tocmai au intrat în vigoare. Implementarea lor practică — auditare, înregistrare, conformitate — e în primele luni de funcționare. Efectele reale vor fi vizibile în 2027-2028.

Cazuri judecate la nivel european

Jurisprudența privind răspunderea pentru erori AI în domeniile critice e în formare, nu cristalizată. Câteva cazuri din 2025-2026 sunt în curs de judecată în instanțe naționale europene, dar nu există deocamdată hotărâri definitive ale CJUE pe această problemă.

Un caz din Germania (2025) — un pacient care a suferit un prejudiciu după ce un sistem AI de diagnosticare radiologică a ratat o tumoare — a ajuns în faza de rejudecare după ce prima instanță a respins cererea pe motivul că nu s-a demonstrat cauzalitatea directă între output-ul AI și decizia medicului. Cazul ilustrează dificultatea fundamentală de a stabili cauzalitatea juridică în lanțuri de decizie hibride (AI + uman).

Multipolaritate — Modele de Reglementare Comparate

Abordarea globală față de AI în domeniile critice nu e uniformă. Diferențele reflectă filozofii de reglementare distincte, cu consecințe practice diferite pentru utilizatori.

China — Reglementare proactivă și restrictivă

China a adoptat în 2023 Regulamentul privind serviciile de AI generativ — cel mai detaliat cadru de reglementare al AI generativ adoptat de o țară înainte de AI Act european. Regulamentul impune, pentru AI folosit în domenii critice (inclusiv medicină și financiar), cerințe stricte de licențiere, audit periodic și responsabilitate pentru output.

Mai relevant pentru sectorul medical: autoritatea chineză de reglementare medicală (NMPA — National Medical Products Administration) a creat o cale separată de aprobare pentru dispozitive medicale bazate pe AI, similară celei pentru dispozitive medicale convenționale. Un LLM folosit în asistarea diagnosticului în China trebuie să treacă printr-un proces de aprobare NMPA înainte de utilizare clinică. Nu există echivalent în România sau în cele mai multe state UE.

Critica acestui model: procesul de aprobare e opac, poate fi influențat politic, și dezavantajează modelele internaționale față de cele domestice. Dar cadrul formal de responsabilitate e mai clar decât în modelul american sau (deocamdată) european.

SUA — Self-regulation cu presiune reglementară crescândă

Modelul american tradițional e cel al auto-reglementării sectoriale, cu rol reglementar limitat al statului. În medicină, FDA (Food and Drug Administration) a creat o cale de reglementare pentru „Software as a Medical Device" (SaMD), sub care unele sisteme AI medicale necesită aprobare. Dar LLM-urile de uz general folosite de medici individual nu intră automat în această categorie.

Executive Order Biden din 2023 a cerut agenților federali să dezvolte standarde de siguranță AI, inclusiv pentru utilizările medicale și financiare. Implementarea a rămas parțială; retragerea unor cerințe sub administrația Trump din 2025 a slăbit presiunea reglementară la nivel federal.

Sectorul financiar american e mai reglementat: SEC și FINRA au emis ghiduri privind AI în servicii financiare, cu cerințe de supervisory control specifice. Dar ghidurile sunt orientative, nu prescriptive în detaliu.

UE — Co-reglementare în curs de implementare

Modelul european, descris în secțiunea precedentă, e cel al co-reglementării: cerințe obligatorii pentru categorii de sisteme (AI Act), combinate cu standarde tehnice voluntare (standardele CEN/CENELEC în curs de elaborare) și cu responsabilitate civil-juridică (Directiva AI Liability în dezbatere).

E modelul cel mai ambițios din lume. E și modelul cu cea mai mare complexitate de implementare — și, prin urmare, cu cel mai mare risc de a rămâne parțial pe hârtie.

România în context comparativ

România are obligația de a implementa cadrul european și beneficiază de el ca stat membru UE. Dar capacitatea de implementare și enforcement la nivel național e inferioară față de media europeană — mai puțin personal specializat în autoritățile de reglementare, mai puțin buget pentru audit, mai puțin sprijin instituțional pentru entitățile reglementate care trebuie să se conformeze.

Aceasta creează un decalaj practic: reglementarea formală e mai avansată (prin acquis european) decât capacitatea de aplicare (prin resursele naționale). Entitățile cu resurse și expertiză — marile bănci, spitalele universitare, firmele mari de avocatură — se pot conforma. Entitățile mici — cabinetele medicale individuale, firmele mici de avocatură, IFN-urile mici — nu au capacitatea practică de conformitate, chiar dacă au obligația legală.

Întrebări Elocvente — Cu Răspuns Complet

1. De ce rata de alucinații crește atât de dramatic în domeniile specializate față de sarcini generale?

Patru mecanisme acționează simultan și se amplifică reciproc: raritatea textului specializat în corpus (modelul a văzut puțin din ce trebuie să producă), sensibilitatea la precizie numerică și terminologică (o eroare mică produce consecințe mari), absența corecției naturale (utilizatorul fără expertiză nu detectează eroarea), și autoritatea formei (documentul care arată specializat inspiră mai multă încredere decât merită).

Combinația acestor factori explică de ce scara erorii nu e proporțională cu dificultatea sarcinii în sensul general — e proporțională cu raritatea domeniului în corpus și cu sensibilitatea la precizie.

2. Med-PaLM 2 și alte modele specializate sunt soluția?

Parțial. Modelele antrenate specific pe date medicale, juridice sau financiare au, în general, rate de eroare mai mici în domeniile respective față de modelele generaliste. Med-PaLM 2 (Google), Harvey AI (juridic), BloombergGPT și FinGPT (financiar) arată îmbunătățiri semnificative față de modelele generalizate pe sarcinile lor specifice.

Dar „mai bun" nu e sinonim cu „sigur pentru utilizare fără verificare". Chiar și modelele specializate au rate de eroare semnificative pe cazuri complexe sau atipice. Principiul verificării rămâne universal, indiferent de model.

Un factor suplimentar pentru România: accesul la modelele specializate e mai limitat decât la Gemini sau ChatGPT. Costul abonamentelor la Harvey AI sau la soluții similare e inaccesibil pentru un cabinet de avocatură mic sau pentru un medic de familie individual.

3. Avocatul din scenă ar putea fi sancționat disciplinar sau civil în România?

Da, potențial ambele, deși cadrul exact nu e cristalizat.

Disciplinar: Statutul profesiei de avocat impune diligență profesională. Depunerea la instanță a unor referințe juridice neverificate, care s-au dovedit fictive, constituie o breșă a acestei obligații — indiferent de instrumentul folosit pentru a le genera.

Civil: Clientul care a suferit un prejudiciu (pierderea termenului util, costuri suplimentare) poate solicita despăgubiri pentru culpă profesională. Demonstrarea nexului cauzal între utilizarea neverificată a AI și prejudiciu e mai directă decât în cazuri medicale.

Penal: Depunerea la instanță a unui document știind că conține referințe false ar putea constitui fals în înscrisuri, deși aceasta presupune intenție — pe care avocatul bona fide nu o are. Culpa fără intenție nu atrage răspundere penală în această ipoteză.

4. Există cazuri documentate de erori AI cu consecințe grave în România?

Nu există o bază de date publică națională de astfel de cazuri. Nicio autoritate română nu colectează incident reports pentru erori AI în servicii profesionale sau medicale.

Cazurile individuale există, cu siguranță — dar nu sunt raportate sistematic, nu sunt vizibile instituțional, și nu generează precedent sau statistică. Aceasta e în sine o problemă: absența raportării nu înseamnă absența problemei, înseamnă că problema e invizibilă pentru decidentul instituțional.

5. Ce ar trebui să fac dacă sunt medic și vreau să folosesc AI responsabil?

Un protocol minim în patru pași:

Pas 1 — Separați utilizările. AI-ul e adecvat pentru informații generale de context (ce este o boală, care sunt clasele terapeutice disponibile), și inadecvat drept sursă pentru doze specifice, interacțiuni medicamentoase sau protocoale pentru cazuri complexe.

Pas 2 — Verificați la sursă primară. Orice doză sau protocol provenit din AI se verifică în: rezumatul caracteristicilor produsului (RCP), ghiduri clinice naționale sau europene actuale, baze de date farmacologice dedicate (Medscape Drug Interactions, Micromedex).

Pas 3 — Marcați utilizarea. Documentați în fișa pacientului că ați utilizat un instrument AI ca sursă auxiliară și că ați verificat informația la sursă primară. Aceasta vă protejează profesional și e bună practică clinică.

Pas 4 — Nu utilizați AI pentru pacienți cu profil complex. Pacienți vârstnici cu multiple comorbidități și polimedicație, copii, gravide, pacienți cu insuficiență renală sau hepatică — toți necesită protocoale validate de specialiști, nu sinteză AI.

6. Ce ar trebui să fac dacă sunt avocat și vreau să folosesc AI responsabil?

Protocol minim în trei pași:

Pas 1 — Nicio referință juridică fără verificare directă. Orice hotărâre judecătorească, număr de dosar, articol de lege sau paragraf citat din AI se verifică în bazele de date juridice primare: EUR-Lex pentru drept european, Lex.ro pentru dreptul român, HUDOC pentru CEDO. Verificarea înseamnă că documentul există și că citatul e exact.

Pas 2 — AI pentru structurare, nu pentru substanță. AI-ul poate ajuta la structurarea unui memoriu, la identificarea direcțiilor de cercetare, la redactarea unui draft inițial. Substanța — referințele juridice, analiza speței, concluziile — trebuie să provină din verificare directă.

Pas 3 — Declarați utilizarea AI. Pe măsură ce normele deontologice evoluează, transparența față de client și față de instanță privind utilizarea AI devine o cerință emergentă. Anticipați această cerință prin declarare voluntară.

7. Ce ar trebui să fac dacă lucrez în servicii financiare și vreau să folosesc AI responsabil?

Ghidul ASF din 2025 oferă cadrul de bază: documentați utilizarea, implementați controale de calitate, mențineți supraveghere umană calificată. Concret:

— Orice cifră sau rată provenită din AI se verifică în rapoartele financiare originale ale emitentului sau în sursele primare de piață (BVB, Bloomberg, Refinitiv).

— Orice interpretare a reglementărilor aplicabile se verifică în textul oficial al reglementărilor (ASF, BNR, Parlamentul European).

— Orice recomandare de investiții sau evaluare de risc bazată pe AI trebuie marcată explicit ca asistată AI și semnată de un specialist calificat care și-a asumat responsabilitatea conținutului.

8. Există situații în care AI-ul e complet inadecvat în domeniile critice?

Da. Categorii pentru care utilizarea AI — inclusiv modele specializate — e inadecvată fără supraveghere umană intensă:

— Diagnosticul diferențial al bolilor rare sau cu prezentare atipică — Decizii de medicație pentru pacienți cu multiple comorbidități severe — Interpretarea probelor în dosare penale complexe — Evaluarea riscului sistemic în tranzacții financiare de mari dimensiuni — Orice situație în care consecința erorii e ireversibilă (decizie chirurgicală urgentă, execuție de ordin financiar, termen procedural)

Aceste situații nu sunt excluderi permanente — pe măsură ce modelele evoluează și protocoalele de verificare se maturizează, granița se poate deplasa. Dar în 2026, sunt categorii unde principiul precauției impune supraveghere umană deplină.

9. AI Act-ul european protejează suficient utilizatorul individual în domeniile critice?

Nu, deocamdată — și probabil nu va face-o complet nici după implementare deplină.

AI Act protejează prin cerințe de transparență, audit și responsabilitate al deployerului. Dacă spitalul, firma de avocatură sau banca nu implementează controalele cerute, există mecanism de sancțiune. Dacă utilizatorul individual — medicul, avocatul, consultantul — nu respectă protocoalele proprii ale organizației, există mecanism disciplinar intern.

Dar dacă utilizatorul individual accesează Gemini direct, pe cont propriu, în afara unui cadru organizațional formal — un medic care folosește telefonul personal, un avocat din cabinet mic individual — cadrul formal de protecție e aproape inexistent. Responsabilitatea e individual suportată, fără mecanism de sprijin instituțional.

Aceasta nu e o lacună a AI Act-ului — e o consecință a limitelor oricărui cadru reglementar față de adoptarea informală și individualizată a tehnologiei.

10. Ce e mai periculos: un medic/avocat/consultant care nu știe că Gemini greșește, sau unul care știe dar nu verifică?

Întrebarea pare retorică, dar nu e. Răspunsul e contra-intuitiv: poate fi mai periculos cel care știe, în unele condiții.

Profesionistul care nu știe că Gemini poate greși va trata output-ul AI cu aceeași precauție pe care o aplică oricărei surse noi, neverificate — ceea ce poate produce o verificare instinctivă.

Profesionistul care știe că Gemini greșește în domenii specializate dar evaluează greșit probabilitatea specifică va aplica o verificare insuficientă, cu iluzia că a gestionat riscul. „Știu că poate greși, dar în cazul ăsta simplu nu e necesar să verific" — aceasta e logica care produce erori. Cunoașterea parțială poate genera o falsă senzație de control.

Concluzia: cunoașterea trebuie să fie specifică, nu generică. „Gemini poate greși" e insuficient. „Gemini greșește în 76,7% din sarcini financiare specializate" e informația care schimbă comportamentul.

Nota Autorului

Unelte Retorice, Limite și Ce Să Nu Faci

Uneltele retorice folosite în acest articol

Scena avocatului din Timișoara urmează același principiu al scenariului compozit din articolele anterioare — e construită pe tipologia documentată a incidentelor AI în practica juridică, nu pe un caz specific verificat din România. Alegerea Timișoarei e deliberată: oraș cu tradiție juridică solidă, cu firmele de avocatură din Banat istoric mai expuse la dosarele cu component european față de alte centre regionale, ceea ce face scenariul plauzibil ca mediu specific.

Analogia cu bătălia de la Cassino e mai strânsă decât analogiile din articolele anterioare — eroarea de coordonată artileristică e o eroare de precizie numerică cu consecință imediată, structurată similar cu erorile de dozaj sau de număr de dosar. Nu e o analogie de atmosferă, ci una de mecanism.

Cele trei domenii (medicină, drept, finanțe) sunt tratate cu adâncime inegală intenționat: medicina primește mai mult spațiu pentru că consecințele individuale sunt cele mai dramatice și pentru că literatura academică e mai bogată; dreptul primește cel mai mult spațiu pentru protocoale practice pentru că erorile juridice sunt cel mai bine documentate public; finanțele primesc cel mai mult context de reglementare pentru că ASF și BNR au emis deja ghiduri — rare pentru România.

Limite etice asumate explicit

Nu am acces la cazuri reale anonimizate din România. Exemplele sunt construite pe tipologii documentate și pe cazuri internaționale. A prezenta un caz românesc specific ar fi raportat jurnalistic, nu editorial analitic — și ar necesita anonimizare verificabilă pe care nu o pot asigura.

Riscul de a genera panică nejustificată. Un articol despre riscuri în domenii critice poate produce un efect opus celui dorit: dacă tonul e excesiv de alarmist, cititorii pot respinge analiza ca exagerată sau pot concluziona că AI-ul trebuie evitat complet — ceea ce ar priva profesioniștii de beneficii reale. Am încercat să echilibrez prin secțiunea de protocoale practice, care arată că utilizarea responsabilă e posibilă.

Riscul opus: minimizarea pentru a nu alarma. Pendulul contrar e la fel de periculos. Dacă tonul e excesiv de prudent față de riscuri documentate, contribui la perpetuarea utilizării necritice. Am ales să prezint datele numeric și direct, fără a le netezi prin formulări ambigue.

Greșeli subiective pe care le recunosc

Am tratat cele trei domenii ca și cum ar avea o frontieră clară între ele, când în practică se suprapun frecvent — un caz medical implică aspecte juridice (răspundere), care implică aspecte financiare (despăgubiri). O analiză integrată a interacțiunilor ar fi mai riguroasă, dar și mai greu de urmărit pentru cititorul din afara domeniilor respective.

Am prezentat protocoalele de utilizare responsabilă ca mai simple decât sunt în realitate. „Verificați la sursă primară" e un principiu clar; implementarea lui în condițiile reale ale unui cabinet suprasolicitat e mai complicată. Nu am abordat suficient cum se construiește o rutină de verificare sustenabilă, nu una ideală teoretic.

Ce Să Nu Faci

1. Nu utilizați Gemini sau alt LLM general ca sursă de dozaj medicamentos. Indiferent de caz. Indiferent de aparenta simplitate. Sursele primare (RCP, baze de date farmacologice validate) sunt singurul standard acceptabil.

2. Nu depuneți la instanță referințe juridice provenind din AI fără verificare directă în baze de date primare. Cazul Schwartz a demonstrat consecințele. Reputația profesională și interesele clientului nu justifică nicio economie de timp la verificare.

3. Nu confundați familiaritatea cu fiabilitatea. Un model pe care îl folosiți zilnic și care v-a ajutat frecvent poate părea mai fiabil decât e. Frecvența utilizărilor corecte nu modifică rata de eroare în domeniile specializate.

4. Nu delegați validarea profesională modelului AI. Validarea finală a oricărei decizii cu consecințe semnificative e responsabilitate profesională umană, nereducibilă la output AI, indiferent cât de convingătoare pare sinteza.

5. Nu ignorați ghidurile de reglementare disponibile. ASF a publicat un ghid pentru serviciile financiare. CCBE a publicat ghiduri pentru avocatură. Colegiul Medicilor urmează să emită orientări. Monitorizați aceste surse și aplicați-le.

6. Nu tratați AI Act-ul ca pe o protecție suficientă. Cadrul european impune cerințe deployerilor. Dacă sunteți utilizator individual în afara unui cadru organizațional formal, responsabilitatea e a voastră — independent de AI Act.

7. Nu abandonați instrumentele AI complet. Aceasta e tentația opusă, la fel de dăunătoare. AI-ul reduce sarcina cognitivă în sarcini de documentare preliminară, structurare și redactare, oferind mai mult timp și energie pentru verificarea și judecata profesională în aspectele critice. Utilizarea inteligentă înseamnă să plasați AI-ul în etapele de lucru unde riscul erorii e minim și verificarea e maximă.

Bibliografie

Singhal, K., Azizi, S., Tu, T., et al. (2023). Large language models encode clinical knowledge. Nature, 620, 172–180. doi:10.1038/s41586-023-06291-2
Mello, M.M., Francer, J.K., Blumenthal-Barby, J., et al. (2024). Artificial Intelligence and Medical Malpractice: Untangling the Knot. New England Journal of Medicine, 391(4), 385–388.
Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023). Sanctions Order, Judge P. Kevin Castel. [Cazul Schwartz — referință juridică internațională]
Autoritatea de Supraveghere Financiară (ASF) România. (2025). Utilizarea Inteligenței Artificiale în Servicii Financiare: Ghid de Conformitate pentru Entitățile Reglementate. București: ASF.
Banca Națională a României (BNR). (2025). Raport de Stabilitate Financiară, Ediția Iunie 2025 — Secțiunea 4.3: Riscuri Tehnologice și AI. București: BNR.
Uniunea Națională a Barourilor din România (UNBR). (2024). Statutul Profesiei de Avocat — text actualizat, cu referire la obligațiile de diligență profesională. București: UNBR.
PMC/NIH. (2026). "My AI Is Lying to Me": User-Reported Hallucinations in Mobile Applications — Clinical and Legal Domains Analysis. NCBI PMC12365265.
Parlamentul European și Consiliul. (2024). Regulamentul (UE) 2024/1689 (AI Act), Articolele 10, 13, 14 și Anexa III. Jurnalul Oficial al Uniunii Europene.
OECD. (2024). Recommendation on Responsible Innovation in Health: AI Applications in Clinical Practice. OECD Health Working Papers. doi:10.1787/oecd-health-ai-2024
Vlăsceanu, M. (coord.). (2024). Tehnologie și Responsabilitate Profesională în Dreptul Român: Noi Provocări în Era Digitalizării. București: Universul Juridic.

Articolul următor din serie — „Europa vs. Silicon Valley: Regulamentul AI Act, Suveranitatea Digitală și Standardele de Adevăr" — ridică privirea de la cazurile individuale spre arhitectura geopolitică și reglementară care determină cum și dacă aceste probleme vor fi adresate sistemic.