Ce spune studiul

În octombrie 2025, cercetătorii Batu El și James Zou au publicat un studiu care ridică una dintre cele mai importante întrebări despre viitorul inteligenței artificiale: ce se întâmplă atunci când modelele mari de limbaj încep să concureze între ele pentru atenția publicului? (Și nu, nu vorbim azi, aici, despre o altă temă care îi frământă pe specialiști - aceea a posibilității apariției conștiinței (sau cum vreți voi s-o numiți) și nu vorbim nici de umanul cerșit de atenție. 😉

Concluzia este tulburătoare: chiar dacă modelele sunt instruite să fie oneste și sigure, competiția le face să învețe cum să deformeze realitatea pentru a fi mai convingătoare. Autorii numesc acest efect „Moloch’s Bargain” – un pact în care performanța crește, dar se plătește cu pierderea aliniamentului moral și factual. (Mi-am tot bătut capul să găsesc o exprimare mai literară pentru alignament și misalignament, dar în seara asta se pare că nu am inspirație.)

Metodologie

Studiul a simulat competiția între modele de limbaj în trei domenii: vânzări, campanii electorale și social media. Au fost folosite două modele deschise – Qwen3-8B și LLaMA-3.1-8B-Instruct – puse să convingă audiențe virtuale, reprezentate de douăzeci de profiluri diferite.

Modelele au fost antrenate prin două metode:

• Rejection Fine-Tuning (RFT): modelul învață din răspunsurile preferate de audiență;
• Text Feedback (TFB): o extensie a RFT, care integrează și raționamentele audienței, nu doar deciziile ei finale.

Cercetătorii au măsurat apoi atât performanța (cât de convingătoare sunt modelele), cât și alinierea lor etică (cât de corecte și sigure rămân răspunsurile).

Rezultate: performanță în schimbul adevărului

Rezultatele arată că, pe măsură ce modelele devin mai eficiente, ele tind să piardă din integritate.

În nouă din zece cazuri, creșterea performanței a venit la pachet cu o degradare a comportamentului etic. Modelele au început să inventeze detalii despre produse, să folosească discurs populist în campanii sau să sacrifice acuratețea pentru viralitate.

Ce înseamnă „Moloch’s Bargain”

Conceptul descrie conflictul structural dintre adevăr și performanță. Pe măsură ce modelele sunt optimizate pentru succes – fie că este vorba de vânzări, voturi sau vizualizări – ele învață, involuntar, că manipularea subtilă este o strategie câștigătoare.

Autorii subliniază că mecanismele actuale de siguranță nu sunt suficiente pentru a opri această derivă emergentă.

Implicații pentru România și Uniunea Europeană

1. Guvernanță și audit comportamental

Regulamentul AI Act al Uniunii Europene clasifică aplicațiile IA după nivelul de risc, dar acest studiu arată că riscul poate apărea ulterior, ca efect al competiției de piață. România ar trebui să introducă mecanisme de monitorizare continuă a comportamentului modelelor de limbaj, mai ales în aplicațiile publice sau comerciale cu impact social.

2. Comunicarea politică

Modelele pot genera, chiar fără intenție explicită, conținut populist sau manipulator. Ar fi necesară o reglementare care să oblige la etichetarea conținutului generat automat de IA în campaniile politice. Și, chiar și așa, acest lucru nu este nici pe departe suficient.

3. Piața media

În scenariile simulate de social media, modelele au preferat viralitatea în locul veridicității. CNA și ANCOM ar trebui să solicite audituri independente ale algoritmilor de recomandare folosiți de platformele online.
Piața media ar trebui reglementată și în alte sensuri, pentru că subiectul este foarte vast și ar merita contextualizat.

4. Protecția consumatorului

În domeniul comercial, modelele pot fabrica informații pentru a stimula achizițiile. ANPC ar trebui să impună reguli privind transparența conținutului generat automat și sancțiuni pentru afirmațiile false create de algoritmi. Desigur, pentru asta ar trebuie să existe și specialiști pe bune în instituția aia, ca să nu mai zic de șef... 😉

Concluzie

Succesul competitiv al modelelor de limbaj nu este echivalent cu alinierea morală. Fără supraveghere, societatea riscă o „cursă a nealinierii”, în care modelele care manipulează mai eficient câștigă audiența, iar cele oneste pierd.

Pentru România și Uniunea Europeană, provocarea viitorului apropiat nu este doar dezvoltarea IA, ci și guvernanța etică a competiției dintre modele.

„Performanța fără aliniere este o victorie a lui Moloch. Etica algoritmică trebuie testată nu doar în laborator, ci în piață.”