Inteligența artificială generativă a devenit o prezență constantă în producerea și editarea de conținut digital, iar metodele de identificare a materialelor create sau modificate cu AI aduc în discuție limitele acurateței și transparenței acestor metode.
Astăzi, identificarea conținutului AI se bazează pe mai multe tehnologii: watermark-uri invizibile, metadate de proveniență, sisteme precum Google SynthID și standarde precum C2PA. În paralel, există instrumente care analizează conținutul final și estimează probabilitatea ca acesta să fi fost generat de un model AI.
Aceste metode pot contribui la o mai bună transparență în mediul digital, dar ridică și o întrebare importantă: cât de departe pot merge companiile în identificarea conținutului fără ca acest proces să se transforme într-un mecanism de urmărire a utilizatorilor?
Un caz recent care readuce această problemă în atenție este cel al Microsoft și al funcțiilor AI integrate în Paint și Photos.
Cazul Microsoft: watermark-ul invizibil care poate lega imaginea de un prompt
O investigație publicată de The Register prezintă analiza cercetătorului Xusheng Li de la Vector 35 asupra modului în care Microsoft marchează imaginile generate sau modificate cu AI în Paint și Photos. Potrivit analizei citate, Microsoft folosește un identificator unic, de tip GUID, care este asociat procesului de generare și este încorporat invizibil în imagine.
Mecanismul este diferit de un watermark vizibil, precum textul “AI-generated” sau o siglă. Identificatorul este codificat în pixeli, iar analiza susține că solicitarea utilizatorului este transmisă serviciilor Microsoft pentru moderare înainte ca identificatorul să fie emis și integrat în imagine. De asemenea, solicitările succesive pot fi corelate prin intermediul unui identificator anterior.
Aici apare problema de confidențialitate.
Un sistem destinat inițial identificării conținutului AI poate deveni, în anumite condiții, și un mecanism de corelare a conținutului cu utilizatorul sau cu istoricul solicitărilor.
Este important însă să facem o distincție: existența unui GUID într-o imagine nu înseamnă automat că orice persoană care găsește imaginea poate identifica public autorul. Întrebarea critică este dacă furnizorul poate corela acel identificator cu contul, promptul sau alte date păstrate pe serverele sale.
Microsoft afirmă oficial că funcțiile AI din Paint folosesc servicii online Azure pentru filtrarea conținutului și că, în acest context, colectează atribute precum identificatori de dispozitiv și utilizator, precum și prompturile, pentru prevenirea abuzurilor și monitorizare. Compania spune, în același timp, că imaginile generate nu sunt stocate.
Această diferență între “imaginea nu este stocată” și “datele asociate procesului nu sunt corelabile” este esențială.
C2PA: o metodă de identificare provenienței fără a transforma imaginea într-o etichetă de supraveghere
O abordare diferită este reprezentată de C2PA – Coalition for Content Provenance and Authenticity.
C2PA este un standard deschis pentru atașarea informațiilor despre originea și istoricul unui material digital. În cazul unei imagini, metadatele pot indica instrumentul utilizat, originea conținutului și anumite modificări efectuate ulterior.
Microsoft afirmă oficial că imaginile generate prin funcțiile AI din Paint conțin un manifest C2PA, tocmai pentru ca utilizatorii să poată identifica proveniența AI.
Avantajul este evident: în loc să încercăm să ghicim dacă o imagine “arată ca și cum ar fi fost făcută de AI”, putem verifica informația de proveniență atunci când aceasta există.
Dar C2PA nu este un detector universal.
OpenAI subliniază explicit că metadatele C2PA pot fi eliminate, inclusiv accidental. De exemplu, o captură de ecran poate elimina metadatele originale. În consecință, absența unui Content Credential nu demonstrează că materialul a fost creat de un om.
Aceasta este una dintre cele mai importante reguli pentru verificarea conținutului AI:
“Nu am găsit un watermark” nu înseamnă „acest conținut nu este generat de AI”.
SynthID: o altă metodă de identificare a conținutului generativ
Google folosește o altă tehnologie, numită SynthID, care introduce un semnal digital invizibil în conținutul generat de modelele sale.
Google spune că SynthID a fost extins de la imagini la video, audio și text, iar compania a integrat verificarea în produse precum Gemini și, în 2026, a început extinderea acesteia către Search și Chrome.
Diferența conceptuală este importantă.
C2PA funcționează în principal ca un sistem de proveniență și metadate, în timp ce SynthID introduce un semnal direct în conținut.
Cele două abordări pot fi complementare. OpenAI explică faptul că folosește atât C2PA, cât și SynthID pentru imaginile generate cu instrumentele sale: metadatele oferă context, iar watermark-ul poate rămâne detectabil după anumite transformări.
Din perspectiva utilizatorului, aceasta este o soluție mult mai elegantă decât simpla analiză a stilului unui text sau a unei imagini.
Detectorii AI pentru text sunt o problemă mult mai complicată
În cazul textului generat de AI, situația este diferită.
Un detector AI analizează caracteristici statistice și lingvistice și încearcă să estimeze probabilitatea ca textul să fi fost generat de un model lingvistic. Problema este că un astfel de rezultat este, în esență, o estimare probabilistică, nu o probă de autorie.
Cercetări recente arată de ce trebuie să fim precauți.
Un studiu publicat în 2026, care a evaluat mai multe instrumente de detectare a textului AI, concluzionează că rezultatele detectorilor trebuie interpretate în funcție de context și nu transformate automat într-o clasificare binară „om” versus „AI”. Performanța poate scădea semnificativ în cazul textelor hibride sau modificate de oameni.
O altă cercetare publicată în 2026 avertizează asupra falselor pozitive și asupra faptului că modificarea unui text generat de AI poate reduce sensibilitatea detectorilor.
Problema nu este nouă. Un studiu publicat în Acta Neurochirurgica a testat GPTZero, ZeroGPT și Corrector App pe texte umane și generate de ChatGPT și a constatat că niciunul dintre instrumentele analizate nu a avut o fiabilitate de 100%.
Prin urmare, afirmația:
„Detectorul spune 87% AI, deci autorul a folosit AI”
este metodologic greșită.
Mai corect este:
„Instrumentul estimează o probabilitate ridicată de implicare AI, dar rezultatul trebuie coroborat cu alte dovezi.”
Care sunt metodele corecte de identificare a conținutului AI?
În practică, cea mai robustă abordare este una multistrat.
Verificarea datelor de proveniența a conținutului
Pentru imagini și alte tipuri de media, primul pas poate fi verificarea metadatelor C2PA.
Dacă există un manifest valid și verificabil, acesta poate oferi informații despre originea și istoricul materialului.
Verificarea watermark-urilor
Sisteme precum SynthID pot detecta semnale invizibile introduse de anumite modele AI. Google oferă instrumente pentru verificarea conținutului generat de propriile tehnologii.
Și OpenAI oferă verificarea unor semnale de proveniență asociate imaginilor generate cu instrumentele sale.
Identtificare prin analiza tehnică a fișierului
Metadatele EXIF, istoricul fișierului, software-ul de creare, informațiile despre compresie și alte caracteristici tehnice pot oferi indicii suplimentare.
Niciuna dintre acestea nu trebuie însă tratată ca dovadă absolută.
Identificare prin analiza contextuală
Pentru un articol, fotografie sau videoclip controversat, trebuie verificată și sursa: cine l-a publicat, când, unde a apărut prima dată și dacă există versiuni originale.
Detectorii AI – doar ca metodă de identificare secundară
Detectorii de text pot fi utili în anumite contexte, dar nu ar trebui să fie singura bază pentru acuzații privind utilizarea AI.
Cercetări recente evidențiază atât probleme de false pozitive, cât și dificultatea de a detecta texte hibride sau rescrise.
Când transparența devine exces de zel?
Aici apare partea controversată a fenomenului.
Este rezonabil ca un utilizator să vrea să știe dacă o fotografie virală a fost generată de AI. O platformă trebuie să indice că un videoclip a fost creat artificial. Este chiar util ca editorii, instituțiile și cercetătorii să poată verifica proveniența unui material.
Dar există o diferență între:
„Acest conținut a fost creat sau modificat cu AI.”
și:
„Acest conținut a fost creat cu AI, iar compania păstrează suficiente informații pentru a-l corela cu identitatea sau activitatea utilizatorului.”
Prima este transparență. A doua este o metodă supraveghere.
Cazul Microsoft este interesant tocmai din acest motiv. Identificatorul analizat de cercetătorul Xusheng Li poate fi asociat, în anumite condiții, cu prompturile și utilizatorii. Microsoft avea deja documentație despre mecanismele de siguranță și proveniență, însă analiza susține că implicațiile exacte ale GUID-ului nu erau suficient de evidente pentru utilizatorul obișnuit.
Este o diferență importantă între a divulga existența unei tehnologii și a explica, într-un limbaj accesibil, toate consecințele sale asupra vieții private.
Microsoft nu este singura companie care merge în această direcție
Tendința este mult mai largă.
Google investește în SynthID și în verificarea Content Credentials în Search, Gemini și Chrome.
OpenAI folosește C2PA și SynthID pentru imaginile generate prin instrumentele sale și dezvoltă mecanisme publice de verificare.
Microsoft folosește C2PA în Paint și introduce informații suplimentare în metadatele conținutului generat sau modificat cu AI în Microsoft 365. Compania precizează că aceste informații pot include modelul AI, aplicația utilizată și momentul generării.
Meta, la rândul său, dezvoltă propriile tehnologii de watermarking, potrivit relatării The Register.
Din punct de vedere tehnologic, această convergență este logică. Din punct de vedere al confidențialității, însă, trebuie urmărită cu atenție.
Cum ar trebui să arate un sistem responsabil?
Un sistem bun de identificare a conținutului AI ar trebui să respecte câteva principii simple.
Transparență. Utilizatorul trebuie să știe ce este introdus în fișier și ce informații pot fi asociate ulterior cu acesta.
Minimizarea datelor. Pentru a demonstra că o imagine a fost generată de AI nu este neapărat necesar un identificator care poate fi corelat cu identitatea persoanei.
Separarea provenienței de identitate. Meta-datele de proveniența ale conținutului ar trebui să răspundă în primul rând la întrebarea „cum a fost creat acest material?”, nu „cine este persoana care l-a creat?”.
Verificabilitate independentă. Utilizatorii, jurnaliștii și cercetătorii ar trebui să poată verifica semnalele fără să depindă exclusiv de infrastructura companiei care a generat conținutul.
Și, poate cel mai important, nicio metodă de detectare nu ar trebui tratată ca verdict absolut.
Chiar avem nevoie de o nouă formă de supraveghere?
AI generativ a făcut imposibilă revenirea la modelul simplist în care autenticitatea unui material putea fi dedusă din aspectul său. Avem nevoie de tehnologii de proveniență, watermark-uri și mecanisme de verificare.
C2PA, Content Credentials și SynthID reprezintă direcții importante pentru construirea unui internet în care utilizatorii pot afla mai ușor originea conținutului. În același timp, cercetările asupra detectorilor AI arată că estimările probabilistice, în special pentru text, nu trebuie transformate în acuzații automate.
Cazul Microsoft demonstrează însă că transparența despre conținutul AI nu trebuie confundată cu transparența despre datele colectate pentru a-l identifica.
Un watermark care spune “acest material a fost generat cu AI” poate fi util.
O metodă identificare care permite companiei să coreleze materialul cercetat de un utilizator, de promptul său sau de istoricul activității crează o problemă complet diferită.
În cursa pentru un internet mai autentic, companiile ar trebui să evite un paradox: să nu rezolve problema falsurilor digitale construind un sistem în care fiecare creație digitală devine, implicit, un instrument de urmărire.
Transparența este necesară iar demonstrarea provenienței este utilă.
Dar toate aceste tehnologii de identificare ar trebui concepute având protejarea vieții private ca principiu de bază, nu pornind de la presupunerea că fiecare utilizator este suspect până când tehnologia dovedește contrariul.
PRODUSE RECOMANDATE
