OpenAI introduce o nouă tehnologie de proveniență a textului generat de inteligența artificială în Uniunea Europeană. Începând din octombrie 2026, compania anunță implementarea treptată a unui watermark invizibil pentru anumite texte generate de ChatGPT și Codex în UE, ca parte a răspunsului la cerințele de transparență din EU AI Act.
Noua tehnologie se numește textGrain și folosește un semnal statistic integrat în modul în care modelul alege cuvintele. Scopul acestei tehnologii nu este de a altera în mod vizibil textul generat, ci de a integra un semnal digital care poate fi identificat ulterior de un detector specializat pentru a determina dacă un pasaj a fost generat de un model OpenAI.
Potrivit anunțului oficial OpenAI, această măsură face parte dintr-o strategie mai amplă privind proveniența conținutului digital, prin care utilizatorii, organizațiile, platformele și cercetătorii pot obține mai multe informații despre originea și modul în care a fost generat sau modificat un anumit conținut.
Ce este, de fapt, acest watermark ?
Un watermark AI pentru text este un semnal incorporat în text într-un mod care nu este vizibil pentru cititor. În cazul OpenAI, tehnologia textGrain ajustează subtil modul în care modelul selectează între variantele posibile de cuvinte sau fragmente de cuvinte.
Pe parcursul unui pasaj suficient de lung, aceste alegeri pot forma un tipar statistic pe care un detector îl poate identifica. Important este că watermark-ul nu presupune caractere ascunse, spații invizibile sau semne de punctuație neobișnuite. Potrivit documentației OpenAI, semnalul face parte din alegerile de cuvinte ale modelului.
De ce introduce OpenAI această tehnologie?
Principalul motiv este transparența privind conținutul generat de inteligența artificială. EU AI Act introduce cerințe pentru ca anumite tipuri de conținut generat de AI să poată fi identificate într-un mod care poate fi procesat de sisteme informatice.
OpenAI a declarat că abordarea sa pentru text urmărește aceste cerințe, dar ține cont și de limitele actuale ale tehnologiei de watermarking și detecție.
Cum funcționează textGrain?
Conceptul este relativ simplu: în timpul generării textului, textGrain influențează statistic anumite alegeri de cuvinte ale modelului, fără să modifice în mod vizibil rezultatul pentru utilizator.
Prin urmare, textGrain este un filigran digital integrat în textul generat de modelele OpenAI, conceput pentru a permite identificarea unui semnal asociat procesului de generare. Spre deosebire de detectoarele tradiționale care analizează dacă un text „sună ca AI”, textGrain urmărește un tipar statistic specific modului în care modelul OpenAI selectează și generează cuvintele.
Această diferență este importantă. Un detector de watermark nu ar trebui interpretat ca un instrument universal care stabilește dacă orice text a fost scris de inteligența artificială.
Cât de precis este detectorul OpenAI?
OpenAI subliniază că watermarking-ul și detecția textului generat de AI sunt tehnologii aflate încă într-o etapă timpurie și, care, evident, au limitări.
În evaluările prezentate de companie, detectorul a identificat watermark-ul în aproximativ 80% dintre pasajele de 200 de tokeni la o rată-țintă de fals pozitive de 1%. Pentru pasaje de aproximativ 400 de tokeni, rata de detectare a ajuns la aproximativ 95% în anumite teste. Rezultatele au fost însă mai slabe pentru domenii precum matematica, unde există mai puțină flexibilitate în alegerea cuvintelor.
Lungimea textului este, astfel, un factor important. Cu cât pasajul este mai scurt sau mai constrâns lingvistic, cu atât identificarea semnalului poate deveni mai dificilă.
Editarea poate elimina sau slăbi watermark-ul
Un alt aspect esențial este editarea. În testele OpenAI, înlocuirea a aproximativ 10% dintre cuvintele unui pasaj de 400 de tokeni a redus detectarea watermark-ului de la aproximativ 92% la 66%. Când au fost înlocuite 25% dintre cuvinte, detectarea a scăzut până la aproximativ 17%.
Acest lucru arată de ce rezultatul unui detector trebuie interpretat cu prudență. Un text modificat substanțial nu mai oferă neapărat același semnal statistic ca textul original generat de model.
Un watermark nu poate quantifica contribuția umană
Aceasta este una dintre cele mai importante precizări făcute de OpenAI. Prezența unui watermark poate doar indica faptul că un sistem OpenAI a generat sau a procesat o parte din text, însă nu poate măsura contribuția umană. Nu poate spune cât de mult a editat, verificat sau rescris textul o persoană.
De exemplu, un articol poate fi generat inițial cu ajutorul AI și apoi verificat, documentat și rescris substanțial de un jurnalist sau specialist. Watermark-ul nu oferă o măsură exactă a contribuției fiecărei părți.
Poate acest watermark să indice cine a folosit ChatGPT?
OpenAI precizează explicit că watermark-ul nu identifică utilizatorul, contul, promptul sau conversația din care provine textul.
Prin urmare, identificarea unui watermark nu înseamnă că detectorul poate spune cine a generat textul sau ce instrucțiuni au fost utilizate.
Prezența unui watermark nu stabilește dacă informațiile prezentate în text sunt adevărate
Un semnal de proveniență oferă informații despre originea probabilă a conținutului, nu despre calitatea sau veridicitatea lui. OpenAI precizează că watermark-ul este o simplă măsura birocratică. Acesta nu verifică acuratețea, nu stabilește dacă informația este adevărată sau falsă și nu confirmă faptul că textul este prezentat în contextul corect.
Această distincție este esențială într-un ecosistem în care conținutul generat de AI poate fi distribuit rapid. Proveniența nu este același lucru cu adevărul.
Ce se întâmplă dacă un text nu are watermark?
Absența unui watermark nu dovedește că textul a fost scris de o persoană. Un detector poate să nu identifice watermark-ul deoarece textul este prea scurt, a fost editat sau tradus, provine de la un model care nu utilizează tehnologia respectivă ori a fost generat înainte de implementarea watermark-ului.
De asemenea, un text poate proveni de la un alt furnizor de AI. Acest marcaj este important pentru publicații, profesori, companii și organizații care iau decizii pe baza instrumentelor de detectare AI.
Unde va fi folosit watermark-ul textGrain?
OpenAI anunță o implementare în etape. Pentru utilizatorii din Uniunea Europeană, compania spune că va introduce în următoarele săptămâni watermarking pentru textele eligibile generate de ChatGPT și Codex, pe toate planurile disponibile în UE.
În paralel, clienții API din întreaga lume vor putea opta pentru watermark în cazul anumitor modele. Pentru API, funcția va fi disponibilă inițial opțional, nu activată implicit. OpenAI pregătește și accesul la detector pentru cercetători și organizații specializate, inițial printr-un proces de aprobare.
Ce înseamnă această schimbare pentru creatorii de conținut?
Pentru bloggeri, agenții, publisheri, departamente de marketing și companii care folosesc AI pentru redactare, schimbarea aduce un nivel suplimentar de transparență.
Este important însă să nu confundăm utilizarea AI cu lipsa contribuției umane. Un workflow profesionist poate include cercetare umană, generare asistată de AI, verificarea surselor, editare, fact-checking, optimizare SEO și revizie editorială.
Watermark-ul nu poate descrie singur întregul proces. Pentru conținutul destinat publicării, bunele practici rămân aceleași: verificarea informațiilor, utilizarea surselor credibile, citarea surselor primare și asumarea editorială a materialului.
Cum se leagă textGrain de C2PA și Content Credentials?
Watermark-ul pentru text este doar o componentă a strategiei OpenAI privind proveniența conținutului.
Pentru imagini și alte tipuri de media, OpenAI utilizează și Content Credentials, bazate pe standardul deschis C2PA, precum și watermarking SynthID pentru anumite tiouri de conținut. Content Credentials pot furniza informații despre originea și istoricul unui fișier, în timp ce watermark-urile pot oferi un semnal care rămâne prezent chiar dacă anumite metadate sunt eliminate.
OpenAI descrie această strategie drept o abordare multistrat a provenienței. Ideea centrală este simplă: nicio metodă individuală nu este suficientă în toate situațiile.
De ce este importantă proveniența conținutului AI?
Pe măsură ce inteligența artificială generativă devine parte din fluxurile de lucru pentru text, imagine și audio, devine tot mai dificil pentru utilizatori să determine originea unui material doar prin inspecție vizuală sau lingvistică.
Sistemele de proveniență pot oferi platformelor, cercetătorilor, jurnaliștilor și utilizatorilor informații suplimentare despre modul în care a fost creat sau modificat conținutul. OpenAI consideră că aceste semnale pot contribui la reducerea confuziei și la o mai bună înțelegere a originii conținutului online.
În esență, obiectivul nu este să existe un verdict simplist de tipul „AI” sau „om”, ci să existe mai mult context despre originea conținutului digital. Pentru organizații și creatori, aceasta înseamnă că transparența, verificarea surselor și responsabilitatea editorială vor deveni tot mai importante într-un ecosistem în care conținutul generat de AI este din ce în ce mai prezent.
Sursa: openai.com
PRODUSE RECOMANDATE
