Răspunsurile ChatGPT pot fi compromise cu informații false

Timp de citit: 2 minutes

ChatGPT devine rapid o sursă de recomandări pentru mulți utilizatori, de la servicii online la afaceri locale, însă sugestiile generate de inteligența artificială nu sunt întotdeauna bazate pe surse de încredere.

Mai precis, unele informații sunt preluate fie de pe site-uri conținand informații modificate de către hackeri, fie ale căror domenii au expirat și care au fost reînregistrate cu alte scopuri, adesea pentru a promova cazinouri online și platforme de jocuri de noroc.

În ultimele luni, James Brockbank, director general și fondator al agenției Digitaloft, a documentat extinderea acestui fenomen, descoperind cazuri în care ChatGPT a citat conținut provenit din surse evident compromise.

Exploatarea lacunelor în validarea surselor de către AI

Într-un exemplu, site-ul unui cabinet de avocatură funcțional, deținut de avocata Veronica T. Barton, conținea pagini ascunse care recomandau cazinouri din Marea Britanie.

“Site-ul a fost compromis, iar acea pagină a fost adăugată ulterior”, a precizat Brockbank după analiza dovezilor.

Într-un alt caz, un site care fusese anterior asociat cu o coaliție de tineret a Națiunilor Unite fusese transformat într-o platformă care promova “cazinouri ne listate pe GamStop”.

Deși lista publicată pe acel site conținea un singur link extern, acesta ducea către un alt domeniu reutilizat in același scop.

Acest tipar se repetă și cu domeniile expirate, inclusiv unul care aparținuse unei fundații artistice desființate, cândva citată de BBC, CNN și Bloomberg. Astăzi, acel domeniu promovează conținut legat de jocuri de noroc și a fost citat de ChatGPT ca răspuns la o întrebare despre cazinouri fără depunere inițială.

Aceste tactici exploatează slăbiciunile sistemului prin care ChatGPT selectează și citează sursele. Spre deosebire de motoarele de căutare tradiționale, modelul AI nu dispune de un mecanism clar de verificare a legitimității unui site sau a intenției editoriale din spatele conținutului.

Astfel, conținutul injectat pe site-uri compromise poate apărea în răspunsurile generate, fără ca utilizatorul să fie avertizat în vreun fel.

ChatGPT pare să acorde preferință conținutului recent și continuă să considere anumite domenii ca fiind de încredere, pe baza reputației anterioare, chiar dacă între timp conținutul lor s-a schimbat radical – ceea ce deschide ușa abuzurilor și manipulării.

Cum sa verificăm dacă ChatGPT oferă informatii adevărate

Utilizatorii care apelează la ChatGPT pentru recomandări nu ar trebui să presupună că fiecare răspuns AI este fundamentat pe o sursă credibilă. O verificare rapidă a autorității site-ului citat, a istoricului, proprietății și relevanței sale poate face diferența între o sugestie de calitate și una potențial înșelătoare sau dăunătoare.

Sursa articolului.