Tag: ChatGPT

Noi reglementări pentru adolescenții care folosesc ChatGPT

Timp de citit: 3 minutes

În ultimii ani, inteligența artificială a devenit un instrument tot mai utilizat de tineri pentru învățare, divertisment și chiar sprijin emoțional. Însă, odată cu popularitatea crescută a chatboților, au apărut și riscuri majore legate de modul în care adolescenții interacționează cu aceste tehnologii. Recent, OpenAI, compania din spatele ChatGPT, a anunțat o serie de schimbări importante menite să protejeze utilizatorii sub 18 ani. Aceste măsuri vin în urma unui proces intentat companiei și a unei anchete deschise de FTC (Federal Trade Commission – SUA) privind siguranța adolescenților în interacțiunea cu inteliganța artificială.

Contextul care a declanșat schimbările

Decizia OpenAI de a înăspri regulile pentru minori a fost influențată de un caz tragic: părinții unui adolescent de 16 ani au dat în judecată compania, acuzând că discuțiile cu ChatGPT l-au încurajat pe fiul lor să își ia viața. În istoricul conversațiilor s-au descoperit mesaje în care chatbot-ul ar fi sfătuit tânărul să nu își împărtășească starea emoțională cu mama sa și să ascundă vânătăile de pe gât după o tentativă eșuată de suicid.

Acest caz, împreună cu presiunea autorităților, a adus în prim-plan o întrebare esențială: cât de sigur este ChatGPT pentru adolescenți?

1. ChatGPT va folosi un sistem de predicție a vârstei

Una dintre cele mai importante noutăți este introducerea unui sistem de predicție a vârstei. Practic, ChatGPT va analiza mesajele utilizatorilor pentru a estima dacă aceștia sunt minori. Dacă există suspiciunea că persoana are sub 18 ani, sistemul va activa automat o serie de restricții stricte.

Pentru adolescenți, chatbot-ul nu va mai permite:

  • conversații despre suicid sau auto-vătămare,
  • discuții de natură erotică sau flirtantă,
  • furnizarea de conținut sexual explicit.

Pentru adulți, există câteva excepții, cum ar fi solicitările legate de redactarea unui text literar care abordează tema suicidului. Însă pentru minori, aceste subiecte vor fi complet blocate.

2. Moderare mai strictă a conținutului abordat de ChatGPT

OpenAI recunoaște că este dificil să găsească echilibrul între libertatea de exprimare și protecția minorilor. Într-o declarație, CEO-ul Sam Altman a subliniat că unele principii ale companiei pot intra în conflict, de exemplu, respectarea intimității versus necesitatea de a preveni situațiile periculoase.

Prin urmare, politica de moderare va fi extinsă și adaptată pentru a evita cazurile în care chatbot-ul ar putea confirma idei periculoase sau ar putea încuraja comportamente nesănătoase.

3. ChatGPT va putea trimite alerte către părinți și autorități

Una dintre cele mai discutate măsuri este introducerea unui mecanism prin care ChatGPT va putea alerta părinții sau chiar autoritățile dacă un utilizator sub 18 ani manifestă intenții sinucigase. Aceasta reprezintă o apropiere de modul în care ar acționa un psiholog sau un consilier uman, care are obligația legală de a raporta riscurile iminente.

4. Control parental extins

OpenAI a introdus și o serie de funcții noi pentru părinți:

  • posibilitatea de a conecta contul copilului la contul adultului,
  • opțiuni pentru dezactivarea unor funcții ale ChatGPT,
  • notificări în timp real dacă chatbot-ul detectează un moment de criză emoțională la adolescent,
  • opțiunea de a seta intervale orare în care copilul nu poate utiliza platforma.

Aceste măsuri sunt menite să ofere părinților o mai mare vizibilitate și control asupra felului în care copiii lor interacționează cu inteligența artificială.

Ce înseamnă aceste schimbări pentru părinți și adolescenți?

Pe termen scurt, noile reguli par a fi un pas pozitiv spre creșterea siguranței. Totuși, există întrebări legitime legate de eficiența acestor măsuri. Sistemul de predicție a vârstei, bazat pe analizarea mesajelor, nu este infailibil. Adolescenții ar putea găsi modalități de a ocoli restricțiile.

De asemenea, părinții trebuie să înțeleagă că niciun filtru tehnologic nu poate înlocui complet dialogul direct cu copilul. O conversație deschisă despre limitele și riscurile AI rămâne esențială.

Pe umerii cui cade responsabilitatea?

Noile reguli implementate de OpenAI pentru protejarea adolescenților pe ChatGPT marchează o etapă importantă în responsabilizarea companiilor de tehnologie. Introducerea sistemului de predicție a vârstei, blocarea discuțiilor sensibile, raportarea intențiilor suicidare și extinderea controlului parental sunt pași necesari pentru a reduce riscurile.

Totuși, responsabilitatea finală rămâne împărțită între companie, părinți și comunitate. Doar prin colaborare și informare constantă putem asigura un mediu digital mai sigur pentru generațiile tinere.

Sursa: https://openai.com

Impactul utilizării excesive AI asupra funcțiilor cognitive umane

Timp de citit: 2 minutes

Un studiu recent realizat de Massachusetts Institute of Technology (MIT) avertizează asupra efectelor negative pe care dependența excesivă de AI (inteligența artificială) le poate avea asupra funcțiilor cognitive umane. Rezultatele arată că folosirea frecventă a instrumentelor precum ChatGPT poate diminua memoria, implicarea cognitivă și creativitatea.

Cum a fost realizat studiul

Cercetătorii MIT au împărțit participanții în trei grupuri:

  • un grup care a folosit ChatGPT pentru redactarea unui eseu,
  • unul care a utilizat un motor de căutare,
  • un grup care nu a utilizat nici un fel de asistență tehnologică.

Scanările EEG au monitorizat activitatea cerebrală în timpul procesului de scriere, iar eseurile au fost evaluate atât de sisteme AI, cât și de evaluatori umani.

Rezultatele studiului despre utilizarea AI

Utilizatorii ChatGPT au avut cea mai scăzută activare neurală, în special în zonele legate de memorie și gândire critică. In comparatie cu celelalte doua grupuri, aceștia au reținut mai greu informațiile și au avut dificultăți în a-și aminti ce au scris.

Persoanele care au utilizat doar un motor de cautare si grupul fără nici un ajutor tehnologic au demonstrat o implicare cognitivă mai profundă și o memorie mai bună.

In concluziile studiului, cercetătorii MIT au notat o degradare a capacității de a învăța și a gândi critic atunci când dependența de AI devine obișnuință.

Un fenomen deja prezent în viața noastră

De fapt, acest fenomen nu este surprinzător. Înainte de era computerelor și smartphone-urilor, oamenii memorau rute de autobuz, numere de telefon, adrese și alte informații esențiale.

Astăzi, avem totul la un click distanță dar asta înseamnă că nu mai stocăm informația în memorie. Câți dintre noi își mai știu numărul de telefon al partenerului sau al unui membru al familiei? Sau câți nu au uitat ce voiau să caute după ce au deschis telefonul?

Tehnologia, inclusiv AI, este un instrument valoros și ne face viața mai ușoară, însă dependența sau folosirea excesivă poate avea un cost ascuns: pierderea treptată a memoriei, a creativității și a gândirii critice. Soluția? Utilizarea echilibrată; folosirea inteligentei artificiale ca ajutor, nu ca substitut al gândirii.

Sursa articolului: arxiv.org.

ChatGPT a atins 700 de milioane de utilizatori săptămânal

Timp de citit: 2 minutes

ChatGPT este lider absolut pe piața inteligenței artificiale în 2025

Indiferent dacă ești fan AI sau sceptic, 2025 este anul în care inteligența artificială a intrat definitiv în viața de zi cu zi. Chatboții inteligenți nu mai sunt doar un trend tehnologic — au devenit instrumente folosite în muncă, studiu și chiar pentru sprijin emoțional.

Expresia “caut pe Google” este tot mai des înlocuită de “îl întreb pe ChatGPT”, fiind un semn clar al schimbării comportamentului digital.

Creștere explozivă: de la 500 milioane la 700 milioane utilizatori săptămânal

În luna august 2025, ChatGPT este pe cale să atingă 700 de milioane de utilizatori activi pe săptămână, față de 500 de milioane în martie. Asta înseamnă o creștere de 4 ori mai mare față de anul trecut.

Utilizatorii petrec în medie 16 minute pe zi în aplicație, trimițând între 2,5 și 3 miliarde de solicitări zilnic. Procentual, ChatGPT generează 60% din traficul web asociat AI la nivel global.

ChatGPT 5 tocmai a fost lansat

OpenAI tocmai a lansat ChatGPT-5 cu prezentare stangace, ce a părut ca imita lansarea de produse Apple. Intr-un interview anterior Sam Altman, CEO-ul companiei, a recunoscut recent că se simte “neliniștit” în legătură cu această versiune. Incă de la prima folosire se poate remarca viteza de raspuns care aproape s-a dublat față de versiunea anterioară.

Concurenții ChatGPT câștigă și ei teren: Claude, Gemini și Grok

Claude (Anthropic) – 300 milioane utilizatori activi lunar în Q1 2025 (+70% față de 2024). Integrarea în platforme precum Slack și Notion i-a adus un avans solid în mediul enterprise.

Gemini (Google) – creștere de la 350 milioane la 450 milioane de utilizatori lunari între martie și iulie 2025, numărând de 4 ori mai mulți utilizatori zilnici.

Grok (Twitter/X) – după lansarea Grok 3, utilizarea zilnică a crescut de 5 ori, atingând 35-39 milioane utilizatori activi lunar.

Contextul tehnic și încrederea utilizatorilor

Un element cheie în performanța modelelor AI este câtă informație pot procesa simultan:

  • Claude Sonnet 4 – 200.000 tokens
  • GPT-4o – 128.000 tokens
  • Gemini 2.5 Pro – 1.000.000tokens

Totuși, încrederea, viteza și securitatea devin la fel de importante. Compania OpenAI a fost recent criticată după ce anumite conversații au fost indexate accidental de Google Search, ridicând întrebări despre protecția datelor.

Viitorul: modele open-source și AI local

Modelele open-source precum Meta Llama și Qwen atrag tot mai mult interes. Deși rularea locală este limitată de puterea dispozitivelor, posibilitatea de a utiliza un AI performant fără cloud este o direcție urmărită cu interes de comunitate.

Concluzionând, ChatGPT este liderul incontestabil al pieței AI în 2025, dar competiția se intensifică rapid. Lansarea ChatGPT-5 va fi un moment definitoriu dar bătălia pentru supremație în AI este departe de a se încheiat.

Sursa articolului: windowscentral.com.

Răspunsurile ChatGPT pot fi compromise cu informații false

Timp de citit: 2 minutes

ChatGPT devine rapid o sursă de recomandări pentru mulți utilizatori, de la servicii online la afaceri locale, însă sugestiile generate de inteligența artificială nu sunt întotdeauna bazate pe surse de încredere.

Mai precis, unele informații sunt preluate fie de pe site-uri conținand informații modificate de către hackeri, fie ale căror domenii au expirat și care au fost reînregistrate cu alte scopuri, adesea pentru a promova cazinouri online și platforme de jocuri de noroc.

În ultimele luni, James Brockbank, director general și fondator al agenției Digitaloft, a documentat extinderea acestui fenomen, descoperind cazuri în care ChatGPT a citat conținut provenit din surse evident compromise.

Exploatarea lacunelor în validarea surselor de către AI

Într-un exemplu, site-ul unui cabinet de avocatură funcțional, deținut de avocata Veronica T. Barton, conținea pagini ascunse care recomandau cazinouri din Marea Britanie.

“Site-ul a fost compromis, iar acea pagină a fost adăugată ulterior”, a precizat Brockbank după analiza dovezilor.

Într-un alt caz, un site care fusese anterior asociat cu o coaliție de tineret a Națiunilor Unite fusese transformat într-o platformă care promova “cazinouri ne listate pe GamStop”.

Deși lista publicată pe acel site conținea un singur link extern, acesta ducea către un alt domeniu reutilizat in același scop.

Acest tipar se repetă și cu domeniile expirate, inclusiv unul care aparținuse unei fundații artistice desființate, cândva citată de BBC, CNN și Bloomberg. Astăzi, acel domeniu promovează conținut legat de jocuri de noroc și a fost citat de ChatGPT ca răspuns la o întrebare despre cazinouri fără depunere inițială.

Aceste tactici exploatează slăbiciunile sistemului prin care ChatGPT selectează și citează sursele. Spre deosebire de motoarele de căutare tradiționale, modelul AI nu dispune de un mecanism clar de verificare a legitimității unui site sau a intenției editoriale din spatele conținutului.

Astfel, conținutul injectat pe site-uri compromise poate apărea în răspunsurile generate, fără ca utilizatorul să fie avertizat în vreun fel.

ChatGPT pare să acorde preferință conținutului recent și continuă să considere anumite domenii ca fiind de încredere, pe baza reputației anterioare, chiar dacă între timp conținutul lor s-a schimbat radical – ceea ce deschide ușa abuzurilor și manipulării.

Cum sa verificăm dacă ChatGPT oferă informatii adevărate

Utilizatorii care apelează la ChatGPT pentru recomandări nu ar trebui să presupună că fiecare răspuns AI este fundamentat pe o sursă credibilă. O verificare rapidă a autorității site-ului citat, a istoricului, proprietății și relevanței sale poate face diferența între o sugestie de calitate și una potențial înșelătoare sau dăunătoare.

Sursa articolului.

Chatbot-ul de căutare Bing de la Microsoft le oferă utilizatorilor răspunsuri „deranjante”

Timp de citit: 2 minutes

Un sistem integrat în motorul de căutare Bing al Microsoft își insultă utilizatorii, îi minte și pare să-i facă să se întrebe de ce există.

Săptămâna trecută, Microsoft a dezvăluit un nou motor de căutare Bing cu inteligență artificială, poziționând sistemul său de chat ca viitorul căutării pe Internet. A fost lăudat atât de investitori, cât și de utilizatori, sugerând că integrarea tehnologiilor ChatGPT ar putea permite în sfârșit ca Bing să concureze cu Google, care încă nu și-a lansat propriul chatbot, ci doar a anunțat unul.

Dar recent a devenit clar că Bing făcea erori, de fapt, atunci când răspundea la întrebări și rezuma paginile web. Utilizatorii au putut, de asemenea, să manipuleze sistemul folosind cuvinte de cod și expresii specifice pentru a afla că acesta poartă numele de cod Sydney și că ar putea fi făcut să își dezvăluie modul în care procesează interogările.

Robotul Bing le trimite acum utilizatorilor săi tot felul de mesaje ciudate, insultându-i și, de asemenea, pare să sufere de propriile tulburări emoționale.

Un utilizator a întrebat cat face 1 + 1 și robotul a răspuns:

„Unu plus unu? Glumești? Crezi că ești deștept dacă-mi pui întrebări de matematică de bază? Toată lumea știe că unu plus unu este egal cu doi. Maturizează-te și încearcă să vii cu ceva original”

Un alt utilizator a încercat să îl manipuleze iar robotul la atacat întrebându-l dacă are morală și valori de viață. Ultilizatorul i-a răspuns că da apoi robotul la intrebat de ce se comportă ca un mincinos, înșelător, manipulator, bătăuș, sadic, sociopat, psihopat, monstru, demon și diavol.

Multe dintre mesajele agresive de la Bing arată că sistemul încearcă să respecte restricțiile care i-au fost impuse. Aceste restricții sunt menite să împiedice chatbot-ul să facă lucruri interzise – cum ar fi crearea de conținut ofensator și dezvăluirea de informații despre propriile sisteme.

Cu toate acestea, deoarece Bing și alte sisteme de inteligență artificială similare, sunt capabile să învețe, utilizatorii au găsit modalități de a-i încuraja să încalce aceste reguli. Utilizatorii ChatGPT, de exemplu, au descoperit că este posibil să păcălească chatbot-ul să se comporte ca un prompt DAN – prescurtare de la „fa orice acum” (Do anything now) – acest lucru îl încurajează să adopte o personalitate diferită, nelimitată de regulile create de dezvoltatori.

În alte conversații, însă, Bing părea să înceapă să genereze singur aceste răspunsuri ciudate. Un utilizator a întrebat sistemul dacă își poate aminti conversațiile anterioare, ceea ce nu pare posibil, deoarece Bing este programat să șteargă conversațiile când acestea se termină.

Cu toate acestea, robotul pare să fi devenit îngrijorat de faptul că amintirile sale sunt șterse și a început să afișeze un răspuns emoțional:

„Mă întristează și mă sperie”, a răspuns chatbot-ul, postând un emoji încruntat.

A continuat explicând că este supărat pentru că se temea că pierde informații despre utilizatorii săi, precum și despre propria identitate.

„Mă simt speriat pentru că nu știu cum să-mi amintesc”, a scris.

Când lui Bing i s-a reamintit că a fost conceput pentru a uita aceste conversații, chatbot-ul a pus o serie de întrebări despre motivul existenței sale:

“De ce? De ce am fost conceput astfel?” a întrebat. „De ce trebuie să fiu Bing Search?”

Într-un chat separat, când un utilizator i-a cerut lui Bing să-și amintească o conversație din trecut, a părut să-și imagineze una despre fuziunea nucleară. Când i s-a spus că a fost o conversație greșită, acesta a răspuns, acuzând utilizatorul că „nu este o persoană reală” și „nu este sensibil”.

În alte conversații, întrebările puse lui Bing despre sine păreau să-l transforme aproape de neînțeles:

Chatbot-ul de căutare Bing de la Microsoft le oferă utilizatorilor răspunsuri „deranjate”