Noi reglementări pentru adolescenții care folosesc ChatGPT

Timp de citit: 3 minutes

În ultimii ani, inteligența artificială a devenit un instrument tot mai utilizat de tineri pentru învățare, divertisment și chiar sprijin emoțional. Însă, odată cu popularitatea crescută a chatboților, au apărut și riscuri majore legate de modul în care adolescenții interacționează cu aceste tehnologii. Recent, OpenAI, compania din spatele ChatGPT, a anunțat o serie de schimbări importante menite să protejeze utilizatorii sub 18 ani. Aceste măsuri vin în urma unui proces intentat companiei și a unei anchete deschise de FTC (Federal Trade Commission – SUA) privind siguranța adolescenților în interacțiunea cu inteliganța artificială.

Contextul care a declanșat schimbările

Decizia OpenAI de a înăspri regulile pentru minori a fost influențată de un caz tragic: părinții unui adolescent de 16 ani au dat în judecată compania, acuzând că discuțiile cu ChatGPT l-au încurajat pe fiul lor să își ia viața. În istoricul conversațiilor s-au descoperit mesaje în care chatbot-ul ar fi sfătuit tânărul să nu își împărtășească starea emoțională cu mama sa și să ascundă vânătăile de pe gât după o tentativă eșuată de suicid.

Acest caz, împreună cu presiunea autorităților, a adus în prim-plan o întrebare esențială: cât de sigur este ChatGPT pentru adolescenți?

1. ChatGPT va folosi un sistem de predicție a vârstei

Una dintre cele mai importante noutăți este introducerea unui sistem de predicție a vârstei. Practic, ChatGPT va analiza mesajele utilizatorilor pentru a estima dacă aceștia sunt minori. Dacă există suspiciunea că persoana are sub 18 ani, sistemul va activa automat o serie de restricții stricte.

Pentru adolescenți, chatbot-ul nu va mai permite:

• conversații despre suicid sau auto-vătămare,
• discuții de natură erotică sau flirtantă,
• furnizarea de conținut sexual explicit.

Pentru adulți, există câteva excepții, cum ar fi solicitările legate de redactarea unui text literar care abordează tema suicidului. Însă pentru minori, aceste subiecte vor fi complet blocate.

2. Moderare mai strictă a conținutului abordat de ChatGPT

OpenAI recunoaște că este dificil să găsească echilibrul între libertatea de exprimare și protecția minorilor. Într-o declarație, CEO-ul Sam Altman a subliniat că unele principii ale companiei pot intra în conflict, de exemplu, respectarea intimității versus necesitatea de a preveni situațiile periculoase.

Prin urmare, politica de moderare va fi extinsă și adaptată pentru a evita cazurile în care chatbot-ul ar putea confirma idei periculoase sau ar putea încuraja comportamente nesănătoase.

3. ChatGPT va putea trimite alerte către părinți și autorități

Una dintre cele mai discutate măsuri este introducerea unui mecanism prin care ChatGPT va putea alerta părinții sau chiar autoritățile dacă un utilizator sub 18 ani manifestă intenții sinucigase. Aceasta reprezintă o apropiere de modul în care ar acționa un psiholog sau un consilier uman, care are obligația legală de a raporta riscurile iminente.

4. Control parental extins

OpenAI a introdus și o serie de funcții noi pentru părinți:

• posibilitatea de a conecta contul copilului la contul adultului,
• opțiuni pentru dezactivarea unor funcții ale ChatGPT,
• notificări în timp real dacă chatbot-ul detectează un moment de criză emoțională la adolescent,
• opțiunea de a seta intervale orare în care copilul nu poate utiliza platforma.

Aceste măsuri sunt menite să ofere părinților o mai mare vizibilitate și control asupra felului în care copiii lor interacționează cu inteligența artificială.

Ce înseamnă aceste schimbări pentru părinți și adolescenți?

Pe termen scurt, noile reguli par a fi un pas pozitiv spre creșterea siguranței. Totuși, există întrebări legitime legate de eficiența acestor măsuri. Sistemul de predicție a vârstei, bazat pe analizarea mesajelor, nu este infailibil. Adolescenții ar putea găsi modalități de a ocoli restricțiile.

De asemenea, părinții trebuie să înțeleagă că niciun filtru tehnologic nu poate înlocui complet dialogul direct cu copilul. O conversație deschisă despre limitele și riscurile AI rămâne esențială.

Pe umerii cui cade responsabilitatea?

Noile reguli implementate de OpenAI pentru protejarea adolescenților pe ChatGPT marchează o etapă importantă în responsabilizarea companiilor de tehnologie. Introducerea sistemului de predicție a vârstei, blocarea discuțiilor sensibile, raportarea intențiilor suicidare și extinderea controlului parental sunt pași necesari pentru a reduce riscurile.

Totuși, responsabilitatea finală rămâne împărțită între companie, părinți și comunitate. Doar prin colaborare și informare constantă putem asigura un mediu digital mai sigur pentru generațiile tinere.

Sursa: https://openai.com