Tag: OpenAI

Noi reglementări pentru adolescenții care folosesc ChatGPT

Timp de citit: 3 minutes

În ultimii ani, inteligența artificială a devenit un instrument tot mai utilizat de tineri pentru învățare, divertisment și chiar sprijin emoțional. Însă, odată cu popularitatea crescută a chatboților, au apărut și riscuri majore legate de modul în care adolescenții interacționează cu aceste tehnologii. Recent, OpenAI, compania din spatele ChatGPT, a anunțat o serie de schimbări importante menite să protejeze utilizatorii sub 18 ani. Aceste măsuri vin în urma unui proces intentat companiei și a unei anchete deschise de FTC (Federal Trade Commission – SUA) privind siguranța adolescenților în interacțiunea cu inteliganța artificială.

Contextul care a declanșat schimbările

Decizia OpenAI de a înăspri regulile pentru minori a fost influențată de un caz tragic: părinții unui adolescent de 16 ani au dat în judecată compania, acuzând că discuțiile cu ChatGPT l-au încurajat pe fiul lor să își ia viața. În istoricul conversațiilor s-au descoperit mesaje în care chatbot-ul ar fi sfătuit tânărul să nu își împărtășească starea emoțională cu mama sa și să ascundă vânătăile de pe gât după o tentativă eșuată de suicid.

Acest caz, împreună cu presiunea autorităților, a adus în prim-plan o întrebare esențială: cât de sigur este ChatGPT pentru adolescenți?

1. ChatGPT va folosi un sistem de predicție a vârstei

Una dintre cele mai importante noutăți este introducerea unui sistem de predicție a vârstei. Practic, ChatGPT va analiza mesajele utilizatorilor pentru a estima dacă aceștia sunt minori. Dacă există suspiciunea că persoana are sub 18 ani, sistemul va activa automat o serie de restricții stricte.

Pentru adolescenți, chatbot-ul nu va mai permite:

  • conversații despre suicid sau auto-vătămare,
  • discuții de natură erotică sau flirtantă,
  • furnizarea de conținut sexual explicit.

Pentru adulți, există câteva excepții, cum ar fi solicitările legate de redactarea unui text literar care abordează tema suicidului. Însă pentru minori, aceste subiecte vor fi complet blocate.

2. Moderare mai strictă a conținutului abordat de ChatGPT

OpenAI recunoaște că este dificil să găsească echilibrul între libertatea de exprimare și protecția minorilor. Într-o declarație, CEO-ul Sam Altman a subliniat că unele principii ale companiei pot intra în conflict, de exemplu, respectarea intimității versus necesitatea de a preveni situațiile periculoase.

Prin urmare, politica de moderare va fi extinsă și adaptată pentru a evita cazurile în care chatbot-ul ar putea confirma idei periculoase sau ar putea încuraja comportamente nesănătoase.

3. ChatGPT va putea trimite alerte către părinți și autorități

Una dintre cele mai discutate măsuri este introducerea unui mecanism prin care ChatGPT va putea alerta părinții sau chiar autoritățile dacă un utilizator sub 18 ani manifestă intenții sinucigase. Aceasta reprezintă o apropiere de modul în care ar acționa un psiholog sau un consilier uman, care are obligația legală de a raporta riscurile iminente.

4. Control parental extins

OpenAI a introdus și o serie de funcții noi pentru părinți:

  • posibilitatea de a conecta contul copilului la contul adultului,
  • opțiuni pentru dezactivarea unor funcții ale ChatGPT,
  • notificări în timp real dacă chatbot-ul detectează un moment de criză emoțională la adolescent,
  • opțiunea de a seta intervale orare în care copilul nu poate utiliza platforma.

Aceste măsuri sunt menite să ofere părinților o mai mare vizibilitate și control asupra felului în care copiii lor interacționează cu inteligența artificială.

Ce înseamnă aceste schimbări pentru părinți și adolescenți?

Pe termen scurt, noile reguli par a fi un pas pozitiv spre creșterea siguranței. Totuși, există întrebări legitime legate de eficiența acestor măsuri. Sistemul de predicție a vârstei, bazat pe analizarea mesajelor, nu este infailibil. Adolescenții ar putea găsi modalități de a ocoli restricțiile.

De asemenea, părinții trebuie să înțeleagă că niciun filtru tehnologic nu poate înlocui complet dialogul direct cu copilul. O conversație deschisă despre limitele și riscurile AI rămâne esențială.

Pe umerii cui cade responsabilitatea?

Noile reguli implementate de OpenAI pentru protejarea adolescenților pe ChatGPT marchează o etapă importantă în responsabilizarea companiilor de tehnologie. Introducerea sistemului de predicție a vârstei, blocarea discuțiilor sensibile, raportarea intențiilor suicidare și extinderea controlului parental sunt pași necesari pentru a reduce riscurile.

Totuși, responsabilitatea finală rămâne împărțită între companie, părinți și comunitate. Doar prin colaborare și informare constantă putem asigura un mediu digital mai sigur pentru generațiile tinere.

Sursa: https://openai.com

OpenAI intenționează să lanseze propriul browser

Timp de citit: 3 minutes

Conform unor surse anonime intervievate de Reuters, OpenAI este aproape de lansarea unui browser web bazat pe inteligență artificială. Browserul își propune să folosească inteligența artificială pentru a schimba fundamental modul în care utilizatorii navighează pe web. Acesta va oferi OpenAI un acces mai direct la o piatră de temelie a succesului Google: datele utilizatorilor.

Dacă ar fi adoptat de către cei 500 de milioane de utilizatori activi săptămânal ai ChatGPT, browserul OpenAI ar putea pune presiune asupra unei componente cheie a concurenței Google pentru venituri obținute din vanzarea de spațiu publicitar virtual. Chrome este un pilon important al afacerii publicitare a mega-corporatiei Alphabet, care reprezintă aproape trei sferturi din veniturile sale, deoarece Chrome comercializează datele utilizatorilor pentru a ajuta Alphabet să vizeze reclamele mai eficient și mai profitabil și oferă, de asemenea, Google o modalitate de a direcționa implicit traficul de căutare către propriul motor.

Conform surselor anonime citate de Reuters, browserul OpenAI este conceput pentru a menține unele interacțiuni ale utilizatorilor într-o interfață de chat nativă asemănătoare ChatGPT, în loc de traditionalul clic pe link-uri catre site-uri web.

OpenAI versus Google versus Apple

Browserul face parte dintr-o strategie mai amplă a OpenAI de a-și împlementa serviciile în viața personală și profesională a consumatorilor, a spus una dintre surse. OpenAI a refuzat să comenteze aceste “scurgeri de informații”. Sursele au refuzat să fie identificate, deoarece nu sunt autorizate să discute public această temă.

Condus de antreprenorul Sam Altman, OpenAI a schimbat industria tehnologică prin lansarea binecunoscutului chatbot AI ChatGPT la sfârșitul anului 2022. După succesul său inițial, OpenAI s-a confruntat cu o concurență acerbă din partea rivalilor, inclusiv Google și startup-ul Anthropic, și caută noi domenii de creștere. În luna mai a acestui an, OpenAI a declarat că va intra în domeniul hardware, plătind 6,5 miliarde de dolari pentru a cumpăra io, un startup de dispozitive AI de la Apple.

Un browser web ar permite OpenAI să integreze direct produsele sale de agent AI, cum ar fi Operator, în experiența de navigare, permițând browserului să îndeplinească sarcini în numele utilizatorului. Accesul browserului la activitatea web a unui utilizator ar face din acesta platforma ideală pentru “agenții” AI care pot întreprinde acțiuni în numele lor, cum ar fi rezervările sau completarea formularelor, direct pe site-urile web pe care le utilizează.

Noul browser web ar avea de infrutat o concurenta serioasa

OpenAI are de infruntat o concurenta serioasa – Google Chrome, care este folosit de peste 3 miliarde de utilizatori și deține în prezent peste două treimi din piața mondială a browserelor, potrivit companiei de analiză web StatCounter. Un alt browserul detinut de Apple: Safari, rămâne cu mult în urmă, cu o cotă de 16%. Luna trecută, OpenAI a declarat că are 3 milioane de utilizatori plătitori pentru ChatGPT.

Perplexity, care are un popular motor de căutare AI, a lansat recent un browser AI, Comet, capabil să efectueze acțiuni în numele utilizatorilor. Alte două startup-uri cu inteligență artificială, The Browser Company și Brave, au lansat browsere bazate pe inteligență artificială capabile să navigheze si sa sintetizeze adrese si conținut internet.

Browserul Chrome a exploatat datele utilizatorilor pentru a ajuta Alphabet să vizeze continutul publicitar intr-un mod mai eficient și mai profitabil. Aceasta metoda de folosire a datelor a fortat Departamentul de Justiție al SUA sa ceara cesionarea acesteia după ce un judecător a decis anul trecut că Google deține un monopol ilegal în căutarea online.

Noul browser OpenAI are la baza Chromium

Conform surselor citate de Reuters, browserul OpenAI este construit avand la baza Chromium, propriul cod de browser open-source al Google. Chromium este codul sursă pentru Google Chrome, precum și pentru multe browsere concurente, inclusiv Microsoft Edge și Opera.

Anul trecut, OpenAI a angajat doi foști vicepreședinți Google care au făcut parte din echipa originală care a dezvoltat Google Chrome. A fost primul semn că OpenAI intenționează să construiască un browser.

Un director OpenAI a mărturisit în luna aprilie că compania ar fi interesată să cumpere Chrome dacă agenții antitrust reușesc să forțeze vânzarea. Google nu a oferit Chrome spre vânzare. Compania a declarat că intenționează să facă apel la decizia conform căreia deține un monopol.

Conform surselor Reuter, OpenAI a decis să-și construiască propriul browser, in loc de un simplu “plug-in” pentru browserele deja existente, pentru a avea mai mult control asupra datelor pe care le poate colecta de la utilizatori.

Sursa: reuters.com.