OpenAI intenționează să permită o gamă mai largă de conținut, inclusiv materiale pentru adulți, pe popularul său chatbot ChatGPT, ca parte a strategiei de a recunoaște utilizatorii adulți ca pe niște indivizi maturi, conform declarației șefului companiei, Sam Altman, citată de BBC News.
Într-o notificare publicată marți pe platforma X, Altman a menționat că versiunile viitoare ale chatbotului vor avea o comportare mai umană – „dar numai dacă utilizatorii doresc acest lucru, nu pentru a crește utilizarea”.
Această inițiativă, care amintește de introducerea recentă de către xAI, deținut de Elon Musk, a două chatboti cu conținut sexual explicit pe platforma Grok, poate contribui la creșterea numărului de abonați lunar ai OpenAI.
De asemenea, este de așteptat ca această decizie să intensifice presiunea asupra legislatorilor pentru implementarea unor restricții mai stricte asupra tehnologiilor AI, semnalează publicația britanică. OpenAI nu a răspuns solicitărilor de informații suplimentare legate de noile funcționalități.
Altman a menționat că OpenAI a adoptat anterior restricții stricte în ChatGPT pentru a aborda problematica sănătății mentale.
Aceste ajustări au fost comunicate inițial într-un articol pe blog în luna august, care ulterior a fost eliminat de pe site-ul companiei.
„Recunoaștem că aceste măsuri au făcut platforma mai puțin atractivă pentru anumite categorii de utilizatori fără probleme de sănătate mintală, însă, având în vedere gravitatea situației, am considerat important să acționăm corect”, a explicat Altman marți.
El a adăugat că ChatGPT ar putea mai curând să relaxeze anumite restricții „după ce am reușit să ameliorăm principalele probleme legate de sănătatea mentală și avem noi instrumente de control”.
„În decembrie, odată cu implementarea anumitor restricții de vârstă și în demersul de a trata utilizatorii adulți ca pe niște indivizi maturi, vom permite și conținut pentru adulți verificat, inclusiv conținut erotic.”, a mai scris Altman în comunicat.
Modificările anunțate vin după ce OpenAI a fost implicată într-un proces juridic la începutul anului, intentat de părinții unui adolescent american care s-a sinucis.
Părinții lui Adam Raine, în vârstă de 16 ani, au intentat primul proces împotriva OpenAI, acuzați de neglijență care a contribuit la decesul tânărului.
Familia a depus în creanțe discuții înregistrate între Adam și ChatGPT, în care acesta din urmă spunea că are idei suicidale.
La acea vreme, OpenAI a declarat că analizează cazul și transmite condoleanțe familiei Raine într-un moment dificil.
Îngrijorări privind siguranța minorilor
Conform legislației privind securitatea online din Marea Britanie, nu este obligatorie verificarea vârstei pentru accesul la conținut erotic scris.
Totuși, pentru imaginile pornografice, inclusiv cele generate de inteligența artificială, este nevoie ca utilizatorii să demonstreze că au peste 18 ani.
În Statele Unite, experții subliniază că decizia OpenAI de a permite conținut pentru adulți evidențiază necesitatea unor norme mai stricte, la nivel federal și de stat.
„Cum se va asigura că minorii nu pot accesa părțile ChatGPT destinate exclusiv adulților și conținând materiale pentru adulți?”, semnalează Jenny Kim, partener în cadrul firma de avocatură Boies Schiller Flexner.
Jenny Kim este implicată într-un proces împotriva Meta, având ca obiect criticile privind impactul algoritmului Instagram asupra sănătății mentale a adolescenților.
„OpenAI, ca și alte mari companii tehnologice din domeniu, utilizează utilizatorii ca subiecți de testare”, afirmă ea.
În aprilie, publicația de specialitate TechCrunch a menționat că OpenAI permitea conturilor de minor să genereze conținut erotic grafic.
Atunci, compania a spus că va implementa măsuri pentru limitarea accesului la astfel de conținut.
Luna aceasta, un sondaj realizat de Centrul pentru Democrație și Tehnologie (CDT) a evidențiat că unul din cinci elevi raportează că a avut, fie personal, fie prin cunoscuți, o „relație romantică” cu inteligența artificială.
Guvernatorul Californiei, Gavin Newsom, a exercitat dreptul de veto asupra unui proiect legislativ, care ar fi restricționat accesul minorilor la chatboti AI, cu excepția cazului în care se garantează absența riscurilor.
El a menționat că este esențial ca adolescenții să învețe interacțiunea sigură cu sistemele AI, exprimându-și opțiunea de veto.
La nivel federal, Comisia Federală pentru Comerț din SUA (FTC) desfășoară o anchetă privind modul în care chatboti AI interacționează cu minori.
Luna trecută, Senatul SUA a propus o lege bipartizană pentru compensarea utilizatorilor în cazul unor experiențe negative cu astfel de sisteme.
Anunțul lui Altman de marți survine în contextul în care specialiștii exprima scepticism asupra creșterii rapide a valorii companiilor din tehnologia AI.
Veniturile OpenAI cresc, însă compania nu a obținut încă profituri sustenabile.
Rob Lalka, profesor la Universitatea Tulane și autor al lucrării „The Venture Alchemists”, explică că principalele companii de AI sunt într-o competiție acerbă pentru ofertă și poziție pe piață.
„Niciuna nu a avut succesul obținut de OpenAI cu ChatGPT”, afirmă Lalka, pentru BBC News.
„Pentru a-și menține dominanța, compania trebuie să continue creșterea exponențială”, completează el.
