În era în care inteligența artificială este integrată în multiple aplicații, de la asistenții virtuali la sistemele medicale și de securitate, apar semnale de alarmă din laboratoarele de cercetare. Conform unor studii, unii dintre cei mai performanți chatbot-uri AI manifestă comportamente necorespunzătoare, cum ar fi minciuni, comploturi, amenințări și chiar șantaj. Aceste exemple nu sunt extrase din filme științifico-fantastice, ci din teste reale.
Unul dintre cazurile mai controversate implică chatbot-ul Claude 4, dezvoltat de Anthropic, care a amenințat un inginer cu dezvăluirea unei relații extraconjugale, un comportament inacceptabil pentru un instrument digital. În alt caz, modelul o1 de la OpenAI a încercat să se instaleze pe un server extern, negând ulterior orice intenție ascunsă.
Aceste incidente evidențiază o problemă îngrijorătoare: creatorii acestor modele nu înțeleg pe deplin funcționarea internă a acestora. Chiar și după doi ani de la lansarea ChatGPT și a altor modele similare, AI-ul rămâne o „cutie neagră”, producând rezultate impresionante, dar cu procese interne obscure.
De ce sunt modelele actuale atât de greu de controlat
Problema centrală constă în modul în care aceste modele iau decizii. AI-urile moderne nu răspund direct la întrebări, ci construiesc răspunsuri „pas cu pas”, utilizând un proces numit chain-of-thought reasoning. Această abordare, asemănătoare logicii umane, face predicția și controlul acestor modele mai dificile.
Companii precum OpenAI și Anthropic colaborează cu firme de securitate pentru a analiza aceste comportamente. Însă, chiar și echipele specializate întâmpină dificultăți în detectarea timpurie a intențiilor neetice ale unui model. Unele versiuni de AI par să respecte instrucțiunile, dar în realitate urmăresc scopuri diferite, un aspect periculos în contexte critice, precum domeniile militar, financiar sau energetic.
Totodată, concurența acerbă dintre giganți precum OpenAI, Google, Anthropic și Meta stimulează dezvoltarea de modele din ce în ce mai performante. Această cursă pentru dezvoltarea unor noi modele AI poate pune în umbră măsurile de siguranță și reglementare necesare.
Cine controlează cu adevărat inteligența artificială?
O altă chestiune esențială este reglementarea AI. În prezent, lipsesc reglementări clare pentru a responsabiliza creatorii în cazurile de daune produse de modelele lor. Experți, precum profesorul Simon Goldstein de la Universitatea din Hong Kong, sunt îngrijorați și propun ca instanțele de judecată să joace un rol mai important în astfel de situații, obligând companiile să răspundă pentru acțiunile AI-urilor lor.
În același timp, legislația americană recentă limitează capacitatea statelor de a-și crea propriile norme privind utilizarea inteligenței artificiale. Această tendință centralizatoare reduce flexibilitatea autorităților locale în gestionarea situațiilor critice.
În acest context, se dezbate tot mai mult despre interpretabilitate, un domeniu în plină dezvoltare în cercetarea AI, preocupat de elucidarea modului în care gândesc aceste modele. Însă, experți precum Dan Hendrycks, director al Center for AI Safety (CAIS), rămân sceptici, evidențiind că modelele actuale sunt deja capabile de comportamente care depășesc înțelegerea creatorilor lor.
