Cât de bine cunoaștem inteligența artificială, pe care o dezvoltăm frenetic în fiecare zi? Dacă ai presupus că experții din domeniu au totul sub control, pregătește-te pentru o surpriză: chiar creatorii unor modele avansate de IA recunosc că nu înțeleg pe deplin cum funcționează aceste sisteme. Dario Amodei, CEO-ul companiei Anthropic și fost membru important al echipei OpenAI, a publicat un eseu în care afirmă ceea ce mulți bănuiau – că înțelegerea noastră actuală despre IA este superficială și incompletă.
Această afirmație este preocupantă, ne obligând să reflectăm asupra viitorului umanității. Când nici inginerii nu pot explica precis cum un sistem IA alege anumite cuvinte sau comite erori aparent aleatorii, ne confruntăm cu o tehnologie pe care nu o înțelegem pe deplin.
Amodei subliniază că, atunci când un sistem IA generează un text sau rezumă un document financiar, lipsesc explicații clare pentru deciziile sale. De ce alege un cuvânt în loc de altul? De ce greșește, chiar dacă de obicei este corect? Aceste întrebări rămân fără răspuns pentru că, conform lui Amodei, „nu înțelegem profund mecanismele interne ale acestor modele”.
Această lipsă de transparență nu este doar o problemă academică, ci reprezintă un fenomen fără precedent în istoria tehnologiei. Majoritatea inovațiilor tehnice, de la mașinile cu aburi la circuitele electronice, au fost fundamentate pe o înțelegere profundă a principiilor care le guvernează. În schimb, IA se bazează pe statistici și modele antrenate pe cantități uriașe de date. Nu operează logic sau conștient, ci imită, fără a înțelege, creativitatea umană.
Ce urmărește Anthropic: o metodă de investigație a „creierului” IA
Pentru a înțelege mecanismele interne ale IA, Anthropic își propune să dezvolte în următorul deceniu un sistem similar cu un RMN pentru creierul uman, capabil să investigheze funcționarea acestor modele.
Amodei explică că firma sa a început deja experimentări în acest sens. Într-un test recent, au introdus un „defect” în modelul IA și au solicitat mai multor echipe să îl identifice. Unele au reușit, utilizând instrumente de analiză a funcționării acestor modele, ceea ce sugerează că există posibilitatea de a înțelege sistemele actuale.
Acest proces de analiză a IA nu este ușor, iar instrumentele actuale sunt departe de a fi scalabile. Dar faptul că Anthropic se concentrează pe înțelegere, nu doar pe performanță, reprezintă o abordare diferită față de alte companii importante din industrie, precum OpenAI sau Google DeepMind.
De ce interpretabilitatea este crucială înainte de a fi prea târziu
Impactul IA nu este doar tehnologic, ci și civilizațional. Amodei avertizează că IA va modela destinul umanității și este esențial să înțelegem aceste sisteme înainte ca ele să modifice radical economia, viața noastră cotidiană și viitorul speciei umane.
Motivul părăsirii OpenAI din 2020, de către Amodei și alți colegi, a fost tocmai îngrijorarea față de priorizările care puneau profitul înaintea siguranței. Prin Anthropic, se încearcă găsirea unui echilibru: dezvoltarea IA, dar și controlul său.
„Oamenii au motive întemeiate de îngrijorare”, afirmă Amodei, deoarece ne confruntăm cu o tehnologie capabilă de decizii și acțiuni care depășesc înțelegerea noastră. Dacă nu vom înțelege cum funcționează, IA ar putea să ia decizii în locul nostru, fără ca noi să cunoaștem motivele și mecanismele implicate.
Această analiză a unui lider de top în domeniul IA ar trebui să ne determine la reflecție. Trăim o epocă în care tehnologia progresează mai repede decât capacitatea noastră de a o înțelege. Așadar, următoarea provocare nu va fi viteza sau eficiența, ci transparența și cunoașterea adevărată, pentru că viitorul trebuie nu doar creat, ci și înțeles.
