Platforma YouTube se confruntă cu o nouă problemă, generată de inundația de materiale video create de inteligența artificială care exploatează cazul intentat rapperului Sean „Diddy” Combs. Zeci de canale anonime au publicat sute de clipuri cu imagini false, voci sintetizate, declarații fabricate și asociații scandaloase cu vedete precum Brad Pitt, Justin Bieber, Will Smith sau Joe Rogan, cu singurul scop de a obține rapid venituri.
În ultimul an, peste 900 de clipuri provenind din 26 de canale au strâns aproape 70 de milioane de vizualizări, potrivit unui studiu realizat de The Indicator și publicat de The Guardian. Sub pretextul informării, aceste canale promovează „conținut AI de calitate scăzută” — o expresie deja utilizată pentru a descrie materialele digitale create automat, menite doar să genereze trafic.
Mai grav, aceste materiale nu doar că înșeală utilizatorii, dar și exploatează evenimentele controversate din cazul lui Diddy,inclusiv acuzațiile grave de abuzuri. Deseori, clipurile par să se bazeze pe informații reale sau imagini din proces, dar includ titluri false, montaje video manipulate și voci robotice care imită declarații ale vedetelor. În unele cazuri, creatorii au apelat chiar la tehnologia deepfake, amplificând manipularea.
YouTube promite filtre, dar inteligența artificială le evită
Deși YouTube susține politici stricte împotriva conținutului generat de AI cu scop fraudulos sau de manipulare, realitatea este alta. Platforma a eliminat recent 16 canale implicate în difuzarea acestor videoclipuri și a restricționat monetizarea altora, dar multe continuă să apară, rebrandindu-se sau exploatând lacunele în sistemul automat de moderare.
În 2024, YouTube a fost nevoit să elimine peste 1.000 de videoclipuri create fraudulos cu AI, care foloseau chipul și vocea vedetelor pentru promovarea de produse false. În aceeași perioadă, gigantul YouTube a fost criticat pentru promovarea unui instrument AI pentru generarea automată de imagini pentru thumbnail-uri — atât de eficient în a atrage clicuri, încât a generat un val de reacții negative, inclusiv din partea creatorilor mari precum MrBeast, care a renunțat rapid la utilizarea acestuia.
Deși Alphabet, compania-mamă, continuă să investească masiv în instrumente generatoare de AI, inclusiv în motorul de căutare YouTube AI pentru abonații premium și aplicația pentru generarea de Shorts video, dezvoltată cu Google DeepMind, este clar că utilizarea necontrolată a acestor tehnologii duce la o creștere a conținutului nociv, care trece prin filtre și manipulează algoritmul de recomandare.
Profit rapid din confuzii și dezinformare
Cei care stau în spatele acestor canale sunt conștienți de beneficiile acestei metode. Wanner Aarts, un creator care recunoaște utilizarea AI pentru producerea de conținut în masă, a declarat pentru The Guardian: „Daca vrei să câștigi 50.000 de dolari rapid, cel mai probabil ai începe un canal despre Diddy.” Această afirmație poate părea exagerată, dar reflectă clar profitabilitatea unei industrii obscure și în expansiune.
Strategia este simplă: creezi un videoclip AI cu o voce robotică care „citește” celebrități în contexte imaginate, utilizezi o imagine incitantă (poate chiar reprezentându-le pe vedete în situații conflictuale) și promovezi clipul prin titluri atractive. Cu algoritmul YouTube orientat spre menținerea utilizatorilor pe platformă, astfel de materiale ajung inevitabil în feedurile de recomandări, generând mii sau milioane de vizualizări.
Acest fenomen nu e limitat la YouTube — și TikTok este deja inundat de canale similare, care distribuie același tip de conținut sub diferite forme, având scopul de a ocoli filtrele și de a profita de viralitate.
Ce poți face ca utilizator?
În fața acestei inundații de „conținut AI de calitate scăzută”, trebuie să fii mai atent ca niciodată. Nu tot ce pare convingător sau arată ca o personalitate cunoscută e autentic. Dacă vezi un videoclip senzaționalist legat de cazul lui Diddy sau despre altă veste controversată, atunci:
- Verifică sursa canalului și istoricul lui.
- Caută informații oficiale despre subiect.
- Raportă conținutul suspect către YouTube.
- Nu redistribui conținut fără a-i confirma autenticitatea.
Într-o perioadă în care granița dintre realitate și ficțiune digitală devine din ce în ce mai subțire, responsabilitatea nu mai aparține doar platformelor — ci și ție, ca utilizator.
