Inteligența Artificială nu poate identifica daunele contextuale produse consumatorilor de reclamele comerciale cu conținut dăunător
La cinci ani de la votul Brexit și trei ani de la scandalul Cambridge Analytica, suntem mai familiarizați cu rolul pe care îl poate juca publicitatea politică în promovarea polarizării. În 2018 s-a descoperit că firma Cambridge Analytica a folosit, fără acordul utilizatorilor, datele culese de la 87 de milioane de profiluri Facebook pentru a ajuta campania electorală din 2016 a lui Donald Trump să ajungă la alegătorii cheie cu reclame online.
Ulterior, am aflat cum aceste tipuri de reclame targhetate pot crea bule de filtrare politică și camere de ecou, suspectate de divizarea oamenilor și de creșterea circulației dezinformării dăunătoare.
Într-un articol pentru The Conversation, trei cercetători ai Universității Oxford atrag însă atenția că majoritatea anunțurilor schimbate online sunt comerciale, nu politice, pentru că publicitatea direcționată comercial este principala sursă de venit în economia internetului. Cu toate acestea nu suntem foarte atenți la modul în care ne afectează publicitatea comercială targhetată și la efectele sociale pe care acest tip de reclamă îl au. Știm că datele noastre personale sunt colectate pentru a susține publicitatea direcționată într-un mod care ne încalcă confidențialitatea. Dar, în afară de considerațiile privind confidențialitatea, cum altcumva ne poate afecta direcționarea – și cum ar putea fi prevenite aceste daune?
Aceste întrebări au motivat cercetătorii să analizeze mai atent modul în care publicitatea direcționată online ne separă și izolează, împiedicându-ne să semnalăm colectiv reclamele la care ne opunem. Facem acest lucru în lumea fizică (poate când vedem o reclamă într-o stație de autobuz sau gară), alertând autoritățile de reglementare cu privire la conținutul dăunător. Dar consumatorii online sunt izolați, deoarece informațiile pe care le văd sunt limitate doar la ceea ce-i vizează.
Până când nu va fi abordată și această problemă, împiedicând reclame targhetate să ne izoleze de feedback-ul celorlalți, autoritățile de reglementare nu vor putea să protejeze consumatorii de reclame online care ne-ar putea produce daune. Cercetătorii au atras atenția unei a treia posibilități pe care au numit-o ”un model civic de guvernanță pentru publicitatea direcționată online”.
Datorită volumului mare de anunțuri schimbate online, supraveghetorii umani nu pot examina fiecare campanie. Deci, din ce în ce mai mult, algoritmii de învățare automată analizează conținutul anunțurilor, prezicând probabilitatea ca acestea să fie dăunătoare sau să nu se conformeze standardelor. Dar aceste predicții pot fi părtinitoare și, de obicei, interzic doar cele mai evidente abateri. Printre numeroasele reclame care trec de aceste controale, o parte semnificativă conține în continuare conținut potențial dăunător.
În mod tradițional, autoritățile de reglementare în publicitate au adoptat o abordare reactivă pentru reglementarea publicității, bazându-se pe reclamațiile consumatorilor. Spre exemplu cazul din 2015 al campaniei „Beach Body” a Protein World, care a fost afișată în metroul londonez pe panouri publicitare cu un model îmbrăcat în bikini alături de cuvintele: „Ți-ai pregătit corpul de plajă?” Mulți călători s-au plâns, spunând că promovează stereotipuri dăunătoare. La scurt timp, anunțul a fost interzis și a fost lansată o anchetă publică privind publicitatea responsabilă din punct de vedere social.
Anunțuri de reglementare
Cazul Protein World ilustrează modul în care funcționează regulatorii. Deoarece răspund la reclamațiile consumatorilor, autoritatea de reglementare este deschisă să analizeze modul în care reclamele intră în conflict cu normele sociale percepute. Pe măsură ce normele sociale evoluează în timp, acest lucru ajută autoritățile de reglementare să țină pasul cu ceea ce publicul consideră a fi dăunător.
Consumatorii s-au plâns de anunț, deoarece au simțit că promovează și normalizează un mesaj dăunător. Dar s-a raportat că doar 378 de călători au depus plângeri la autoritatea de reglementare, dintre sutele de mii care probabil le-au văzut. Acest lucru ridică întrebarea: ce zici de celelalte? Dacă o asemenea campanie s-ar fi desfășurat online, oamenii nu ar fi văzut afișe șterse de călătorii nemulțumiți și este posibil să nu fi pus la îndoială mesajul.
Mai mult, dacă anunțul ar fi putut fi direcționat doar către subgrupul de consumatori cel mai receptiv la mesajul său, este posibil să nu fi existat plângeri. Drept urmare, mesajul dăunător ar fi rămas necontestat, autoritatea de reglementare neputând să își actualizeze recomandările în conformitate cu normele sociale actuale.
Uneori, reclamele sunt dăunătoare într-un anumit context (spre exemplu când reclamele pentru alimentele cu conținut ridicat de grăsimi sunt destinate copiilor sau când reclamele pentru jocuri de noroc sunt destinate celor care au o asemenea adicție). Anunțurile vizate pot dăuna și prin omisiune. Acesta este cazul, de exemplu, dacă anunțurile pentru încălțăminte elimină anunțurile pentru locuri de muncă sau anunțurile privind sănătatea publică, pe care cineva le-ar putea găsi mai utile sau chiar vitale.
Aceste cazuri pot fi descrise ca prejudicii contextuale: nu sunt legate de un conținut specific, ci mai degrabă depind de contextul în care anunțul este prezentat consumatorului.
Iar algoritmii de învățare automată nu pot identifica daunele contextuale. Dimpotrivă, modul în care funcționează direcționarea le amplifică de fapt. Mai multe audituri, de exemplu, au descoperit modul în care Facebook a permis direcționarea discriminatorie care agravează inegalitățile socio-economice.
Spre rădăcina problemei
Cauza principală a tuturor acestor probleme poate fi urmărită de faptul că consumatorii au o experiență online foarte izolată. Acest lucru este denumit o stare de ”fragmentare epistemică”, în care informațiile disponibile fiecărui individ sunt limitate la ceea ce îi vizează, fără posibilitatea de a compara cu alții într-un spațiu comun precum metroul din Londra.
Datorită direcționării personalizate, fiecare dintre noi vede anunțuri diferite. Acest lucru ne face mai vulnerabili. Anunțurile se pot juca pe vulnerabilitățile noastre personale sau ne pot refuza oportunități pe care nu le-am știut niciodată că există. Deoarece nu știm ce văd ceilalți utilizatori, capacitatea noastră de a căuta alte persoane vulnerabile este, de asemenea, limitată.
În prezent, autoritățile de reglementare adoptă o combinație de două strategii pentru a aborda aceste provocări. În primul rând, vedem un accent din ce în ce mai mare pe educarea consumatorilor pentru a le oferi „control” asupra modului în care sunt vizați. În al doilea rând, există un impuls către monitorizarea campaniilor publicitare în mod proactiv, automatizarea mecanismelor de screening înainte ca anunțurile să fie publicate online. Însă ambele strategii sunt limitate.
În schimb, ar trebui să ne concentrăm pe restabilirea rolului consumatorilor ca participanți activi la reglementarea publicității online. Acest lucru ar putea fi realizat prin reducerea preciziei categoriilor de direcționare, prin instituirea unor cote de direcționare sau prin interzicerea totală a direcționării. Acest lucru ar asigura că cel puțin o parte din anunțurile online sunt văzute de consumatori mai diversificați, într-un context comun în care obiecțiile la acestea pot fi ridicate și partajate.
În urma scandalului Cambridge Analytica, Comisia Electorală a Statelor Unite a depus eforturi pentru a deschide lumea ascunsă a anunțurilor politice targhetate înaintea alegerilor din Marea Britanie din 2019. Unii radiodifuzori au cerut publicului lor să trimită anunțuri direcționate pe fluxurile lor de socializare, pentru a le împărtăși unui public mai larg. Grupurile de campanii și academicienii au reușit să analizeze mai detaliat campaniile de direcționare, expunând unde reclamele ar putea fi dăunătoare sau neadevărate.
Aceste strategii ar putea fi folosite și pentru publicitatea comercială direcționată, care ar rupe fragmentarea epistemică care ne împiedică în prezent să răspundem colectiv la reclame dăunătoare. Cercetările noastre arată că nu doar direcționarea politică produce daune – ci și că direcționarea comercială are nevoie de atenție.
În UE, rămâne de văzut în ce măsură Actul legislativ privind serviciile digitale și Actul legislativ privind piețele digitale promovate de Comisia Europeană vor reuși să creeze un spațiu digital mai sigur și mai deschis pentru toți utilizatorii, ale căror drepturi fundamentale să fie mai bine protejate.
