Inteligența artificială poate genera și efecte nocive pentru societate. Ura și violența verbală pot constitui doar o primă etapă atunci când oamenii nu verifică ce văd în spațiul virtual. Iar în ultima vreme, acesta este plin de clipuri cu jandarmi sau polițiști în ipostaze nedemne sau cu comportamente care revoltă. Toate realizate cu ajutorul inteligenței artificiale. Din acest motiv, Jandarmeria Română a lansat campania de informare „Eu sunt George. Sunt real. Tu ai verificat înainte să distribui?”
”În ultima perioadă asistăm la o proliferare a clipurilor generate cu AI, menite să distorsioneze realitatea și să modifice percepția publică asupra activității forțelor de ordine. În doar câteva săptămâni au apărut clipuri cu „jandarmi care pun făină”(uniforme inscripționate în alfabet chirilic), procese-verbale false sau povești inventate despre un jandarm alungat din biserică. De aceea lansăm astăzi campania Eu sunt George. Sunt real. Tu ai verificat înainte să distribui?”, transmite Jandarmeria în mesajul campaniei.
Imaginile din videoclip nu sunt reale, dar sunt distribuite în mediul online pentru a crea o anumită imagine asupra Jandarmeriei. Autorii mai pricepuți includ procese verbale falsificate și videoclipuri alarmiste.
Marius Militaru, purtătorul de cuvânt al Jandarmeriei Române, arată că atunci când o persoană consumă constant conținut fals, emoțional se creează o realitate alternativă, iar asta de multe ori poate duce la neîncredere, la reacții de tipul celor din stradă sau la comportamente de respingere a autorității în spațiul public, iar psihologii explică modul în care se construiesc astfel de mesaje prin folosirea unor cuvinte-cheie pentru fixarea în mintea utilizatorielor a unui lucru ireal, având ca efect subminarea simbolică a autorității. Când un mesaj atribuit unei instituții contrazice valorile acelei instituții și creează disfuncție, disconfort și confuzie apare disonanța cognitive.
Dezinformările cu ajutorul inteligenței artificiale sunt folosite și în conflictele armate actuale sau în campanii electorale, cum s-a întâmplat recent în Republica Moldova și în Slovacia.
Mircea Scheau, specialist în securitate informatică: Tehnicile bazate pe inteligența artificială, coroborâte cu capabilități tehnologice și cu finanțări susținute de grupări infracționale sau de actori statali, pot crea imagini cu efecte la un nivel. O parte din public poate deveni victimă, mai ales dacă nu verifică informațiile.
Jandarmeria Română a atras atenția asupra unei imagini care circulă în mediul online și care prezintă un proces-verbal pretins a fi emis de Jandarmerie cu ocazia protestelor desfășurate la data de 24 ianuarie, document care este generat și modificat cu ajutorul inteligenței artificiale și care a generat în scurt timp sute de distribuiri și zeci de reacții.
”În urma verificărilor efectuate, s-a constatat că documentul care circulă în mediul online a fost modificat față de procesul-verbal original, astfel încât informațiile prezentate nu sunt conforme cu realitatea, conținutul fiind unul ilogic și incoherent”, informează Biroul de presă al Jandarmeriei Române.
Pentru comparație, Jandarmeria a transmis procesul-verbal original și ”documentul” generat cu ajutorul inteligenței artificiale, evidențiind punctual erorile și neconcordanțele față de actul authentic, recomandând cetățenilor să verifice sursele din care provin informațiile și să manifeste prudență în distribuirea unor materiale care pot distorsiona adevărul sau induce în eroare opinia publică.
