Fake News – Ce se întâmplă?

Focus (de , January 13, 2018)

Comunicarea a cunoscut de-a lungul veacurilor o constantămutare; la început era bazată pe gesturi simple, apoi s-au creat cuvinte și apoi primele sisteme de scrieri. Dar doar odată cu dezvoltarea tiparului și, apoi, cu alte invenții precum telegraful, telefonul și cu dezvoltarea presei a început diseminarea de informații și cunoaștere pe scară largă, ajungând la punctul de a putea influența în mod profund și rapid dezvoltarea socială a mai multor generații.

În aceste circumstanțe politice, «aproape întotdeauna și peste tot» s-a intervenit pentru a disciplina cu folos mediile de informație, având ca obiectiv de a împiedica abuzurile și în consecință de a proteja cetățenii, companiile publice și private și nu în ultimul rând statul în sine. Un salt cuantic în transformarea proceselor comunicative s-a întâmplat odată cu utilizarea tehnologiilor digitale, în particular cu utilizarea computerelor și a rețelelor dedicate de date; aceste instrumente, care erau la bază utilizate de către forțele militare și de către comunitățile științifice, apoi au devenit accesibile pentru marile organizații și, în ultima fază, pentru toți cetățenii, cu – cireașa de pe tort – regimul de completă mobilitate pe care îl observăm în ultimii ani. De fapt, rețeaua a doborât în mod definitiv orice barieră spațio-temporală, permițând accesul la orice tip de informații și la un număr nelimitat de servicii, printre care amintim dezvoltarea celor dedicate relațiilor sociale; ca exemple, putem cita chat-uri, blog-uri, forumuri și rețele sociale1. Rețeaua a permis așadar, într-un spațiu “liber”, să se meargă peste modele tradiționale de comunicare, permițând persoanelor, pe de o parte, de a fi întotdeauna și oricum informate asupra faptelor, grație unui patrimoniu informativ cu dimensiuni infinite și pus la zi în mod constant; pe de altă parte, aceleași persoane pot împărtăși experiențe, opinii și senzații personale, devenind pentru prima dată adevărați «contribuitori» la informație. Din păcate, în acești ultimi ani, rețeaua, în privința acestei «libertăți» așa de lăudate, a pus în evidență noi probleme, în particular pe cele de credibilitate a informației, care poate fi alterată și/sau manipulată (așa-numitele fake news), până la punctul în care să se genereze dezinformare, în mod independent ca acest fapt să fie accidental (misinformation) sau intențional (disinformation); o dezinformare care poate fi folosită pentru cele mai diferite motive precum, de pildă, de a influența opinia publică, a instiga la ură, a prejudicia imaginea unei firme, a insulta și/sau amenința persoane și multe alte variante… A adopta reguli pentru a avea o informație de calitate în rețea devine așadar, zi după zi, o necesitate și o exigență din ce în ce mai urgentă.

Câteva inițiative pentru a preveni și a contracara fake news-urile

Pentru a ne da seama de dimensiunea fenomenului nu ne trebuie mult; dacă inserăm în orice motor de căutare fraze precum „aberații online”, „cele mai tari fake news online” sau cuvinte cheie similare, găsim pe primele poziții ceea ce s-a întâmplat „în aparență” și cum sunt acestea povestite online1, se spune așadar: «2016 va trece în istorie și ca anul în care am intrat în epoca post-adevărurilor. „Aberațiile” nu sunt un fenomen născut în ultimele 12 luni, dar în acest arc temporal în fiecare zi mai multe website-uri, blog-uri și conturi au început să prolifereze online zi de zi pentru a lucra în crearea de „fake-news”, dar și numai pentru a genera ură sau nefericire». În practică, găsim de toate, de la fantomatici

seismologi care vorbesc în rețea despre comploturi ale instituțiilor care ar avea scopul de a nu plăti daune cetățenilor victime ale ultimelor cutremure care au lovit Italia centrală, până la falsul că Umberto Eco (deja încetase din viață) ar fi încercat, prin declarațiile sale, să influențeze referendumul abrogativ din decembrie 2016; putem menționa și false declarații atribuite politicienilor sau – încă mai absurd, ideea despre originile meningitei și cum această boală a fost răspândită peste tot în lume, sau «de toate pentru toți» despre traseele chimice (chemical trails), microcipuri implantate sub pielea oamenilor pentru a le controla mințile, și nu în ultimul rând, toate falsurile care i-au însoțit fie pe Donald Trump, fie pe HiIlary Clinton de-a lungul campaniilor lor pentru a câștiga președinția Americii.

Exact acest ultim punct a fost reamintit, puțin înainte de vară, de către Hillary Clinton în cursul alocuțiunii sale de la Wellesley College. Fără să facă vreodată referință la adversarul său – care a câștigat alegerile – a livrat câteva informații interesante: «Veți absolvi într-un moment în care vedem un asalt total asupra adevărului și dreptății. Este suficient să vă conectați timp de 10 secunde la rețelele sociale pentru a fi martori direcți ai acestui fenomen «1 și “În următorii ani, vă veți confrunta cu râuri de trolli, fie ei online sau în persoană, nerăbdători să vă spună că nu aveți nimic interesant să spuneți sau că nu puteți contribui cu nimic la societate, și ar putea să ajungă să vă definească drept femeie rău- intenționată (nasty woman)». Problem fake news-urilor trebuie să fie în centrul interesului firmelor, în particular al celor care au un grad sporit de expunere mediatică, fiindcă o simplă declarație poate avea repercusiuni foarte mari asupra reputației lor, cum s-a întâmplat recent cu Starbucks2.

O secundă și întrebarea vine aproape spontan, ce se poate face în fața acestui fenomen? Dacă observăm cum se mișcă câteva State și cum se organizează cei «big» din rețea, pare că marjele de manevră pot trece prin diferite intervenții, unele de natură legislativă, altele de natură tehnologică. În Franța, ca și în Germania, s-au pornit inițiative pentru a verifica credibilitatea informațiilor, cu obiectivul de a le elimina pe cele false; de pildă în Germania abia a intrat în vigoare o lege care va obliga toate rețelele sociale care au mai mult de două milioane de utilizatori de a elimina conținutul care incită la ură (hate speech), publică pagini false și jignitoare, expun amenințări, și așa mai departe. Enforcement-ul legii va fi garantat de peste cincizeci de funcționari ai Ministerului Justiției care vor controla buna aplicare a legii. Această lege, care intră în vigoare în ianuarie 2018, este completată de o gamă de sancțiuni care, după evaluarea și aplicarea de către același minister, pot merge până la 50 milioane de euro. Franța, pentru a-și proteja proprii alegători în cadrul recentei campanii electorale menită să numească noul Președinte al Republicii, a însărcinat o societate de fact-checking pentru a semnala în timp real către Facebook prezența știrilor false. Și în Marea Britanie, după referendumul despre Brexit, Comisia Media a început o investigație pe această tematică. În Italia, în februarie, printr-o inițiativă parlamentară, a fost anunțată, de către Senatoarea Adele Gambaro1-Actul Senatului n°2688 (XVII Legislatura), primul draft de lege împotriva știrilor false; demersul de a transforma draft- ul în lege este acum sarcina secției 1a a comisiilor reunite (cea a Afacerilor Constituționale) și a 2a (Justiție). A fost gândită să se potrivească cu toate direcțiunile prezentate în cadrul rezoluției 2143 (2017) „Media online și ziaristica: provocări și responsabilități“ aprobată în 25 ianuarie 2017 de către Ansamblul Parlamentar al Consiliului Europei. Până și Uniunea Europeană, prin noua comisară pe digital, Dna. Mariya Gabriel, a luat poziție pe acest argument și a început consultări publice pentru a găsi o abordare echilibrată, respectuoasă a libertății de exprimare a fiecărui cetățean. Cei «mari» din rețea sunt la rândul lor în plin efort de a înțelege care sunt exact responsabilitățile lor în a gestiona informațiile, și în particular cele false; în această privință, au și făcut un exercițiu pentru a încerca să înțeleagă natura informației în ceea ce privește credibilitatea sa.

Nu este nici o îndoială că există informații care sunt flagrant false, și a căror origine are ca singur scop de a produce bani. Prin știri senzaționale și link-uri care permit redirijarea către site-uri web care nu au nimic de vizualizat cu conținut prezentat în pagina de pornire, utilizatorul este indus să click-eze diferite publicități, care aduc bani celor care le gestionează (click-baiting). Adesea, publicarea acestui tip de informație este în contrast cu politica principalelor rețele sociale, care au grijă să le elimine; de asemenea este un procedeu care privește toate informațiile care sunt clar în contrast cu legile naționale sau internaționale, cum ar fi sursele de defăimare. Așadar, zona pe care am examinat-o acum este bine definită, și aceleași rețele sociale nu au mari dificultăți să intervină. Există însă o zonă gri în care este dificil de a acționa și în care există riscul de a limita libertatea altcuiva; este suficient să ne gândim la acele informații care, și dacă prezintă o distorsiune a realității, sunt oricum fructul unor opinii personale care, chiar dacă sunt criticabile, sunt expresia unei libertăți de gândire care trebuie să fie oricum și întotdeauna garantată. Din acest punct de vedere este foarte ușor de a genera un zgomot de fond, și pentru a da un exemplu concret este suficient să amintim o confruntare care să se nască din puncte de vedere științifice care, la rândul lor, sunt dezmințite de către alte studii științifice. Aici apare clară dificultatea de a interveni din partea administratorului unei platforme sociale, de fiecare dată se găsește în față cu informații care, și dacă sunt în contrast cu realitatea faptelor, lipsesc elementele obiective care le-ar justifica eliminarea, fiind o ultimă analiză – rezultată în urma unei dezbateri democratice. Substanța ideii pentru Facebook este de a preveni și contracara fake news-urile prin implicarea profesioniștilor în informație și de a dezvolta instrumente adecvate pentru a ușura sarcinile celor care se vor ocupa de controale. Bazat pe aceste două axe, programul propus de către Facebook este articulat în punctele care urmează:

► A implica profesioniști ai informației – marile publicații, presă scrisă, etc. pentru a aduna sfaturi și sugestii despre cum să amelioreze platforma socială și a publică/recolta în mod general informații care să facă din ea un izvor de încredere;

  • A elimina toate informațiile false care, semnalate în timp real de către utilizatori, includ link-uri care trimit la website- uri terțe care nu tratează deloc același subiect față de cel original și prezintă conținut publicitar; o atenție deosebită este acordată noilor instrumente software care, folosind tehnici de Machine Learning, facilitează identificarea informațiilor false, care oricum vor trebui să fie verificate înainte de a fi eliminate. Există de fapt un risc ridicat de a scoate în evidență falsuri pozitive, măcar până când aceste tehnologii nu vor ajunge la o fază de înaltă maturitate;
  • A elimina conturile false semnalate de către utilizatori, cu scopul de a crea relații între persoane reale, bine identificabile, care, în consecință, se vor simți mai responsabilizate când va veni vorba despre ce publică fiecare dintre ei; în acest mod, se reușește o limitare a fenomenelor de tip «hate speech» sau «cyberbullying». Și aici se dezvoltă instrumente care folosesc Machine Learning și se mărește echipa, care după semnalizare va face toate demersurile pentru a verifica și a elimina sau nu conturile examinate;
  • A furniza utilizatorului o serie de informații în plus pe temele care îl interesează, în așa fel încât acesta să poată să își dea seama dacă a dat de o știre falsă sau alterată. La sfârșitul lui 2016 în Franța, Germania, SUA și Olanda, s-au pornit o serie de experimente bazate pe implicare a așa-numitor fact checking organizations. Când un utilizator observă că o știre este falsă, semnalează aceasta rețelei sociale, care la rândul său o transmite la fact checking organization (nu prin forță, o singură organizație) și așteaptă rezultatul analizelor. Dacă se dovedește că este vorba de un fals, știrea nu este eliminată dar este marcată că este potențial “discutabilă”. Din acel moment, fiecare utilizator este conștient că știrea cu pricina a fost contestată și evaluată și, dacă dorește, poate să afle mai multe despre motivele care au motivat rețeaua socială, chiar dacă în mod indirect, să îi dea acel calificativ. Suplimentar, sunt puse la dispoziție articole așa-zis corelate (related articles) prin care utilizatorii au la dispoziție link- uri care retrimit către paginile care tratează despre aceeași tematică și, în consecință, permit aprofundarea propriei cunoașteri despre știrea care ne interesează.
  • A lansa campanii de sensibilizare, implicând de pildă școli, pentru a furniza sfaturi utile pentru a îmbogăți propriul sens critic și astfel pentru a fi mai bine în stare să identificăm știrile false.

În mod general, reiese din considerațiile precedente că există o activitate bogată în jurul acestei tematici și că încă sunt multe de făcut, atât din punct de vedere normativ cât și din punct de vedere tehnologic, cu o utilizare sporită de instrumente de tip machine learning dar, mai presus de toate, cu o conștientizare majoră a utilizatorilor în evaluarea știrilor.

Concluzii

Inteligența artificială (AI) este o știință care dă mașinilor inteligență și învățare automată, mai bine cunoscută sub denumirea de Machine Learning, care este una dintre metodele de a crea AI. În particular, prin tehnici de Machine Learning, se oferă sistemelor capacitatea de a învăța în mod autonom, pas cu pas, să fie în stare să îndeplinească sarcini din ce în ce mai complexe, și, fără să fie necesar, să le programezi.

Algoritmii de învățare, după mai multe cicluri de evoluție, ar trebui de fapt să dezvolte o cunoaștere empirică a problemelor, la modul de a evalua și a recunoaște informații. Machine Learning este folosit în scopuri multiple, în zona securității, de la recunoaștere facială la identificarea imaginilor ilegale, de la recunoașterea spam- urilor, la identificarea fraudelor potențiale și chiar până la sistemele anti-terorism: și evident aici propunem o listă care nu este nici măcar pe aproape exhaustivă asupra posibilelor aplicații ale acestei tehnici. Pentru anumite aplicații specifice, Machine Learning este însă încă imatură, și dacă comunitatea științifică încearcă să remedieze din defectele sale și investițiile sunt în creștere constantă; în această situație ne aflăm și în ceea ce privește fake news și individualizarea lor. Pentru nu puțini, nu este încă clar dacă machine learning va putea să fie reținută ca o soluție potrivită pentru a contracara știrile false. Ceea ce putem spune cu o rezonabilă certitudine, indiferent de gradul de maturitate al tehnicii menționate, este că ne aflăm în fața unei problematici care nu poate să fie înfruntată numai pe cale tehnologică, și care are neapărat nevoie de implicarea persoanelor umane.

Pe de altă parte, este evident pentru oricine că conținutul unui mesaj poate să aibă semnificații multiple care merg mult mai departe decât cele ale unui singur cuvânt. Instrumentele actuale de machine learning redau rezultate interesante când este vorba de a individualiza anumite “pattern-uri”, dar mult mai puțin interesante sunt cele redate când trebuie să se intre în semnificația unei informații, mai ales când este vorba de conținut care tinde către satiră, umor sau exagerare voluntară. A revela în mod automat un fake news poate așadar să devină o sarcină extrem de grea dacă ne gândim la partea semantică a problemei; la fel dacă știm că trebuie să stabilim care este informația de referință pe care trebuie să o luăm ca bază certă pentru a începe o analiză. Este așadar o provocare majoră pentru care, pe de o parte avem conștiința că drumul de parcurs este încă foarte lung dar, pe de altă parte, știm că un efort mare va trebui făcut de către comunitatea științifică și de către companii, inclusiv prin activarea programelor de cercetare științifico-industrială și dezvoltării experimentale. Nu este deloc imposibil, cu voință, dacă ținem cont de toate posibilitățile de finanțare oferite de către programe ad hoc naționale și europene.

Autor: Gianluca Bocci

Material publicat în Cybersecurity Trends, nr. 4/2017

 


Tags: ,

Trackbacks

Leave a Trackback