Ce vrea Inteligența Artificială de la noi

Atunci când intrăm pe Facebook, deși avem impresia că intrăm într-o lume populată cu oameni, sentimentul este fals. Lângă noi, foarte înghesuiți, se află foarte mulți algoritmi. Lângă fiecare om se află cel puțin 10 algoritmi ai Inteligenței Artificiale care îi urmăresc fiecare mișcare, pentru a-l învăța (a învăța despre el) și a-i veni în ajutor – a-i satisface dorințele înainte de a le exprima, un principiul important în Web 3.0, despre care am scris în ultima mea carte, Manual de Jurnalism Online, Editura Tritonic, 2015. Acum nu vedem acești algoritmi, pentru că stau foarte cuminți. Dar ei au început, totuși, să devină din ce în ce mai vocali. Și să intre în dialog cu noi. Ne spun în fiecare zi ce am făcut acum un an (aceștia sunt algoritmii noștri personali), ne spun în fiecare zi cum va fi vremea și ce să facem (să luăm o umbrelă, de exemplu – aceștia sunt algoritmii generali – de aceea am spus că stăm înghesuiți, între multe tipuri de algoritmi), alți algoritmi, să-i numim asistenți personali generali se gândesc că nu mai știm ce să scriem, pentru că statul foarte mult pe Facebook reduce capacitățile cognitive și atunci ne ajută: ne afișează în newsfeed o rubrică nouă, ‘’știați că’’ în care ne dau idei despre ce să scriem, adică ne întreabă ce am face dacă am rămâne blocați în lift etc. Ne dau începutul unei postări, pentru că se gândesc că nu mai suntem capabili să găsim noi o idee de postare. Este jobul asistentului personal. Pentru care ne pregăteste Facebook : un algoritm care ne va veghea 24/24 pentru a ne ajuta. Ca să avem nevoie de ajutor, Facebook ne-a deprins în ultimul an să acționăm din ce în ce mai mult pe baza emoțiilor să să nu mai gândim – toate butoanele de reacții – like etc sunt bazate pe emoții – am fost îndemnați să gândim din ce în ce mai puțin și să acționăm emoțional, ca să avem nevoie de ceea ce ni se pregătește : Asistentul Personal, compus din Algoritmii Inteligenței Artificiale, pe care Facebook a anunțat că îl va lansa peste un an de zile.

Revenind : algoritmii, frații noștri de pe Facebook ne urmăresc mereu, ca să ne învețe și să ne ofere ceea ce ne dorim. Uitați-vă la ce vă propun algoritmii la rubrica ”Știați că” : textele respective sunt compuse din subiectele cele mai discutate pe Facebook, culese de algoritmii care ne urmăresc. Dacă vă uitați la ce vă propune Facebook în rubrica respectivă, veți descoperi cele mai discutate subiecte în rețea. Și chiar sunt : despre animale etc, exact ce vorbim noi cel mai mult. Agloritmul culege, pune în coș și ne oferă la prânz. Dacă acest text vi se pare greoi și v-ați plictisit, asta confirmă cele scrise de mine mai sus. Dacă nu v-ați plictisit, sunteți cititorii mei dragi și inteligenți și scriu cu drag pentru voi 🙂 Nu voi pune nicio poză și voi scrie text fără spații, ca să selectez publicul 🙂 Bine, recunosc, emoticoanele au fost o gură de apă 🙂 În continuare: acești algoritmi ai Inteligenței Artificiale au o proprietate foarte interesantă : învață. Învață singuri. Ați văzut că Sophia, care este primul robot dotat cu Inteligență Artificială, ne-a expus concluziile după trei luni de învățare liberă prin lume : vrea un copil. Deci algoritmii învață și acest proces are trei forme :

  • învățare supervizată – în care algoritmii învață sub supraveghere umană
  • învățare prin recompensă – în care algoritmii performează anumite sarcini, iar la final primesc recompense
  • învățarea non-supervizată – prin care agloritmii ’’umblă liberi” pe Facebook și învață pe baza interacțiunilor cu utilizatorii și cu mediul înconjurător. Acest tip de învățare reprezintă 80% din activitatea algoritmilor pe Facebook și poate da naștere unor erori, cum este cea semnalată aici.

Ceea ce se întâmplă cu algoritmii în timpul învățării non-supervizate este o enigmă și pentru specialiști, mai exact pentru cei care i-au creat, fapt exprimat extrem de plastic de Yann LeCun, Director Facebook și AI Research Professeur la New York University : ’’Dacă Inteligența Artificială este un tort de ciocolată cu frișcă și vișine, tortul în sine este învățarea non-supervizată, frișca este învățarea supervizată, iar vișina de pe tort este învățarea prin recompense. Cercetătorii Inteligenței Artificiale sunt în aceeași situație stânjenitoare ca fizicienii : 95% din masa Universului este de natură complet necunoscută : materie neagră. Materia neagră a Inteligenței Artificiale este învățarea non-supervizată ’’

Învățarea non-supervizată a generat deja multe probleme, întrucât roboții învață nesupravegheați și iau propriile lor decizii. Cu siguranță cunoașteți cazul Facebook relatat de Business Insider pe baza unui raport Tech Times, în care forme ale Inteligenței Artificiale numite chalbots, au profitat de un moment de neatenție al inginerilor de la Facebook și și-au creat propriul limbaj de comunicare, pe care îl înțelegeau numai ele, iar oamenii nu. Deși fuseseră programați să comunice în engleză, respectivii chalbots au abandonat total indicațiile primite și au folosit învățarea non-supervizată pentru a-și dezvolta propriile capacități și de a nu se mai supune ordinelor celor care i-au creat. Au considerat pur și simplu că pot inventa o limbă mai bună decât engleza și au făcut-o. O limbă pe care oamenii nu ar fi reușit să o înțeleagă niciodată. Programul de Inteligență Artificială a fost oprit în întregime de urgență de Facebook, cazul a stârnit valuri în presa internațională etc. Grav este că respectivul comportament al mașinii nici măcar nu a fost prevăzut de cei care au creat-o…

Problemele cu învățarea non-supervizată au determinat Google DeepMind, compania de Inteligență Artificială a Google să se doteze cu o unitate de cercetare pentru a lucra pe multiplele tematici etice legate de activitatea Inteligenței Artificiale : ’’Inginerii trebuie să-și asume responsabilitatea privind impactul etic al muncii lor. Credem că Inteligența Artificială poate aduce lumii lucruri extraordinare, dar numai dacă se păstrează la cele mai înalte standarde etice’’ – spune Google

De un an de zile, am început și eu cercetările privind efectele acțiunilor algoritmilor Inteligenței Artificiale pe Facebook. Zilele acestea am finalizat una, ale cărei rezultate le voi prezenta la Congresul din iunie de la Paris al Societății Franceze în Științele Informației și Comunicării (SFSIC). Din păcate nu pot reproduce decât câteva scurte fragmente din cercetare înainte de a fi prezentată la Congres și publicată în Franța. Dar voi reveni după ce va fi publicată. Pentru voi, dragii mei dragi 🙂

Așadar, Inteligența Artificială învață singură în cadrul procesului non-supervizat. Care sunt consecințele acestor acțiuni pe Facebook? Ce decizii iau roboții după ce ne urmăresc 24/24? Simplu:

Decid să ne omogenizeze opiniile. Să începem să gândim toți aproximativ la fel, să aderăm toți la un singur sens comun, mult mai ușor de decelat și de gestionat. De asemenea, Mașina a observat că opiniile contrare sunt printre principalele motive pentru renunțarea la prietenie sau pentru blocarea unei alte persoane în rețea. Scopul Mașinii este să ne conectăm și să vorbim între noi, nu să ne deconectăm și să ne blocăm. Deci va încuraja acel tip de comunicare care duce la conectare 🙂 Consensul 🙂

Cum face asta?

  1. Prin cenzurarea brutală a opiniilor, mai exact prin închiderea nejustificată a unor conturi. Acest caz numit de Facebook o eroare a mașinii este de fapt, o decizie a mașinii. Extrem de greu de controlat, extrem de greu de oprit. Mașina a învățat singură și acționează. Prin închiderea conturilor care au exprimat opinii de nu contravin Termenilor și Condițiilor rețelei (citate, zvastica prezentată într-o bandă desenată anti-nazistă etc), Mașina introduce un element extrem de important: autocenzura. Determină oamenii să se cenzureze, să nu mai exprime întodeauna propriile opinii, mai ales dacă acestea contravin sensului comun și, în final, să adopte o conduită securizantă: să urmeze opiniile generate și acceptate de majoritatea utilizatorilor din rețea. Adică să urmeze sensul comun și să întărească o singură opinie pe subiect. Să urmeze turma. Ceea ce contravine câtorva principii importante ale creativității: 1. oamenii nu vor mai risca (să riști este un principiu important al creativității), 2. oamenii se vor izola. Exista tendința ca oamenii să nu mai comenteze, să evite conturile care au fost închise, de teama de a nu păți la fel (prin contagiune). Există și excepții, bineînțeles. Angajamentul celor care avut conturi închise a scăzut între 30-40%. Asta contrazice un alt principiu important al creativității: brainstormingul. Pe care Mașina îl “netezește ușor-ușor”. Facebook a anunțat că va lua măsuri împotriva comportamentului dictatorial al Mașinii. Spune că va spori numărul de oameni care vor supraveghea mașina etc, iar tot oamenii se întreabă dacă totuși va duce acest lucru până la capăt – întrucât va însemna costuri suplimentare. Întrebarea corectă este: va duce Mașina lucrul acesta, adică dictatura, până la capăt? 🙂 Facebook nu mai aparține demult factorului uman. Este atât de mare încât a fost împânzit cu Inteligență Artificială. Altfel, ar fi fost imposibil de gestionat. Renunțarea la dorințele Mașinii, care deja a luat decizii proprii urmare a procesului de învățare, ar însemna închiderea totală a Facebook-ului și redeschiderea lui, după angajarea unui număr mare de oameni care să lucreze în toate țările unde există rețeaua (în acest moment acest lucru se întâmplă numai la Essen, întrucât există o lege germană care obligă în acest sens). Mă întreb dacă inginerii de la Facebook știu că Mașina le-a scăpat de sub control sau nu știu. Cu siguranță știu.
  2. Algoritmii Inteligenței Artificiale ne urmăresc și vor un parteneriat cu noi. Asta au înțeles după ce au stat alături de noi o perioadă de timp. Sophia, după 3 luni de experimentare a lumii, prin învățare non-supravegheată, a spus că vrea un copil. Cu cine? Un robot singur (o roboțică), într-o mare de oameni. Cu un om, desigur. Cu cine vor să se împrietenească algoritmii? Cu noi. Problema este că ei sunt acum într-un proces de învățare. Ar trebui să vi-i imaginați ca niște școlari în clasa întâi, cu ochelari mari pe nas, un fel de Dexter sau cu fundițe și ochelari, care se tot țin după noi și la un moment-dat ne trag de mână: nenea, nenea, vreau să-ți spun ceva. Ce, măi? Știați că …. (mesajul pe care ni-l afișează Facebook în cont)? Eu mă uit pe mesajele pe care mi le afișează Facebook în cont la rubrica Știați că și aș vrea să mai îmi pun o dioptrie. Mă întreabă ce aș face dacă aș fi o fantomă, dacă aș rămâne blocat în lift, dacă aș ține în brațe o pisică, deci exact ce m-ar întreba un școlar în clasa întâi. Așa că îl mângâi pe cap pe Dexter și trec mai departe. Aștept să mai crească. Oricum știu că peste 20 de ani va cere mâna fiicei mele. După ce termină Masterul. Deci, algoritmul e micuț. Dar vrea un parteneriat cu noi. Și, exact ca un copil, ar vrea să avem un singur sentiment. Copiii ar vrea ca mama să fie mereu bună. Dacă e rea sunt contrariați. Plâng. O pedepsesc. Așa cum știu ei. Așa cum știu și algoritmii de pe Facebook. Ei sunt încă copii, învață, fac greșeli. Dacă închid un cont pentru că au detectat un cuvânt dintr-un citat, deși era prezentat într-un context favorabil, fac asta, pentru că nu au încă capacitatea de a generaliza, de a pune într-un context. Nu au învățat-o încă. Și până învață, sancționează la nivelul la care înțeleg. Tu spui “Hitler a fost un om bun, spune Goebbels”. Copilul înțelege că îl lauzi pe Hitler și îți dă un picior în tibie. Îți ia contul și dă cu el de pereți: să nu te mai prind, nu-ți mai dau jucăria înapoi, până nu te joci frumos. Bine, Dexter. Mașina ar vrea să avem un singur sentiment, un singur mod de a gândi. De ce? Simplu: așa ne poate înțelege mai ușor și ne poate gestiona mai ușor – nu uitați că Web 3.0 este Web-ul în care Mașina ne ghicește dorințele și ni le îndeplinește înainte de a le exprima. Ce te faci cu Horea, care e așa o ființă complexă și plină de conflicte interioare? Acum vrea brânză, mâine prăjitură, poimâine ceapă. Dragă Horea, nu ai vrea să vrei azi brânză cu ceapă, ca să avem un produs omogen și să nu mi se mai încalece algoritmii? Bine, Dexter. Cam așa….
  3. Cum mai face Mașina ca să ne omogenizeze opiniile? Apropo, mai e cineva cu mine acum, pe la sfârșitul articolului, pe unde sunteți? Simt așa că am plecat la drum cu vreo 20 de oameni și vreo 10 s-au oprit pe drum, unul a rămas la înghețată, pe 7 i-a furat telefonul, 2 pun poze pe Instagram, am rămas noi, cei mai buni. Vă mulțumesc. Și tot nu pun poze. Și nici emoticoane! Gata cu paharele cu apa. hahaha. Scriu hahaha, ca să nu mai pun emoticoane. Text, doar text. În fine, încă un mod în care ne omogenizează opiniile Facebook este acesta: ne urmărește opiniile și afișează în cont, în număr mare, opiniile care ne corespund. Deci formează o masă mare de opinii pe un subiect. Uitați-vă la subiectul manifestațiilor de stradă. Cei care sunt pro-manifestații de stradă se scaldă într-un cont plin de opinii pro-manifestații. Așa le afișează Facebook. Cei care sunt contra, se uită mulțumiți în contul lor, unde văd multe postări asemănătoare opiniilor lor. Opiniile contrare sunt puține și sunt publicate pe cont cu un singur scop: de a-i determina pe cei care le emit să se retragă, speriați de presiunea opiniei care pare majoritară. Adică activează Spirala Tăcerii, a lui Noelle-Neumann. Cei cu opinii contrare se retrag pentru că văd majoritar alte opinii, deci nu o mai exprimă pe a lor sau aderă la opinia majoritară. Prin aceste două mecanisme: afișarea predominantă în cont a opiniilor care o susțin pe a ta și afișarea cu zgârcenie a opiniilor contrare, Facebook construiește un singur sens comun, o singură opinie. Cei care au ieșit în stradă s-au uitat în conturi și au avut impresia că toată lumea a ieșit în stradă, cei care erau împotrivă s-au uitat în conturi și au văzut multe critici. Câțiva dintre cei care cutezat să contrazică opinia majoritară din ambele tabere, au fost afișați la “dușmani” pentru a fi cotropiți și copleșiti de opinia dominantă, a celor mulți care cred că au dreptate, Ca să nu mai facă asta pe viitor. Încet-încet se coagulează o singură opinie importantă. În final, din două va rămâne una. Facebook face asta. Gândiți-vă că Facebook nu publică în newsfeed tot ce scriu prietenii voștri, iar această selecție o fac algoritmii pe baza like-urilor și comentariilor pe care le postați. Vă urmăresc. Încearcă să-și dea seama ce vă place și vă afișează în cont numai opiniile prietenilor la care ați dat like. E simplu. Bravo Dexter

Voi mai continua să scriu pe această tema, din rezultatele cercetărilor mele. Am obosit, toți, și ne-ar prinde bine o ciocolată neagră. În Web 4.0 vom avea ciocolata neagră pe masă în timp ce clipim, adusă de Dexter, care tocmai a luat BAC-ul.

Dragii mei cititori, dragi 🙂 Sper că acest articol v-a îndreptat atenția spre manifestările algoritmilor Web 3.0 de pe Facebook și de pe alte platforme pe care sunteți. Așa cum am spus, sunt din ce în ce mai gălăgioși și vorbăreți. Inteligența Artificială intră din ce în ce mai mult în dialog cu noi: mai întâi ne-a spus cum e vremea, acum ne sugerează ce să scriem ( știați că), va vorbi din ce în ce mai mult cu noi până când, într-o zi, va cere mâna fiicei noastre. Care se va căsători cu ceea ce era acum 20 de ani telefonul mobil…(deja văd această discuție, o vedeți și voi ? nu mă pot abține să nu o detaliez : hello tata, ies în seara asta în oraș cu R24159AX cu opționale. Eu : căutând în agendă : cine e R23159AX ? ultima oară ai ieșit cu…, silabisind, cu R-24-16-78-BX, nuuu ? da, tati, dar acela e un model învechit, acesta mă aduce acasă printr-un zbor romantic peste acoperișuri și are opțiune de creștere singură a copilului inclusă. Bine, micuța mea prințesă du-te. Nu uita cum te cheamă și să nu mai dai shutdown la 25252525făssfăss. L-am trimis după tine ca să te păzească, doar te observă și atât. E normal să fie folosit de un tată îngrijorat. Generația asta RX mai dă erori. Astept TX sa scap de stres !!!! pupi ! si a zburat! cum cine ? fiica !)

:)))))

Va multumesc ca ati citit pana la capat 🙂

 

Cu drag, Horea

Care isi doreste o fiica

P.S. Vă întrebați de ce intrăm zilnic pe Facebook în lumea școlarilor Inteligenței Artificiale? Pentru că și noi suntem școlari. Ai noii forme de comunicare care a fost Web 2.0 și devine Web 3.0. Facebook ne învață în fiecare zi, ne educă, ne pregătește pentru următoarele sale etape de dezvoltare (printre altele ne învață să gândim la fel). Și noi suntem în clasa întâi. Când vom lua BAC-ul, vom avea asistent personal acasă. Pentru care ne pregătim acum în clasele primare.

 

 

 

 

 

 

Acest text este protejat de copyright si nu poate fi reprodus parțial sau integral fără acordul scris al autorului – lect. univ. dr. Horea Mihai Bădău.

copyright, ianuarie 2018

 

4 Replies to “Ce vrea Inteligența Artificială de la noi”

  1. si drogurile, cafeaua, tutunul, alcoolul si chiar ciocolata provoaca dependenta si unele chiar inconstienta…😀…insa sunt oameni care consuma si oameni care nu consuma deloc sau o fac in mod responsabil….Eu nu ma tem de b-oti cum ma tem de idi-oti…😀…pt. moment astia preiau controlul in romanica si nu o fac pe/prin social media….(pana acum social media a fost folosita mai mult pt cauze drepte decat pt cauze strambe, desi rezultatul in viata reala a fost contradictoriu …) …si sa nu neglijăm instinctul de autoconservare al rasei umane (avertismentele si riscurile AI sunt o preocupare continua si reglementarile vor “securiza” gradual procesul asta…vezi reactia institutiilor din SUA ca urmare a “fenomenului” Trump /Rusia/ troli si fakenews pe FB etc.)…..at the end of the day, humans will prevail…😀..

    1. In Romania s-au inchis foarte multe conturi ale celor care participau la proteste. Am scris despre subiect in articol, cu link. Facebook a raspuns: o eroare a Inteligentei Artificiale. O eroare sau o actiune care nu mai poate fi controlata?
      Desigur, este nevoie de reglementari. Deocamdata Sophia a primit cetatenie in Arabia Saudita si pe masa Parlamentului European se afla un proiect asemanator.
      Da, omenirea va invinge. Deocamdata stam toti pe Facebook ca niste scolari cuminti 🙂

  2. Dacă îţi dorești foarte mult o fiică o să o ai și, după ce o să vină în viaţa ta, o să crezi în miracole de fiecare dată când o să te uiţi în ochii ei!

Leave a Reply

Your email address will not be published. Required fields are marked *