Inteligența artificială: viața printre algoritmi și roboți

• E pe buzele tuturor și promite să fie cea mai spectaculoasă des­coperire tehnologică a secolului, o invenție care va schimba paradigma și va transforma profund felul în care muncim și trăim. Dar ce este Inteligența Artificială, cum funcționează și până unde ne putem încrede în ea? Am cerut răspunsuri unor specialiști.•

Constantin Vică, conferențiar universitar la Facultatea de Filosofie, doctor în filosofie cu o teză de filosofie practică în domeniul internetului și al tehnologiei web, cercetător afiliat Centrului de Cercetare în Etică Aplicată

„Partea problematică a acestei tehnologii e că funcționează ca o cutie neagră”

– Internetul, de care mulți s-au temut la în­ce­pu­turile lui, a devenit astăzi o unealtă indispen­sa­bilă. Va avea și Inteligența Artificială (IA) aceeași soartă?

– Mai mult ca sigur, cu diferența că în cazul internetului lucrurile s-au întâmplat gradual. Din 1991, de la crearea primelor website-uri și până azi, când internetul a ajuns să aibă putere totală asupra vieții noastre sociale, au trecut mai bine de trei decenii, în care am putut să-i vedem riscurile și avantajele. În timp ce IA, deși a apărut din 1960, a evoluat mult mai lent. Abia din 2022, odată cu crearea robotului conversațional ChatGPT, a ajuns să cunoască o răspândire fără precedent. Azi, internetul s-a topit în viețile noastre. Dacă într-o conversație cu prietenii nu ne mai amintim anumite date, scoatem telefonul, intrăm pe internet și imediat le găsim. Probabil același lucru se va întâmpla și cu IA. Și nu mă refer doar la acest ChatGPT, care a ajuns deja la 180 de milioane de utilizatori, ci și la restul formelor care există de multă vreme în jurul nostru: când citești ceva pe Facebook, de pildă, nu citești ce decizi tu, ci ceea ce algoritmii au selectat pentru tine, în funcție de comportamentele tale online. Partea problematică a acestei tehnologii, mai ales a IA conversaționale, e că funcționează ca o cutie nea­gră, nu știm cu ce date e hrănită și nici de ce alege să dea un răspuns sau altul. E încă la început, e nevoie de mai multă practică. Dar tocmai folosind mai mult această Inteligență Artificială în genere, lăsând algoritmii să trieze informația, bunurile și serviciile în locul nostru, s-ar putea ca ea să ne transforme în așa fel, încât vom ajunge noi la dispoziția ei înainte să mai apucăm să o chestionăm. Nu ne rămâne decât să observăm faptul că, așa cum de-a lungul vremii omenirea a fost influențată de figuri religioase sau de eroi, în stadiul civilizațional în care am ajuns, algoritmii le-au luat locul și fac deja acest lucru.

– Cum crezi că va arăta acest om nou al viitorului, produs de algoritmi și hrănit de rețelele sociale?

– Va fi un om din ce în ce mai dependent de sistemul socio-tehnic în care se află, dar în același timp va nutri o mare dorință de a fi lăsat în pace, de a nu fi chestionat, de a scăpa din sistem. Se va radicaliza, poate, va avea chiar comportamente anarhice, ca o formă de rezistență la tot ce aduce în viața noastră digitalul. Dar omul nou, ca și omul vechi, sunt de fapt mai mulți. Unii vor deveni din ce în ce mai atenți, mai critici, vor folosi aceste instrumente cu discernământ. Alții, și aici intră cu siguranță majoritatea, vor semăna tot mai mult cu oamenii Evului Mediu, care cad în plasa conspirațiilor și a suspiciunilor, care se hrănesc din noianul de informație la întâmplare, incapabili să filtreze ce e bun de ce e rău. Cred că trebuie să ne pregătim copiii să se raporteze la acești algoritmi care participă la viața noastră, așa cum ne raportăm azi la niște bacterii, virusuri sau fungi care co-există în organism.

„Există sute de companii care, contra unor sume considerabile, promit să-ți ofere un soi de viață de apoi”

– O lume guvernată din ce în ce mai mult de roboți, fie ei și sub forma unor aplicații pe telefon, e, pentru cei neobișnuiți cu tehnologia, de ordinul filmelor SF…

– Și lucrurile sunt abia la început! Există sute de companii care, contra unor sume considerabile, promit să-ți ofere un soi de viață de apoi, în care continui să exiști ca avatar. Un avatar antrenat pe baza datelor tale, atât cât a reușit să strângă programul de pe rețelele sociale sau din interacțiunile tale în timpul vieții, care după moartea ta devine autonom și continuă să te reprezinte, participând la viața celorlalți, în numele tău. Acești grief-bots (roboți de doliu), gândiți să îi ajute pe apropiații persoanei dispărute să depășească mai ușor momentul, au fost deja creați de mai multe companii și ne putem aștepta ca, în curând, oamenii să înceapă să plătească pentru acest serviciu încă din timpul vieții, ca să se lase moștenire familiei. Cu ajutorul IA și al neurotehnologiilor, va fi posibil, curând, să decriptăm și visele oamenilor, prin măsurarea și interpretarea undelor cerebrale, a nivelului de activare etc. Ba mai mult, se discută deja posibilitatea introducerii reclamelor publicitare în visele noastre.

– Îngrijorător!

– Într-adevăr. Anul trecut, câteva mii de cercetători din zona neuroștiințelor au semnat un moratoriu ca aceste cercetări să se oprească, până când vor fi mai clare riscurile sociale și implicațiile etice. Dar un moratoriu nu este o lege sau o constituție. Cât timp niște companii sunt dispuse să finanțeze astfel de cercetări, ele vor continua.

„Nu aștept de la studenți informații, ci interpretări”

– UNESCO a publicat recent un ghid privitor la fo­losirea responsabilă a IA în cercetare și educație. Iar Politehnica din Timișoara a fost printre primele uni­versități care au adoptat reguli privind folosirea chat­bo­ților la redactarea referatelor. În contextul ăsta, cum mai poți evalua corect performanța unui student?

– Este evident că nu vom putea evita folosirea IA în universități, așa cum azi a devenit de neconceput să nu folosești internetul. Din fericire, în stadiul în care se află aceste aplicații acum, orice referat făcut cu ChatGPT e foarte ușor de reperat, e lipsit de suflu, de micile deviații, de orice formă de subiectivitate. Ce se va întâmpla mai târziu nu știm. În ce mă privește, la examen le-am dat voie studenților de anul întâi cu orice au vrut pe masă, telefon, internet, ChatGPT, pentru că ce aștept de la ei nu sunt informații, ci interpretări, puncte de vedere argumentate, gândire critică. Și nu numai că îi încurajez să folosească IA, dar îi și provoc să-și pună întrebări referitoare la răspunsurile obținute, să „chinuie” acea aplicație, să-i testeze limitele. Provocările în mediul academic nu țin însă doar de posibilitatea de a plagia cu ajutorul IA, ci și de felul în care e monitorizat avansul studenților în anumite state autocrate. Dacă vreau să văd dacă un student înțelege sau e atent, mie îmi e suficient să mă uit în ochii lui. Dacă însă i-aș pune pe cap o cască, așa cum se face deja în China, și aș face măsurători, ca să aflu exact cât de concentrat e, pentru ca în funcție de rezultat să-l blamez sau să-l felicit, mi s-ar părea foarte intruziv și foarte discutabil. IA e și ea failibilă și e nevoie să știi foarte bine cum interpretezi datele pe care ți le furnizează.

– Pare nu doar că riscă să dea erori, ci și că ar putea contribui la creșterea inegalităților sociale.

– Scandaluri de genul acesta au ieșit deja la suprafață anul trecut, când niște jurnaliști au descoperit că în mai multe țări verificarea ajutoarelor sociale era fă­cută automat, cu programe de IA, care au decis că o parte din femeile mu­sulmane singure nu ar fi trebuit să le pri­meas­că, obligându-le să returneze banii. Statele respective au refuzat să recunoască faptul că au folosit IA și s-a a­juns la procese complicate. În Olanda, în cele din urmă, dreptatea s-a restabilit. În Serbia însă, sunt peste 3 milioane de persoane afectate de deciziile luate de IA și statul sârb nu face nimic. Un program de IA antrenat greșit poate elimina asigurările de sănătate sau accesul la anumite job-uri exact în cazul persoanelor cu cea mai mare nevoie. Astfel de riscuri există azi peste tot, unde statul decide să analizeze cererile cetățenilor cu IA, în bănci, la obținerea de credite, sau chiar în cazul examenelor de ad­mitere. La universitățile americane de prestigiu (Ivy League), de obicei prima filtrare a dosarelor de admitere e făcută automat de sisteme artificiale. Abia în a doua fază in­ter­vi­­ne o minte umană. Important în situații de genul a­ces­ta e să existe și posibilitatea unei contestații a re­zul­tatului. Din fericire, legislația recent propusă de Uni­unea Europeană bate în direcția asta. În viitorul apro­­piat, dreptul de a contesta un rezultat algoritmic va fi unul din drepturile fundamentale ale fiecărui om.

Anda Zahiu, asistentă universitară, cercetătoare în cadrul Centrului de Cercetare în Etică Aplicată, doctorandă a Facultății de Filosofie

„Munca umană tinde să dispară”

– Cât de inteligentă este, de fapt, inteligența artificială?

– Inteligența artificială (IA) reușește să dea impresia de inteligență, pentru că îndeplinește activități care sunt îndeplinite și de oameni, dar nu e inteligentă într-un sens robust, e mai degrabă performantă și eficientă, pentru că se bazează pe capacitatea ei de a face calcule, predicții, analize, sinteze. Performanța ei depinde însă și de calitatea bazelor de date din care se hrănește pentru a-și calcula răspunsurile probabilistice. Dacă acestea au „zgomot”, adică erori, și rezultatul va fi viciat, va reflecta, și el, înapoi prejudecățile societății. Dacă discriminarea este prezentă în seturile de date cu care au fost hrăniți acești algoritmi, algoritmii vor ajunge să discrimineze și ei.

– A ajuns să-și facă simțită prezența această formă de tehnologie și pe piața muncii?

– A pătruns puternic în domeniul bancar, mai ales în analiza de date. A început să pătrundă și pe piața asistenței sociale, prin acei roboței companioni care înlocuiesc sau ajută asistentele din azile în activități ca spălatul sau mersul la baie etc. Cele mai spectaculoase rezultate le are însă în medicină: în imagistica medicală, în medicina preventivă, în medicina biometrică sau în cercetările oncologice. Vorbim de programe pe care le putem instala pe telefonul nostru, pe care le putem consulta în anumite situații, care ne pot oferi tratamente personalizate, care pot preveni un atac cerebral. Inteligența artificială se folosește deja și în arta cinematografică. La un moment dat, era în producție un film cu James Dean, recreat pe ecran prin tehnici de deep fake. Aceleași tehnici s-au folosit și în filmul „Războiul Stelelor”, pentru a recrea anumite personaje jucate de actori care au murit în timpul filmărilor. Din păcate, aceste falsuri profunde, acest conținut media artificial, pot fi folosite și pentru a discredita anumite persoane publice sau pentru a manipula. Sunt greu de verificat sau depistat, iar asta hrănește un climat de suspiciune. Un exemplu bun e chiar scandalul în care a fost implicată recent Kate Middleton, Prințesa de Wales, care pe 8 Martie a postat pe o rețea de socializare o fotografie cu copiii ei, obținută cel mai probabil cu ajutorul IA. A generat un lanț întreg de întrebări: Cine a publicat-o de fapt și de ce? E bolnavă? Mai e în viață? E în Anglia? A fost răpită? Lucrurile au luat-o razna și nu s-au calmat decât după ce Kate a recunoscut că ea a editat-o.

„Se va repeta povestea revoluției industriale”

– Dacă lumea va fi tot mai popu­lată de aplicații, de programe și roboți, ce spațiu de acțiune îi va mai rămâne omului?

– Munca umană va tinde să dispară. Oamenii se vor transforma treptat din producători direcți în coordonatori ai procesului de producție. Din păcate, până se așază lucrurile, rămânem foarte vulnerabili în fața mesajelor apocaliptice care însoțesc IA: că vom intra în șomaj tehnic, că ne vom pierde locurile de muncă, că nu va mai fi nevoie de noi ș.a.m.d. Sigur, anumiți oameni vor fi lăsați în urmă de această revoluție tehnologică, pentru că vor avea o abilitate mai scăzută de a se adapta. Și, într-un fel, se va repeta povestea revoluției industriale, unde la început reacția a fost tot una de spaimă și respingere. Dar să nu uităm că orice schimbare vine treptat.

– Pe de altă parte, dezvoltarea atât de rapidă a IA aduce și surprize: azi suntem mai aproape ca oricând de universurile paralele.

– Abilitatea lumii virtuale de a te transpune acolo cu totul, de a-ți crea un univers egal în mărime și intensitate cu lumea reală, mi se pare fabuloasă. Dar dacă acum încă privim aceste lumi virtuale ca pe niște lumi compensatorii, ca pe un spațiu de evadare și distracție, ele promit să devină foarte curând lumi complete, pentru că vor avea asupra noastră aceleași efecte emoționale sau psihologice. La începutul anilor 2000, exista un joc celebru pe care îl juca multă lume pe computer: „Second Life” ( „A doua viață”). Acum, cam toate lumile virtuale sunt un soi de „Second Life”: niște comunități online, în care oamenii pătrund prin intermediul unei căști de VR (Realitate Virtuală). Acolo merg la școală sau la facultate, își construiesc cariere, au hobby-uri. De multe ori, fac acolo tot ceea ce n-au reușit în viața reală. Iar asta poate fi și un lucru bun. Studiile făcute pe persoanele cu dizabilități demonstrează că, în cazul lor, realitatea virtuală are un efect profund reparator, pentru că prin intermediul ei își pot exprima adevărata personalitate.

Răzvan Rughiniș, cercetător, profesor la Facultatea de Automatică și Calculatoare a Universității Politehnice din București, doctor în știința calculatoarelor, autorul volumului „Societatea digitală: stăpâni, cetățeni sau sclavi?”

„Eu sunt un optimist și cred că tehnologia va fi adoptată fără rezerve”

– Lansată la finalul anului 2022, aplicația ChatGPT a ajuns în timp-record la 180 de milioane de utilizatori și la o valoare pe piață de 29 de miliarde de dolari. Ce este de fapt acest ChatGPT și pe ce se bazează el?

– ChatGPT este un robot conversațional, un chatbot pe care deja mulți dintre noi l-au instalat pe telefonul mobil, pe care îl poți întreba orice și căruia îi poți da comenzi, care e capabil să genereze text, să rezume date, să scrie articole și relatări. Este rezultatul unui lung șir de dezvoltări a Inteligenței Artificiale (IA), într-un domeniu specific al ei, prelucrarea limbajului natural. Răspunsurile oferite de ChatGPT nu sunt răspunsuri reale, ci niște predicții făcute în urma analizării unui volum uriaș de date. Însă chiar și așa, în cele mai multe cazuri sunt surprinzătoare, mult peste capacitatea noastră cognitivă. ChatGPT a fost creat de Open AI și e unul dintre pariurile câștigate în sectorul de tehnologie, un domeniu unde multe alte proiecte în care se investește enorm ajung să fie abandonate. Apple a abandonat recent un proiect în care a ars deja zece miliarde de dolari, construcția Apple-mobilului. Iar Facebook, după ce a cheltuit 200 de miliarde de dolari, a abandonat în mod silențios Metaverse-ul.

– Va mai fi lumea noastră ace­eași, odată cu apariția IA? La ce ne putem aștepta?

– Eu sunt un optimist și cred că tehnologia va fi îmbrățișată fără rezerve, atâta vreme cât costurile ei sunt mai degrabă marginale. În anii 2000, românii n-au așteptat venirea marilor corporații care să-i conecteze la internet, ci au ieșit și au întins fire, au conectat bloc cu bloc în rețele de cartier, dând dovadă de entuziasm și nerăbdare. În timp ce o altă categorie a populației, mult mai conservatoare, făcea predicții despre cum va distruge internetul omenirea. Întrebarea nu e dacă IA va schimba lumea sau nu, ci în cât timp vom ajunge să vedem cu ochii noștri toate aceste tehnologii de care se discută acum și în ce măsură ritmul rapid de dezvoltare va crea dificultăți în procesul de adaptare și acceptare. Că ne va schimba e inevitabil. Societatea digitală, grație IA, va fi una în care lucrurile sunt foarte atent aliniate cu preferințele noastre, în care vom accepta riscuri din ce în ce mai mici, în care ne va scădea toleranța la disconfort, dar în care și dezvoltarea noastră personală va fi mai limitată. Va fi o societate a riscurilor scăzute, dar și a beneficiilor scăzute, în care și aspirațiile noastre eroice, aspirații care în mod normal ne-ar face să țintim mai sus, vor fi din ce în ce mai mici.

– Crezi că pătrunderea masivă a IA în viețile noastre va schimba și raportul pe care ființa umană îl are cu spiritualitatea?

– Sunt destul de convins. Tehnologia îți dă o promisiune de obiectivitate care nu e reală. Vedem text, numere, calcule, dar uităm că algoritmii sunt tot niște opinii subiective traduse în cod. Problema vine din faptul că toate modelele de IA se bazează pe identificarea unor corelații, dar și pe excluderea a ceea ce nu e la fel. Or, primul lucru care va cădea în procesul de uniformizare e tocmai latura noastră spirituală, pe care fiecare dintre noi o trăim diferit. Spiritualitatea nu e un bun pe care să-l consumăm cu toții la fel și pe care IA să ni-l furnizeze în viitor. Comportamentul nostru va fi mai degrabă îngrădit de utilizarea acestor roboți, iar spiritualitatea omului își va găsi din ce în ce mai greu locul.