Revista si suplimente
MarketWatch
Inapoi Inainte

Imperfecta inegalitate

14 Decembrie 2021



„Revoluția AI vine mai repede decât se așteaptă majoritatea oamenilor“
Henry Kissinger, Eric Schmidt, Daniel Huttenlocher, The Age of AI: And Our Human Future, John Murray Press, 2021

O dată la câțiva ani, invariabil, se lansează un film cu o superdistribuție. Dacă mai are și un titlu apetisant și un sinopsis cât de cât interesant, sunt șanse mari ca acesta să intre pe lista noastră de vizionări. Acesta a fost primul lucru la care m-am gândit când am dat peste titlul The Age of AI, care îi are ca semnatari pe Kissinger, un politician notoriu, câștigător al Premiului Nobel pentru Pace, Schmidt – fost CEO Google, și Huttenlocher – academician de vârf, fost decan la Cornell și în prezent decan la MIT. În ciuda faptului că, destul de frecvent, filmele care beneficiază de mai multe nume sonore pe afiș dezamăgesc – pentru că excelenta distribuție aparent nu face decât să compenseze un scenariu slab, o poveste mediocră sau poate chiar o calitate subțire a interpretării – totuși reușesc să ne atragă irezistibil și, implicit, să facă vânzări cel puțin decente. Dar în politică nu e chiar ca-n fotbal și, poate, nici în literatură ca în filme…

Inteligența Artificială este, fără îndoială, un subiect fierbinte. O promisiune în evoluție, tehnologiile IA par să acapareze întregul spectru al vieții umane, indiferent dacă ne uităm la sectoare industriale precum aviație, securitate cibernetică, medicină sau la nivel de utilizator individual, în modul de sugestie al filmelor pe Netflix sau la modulul de traducere a textelor din Google. E drept, mai este de lucru, așa cum menționează și autorii acestui volum: sunt situații în care tehnologia IA dă rezultate uimitoare, ca apoi aceeași tehnologie să facă erori copilărești. Pe de altă parte, dacă ne uităm strict la modulul de traducere utilizat de Google, progresele sunt extraordinare – atât din punct de vedere al cantității acceptate spre traducere, cât și în ceea ce privește calitatea traducerii; cu excepția unor erori de nuanță – pe care, cu siguranță, IA le va corecta rapid, traducerea atinge performanța umană (urmând probabil să o și depășească) și tocmai pentru a celebra acest fapt, în această recenzie, în mod deliberat toate citatele (volumul apărut în noiembrie 2021 nu beneficiază încă de versiune în limba română) sunt traduse exclusiv cu modulul pus la dispoziție de Google. Vă las pe voi să găsiți eventualele erori…

AlphaZero, halicina și GPT-3
Pe principiul că o introducere care lansează 2-3 concepte interesante va capta atenția cititorului, autorii aleg să înceapă volumul cu trei referințe de excepție: înfrângerea în 2017 a motorului Stockfish de către AlphaZero, descoperirea primului antibiotic prin utilizarea IA - halicina și apariția primului program capabil să genereze texte similare cu cele create de om – GPT-3.
În toate cele 3 cazuri menționate, superioritatea rezultatelor IA este incontestabilă, în raport cu tehnologiile anterior utilizate. Cum se explică această situație? Autorii menționează că diferența majoră între AlphaZero și Stockfish constă în modul în care acestea își dezvoltă capacitățile: în vreme ce Stockfish a fost educat cu mii de partide de șah disputate de Mari Maeștri, strategii, combinații sau mutări favorite, superioritatea lui constând nu neapărat în originalitatea jocului, ci în puterea și viteza de procesare, AlphaZero nu a primit decât informațiile legate de regulile de bază ale jocului și instrucțiunea clară de a maximiza rata victoriilor, iar apoiși-a dezvoltat abilitățile antrenându-se singur. Rezultatul? După primă victorie în 2017 împotriva Stockfish, au urmat numeroase alte partide, dar în final balanța clară: din o mie de jocuri împotriva lui Stockfish, AlphaZero a câștigat 155, a pierdut 6 și a remizat restul. Mai mult decât atât, impresionante nu au fost doar abilitățile sale superioare; AlphaZero a surprins prin modul său de joc: tacticile originale, sacrificii neașteptate, tipare de mutări complet nespecifice stilului uman. Altfel spus, IA are propriul său mod de gândi, care eludează înțelegerea umană: „Folosind unele dintre aceleași principii generale care au permis victoriile AlphaZero și descoperirea halicinei, AI poate identifica modele de conduită pe care nici măcar un adversar nu le-a planificat sau observat, apoi poate recomanda metode pentru a le contracara.”
Cum poți înțelege, deconstrui sau controla ceva ce nu înțelegi pe deplin? De aici și declarația autorilor de a se concentra în volumul de față asupra unor întrebări fundamentale legate de modul in care IA se raportează la om, privind capacitatea IA de a procesa diferit realitatea și modul în care IA modelează acțiunea umană.

Philosophenweg
După o incitantă dezbatere a modului în care AI ajunge la rezultatele sau obiectivele stabilite de om, aplicând însă metodologii sau parcurgând etape nespecifice tiparelor umane – ceea ce ridică probleme legate de capacitatea umană de a înțelege și controla procesele – autorii aleg să facă un inventar sumar al principalelor filosofii care au marcat epoca modernă. Depășind socratica recunoaștere a limitelor cunoașterii, Descartes și Kant sunt cap de afiș, iar temele principale vizează explorarea realității și preocuparea omului pentru cunoaștere. Dar dacă definiția descartiană a omului constă în echivalarea sa cu funcția de gândire, ce înseamnă pentru umanitate și cum afectează apariția și propagarea tehnologiilor IA? Descartianul Cogito ergo sum explodează chiar în fața ochilor noștri, căci dacă vom admite că IA poate învăța și astfel, implicit, cunoaște, atunci cunoașterea nu mai este un atribut exclusiv uman, iar însăși identitatea umană și definirea realității vor necesita revizii de substanță.
„Aceasta este o revoluție pentru care conceptele filozofice existente și instituțiile societale ne lasă în mare parte nepregătiți.”

Dual, ușor de răspândit, potențial distructiv
Inteligența Artificială stârnește o dilematică filosofică pe care mi-ar fi plăcut să o găsesc mai bine explorată. Dar acest volum pare ușor marcat de personalitatea lui Kissinger (nu este el principalul motiv pentru care cititorul cumpără cartea?) și trece rapid de la filosofie la militărie. Nimic de spus, abordarea este interesantă. Autorii (vom păstra pluralul pentru că atâta vreme cât capitolele nu sunt individual semnate, ar însemna să facem presupuneri gratuite) pun într-un soi de oglindă IA și armele nucleare. După cel de-Al Doilea Război Mondial, cursa înarmării nucleare asociată cu Războiul Rece a dus la organizarea politică în jurul a doi poli principali: SUA și Rusia. Astăzi, în cursa pentru înarmarea cu tehnologii IA, pare că principalii actori sunt SUA și China, iar pe un plan secund, făcând simplă figurație, Europa: „În fiecare zi, peste tot, AI câștigă popularitate. Un număr tot mai mare de studenți se specializează în ea, pregătindu-se pentru cariere în sau adiacente acesteia. În 2020, start-up-urile americane de inteligență artificială au strâns fonduri de aproape 38 de miliarde de dolari. Omologul lor din Asia a strâns 25 de miliarde de dolari. Iar omologii lor europeni au strâns 8 miliarde de dolari.”
Chiar dacă spre deosebire de armele nucleare, IA poate fi dezvoltată și de segmentul de business, implicarea guvernamentală – opinează autorii – este esențială. Potențialul pe care IA îl are în domeniul militar prin capacitățile sale cibernetice uriașe, face ca acest tip de tehnologie să fie asociat cu potențialul neutilizat al armelor nucleare. Diferențele sunt însă consistente: în vreme ce armele nucleare nu puteau fi dezvoltate decât de supraputeri, cu investiții majore și cu resurse de timp semnificative, IA are o dinamică aparte și trei caracteristici simultane: dublă utilizare, ușor de răspândit și potențial substanțial distructiv: „potențialele utilizări militare ale IA sunt mai largi decât cele ale armelor nucleare, iar diviziunile dintre ofensă și apărare sunt, cel puțin în prezent, neclare”.

Ca atare, autorii continuă volumul cu o serie de îndemnuri repetate la necesitatea de a reglementa mediul de dezvoltare și proliferarea tehnologiilor IA. În condițiile în care oamenii deleagă aspecte ale gândirii tehnologiei, iar inteligența non-umană este integrată în structura de bază a activității umane, societatea modernă digitalizată se confruntă cu un paradox: „cu cât capacitatea digitală a unei societăți este mai mare, cu atât aceasta devine mai vulnerabilă.”
Reținem și punem sub semnul întrebării una dintre limitările subliniate de autori. Atunci când se pune problema deciziilor vitale, care pot însemna vieți sacrificate sau salvate, nu ar trebui să dăm IA posibilitatea de a avea rol hotărâtor, iar „decidenții vor trebui să fie oameni calificați, non-anonimi, care să poată oferi motive pentru alegerile făcute” susțin autorii. Afirmația pleacă de la ideea că IA nu este înzestrată nici cu moralitate, nici cu îndoială, și nici nu are capacitatea de a-și argumenta sau explica rezultatul deciziei. În strictă legătură cu încrederea în decizia umană, ar merita menționat Noise, în care Kahneman demola ideea unei variații decente de 10% și, analizând rezultatelor unor studii statistice din domeniul asigurărilor și cel juridic, concluziona că, în realitate, contextual, deciziile umane au o variație de 40%. Astfel, limitările autorilor The Age of AI par mai degrabă expresia nevoii de control, căci – altfel – cine este mai supus greșelii decât însuși omul?

Viitor și identitate
După o acoladă substanțială care acoperă domeniul militar, securitatea cibernetică și platformele de rețea, autorii aleg să închidă volumul cu o serie de reflecții asupra oportunităților pe care era IA le deschide, asupra modului în care aceasta va transforma realitatea și gândirea umană. Rămâne neclar dacă oamenii și IA abordează aceeași realitate, dar din perspective diferite sau vizează realități diferite, parțial suprapuse. Astfel, rațiunea și algoritmii intră într-o schemă de complementaritate vs divergență.

Scriitura are aerul unui discurs politic presărat cu numeroase îndemnuri adresate guvernanților și plin de întrebări cu iz retoric pentru cititorul de rând. Chiar dacă inițial autorii declară că intenționează doar să ridice niște întrebări, lectura este însoțită de sentimentul unei rețete cu iz ușor apocaliptic cu referire la necesitatea unui cadru legislativ și a unor reglementări generale și global agreate: cei 78 de should împreună cu cei 53 de must sunt mai puternici decât cei 179 de can. Și pentru că tot am avut curiozitatea de a verifica frecvența cu care apar în text anumite cuvinte cheie, m-am gândit să fac o interogare și pentru cuvintele AI și human. De câte ori credeți că apar în text? Ambele, fix de 500 de ori! Curioasă egalitate perfectă, nu credeți?
PS: Nu m-am putut abține și am făcut totuși o corectură în citatele traduse automat, fiind vorba de un dezacord dintre subiect și predicat. (În viitor, oare cine va fi subiectul și cine predicatul? Omul sau AI-ul? Și cine îi va putea acorda?).



Parerea ta conteaza:

(0/5, 0 voturi)

Lasa un comentariu



trimite