Pot face roboții dragoste? – despre nemurire, roboți și oamenii viitorului

Tudor Mărginean

(Laurent Alexandre, Jean Michel Besnier, Pot face roboții dragoste, Editura Humanitas, București, 2019)

Iată o carte care abordează teme de interes pentru oamenii interesați de filosofie, inteligență artificială, neuroștiințe și science fiction. Pentru mulți dintre aceștia nu este o surpriză că tot mai multe cărți de filosofie au titluri provocatoare. Voi da doar câteva exemple care îmi vin în minte în acest moment: Every thing must go a lui James Ladyman și Don Ross, care este un proiect de naturalizare a metafizicii contemporane, sau The joy of sets a lui Keith Devlin, care este o carte introductivă în teoria mulțimilor, sunt inspirate din titluri de filme, titlul celei de-a doua având chiar conotații mai puțin pudice. În unele cazuri, astfel de titluri sunt alese pentru a oferi cititorului un conținut tehnic și dificil într-o manieră mai prietenoasă, sau pentru a contrabalansa cumva ariditatea conținutului. Dintr-o a doua categorie de cărți cu titluri provocatoare fac parte cele cu conținut non-științific sau pseudoștiințific, ale căror autori urmăresc să obțină popularitate în mod facil, și au titluri precum „De ce bărbații…iar femeile…”, în care spațiul punctat poate fi umplut cu ceva care atrage curiozitatea cititorilor care vor să se instruiască repede și fără mult efort într-un domeniu pe care nu îl cunosc. Niciunul dintre cele discutate mai sus nu este însă cazul cărții despre care voi vorbi. Pot face roboții dragoste nu este o carte pseudoștiințifică sau cu pretenții dincolo de ceea ce oferă de fapt, și nu este cu siguranță o carte dificilă, care să necesite cunoașterea unui aparat formal sau a unui limbaj foarte tehnic.

Despre ce este deci vorba în carte și care sunt pretențiile ei? Conform celor doi autori, scopul cărții este de a prezenta cititorului „o confruntare, o dezbatere fermă, o dispută agonostică, de tipul celor pe care le practicau grecii antici pentru binele democrației.” De asemenea, ei speră „ca acest dialog să contribuie la vitalitatea dezbaterii democratice privind uriașele provocări pe care NBIC le propun omenirii”. NBIC se referă la nanotehnologii, biotehnologii, informatică și științe cognitive. În centrul dezbaterii se află teme familiare celor care au citit Minunata lume nouă a lui Huxley sau 1984 a lui Orwell, și de asemenea celor care urmăresc serialul Black Mirror. Este greu de crezut că există vreun cititor cu acces la tehnologia modernă care să nu se fi întrebat măcar o dată dacă este posibilă crearea unei inteligențe artificiale asemănătoare celei umane sau a uneia care să o depășească pe a noastră; dacă evoluția biotehnologiilor ne va permite să schimbăm în mod fundamental biologia umană, ăn sensul augmentării corpului sau chiar al evitării morții; în sfârșit, dacă toate acestea au consecințe politice și economice mai rele decât orice totalitarism care a existat până acum.

Deși cartea se prezintă ca o dezbatere, este greu să identificăm vreo poziție clară a unuia dintre cei doi presupuși combatanți. Unul dintre ei, Jean-Michel Besnier, este filosof, iar celălalt este medic urolog interesat de problemele filosofice legate de transumanism. Este posibil ca din pricina pregătirii profesionale diferite a celor doi firul dezbaterii să fie greu de urmărit: în timp ce medicul prezintă în mod frecvent noutăți din domeniile NBIC fără a se poziționa moral cu privire la ele, filosoful joacă rolul unui bioconservator moderat, care se străduiește să arate importanța valorilor clasice și umaniste într-un context în care naturalismul este dominant iar inteligența este redusă în mare la a fi doar abilitatea de a computa. Ceea ce nu se vede însă prea clar este tensiunea dintre cei doi. Singurul care exprimă poziții puternic încărcate normativ este Besnier, iar ceea ce face Alexandre este să îl anunțe pe interlocutorul său ori că lucrurile de care se teme sunt inevitabile, ori că nici măcar nu sunt fenomene atât de noi.

Voi da un exemplu din al treilea capitol, „Poate tehnica să repare chiar totul?”: Besnier își exprimă îngrijorarea față de schimbarea percepției față de rolul medicinei, care nu mai este percepută ca un instrument de asigurare a sănătății înțeleasă ca „tăcere a organelor”, în care consultarea și dialogul cu pacientul au un rol important, ci mai curând ca o reparare a organismului atunci când acesta nu funcționează bine, iar aici organismul este tratat ca un simplu mecanism. Cu alte cuvinte, boala este separată de dimensiunea ei umană și simbolică, fiind în schimb văzută ca o simplă dereglare asemănătoare dereglării unui aparat. Alexandre nu pare surprins de aceste remarci, dar nu le combate cu vreun argument filosofic, spunând, de exemplu, că nu există o astfel de dimensiune simbolică a bolii ori că aceasta nu are de fapt un rol fundamental în definirea umanului și a experienței umane. El se mulțumește să spună că augmentarea medicală facilitată de noile tehnici precum imagistica medicală nu este ceva ce ține doar de viitor, ci deja se întâmplă astfel de lucruri, dând ca exemplu cazul unei femei căreia i s-a implantat o retină artificială sau al uneia născute fără uter, dar care a primit unul de la o altă femeie de 61 de ani, astfel încât a putut să nască. De asemenea, în fața obiecției repetate că noile tehnici medicale duc la trecerea cu vederea a dimensiunii mentale a bolilor, Alexandre răspunde că oricât ne-am plânge, tehnica avansează, dar societatea o acceptă tot mai ușor, ceea ce va duce la o revoluție biotehnologică în următoarele decenii. După cum se vede, acesta nu este un argument prea convingător împotriva îndoielilor lui Besnier legate de transumanism. Besnier spune ceva normativ: că biotehnologiile vor duce la niște schimbări indezirabile ale modului în care trăim și percepem natura umană. Faptul că aceste schimbări sunt inevitabile și că sunt acceptate social nu schimbă situația: oamenii se pot înșela, pot fi amăgiți de promisiuni, și nu este exclusă aducerea la realitate a unei distopii demnă de un episod în următorul sezon din Black Mirror. S-ar putea spune că de fapt nici nu trebuie să căutăm ân acest dialog elementele unei dezbateri, ci doar un schimb de idei interesante despre un domeniu tot mai relevant de discuții. Dar pe lângă faptul că din prolog autorii ne promit o dezbatere, dialogul lor deseori nu pare să fie un dialog real, sau, cel puțin, firul logic din schimbul lor de replici e mai greu de detectat.

Pe lângă grijile legate de viitorul biologic al omenirii, se pun și probleme legate de viitorul nostru ca forme de viață organică. Deși inteligența artificială este deocamdată departe de a avea caracteristicile inteligenței umane, se fac totuși pași rapizi în această direcție. Înfrângerea celui de-al treisprezecelea campion mondial la șah, Kasparov, în 1997, în fața calculatorului Deep Blue a dus la nașterea unor îngrijorări legate de statutul inteligenței umane în comparație cu inteligența calculatoarelor. Deși autorii nu ating decât tangențial episodul înfrângerii lui Kasparov, îmi permit să adaug că șahul înainte de apariția calculatoarelor era învăluit de o aură de mister, deoarece standardele cele mai înalte de performanță și cunoaștere a jocului erau stabilite, în general, de școala sovietică de șah: nu părea să existe, mai ales pentru partidele între jucătorii de top, vreo evaluare clară a calității mutărilor jucătorilor, dincolo de orice dubii rezonabile. După dezvoltarea calculatoarelor de șah, niciun jucător uman nu mai are vreo șansă în fața unui program de șah care se poate descărca pe un smartphone. Cei doi arată că situația a devenit chiar mai interesantă de curând, după ce coreeanul Lee Sedol a fost învins la Go de computerul Alpha Go, care are la bază rețele neuronale (de asemenea Alpha Zero l-a învins zdrobitor pe Stockfish, un computer până atunci considerat cel mai puternic). Aceste cazuri, când programele celor de la DeepMind, bazate pe rețele neuronale, câștigă la go sau la șah făcând mutări în aparență proaste, dar în realitate mult dincolo de înțelegerea noastră ca nivel de abstracție, îl duc pe Alexandre la concluzia că ne-am putea teme de apariția unui program construit de propriile noastre mâini care ne va păcăli fără ca noi să înțelegem asta, și care să preia controlul asupra civilizației umane mai devreme decât ne așteptăm. Besnier se plânge însă de un alt aspect: roboții vor fi mai inteligenți decât noi doar dacă definim inteligența ca fiind simpla abilitate de computare. Există, însă, multe dimensiuni ale inteligenței: socială, artistică, sau existențială, de exemplu. La aceasta, Alexandre evită din nou un răspuns direct obiecțiilor lui Besnier, povestind încă o dată despre succesele înregistrate de roboți în medicină și despre cum în câteva decenii tot mai multe locuri de muncă vor fi preluate de către aceștia.

Ultimele capitole ale cărții sunt dedicate problemelor politice și economice puse de ascensiunea inteligenței artificiale. Ce se va întâmpla când vor dispărea locurile de muncă datorită roboților? Dacă producția de bunuri va crește așa încât munca umană să nu mai fie o nevoie semnificativă, se va ajunge la înlocuirea capitalismului cu un nou comunism, în care fiecare primește după nevoi? Nu cumva va fi o criză generată de neadaptarea generațiilor tinere de azi la un viitor dominat de inteligență artificială, lipsa de adaptare fiind cauzată de un sistem de învățământ depășit de mult? Se va naște o diferență insurmontabilă între oamenii cu inteligența augmentată de nanoroboți infiltrați în creier și cei care nu își vor permite această augmentare? Ar trebui să ne temem de posibilitatea ca China să își creeze o populație cu IQ mediu de 160, ajungând astfel să domine globul? În final, conectarea creierelor la internet cu ajutorul nanoroboților va putea duce cumva la o dictatură generată de controlarea minților oamenilor dă către hackeri?

La toate aceste întrebări răspunsul sugerat de cei doi interlocutori pare să fie o democrație modificată astfel încât deciziile în domeniul bioeticii să fie luate de oameni competenți, precum medicii, inginerii, informaticienii, biologii, psihologii, sociologii și eticienii, precum și de cei direct implicați. Pe de altă parte, observă Alexandre, statele sunt în momentul de față mult prea ignorante în legătură cu aceste probleme, iar companiile GAFA (Google, Apple, Facebook, Amazon) nu par să facă pași înapoi cu cercetarea. Toate acestea fac ca importanța dezbaterilor la care să participe politicieni, eticieni și tehnicieni să fie tot mai importantă. Problema este că promisiunile unor transumaniști precum Ray Kurzweil, și anume că ne vom îndrepta către o singularitate, adică o convergență a informaticii, roboticii și neuroștiințelor, sunt mai aproape de îndeplinire pe măsură ce puterea companiilor GAFA crește. Pentru a ne face o imagine mai clară asupra acestei singularități, Alexandre îl citează pe Kuzweil: „Peste aproximativ cincisprezece ani, Google vă va furniza răspunsurile înainte să îi puneți întrebările. Google vă va cunoaște mai bine decât partenerul sau partenera, ba poate chiar mai bine decât voi înșivă”. La această singularitate se poate ajunge datorită tranziției către un capitalism al informației, care este cu atât mai periculos, în viziunea autorilor, cu cât tinde să înlocuiască economia de piață în care antreprenorul ia deciziile economice, deoarece puterea de predicție umană va fi întrecută cu mult de cea a mașinilor, capabile să analizeze o cantitate incomparabil mai mare de date. De asemenea, pentru indivizii viitorului augmentarea va fi obligatorie pentru a face față concurenței într-o societate de cyborgi, așa încât biototalitarismul va fi iminent. În fața acestor predicții apocaliptice autorii nu par să ofere vreo soluție în afara celei de a purta dezbateri etice și a face eforturi pentru adaptarea educației la transformările radicale care urmează să apară.

Pentru cititorul interesat de aceste teme, cartea merită cu siguranță răsfoită, însă nu vă așteptați la ceva riguros și coerent. Din acest punct de vedere, eu cred că exact această coerență și direcție a discuțiilor (nu neapărat și o concluzie comună) este ceea ce ar fi făcut din cartea lui Jean-Michel Besnier și Laurent Alexandre o carte mai interesantă atât pentru cei pur și simplu interesați de discuții provocatoare la modă, cât și pentru cei interesați de o tratare mai profesionistă a bioeticii și eticii tehnologiei. Cu toate acestea, ea poate constitui o sursă dacă nu de răspunsuri, atunci în mod sigur una de întrebări. Iar o gândire sistematică ulterioară asupra acestor întrebări va permite inclusiv o abordare mai matură intelectual și mai coerentă a producțiilor artistice legate de temele discutate aici.