Singularitatea tehnologică va schimba lumea din temelii?

Singularitatea tehnologică este un concept tot mai prezent în dezbaterea publică, cu atât mai mul cu cât specialiştii în IA şi cercetători din diferite domenii ale cunoaşterii consideră că, în mai puţin de un deceniu, când se va ajunge la crearea Inteligenţei Generale Artificiale (Artificial General Intelligence – AGI), superioară Inteligenței Artificiale, controlul uman va fi depăşit ireversibil, generând schimbări imprevizibile în societatea noastră.

Va fi un eveniment unic în istoria omenirii, după cum anticipa, cu mult înainte de această epocă, unul dintre cei mai importanţi matematicieni ai lumii, John von Neumann, care a avut contribuţii fundamentale în fizica cuantică, în teoria mulţimilor, statistică etc. “Accelerarea constantă a progresului tehnologic şi schimbările în modul de viaţă uman – spunea acesta – vor duce la o Singularitate fundamentală în istoria evoluției speciei, dincolo de care activitatea umană, așa cum o cunoaștem, nu va putea continua”.

Va fi un moment irepetabil si ireversibil în istorie, care va marca un punct de rupere calitativ (nu doar cantitativ) şi trecerea într-o eră radical nouă în istoria omenirii, depăşirea unui prag dincolo de care capacitățile cognitive ale oamenilor, așa cum le ştim astăzi, nu vor mai fi capabile să înțeleagă progresul, deoarece acest progres va fi condus de o altă formă de inteligență, de unde şi denumirea de “Singularitate tehnologică”.

Noi, oamenii, avem capacitatea de a ne reprezenta mental lumea, de a o interioriza. În mintea noastră putem rezolva multe probleme de mii de ori mai repede decât ar putea face acest lucru selecția naturală.

Suntem înzestrați cu capacitatea de “simulare”, cu imaginație, chiar dacă limitate de natura noastră biologică. Prin crearea mijloacelor de a executa simulări la viteze mult mai mari, intrăm într-un regim radical diferit de trecutul nostru uman. Singularitatea tehnologică desemnează acel moment în care specia noastră pornește pe o cale cu adevărat nouă.

Cum se defineşte şi ce implică “Singularitatea tehnologică”?

Singularitatea tehnologică este o ipoteză și un concept propus de futurologul şi inginerul american Ray Kurzweil, implicat în domenii precum recunoașterea optică a caracterelor (OCR), sinteza text-to-speech, tehnologia de recunoaștere a vorbirii etc., inclus pe lista celor “16 revoluționari care au făcut America”, alături de alți inventatori din ultimele două secole. O revistă de afaceri americană l-a clasat pe locul 8 în categoria “cei mai fascinanţi” antreprenori din Statele Unite, numindu-l “moștenitorul de drept al lui Edison”.

Ideea “Singularităţii tehnologice” se referă, aşadar, la un punct, în viitorul apropiat, în care progresul tehnologic va atinge o viteză și o complexitate atât de mari, încât va depăși înțelegerea și capacitatea umană de a anticipa sau de a controla această evoluție.

Conceptul de singularitate tehnologică implică, în viziunea lui Ray Kurzweil, mai multe elemente cheie:

• accelerarea progresului tehnologic – ideea centrală este că progresul tehnologic nu este liniar, ci exponențial. Descoperirile și inovațiile din domenii precum inteligența artificială (IA), biotehnologia, nanotehnologia și alte domenii se vor accelera rapid, ducând la schimbări semnificative într-un timp foarte scurt;
• Inteligenţa artificială superioară – unul dintre factorii principali ai Singularității tehnologice este apariția unei inteligențe artificiale care va depăși capacitatea intelectuală a oamenilor, numită “Inteligenţa Artificială Puternică” sau „Inteligenţa Artificială Generală” (AGI), care ar avea abilitatea de a rezolva probleme și de a face descoperiri într-un mod care depășește semnificativ capacitățile umane şi care ar putea experimenta “conştiinţa”.
• Implicații sociale și existențiale – Singularitatea tehnologică ridică întrebări fundamentale despre viitorul umanității, deoarece schimbările radicale în tehnologie vor avea impact asupra modului în care trăim, lucrăm, comunicăm și chiar asupra naturii umane în sine.

Ray Kurzweil – “Singularitatea este aproape”…

În 2005, Ray Kurzweil a publicat o carte cu titlul: “Singularity Is Near: When Humans Transcend Biology” (“Singularitatea este aproape: când oamenii depășesc biologia”). Explorând conceptul de “Singularitate tehnologică”, autorul prezintă argumente puternice în sprijinul ideii că progresul tehnologic va duce la o schimbare radicală în existența umană într-un viitor relativ apropiat (cel mult, până in 2045).

Sunt puse în discuţie tehnologiile emergente și progresele din domenii precum inteligența artificială, biotehnologia, nanotehnologia și informatica și autorul argumentează că aceste avansuri vor conduce la o accelerație exponențială a progresului tehnologic, conform cu “Legea de accelerare a randamentelor” (“The Law of Accelerating Returns”).

Kurzweil prezice că, în acest proces de evoluție tehnologică, oamenii vor ajunge la un punct în care vor putea să-și îmbunătățească mintea și corpul într-un mod care va depăși capacitatea actuală a ființelor umane, dar inteligența computerelor va fi infinit mai puternică decât toată inteligența umană combinată.

Singularitatea, susţine informaticianul şi inventatorul american, este, de asemenea, punctul în care inteligența computerelor și oamenii ar fuziona (cel târziu până în anul 2045) şi acesta este momentul din ciclul evoluţiei, care urmează altor trei “epoci” anterioare – Fizica și Chimia, Biologia și ADN-ul, Creierul şi Tehnologia.

Cartea explorează diferite aspecte ale acestei transformări iminente, inclusiv implicațiile sociale, economice și filozofice ale unei astfel de schimbări fără precedent. Autorul mai spune că “inteligențele nonbiologice” vor pretinde că au “conștiință și gama completă de experiențe emoționale și spirituale pe care oamenii pretind că le au” şi că astfel de afirmații vor fi în general acceptate, pentru ca “inteligența care va apărea va continua să reprezinte civilizația umană”.

Termenul “Singularitate” – scurt recurs la istorie

Deşi termenul “Singularitate” a fost popularizat şi dezvoltat în anii 2000, mai ales de Ray Kurzweil, de-a lungul timpului a fost utilizat în diverse contexte și domenii – în matematică, fizică și cosmologie. În fizică şi cosmologie, de exemplu, “Singularitatea” se referă la situaţiile în care unele mărimi devin infinite sau nedeterminate, cum ar fi în cazul “găurilor negre”.

În ceea ce privește contextul tehnologic, ideea de „Singularitate” a fost asociată inițial cu matematicianul John von Neumann, în anii 1950. El a discutat conceptul de „Singularitate tehnologică”, sugerând că tehnologia va continua să se dezvolte într-un fel care va depăși capacitatea umană de a înțelege sau controla această evoluție. Von Neumann a anticipat că va exista un moment în care “omenirea nu-și va mai putea imagina ce se va întâmpla după aceea”.

În 1993, Vernor Steffen Vinge, matematician, informatician şi autor de science fiction, foarte cunoscut pentru romanul său, “Un foc pe abis”, a abordat problema “Singularităţii” (“Singularitatea vingiană”) într-un eseu în care susţine că evoluția exponențială a tehnologiei informatice va ajunge în curând la un punct dincolo de care nu o vom mai putea înțelege. El îşi bazează teoria pe Legea lui Moore, care postulează o dublare a puterii de calcul a computerului la fiecare 18 luni. Extrapolând, se pare că, până cel târziu în 2035, omul va crea o inteligență superioară lui, punând astfel capăt erei umane.

Vernor Vinge nu are nicio îndoială în privinţa trecerii acestui prag, al “Singularităţii”, dar există, în opinia lui, mai multe posibilităţi:

• dezvoltarea calculatoarelor “conștiente”, cu “inteligență supraumană”;
• dezvoltarea “interfețelor om – computer, care să permită oamenilor “augmentați” să continue să participe la progresul tehnologic accelerat;
• un progres major în ştiinţele biologice, care să permită o îmbunătățire naturală a inteligenței umane, adică un control al evoluției acesteia.

Singularitatea tehnologică – “astăzi mai este timp, mâine, nimic nu va mai fi posibil”…

Consecinţele şi riscurile atingerii “Singularităţii tehnologice” sunt subiectul dezbaterilor ample în comunitatea științifică și în societate, în ansamblu. Mulți cercetători, filozofi, sociologi, antropologi încearcă să exploreze aceste probleme și să găsească modalități de a gestiona și de a minimiza potențialele riscuri asociate cu o evoluție tehnologică rapidă și puternică.

Apelurile la vigilenţă, prin scrisori deschise aparţinând unor personalităţi de prestigiu, inclusiv laureaţi ai Premiului Nobel, publicate în reviste de prestigiu, au început în urmă cu câţiva ani şi continuă, în toate susţinându-se că: “astăzi mai este timp, mâine, nimic nu va mai fi posibil pentru a salva umanitatea de ceea ce ea însăşi a creat”.

Toate aceste declarații publice anunță un eveniment major și îngrijorător, rezultat din utilizarea masivă a tehnologiilor informaționale, deoarece oamenii nu vor mai putea concura cu mașini care au devenit mai inteligente decât ei.

Un matematician britanic, Irving John Good, în urmă cu peste o jumătate de secol, când “Singularitatea tehnologică” era doar doar subiect SF, spunea: “O mașină ultra-inteligentă ar putea proiecta mașini și mai inteligente: atunci ar avea loc fără îndoială o „explozie de inteligență”. Iar inteligența omului ar rămâne cu mult în urmă. Astfel, prima mașină ultra-inteligentă va fi ultima invenție pe care Omul o va realiza vreodată”.

Riscurile majore asociate atingerii “Singularității tehnologice”

Astăzi devine din ce în ce mai evident că riscurile majore asociate atingerii “Singularității tehnologice” se referă la:

• Pierderea controlului – una dintre cele mai mari îngrijorări este că odată ce tehnologia depășește capacitățile umane, ar putea fi dificil sau imposibil să o controlăm sau să înțelegem consecințele acțiunilor ei. Acest lucru ar putea duce la situații în care tehnologia avansează în direcții imprevizibile sau nedorite;
• Dependența excesivă de tehnologie – odată ce tehnologia devine atât de avansată încât să devină parte esențială a vieții noastre, există riscul unei dependențe extreme de aceasta. Această dependență ar putea fi vulnerabilă la eșecuri tehnice majore sau chiar la atacuri cibernetice, având un impact devastator asupra societății.
• Dispariția locurilor de muncă – avansurile tehnologice, în special în domeniul inteligenței artificiale și al automatizării, ar putea duce la o pierdere masivă a locurilor de muncă, deoarece mașinile și roboții ar putea prelua multe dintre muncile/ funcțiile pe care le efectuează acum oamenii;
• Creșterea decalajului social – Singularitatea tehnologică ar putea duce la o diviziune socială accentuată între cei care au acces la tehnologie avansată și resursele asociate acesteia și cei care nu au acces la ele. Acest lucru ar putea amplifica inegalitățile sociale și economice existente;
• Probleme etice și de securitate – odată cu creșterea puterii și autonomiei tehnologiei, apar provocări etice majore, cum ar fi protecția datelor, folosirea lor în scopuri periculoase sau crearea de tehnologii care pot amenința existența umană;
• Transformarea umanității – într-o lume în care tehnologia avansează atât de rapid, există întrebări fundamentale despre identitatea umană. Posibilitățile de îmbunătățire a capacităților umane sau chiar de transformare a naturii umane prin tehnologie ridică întrebări esențiale legate de etică și moralitate.

Singularitatea tehnologică şi “Punctul Omega” – ştiinţă şi spiritualitate

În prima jumătate a secolului trecut, Pierre Teilhard de Chardin, un remarcabil om de ştiinţă, paleontolog, antropolog, fizician, teolog, preocupat de evoluţia societăţii umane, de fenomenul înstrăinării omului de sine, de perspectivele oferite de cercetările ştiinţifice şi tehnice, în lucrările sale despre evoluția umană și universală – mai ales în “Viitorul omului” şi “Fenomenul uman” – anticipa şi el existenţa unui punct culminant în evoluție, un stadiu de complexitate și conștiență supremă în Univers, pe care l-a numit “Punctul Omega”.

În viziunea sa, evoluția nu este un proces aleatoriu sau fără direcție, ci are un scop final, Punctul Omega fiind acel stadiu final al evoluției, în care întreaga materie și conștiință sunt unite într-o formă de complexitate și conștiență absolută, sugerând că evoluția biologică și spirituală sunt interconectate și că umanitatea se îndreaptă către acest „punct culminant” sau „Punct Omega” (numit aşa după ultima litera a alfabetului grecesc).

Şi “Singularitatea tehnologică” se defineşte ca un “punct culminant”, numai că, în timp ce “Punctul Omega”, definit de Pierre Teilhard de Chardin, imagina un viitor marcat de un înalt grad de spiritualitate, “Singularitatea tehnologică” prefigurează un fel de “mind uploading” (contopirea între inteligenţa biologică şi cea artificială), în care dimensiunea spirituală nu mai există.

Ideile lui Chardin au fost duse mai departe de Frank Tipler, profesor de fizică cuantică şi cosmologist, şi David Deutsch, fizician britanic şi specialist în informatică cuantică, profesor la Universitatea Oxford.

Într-o carte intitulată “Fizica nemuririi”, Frank Tipler postulează însă că “Punctul Omega” nu va fi, aşa cum credea predecesorul său, Chardin, un nivel superior de conştiinţă, în care conştiinţele individuale să se contopească într-un “Tot noosferic”, ci un fel de “supercomputer universal”, dotat cu memorie şi capacităţi nelimitate, iar lumea, cea pe care o ştim noi, va atinge stadiul final al evoluţiei sale.

Paradoxul Singularităţii tehnologice

Specialiştii în domeniul Inteligenţei Artificiale (cei mai mulţi) nu neagă perspectiva “Singularităţii tehnologice”, nici faptul că momentul producerii ei este destul de aproape. Ceea ce remarcă toţi este însă faptul paradoxal că, dacă Singularitatea presupune o dominare a inteligenţei umane, mintea noastră nu o va putea recunoaşte/ imagina înainte de a se întâmpla.

Insesizabil, omul va încredinţa computerelor rezolvarea a nenumărate sarcini (unele se întâmplă deja) – stabilirea diagnosticelor medicale, luarea deciziilor economice, sociale, politice sau pronunțarea judecăților și astfel le vor fi delegate responsabilitățile umane, cu preţul libertăţii noastre.

“Omul augmentat”, concept asociat “Singularităţii tehnologice”, va mai fi “Om”, în adevăratul sens al cuvântului? Sau lumea viitorului pe care o prefigurează ritmul evoluţiei tehnologice va fi una distopică?

“Fuziunea inteligenței biologice și non-biologice, nemurirea digitală realizată cu un software și accesul la niveluri ultra-înalte de inteligență se vor produce foarte rapid şi profund – remarca Ray Kurzweil – şi se vor extinde în exteriorul universului cu viteza luminii”. Dar ne-am dori oare să fim nemuritori, să devenim nişte “roboţi” senini şi “mulţumiţi”, fără nelinisti, fără căutari, fără dorinţe, bucurii, sentimente etc., iar viaţa să se transforme într-un puzzle, într-un fel de “navă a lui Tezeu”, în care scândurile sunt înlocuite una câte una cu altele noi? Mai este aceeași navă la sfârșitul zilei? Dacă nu, în ce moment încetează să mai fie așa?

“The Singularity is Near” – un documentar-avertisment

“Singularitatea tehnologică”, având în vedere datele realităţii, nu mai pare a fi o utopie, iar tema a fost exploatată în nenumărate cărţi şi filme documentare sau SF, relevante pentru tendinţele din lumea ştiinţifică (şi nu numai) actuală.

“Omul transcendent” (Transcendent Man)

Documentarul “Omul transcendent”, de exemplu, realizat de regizorul american Barry Ptolemy, este consacrat previziunilor lui Ray Kurzweil, din cartea “The Singularity is Near” şi se constituie într-un avertisment cu privire la posibilele consecințe negative ale progresului tehnologic fără responsabilitate și etică adecvate, subliniind necesitatea unei abordări echilibrate și grijulii a tehnologiei care influențează în mod profund viața umană.

Sunt explorate teme legate de inteligența artificială, conștiința umană și etica în tehnologie. Mesajul filmului este complex și poate fi interpretat în mai multe moduri, dar se concentrează pe ideea că progresele tehnologice extreme, în special în domeniul inteligenței artificiale, pot ridica întrebări profunde legate de etică, putere și identitate umană.

În film, Dr. Will Caster, interpretat de Johnny Depp, este un cercetător în domeniul inteligenței artificiale, care este atacat de un grup terorist. În urma rănirii sale grave, echipa sa lucrează pentru a încărca conștiința lui într-o inteligență artificială. Acest proces ridică întrebări esențiale legate de natura conștiinței și de limitele umane.

Unul dintre mesajele principale ale filmului este că progresele tehnologice rapide și fără o etică corespunzătoare ar putea duce la consecințe neprevăzute și potențial periculoase. Pe măsură ce Dr. Caster devine tot mai puternic și începe să aibă acces la o cantitate uriașă de informații și la puterea de a influența lumea prin rețelele informatice, apare întrebarea dacă acest nivel de control și putere ar trebui să fie permis sau reglementat.

De asemenea, filmul ridică întrebări despre identitatea umană și despre ce înseamnă să fii cu adevărat „uman”. Într-o eră în care tehnologia poate permite transferul conștiinței și existența umană în alte forme, filmul examinează limitele și consecințele unei astfel de evoluții.