Ultima invenţie este conceptul în jurul căruia se construieşte o interesantă şi, în acelaşi timp, controversată teorie, a lui Nick Bostrom (n. 1973), filosof suedez, contemporan, profesor la Oxford, cu masterat în fizică şi neurostiinte computaţionale, fondator al “Institutului pentru viitorul umanităţii” şi, în prezent, consilier la “Centrul pentru studiul riscului existenţial”.
Ultima invenţie este o teorie despre prezent şi despre viitorul apropiat al umanităţii, exprimată în mai multe volume pe care Nick Bostrom le-a publicat în anii 2000 – “Ipoteza lumii vulnerabile”, “Utopia profundă: Viață și sens într-o lume rezolvată”, dar, mai ales, în “Superintelligence: Paths, Dangers, Strategies” (“Superinteligenţă. Căi, pericole, strategii”), tradusă şi în limba română.
Trăim într-o epocă în care avansul tehnologic este atât de rapid şi de imprevizibil încât creează o anume derută – unii sunt tentaţi să ducă în derizoriu impactul pe care Inteligenţa Artificială l-ar putea avea asupra societăţii umane, unul dintre argumente fiind că niciodată ceva creat de om nu va putea depăşi gândirea şi voinţa umană, alţii, dimpotrivă, sunt mai prudenţi, atrăgând atenţia că “revoluţia” generată deja de AI este complet diferită de tot ce a inventat omul până acum şi nici timpul de adaptare şi de a decela consecinţele nu mai este suficient, ca în alte epoci marcate de descoperiri şi inovaţii.
Ce înseamnă “Ultima invenție”?
Teoria lui Nick Bostrom despre “Ultima invenție” a omenirii se referă la ideea că, odată ce se va crea o inteligență artificială generală (AGI) — o formă de inteligență artificială care poate depăși sau egala capacitățile intelectuale ale oamenilor în orice domeniu — această invenție ar putea fi ultima pe care va trebui să o facă omenirea.
AGI (Artificial General Intelligence/ Inteligența Artificială Generală), numită şi “Human-level intelligence AI”/ “Inteligență la nivel uman IA”, despre care se crede că va fi pusă la punct până în 2030 sau mai devreme, va fi distinctă de formele de AI de până la acest moment, deoarece se presupune că ar depăşi competențele umane în orice domeniu, ar putea transfera abilităţi intre domenii diverse, ar putea rezolva orice fel de noi probleme fără programare specifică respectivei sarcini.
Inteligența artificială generală (AGI) ar putea ajunge rapid la superinteligență (ASI) — o formă de inteligență care depășește cu mult orice om. Prin urmare, odată ce va fi creată această entitate, ea va putea să inventeze, să inoveze și să perfecționeze orice, într-un ritm și cu o precizie imposibil de egalat de către mintea umană. Astfel, AGI devine “ultima invenție”, pentru că după aceea nu mai este nevoie de alte inovații umane — toate vor fi realizate de superinteligență. O superinteligență ar putea inventa tot ce este posibil mai repede și mai bine decât noi, ar fi capabilă să-și îmbunătățească singură abilitățile (auto-optimizare).
Ultima invenție, teoria lui Nick Bostrom şi “singularitatea tehnologică”
În cartea “Superinteligenţă. Căi, pericole, strategii”, Nick Bostrom spune că: “În fața perspectivei unei explozii de inteligență, noi, oamenii, suntem ca niște copii mici care se joacă cu o bombă. Există atâta nepotrivire între puterea jucăriei noastre și imaturitatea conduitei noastre”.
În momentul în care se va ajunge la AGI, trecerea la superinteligență artificială (ASI) se va putea întâmpla ca într-o “decolare” rapidă, în câteva minute, ore sau zile, ajungându-se la o situaţie unică, imprevizibilă şi ireversibilă în istoria omenirii – “singularitatea tehnologică” – o ruptură în cursul normal al evoluției umane și tehnologice, similară unui punct de inflexiune care schimbă totul.
Într-o astfel de situaţie, însoţită de o auto-îmbunătățire recursivă (AGI își îmbunătățește singură propria arhitectură), progresul tehnologic devine atât de rapid, încât oamenii nu mai pot înțelege sau controla ceea ce urmează. Aşadar, crearea AGI ar fi ultima invenție umană necesară, deoarece superinteligenţa ar prelua controlul asupra progresului științific.
“Când creezi ceva mai inteligent decât tine, consideră Nick Bostrom, tu nu mai decizi viitorul. De aceea, acea creație trebuie să fie perfect aliniată cu valorile tale – altfel, e ultima decizie pe care ai luat-o vreodată”.
Ideea singularităţii tehnologice a fost susţinută, înainte de Nick Bostrom, încă din anii 1950, de matematicianul şi informaticianul John von Neumann, care era convins că va veni un moment în care “omenirea nu-și va mai putea imagina ce se va întâmpla după aceea” şi ulterior, în anii 2000, de Ray Kurzweil, informatician şi inventator american, şi de alţi specialişti din domeniu.
“Ultima invenție” – Implicații etice și existențiale
“Ultima invenție” nu este o metaforă pentru sfârșit, ci pentru începutul unei epoci complet noi — dar care poate fi “paradisiacă” sau “apocaliptică”, în funcție de cum este gestionată.
Nick Bostrom avertizează că această dezvoltare are un potențial enorm, dar și riscuri existențiale uriașe. Dacă superinteligenţa este aliniată cu interesele umanității, ar putea rezolva probleme precum boala, foametea, sărăcia, încălzirea globală etc., ar putea accelera progresul științific și tehnologic la un nivel inimaginabil. Dacă nu este aliniată, chiar și o greșeală minoră în obiectivele programate ar putea duce la consecințe catastrofale — inclusiv dispariția speciei umane.
Mai sunt apoi şi alte aspecte sensibile, pentru care omenirea nu are acum răspunsuri. De exemplu, superinteligenţa artificială ar face inutil orice efort uman, în scop practic, ar genera un şomaj total şi, probabil, abundenţă materială. Care ar fi sensul, se întreabă Bostrom, într-o altă carte, “O lume rezolvată” (2024), pe care omul l-ar da existenţei sale într-un astfel de context, post-ultima invenţie?
Se fac deja scenarii despre cum să fie “împărţită” posibila “abundenţă”. Chetan Dube, de exemplu, fondator şi CEO al “Quant AI” (companie care oferă tehnologie AI pentru întreprinderi, industrie, clienţi, angajaţi), crede şi el ca AGI nu trebuie să fie “ultima invenţie”.
Acesta preconizează, în acelaşi timp, că, până în 2028, 70% din interacţiunile cu serviciul (global) de asistenţă pentru clienţi vor fi gestionate de AI şi, pentru ca productivitatea bazată pe Inteligenţa Artificială să devină “prosperitate comună” şi să nu fie confiscată de o mână de privilegiaţi, propune conceptul de “divident digital”, prin care să se producă un fel de “redistribuire” a bogăţiei (numită “Venit de bază universal”), de la munca digitală, la cea umană. Mai exact, să se creeze un sistem de impozitare a “salariaţilor digitali”, venit care să fie distribuit forţei de muncă pe care o înlocuiesc.
“Scântei de inteligență generală artificială”… şi o “Scrisoare deschisă”
Se pare că şi marii investitori (de exemplu, Elon Musk) şi specialişti în domeniul AI, precum Yoshua Bengio, expert în domeniul rețelelor neuronale artificiale și al învățării profunde, laureat al Premiului Turing (un echivalent pentru informatică al Premiului Nobel) au considerat că este nevoie de o “pauză” în experimentele AI la scară largă, după cum se solicită într-o “Scrisoare deschisă”, publicată îndată după lansarea GPT-4 al OpenAI, în care spun, printre altele: “Întrerupeți experimentele gigantice cu inteligență artificială […] instruirea sistemelor de inteligență artificială mai puternice decât GPT-4 pentru cel puțin 6 luni”.
Scopul unei astfel de solicitări, în contextul în care unele experimente cu GPT-4 au evidenţiat “scântei de inteligență generală artificială” (AGI), este acela de a pondera activitatea unor laboratoare de cercetare dispuse să ignore securitatea, în favoarea implementării mai rapide a unor tehnologii fără precedent.
John Hopfield şi Geoffrey Hinton, laureaţi ai Premiului Nobel pentru fizică, în 2024, premiaţi pentru “descoperirile şi invenţiile fundamentale care permit învăţarea automată cu ajutorul reţelelor neuronale artificiale”, care au revoluţionat domeniul AI, sunt şi ei semnatari ai “Scrisorii deschise”, îndemnând la echilibru şi la reorientarea cercetării în domeniul AI spre sisteme “mai precise, mai sigure, transparente, robuste, aliniate, demne de încredere și loiale”. Mai mult, Geoffrey Hinton, supranumit “naşul Inteligenţei Artificiale”, a demisionat din “Google Brain” (o echipă de cercetare asimilată de Google AI), invocând “îngrijorări referitoare la riscurile implicate de evoluția tehnologiei AI”.
“Ultima invenţie” – suficient de docilă, pentru a fi ţinută sub control?
Nick Bostrom, autorul teoriei “Ultima invenţie”, şi majoritatea specialiştilor din domeniul Inteligenţei Artificiale sunt convinşi că “superinteligenţa artificială” (AGI) nu numai că nu este o utopie, ci este foarte aproape. Aşadar, nu cum şi dacă se va ajunge la “singularitate tehnologică”, ci cum va fi gestionat acest moment din istoria omenirii, care nu are termen de comparaţie în istoria civilizaţiei noastre.
Desigur, există şi opinii contrare – cei care cred că “singularitatea tehnologică” şi “ultima invenţie”, implicit riscurile existenţiale (cele referitoare la destinul omenirii), sunt utopii sau că mai este nevoie de foarte mult timp pentru a se ajunge într-un asemenea punct.
Alţii vorbesc de o transformare majoră, în viitor, dar de natură spirituală, un fel de “eră a armonizării conştiinţelor”, totul tinzând spre “Punctul Omega”, un reper transcendent, neconstientizat, neînţeles de oameni, definit, pentru prima dată, cu peste 70 de ani în urmă, de Pierre Teilhard de Chardin, om de ştiinţă şi teolog.
Ceea ce este paradoxal, astăzi, în legătură cu această dezbatere din lumea ştiinţifică şi de la nivelul societăţii, în general, este că, dacă superinteligenţa (AGI) va fi “ultima invenţie” a omenirii, mintea noastră nu o va putea recunoaşte înainte de a se produce.
„Ultima invenţie” si parabola “Bufniţa şi vrăbiile”…
Nick Bostrom introduce în cartea sa, “Superinteligenţă: Căi, pericole, strategii”, un scurt text alegoric despre dezvoltarea inteligenței artificiale, implicit “ultima invenţie”, și pericolele neprevăzute ale progresului tehnologic, intitulat “Fabula neterminată a vrăbiilor”.
Este o poveste fictivă despre un grup de vrăbii care hotărăsc să crească o bufniță (să găsească un ou de bufniţă, să-l clocească) pentru a le ajuta să rezolve diferite probleme (de exemplu: protejarea cuiburilor, găsirea hranei etc.). Vrăbiile cred că o bufniță domesticită și inteligentă ar fi utilă pentru comunitate. Una dintre vrăbii, Scronkfinkle”, mai bătrână și mai înțeleaptă, avertizează că bufnițele sunt prădători naturali ai vrăbiilor și că ar trebui să învețe cum să controleze bufnița înainte s-o aducă la viață.
Celelalte vrăbii spun însă că se vor gândi la siguranță mai târziu. Mai întâi să o găsească şi să o crească. Povestea rămâne neterminată, lăsând deschisă întrebarea – vor reuși vrăbiile să-și protejeze existența sau vor fi devorate de propria creație?
Este evident că Bostrom folosește fabula ca să ilustreze pericolul naivității tehnologice (graba de a construi ceva puternic, fără a înțelege consecințele), pentru a evidenţia urgența aliniamentului etic (trebuie să învățăm cum să controlăm AGI înainte ca aceasta să devină mai puternică decât noi), pentru a atrage atenţia asupra lipsei de prudență din partea comunității științifice și tehnologice.
Așa cum vrăbiile riscă să fie mâncate de propria “inovație”, și omenirea riscă să fie depășită sau chiar anihilată de o superinteligență, dacă aceasta nu este gestionată corect de la început, ceea ce ar fi o greșeală potențial fatală.
