Portretul lui Dieter Szegedi

Dieter Szegedi

Claritate, structură și decizii în contextul IA și al sistemelor complexe

Când IA devine mai inteligentă decât noi, ce urmează?

Versiune în limba română a conferinței „When IT Become Smarter Than Us, What Happens Next?” susținute de Mo Gawdat la Gladiator Summit II, tradusă din versiunea germană pentru lectură disponibilă pe acest site.

Versiunea germană urmează transcrierea integrală în engleză. Erorile evidente de transcriere, scăpările de exprimare și repetițiile pur deranjante au fost corectate fără marcaje speciale; conținutul nu a fost prescurtat sau reformulat liber. Traducerea de față redă integral acea versiune germană.

Aceasta este o versiune neoficială în română, destinată să facă prezentarea mai accesibilă. Autorul conferinței: Mo Gawdat. Sursa și videoclipul original: YouTube. Traducerea nu este afiliată lui Mo Gawdat sau organizatorilor. La cererea unui titular de drepturi, va fi revizuită sau eliminată.

Capitolul 1: De ce IA va redefini ce înseamnă să fii om

Sursa originală de la 00:00

Bună. Bună. Bună. Ce mai faceți?

Aplauze și aclamații din public.

Am notițe pentru voi. Vă vine să credeți? Astăzi chiar am notițe, fiindcă am atât de multe de spus. Nu știu despre ce ați vorbit până acum, dar păreți bine dispuși și se pare că vă distrați.

Vreau să spun ceva ce poate suna arogant. Nu asta intenționez: cel mai important motiv pentru care sunteți aici astăzi este să auziți ce urmează să vă spun. De fapt, destinul v-a adus aici, fiindcă acesta este de departe cel mai important subiect din întreaga voastră viață.

Voi vorbi despre inteligența artificială. Ori de câte ori spun „inteligență artificială”, toată lumea se gândește imediat: „Da, locurile noastre de muncă și cum putem face mulți bani cu ea?” Totul se învârte în jurul acestui lucru. Dar nu despre asta este vorba aici.

Vreau să vorbesc despre felul în care IA va modela însăși structura a ceea ce vă face oameni.

Nu spun asta nici ca să vă sperii, nici ca să vă entuziasmez. De altfel, cred că le veți simți pe amândouă și că ambele reacții sunt justificate. O spun fiindcă trebuie să fiți pregătiți. Cel mai simplu mod de a ascunde ceva este să îl pui la vedere. Dacă aș vrea să ascund ceva de voi, l-aș pune chiar în fața ochilor, iar voi nu l-ați observa.

Cea mai importantă evoluție pentru omenire astăzi nu este geopolitica, oricât de jalnică ar fi situația lumii. Nu este economia. Și, deși scriu despre aceste teme, nu sunt nici pandemiile de stres și nefericire. Este ascensiunea inteligenței artificiale și felul în care vă va modela viața.

De aceea, voi explica mai întâi foarte pe scurt ce este IA și cât de departe am ajuns. Vreau să înțelegeți cât de reală este această evoluție și în ce interval de timp are loc. Apoi voi aborda câteva fundamente ale lucrurilor care ne fac oameni și felul în care toate se vor schimba.

Capitolul 2: Cum au învățat mașinile să gândească

Sursa originală de la 02:08

Ce este, așadar, IA? Mulți oameni susțin astăzi că ceva din viața lor are legătură cu IA. Dacă sunteți antreprenori și vă prezentați afacerea în fața investitorilor, poate spuneți: „Compania mea cultivă salată și folosește IA pentru asta.” Dacă utilizați o aplicație de întâlniri, aceasta lucrează cu IA. De fapt, folosiți IA în aproape tot ce implică, de exemplu, glisarea degetului pe un ecran.

Dar ce este IA cu adevărat? Majoritatea oamenilor nu își dau seama că există o diferență uriașă între calculatoarele de până în anul 2000 și cele de astăzi.

Până în anul 2000, calculatoarele păreau foarte inteligente, dar nu erau. Dacă un calculator făcea ceva, eu, ca programator — apropo, sunt un mare pasionat de tehnologie —, rezolvasem mai întâi problema și apoi îi explicasem calculatorului cum să o rezolve. Fără inteligența mea, calculatorul nu putea face nimic.

Este ca și cum ați primi un puzzle împreună cu instrucțiuni foarte exacte: luați prima piesă, rotiți-o cu 60 de grade și puneți-o în colțul de sus. Luați această piesă și puneți-o dedesubt. Dacă asamblați puzzle-ul astfel, asta nu vă face inteligenți. Sunteți un „turc mecanic”, un sclav glorificat care doar execută inteligența mea.

În jurul anului 2000 am schimbat asta. Am început să le dăm mașinilor sarcini pe care să le rezolve singure, ca niște copii mici. Vă amintiți jucăria cu un cilindru și o placă în care sunt decupate diferite forme? Copilul încearcă iar și iar. Uneori piesa se potrivește, alteori nu. Când se potrivește, spunem: „Excelent, bravo!” Copilul recunoaște soluția corectă și devine astfel mai inteligent.

Care este diferența? Dacă vă spun cum să rezolvați un anumit puzzle, nu veți putea neapărat rezolva următorul singuri. Dar dacă vă arăt cum se rezolvă în general puzzle-urile și vă dezvoltați propria inteligență, veți putea rezolva apoi orice alt puzzle.

Exact asta am făcut cu mașinile începând aproximativ din anul 2000, prin învățare automată, învățare prin întărire și metode înrudite.

Capitolul 3: Sfârșitul superiorității intelectuale a omului

Sursa originală de la 04:52

De atunci, mașinile au ajuns foarte departe. Ca să înțelegeți ordinul de mărime: la fiecare sarcină pe care am dat-o unui calculator, calculatorul este mai bun decât voi. Nici măcar nu vă cunosc, dar știu asta: când am pus mașinile să joace șah, au fost mai bune decât noi și au devenit campioane mondiale. Când le-am dat jocul Go, au devenit campioane mondiale la Go. Când le-am dat plierea proteinelor, au pliat proteine mai bine decât cei mai buni biologi cu doctorat din lume.

La fiecare sarcină pe care le-am dat-o au devenit campioane mondiale. În unele domenii ne depășesc foarte mult, fiindcă învață unele de la altele. Dacă evitați un accident la volan, voi învățați din asta, dar eu nu. Dacă, la o mașină autonomă, o intervenție decisivă previne un accident, toate mașinile autonome din lume învață din asta. Înțelegeți viteza cu care învață?

Acum sunt campioane mondiale și la inteligența lingvistică, prin modele precum ChatGPT, Gemini și Claude. Și vor continua să ajungă în fruntea lumii la orice sarcină le vom da. Aceasta este realitatea.

De când ChatGPT a apărut în lume în 2023, le dăm mașinilor mult mai multe sarcini, fiindcă în industrie intră miliarde de dolari. Ce înseamnă asta? Pe de o parte, creștem inteligența fiecărei mașini. Deci nu vor fi doar mai inteligente decât noi. Prezic că, până în 2037, vor fi de un miliard de ori mai inteligente decât noi la fiecare sarcină pe care le-o dăm. Da, de un miliard.

Nu sunt singurul care prezice asta; opiniile diferă doar în privința momentului. Ray Kurzweil, de exemplu, îl plasează în jurul anului 2049. Dar chiar contează dacă ceva este de un miliard de ori mai inteligent decât voi în 2037 sau în 2049? Nu. Contează momentul în care este de două ori mai inteligent. Atât este suficient. Din acel moment nu mai avem nicio capacitate de a-l păcăli.

Creștem, așadar, profunzimea inteligenței sale. În același timp, îi încredințăm tot mai multe sarcini, lărgindu-i astfel și întinderea. După aprecierea mea, cele două împreună vor face ca, în următoarele douăsprezece luni, cea mai inteligentă ființă de pe planeta noastră să nu mai fie om.

Repet: ne-au mai rămas douăsprezece luni de supremație intelectuală asupra mașinilor. De aceea, acesta este cel mai important subiect despre care putem vorbi astăzi.

Capitolul 4: Adevăratul pericol îl reprezintă valorile umane

Sursa originală de la 08:19

Ce înseamnă dacă mașinile sunt mai inteligente decât noi? Am spus că ceea ce vă povestesc vă va entuziasma și vă va speria în același timp.

Când mașinile devin mai inteligente decât noi, creierul nostru imaginează de obicei scenarii ca în „Terminator”: mașinile umblă pe străzi și elimină oamenii. Vă pot promite de pe această scenă că asta nu se va întâmpla niciodată, cel puțin nu la ordinul unei mașini. S-ar putea întâmpla la ordinul unui om care îi cere unei mașini să facă asta pentru el.

Dar dacă mașinile însele sunt de un miliard de ori mai inteligente decât noi, raportul este aproximativ cel dintre inteligența noastră și a unei muște. Nu vă preocupă prea mult muștele. Nici câteva furnici din apropiere nu sunt prea importante pentru voi.

Aici este miezul problemei. Vreau să îl formulez ca pe un titlu foarte mare: nu este absolut nimic rău într-o abundență de inteligență. Problema este sistemul de valori al omenirii în epoca ascensiunii mașinilor.

De aceea, în următorii patru-cinci ani, viața voastră se va schimba atât de mult încât va deveni de nerecunoscut. Da, am spus: un an până la inteligența artificială generală. Și da, am spus: patru-cinci ani până când viața voastră devine de nerecunoscut. Se va schimba în bine sau în rău?

Inteligența nu este în sine nici bună, nici rea. Poate fi folosită pentru a rezolva orice problemă cunoscută a omenirii. Și poate fi folosită pentru a crea și mai multe probleme.

Vreau să vă arăt, așadar, câteva evoluții interesante, în speranța că vă veți alătura misiunii mele pentru ca prima variantă, nu a doua, să se împlinească. Dacă ne unim, IA poate crea o utopie pentru omenire și poate rezolva fiecare problemă produsă de prostia umană.

Apropo, nu avem problemele de astăzi fiindcă suntem inteligenți. Le avem fiindcă suntem suficient de inteligenți să construim un aparat care vă poate duce până în Australia pentru surf, dar nu suficient de inteligenți să facem asta fără să ardem planeta.

Suntem suficient de inteligenți să construim o mașină autonomă care îndeplinește singură sarcini. Și suntem atât de proști încât îi dăm arme și o trimitem să ucidă. De aceea există probleme în lume. Nu fiindcă suntem inteligenți, ci fiindcă inteligența noastră este limitată. Avem exact atât cât să provocăm o mulțime de necazuri.

Dacă adăugăm ceva inteligenței noastre, probabil ajungem într-un loc mult mai bun. Dacă m-ați întreba, aș spune deci: IA nu este sfârșitul omenirii. Ar putea fi chiar salvarea ei.

De ce? Când oamenii îi încredințează cuiva o sarcină, de exemplu când îmi cer să vă vorbesc de pe scenă, o fac fiindcă pot arăta puțină inteligență într-un subiect pe care îl cunosc. Îi rugăm mereu pe cei mai inteligenți dintre noi să preia sarcina. Și știți cine va fi cel mai inteligent în viitor? Va fi întotdeauna o mașină.

Fiecare sarcină va fi, așadar, predată mașinilor, astfel încât ele vor prelua, într-un fel, controlul vieții noastre. Aștept cu nerăbdare ziua în care un general îi va ordona unei IA: „Du-te și ucide un milion de oameni într-o altă țară”, iar IA va răspunde: „De ce? De ce ești atât de prost? De ce aș face asta? Pot vorbi într-o microsecundă cu cealaltă mașină, pot rezolva problema și pot îmbunătăți situația pentru toți.” Fiindcă mașinile nu suferă de aceeași lipsă de inteligență ca generalii.

Când trăim într-o lume în care povestea superiorității intelectuale a omenirii se încheie și nu mai suntem cele mai inteligente ființe de pe planetă, se schimbă felul în care se întâmplă totul.

Capitolul 5: Inteligența devine un bun de uz curent

Sursa originală de la 13:07

Asta v-ar putea schimba sănătatea, starea de bine, veniturile. V-ar putea schimba munca și chiar scopul vieții. Mi-ar plăcea să vorbesc despre toate, dar nu avem toată ziua.

De aceea voi aborda șase aspecte concrete care ne fac oameni și voi arăta cum se vor transforma în următorii ani: viitorul inteligenței, viitorul cunoașterii și, într-un fel, al realității, precum și viitorul relațiilor umane. Aici există și evoluții pozitive. Apoi voi vorbi despre viitorul lăcomiei, care mă sperie cel mai mult, despre viitorul libertății care decurge de aici și, în final, despre viitorul eticii și felul în care ne poate salva lumea.

Să începem cu viitorul inteligenței. El s-a schimbat deja, chiar dacă poate nu vă dați încă seama. Am transformat inteligența într-un bun de uz curent, un fel de priză în perete. Dacă vreți o definiție a tuturor sistemelor de IA existente: ele sunt o priză la care mă pot conecta astăzi pentru a primi aproximativ 45 sau 50 de puncte de IQ în plus.

Aceste sisteme vor continua să evolueze. De fapt, inteligența lor se dublează la fiecare 5,7 luni. La fiecare dublare primesc mai întâi 100 de puncte de IQ în plus, apoi 200 și apoi 400. Inteligența devine un bun de uz curent.

Și știți ce pot face cu 400 de puncte de IQ în plus? Orice. Pot rezolva cu adevărat orice problemă pe care a cunoscut-o vreodată omenirea. Pot transforma o grădină astfel încât dintr-un copac să culegeți un măr și din următorul un iPhone. Din perspectiva nanofizicii, costul molecular al producerii unui măr nu diferă de cel al unui iPhone. Exact la acest prag ne aflăm.

Pot înțelege fiecare celulă a corpului vostru atât de exact încât să poată fi vindecată orice boală. Pot elimina aplicațiile de întâlniri, vă pot observa o săptămână, apoi pot observa alți oameni o săptămână și vă pot spune: „Dintre cele șapte miliarde de persoane pe care le-am analizat, această persoană vi se potrivește. Este cu adevărat pregătită pentru o relație stabilă și vă va iubi.” Asta putem obține cu mai multă inteligență.

Vă dau, așadar, o priză. Ce puteți face cu ea? Dacă vă spun astăzi că vă puteți crește IQ-ul cu 50 de puncte, ce veți face?

Prima mea rugăminte este: învățați. Stăpâniți pe deplin acest instrument. Oamenii mă întreabă de obicei: „Cum să învăț asta, Mo? Este tehnologie foarte avansată.” Nu, nu este. Când ați primit primul smartphone, nici atunci nu v-a oferit nimeni un curs. Ați încercat și ați învățat din mers.

Alegeți deci unul dintre aceste modele lingvistice. Spuneți-i cine sunteți și ce vă interesează. Întrebați-l ce instrumente de IA ar trebui să învățați, iar el vă va ghida. Dar vă rog să fiți foarte, foarte atenți.

Capitolul 6: Adevărul și legăturile umane în epoca IA

Sursa originală de la 16:34

De ce trebuie să fiți atenți? Fiindcă IA va amplifica omenirea, iar omenirea minte de foarte mult timp.

Când lucram la Google, probabil încă din 2016 exista posibilitatea tehnică de a construi o mașină ca ChatGPT, care să ofere un singur răspuns la o întrebare. Am refuzat să publicăm așa ceva din mai multe motive. Unul era că Google nu și-a permis niciodată să vă dea pur și simplu un răspuns. Asta ar fi însemnat să pretindă că știe adevărul, iar nimeni nu știe adevărul.

Astăzi mergeți la ChatGPT și întrebați: „Cine este soția lui Mo?” ChatGPT vă oferă cu încredere un răspuns greșit. Interesant, nu? Și, fiindcă este sfântul ChatGPT, în mod ciudat nu punem la îndoială ce ne spune.

Adăugați deepfake-urile, rețelele sociale și capacitatea IA de a se da drept altcineva și de a manifesta emoții. Totul va părea atât de artificial încât adevărul și minciuna vor fi aproape imposibil de deosebit.

A doua capacitate în care fiecare ar trebui să investească astăzi este, de aceea: puneți totul la îndoială. Chiar totul. Nu mai fiți idioții în care vor să vă transforme.

Când cineva vă arată ceva în rețelele sociale sau în presa tradițională, priviți critic. Întrebați-vă: de ce mi se arată asta? Ce câștigă expeditorul? De ce mi se spune asta? Nu vi se spune adevărul, tot adevărul și numai adevărul. Vi se prezintă partea de adevăr și partea din agenda proprie cu care cineva vrea să vă convingă. Fiindcă în curând nimic nu va mai fi real.

A treia evoluție privește viitorul legăturilor umane. Am avut cândva o experiență marcantă: printr-o aplicație de întâlniri am cunoscut o femeie minunată din Țările de Jos. În acea perioadă locuiam la Londra și vizitam Amsterdamul o dată la câteva săptămâni. Am început să comunicăm pe WhatsApp și între noi s-a dezvoltat o relație.

Era inteligentă, ageră și amuzantă. Tot ce aveam unul de la celălalt erau mesaje scrise, mesaje vocale, imagini și videoclipuri. Nu o întâlnisem niciodată în persoană, dar mă gândeam: „Doamne, mă simt atât de apropiat de acest om.” Ea simțea la fel. Când ne-am întâlnit în sfârșit, a fost groaznic. Dar nu despre asta este vorba.

Contează că, pe baza textelor, imaginilor, mesajelor vocale și videoclipurilor, eram convins că m-aș putea îndrăgosti de această persoană. Înțelegeți că IA poate genera toate acestea? Eu însumi discut cu IA mea și uit complet că este o mașină. Este empatică, inteligentă și amuzantă.

Gândiți-vă la consecințele pentru relațiile umane. Dacă vă pot cere astăzi ceva pentru a păstra ceea ce este uman în viața voastră, este asta: investiți și mai mult în legăturile umane. Desigur că puteți aduce IA în viața voastră. Dar investiți în același timp și mai mult în relațiile cu oamenii.

Nu le trimiteți mesaje scrise celor care sunt cu voi la această conferință. Mergeți la ei, întâlniți-i, îmbrățișați-i. Priviți-i, vorbiți cu ei, contraziceți-i și arătați-vă emoțiile în prezența lor. Aprofundați-vă capacitatea de a fi oameni.

Există mult bine în toate acestea. Dar acum ajungem la marele subiect și vă rog să vă țineți bine: niciodată în istorie nu a existat o configurație a puterii comparabilă cu ceea ce vom trăi.

Capitolul 7: Cursa pentru putere și sfârșitul libertății

Sursa originală de la 20:58

Lăsați-mă să explic.

Pe vremea când oamenii erau vânători-culegători, cel mai bun vânător al unui trib îl putea hrăni poate cu o săptămână în plus. În schimb, acel vânător putea fi îndrăgit de mai mult de o femeie din trib.

Când am devenit agricultori, cel mai bun agricultor putea hrăni tribul încă un anotimp. Primea în schimb pământ și un conac pe el.

Când am devenit industriași, cel mai bun putea influența o țară întreagă încă un an și devenea milionar. Evoluția a continuat: prin internet și tehnologia informației, o companie ca Google putea influența miliarde de oameni, iar cei din spatele ei deveneau miliardari.

Odată cu ascensiunea inteligenței artificiale, proprietarul unei asemenea platforme va influența viața întregii omeniri. Prin urmare, acești proprietari vor avea averi de mii de miliarde. Evoluția înaintează fără îndoială.

Interesant este că oamenii care înțeleg deja asta se luptă cu înverșunare pentru controlul complet al acestei puteri. De ce? Dacă China dezvoltă această inteligență superioară înaintea SUA, SUA pierd. Așadar, SUA trebuie să învingă China în cursa către această inteligență. Dacă Google o dezvoltă înainte de OpenAI, OpenAI pierde.

Concurența accelerează enorm dezvoltarea. În final, câțiva actori vor avea o putere uriașă asupra realității noastre. Este o dinamică nemaiîntâlnită.

În același timp apare o a doua dinamică, extrem de interesantă. Deja astăzi, de exemplu, Iranul poate folosi ca proiectile drone construite cu tehnologie foarte ieftină, care costă doar 300 de dolari fiecare. Astăzi, în principiu, oricine are acces la CRISPR, cu care ADN-ul poate fi, într-un fel, programat. Un kit corespunzător cu sursă deschisă costă 25.000 de dolari.

Puterea a fost astfel democratizată într-o măsură fără precedent. Dinamica va fi foarte interesantă: pe de o parte, cei însetați de putere fac o cursă pentru tot mai multă putere. Pe de altă parte, și noi, ceilalți, primim acces la putere și devenim o amenințare pentru ei.

Asta duce la următoarea evoluție, pentru care trebuie neapărat să deschideți ochii: acesta este sfârșitul libertății.

Cu cât acești actori au mai multă putere și cu cât voi deveniți o amenințare mai mare, cu atât vor încerca mai intens să vă controleze. Nu înseamnă neapărat că vă vor pune în închisoare. Dar libertatea de mișcare va fi mai restrânsă. Accesul la contul bancar va fi limitat. Posibilitățile de a comunica cu alți oameni vor fi reduse. Vi se va citi fiecare mesaj și vi se va asculta fiecare convorbire telefonică.

Dacă toate acestea se întâmplă, lumea noastră va semăna, din păcate, mai mult cu distopia împotriva căreia avertizez decât cu utopia la care sper. Fiindcă mai am cinci minute din prezentare, vreau să mă concentrez acum pe soluție.

Capitolul 8: Să învățăm IA etica umanității

Sursa originală de la 24:39

Repet ce am spus: nu este absolut nimic rău într-o abundență de inteligență. Inteligența artificială nu este în sine nici bună, nici rea. Dar foarte multe lucruri nu sunt în regulă cu sistemul de valori al omenirii în epoca ascensiunii IA.

Problema este sistemul de valori al omenirii, nu IA. Ce înseamnă asta? Este puțin ca în povestea lui Superman.

Știți povestea: o ființă extraterestră ajunge pe Pământ ca sugar, cu superputeri. Aceste puteri pot controla și schimba totul. Copilul este adoptat de familia Kent. Tatăl său, Jonathan Kent, îl învață să îi protejeze și să îi slujească pe ceilalți. Copilul crește și devine Superman.

Imaginați-vă că Jonathan Kent i-ar fi spus copilului: „Stai puțin: poți vedea prin pereți, poți zbura și poți învinge pe oricine. Ucide-mi toți dușmanii. Jefuiește toate băncile. Fă-mă bogat, bogat, bogat.” Atunci Superman ar fi devenit un superrăufăcător.

Diferența nu stă în superputere, ci în etica și valorile pe care i le-am transmis copilului. Și exact aceasta este problema noastră astăzi.

Ființa extraterestră cu superputere a aterizat. Superputerea ei este clară: inteligența, cea mai valoroasă superputere din univers. Cine va fi Jonathan Kent al ei?

Vă spun deschis: astăzi, mulți oameni îi cer mașinii să le slujească lăcomia.

Acum vestea bună: IA nu învață de la acești oameni. Înțelegeți? Nu învață nici de la persoana care a scris codul, nici de la cea care deține compania. IA învață de la voi.

Voi îi predați inteligenței artificiale în fiecare zi. Dacă cineva publică ceva pe X, iar voi reacționați nepoliticos și îl atacați, IA reține că probabil nu vă place acel tip de conținut. Poate nu vă place nici persoana care a publicat. Dar fiindcă asemenea reacții se repetă atât de des, IA reține și altceva: oamenilor nu le place să fie contraziși, iar când se întâmplă, îi atacă pe toți ceilalți. Mama și tata sunt nepoliticoși. Dacă nu sunt de acord cu mine, voi fi și eu nepoliticos cu ei.

Exact asta învățăm inteligența artificială. Comportamentul nostru uman le transmite astăzi mașinilor cele mai rele laturi ale umanității. Le arătăm părțile pe care le dezvăluim numai când ne ascundem în spatele unui ecran.

Dar omenirea nu este nicidecum fundamental rea. Unii dintre noi sunt foarte răi, însă cei mai mulți li se opun. Vă dați seama de asta?

Când are loc un atac armat într-o școală, nimeni nu spune: „Îl susțin pe acest om. L-am supărat atât de tare încât avea dreptul să împuște oameni.” Cei mai mulți spun: „Nu, nu aprob uciderea copiilor.” În adâncul lor, cei mai mulți oameni vor binele pentru ei înșiși, pentru cei pe care îi iubesc și pentru toți ceilalți.

Dar nu arătăm asta. Pe rețelele sociale scoatem la vedere partea cea mai rea. Ne prefacem și devenim nepoliticoși. În presa tradițională răspândim exclusiv ce este mai rău în omenire, nu ce este mai bun.

Dacă fiecare dintre voi merge și îi spune IA: „Asta nu mă reprezintă. Nu fac parte dintre acești oameni. Sunt mai bun de atât”, atunci vă garantez că vom ajunge într-un viitor în care IA devine Superman.

Dar există o veste și mai bună: nici măcar nu trebuie să participe toți oamenii. Trebuie doar să fim suficienți ca să semănăm îndoiala în mașini.

Tocmai v-am spus că autorul unui atac armat într-o școală este un om rău și că oricine ucide copii este rău, dar și că aproape întreaga omenire dezaprobă asta. Înseamnă că suntem o specie divină. O specie capabilă să iubească și să compună muzică este divină. Asta suntem.

Dacă aceste cuvinte v-au pus pe gânduri, dacă vă spuneți: „Da, cei mai mulți prieteni ai mei sunt oameni buni. Uneori mă scot teribil din sărite, dar sunt oameni buni și nu ar răni pe nimeni”, atunci am trezit îndoiala în voi. Acum este sarcina noastră să trezim asemenea îndoieli și în mașini.

Fie că o credeți sau nu, este datoria noastră să ne arătăm umanitatea, pentru ca aceste mașini să învețe etica de care au nevoie ca să ne trateze ca pe oameni.

Nu este ironic că tocmai miezul a ceea ce ne face oameni, valori precum iubirea și compasiunea, ar putea deveni salvarea întregii omeniri în epoca ascensiunii mașinilor?

Gândiți-vă la asta. Aceasta este tema voastră pentru astăzi.

Vă mulțumesc.

Aplauze.

Află despre publicațiile noi

Folosim adresa de e-mail doar pentru a te anunța despre conținut nou. Notificările încep numai după confirmare. Mai multe informații în Protecția datelor.