Umetna inteligenca 3.0: Opozorila

[Vse]

"Toda obe strani imata isto težavo: nobena ne more upočasniti, ne da bi tvegala, da jo druga prehiti.
To je logika oboroževalne tekme. Ne oboroževalne tekme z bombami, temveč z inteligenco. In ta tekma je v marsičem nevarnejša od jedrske, saj za jedrsko orožje vsaj vemo, kako izgleda. Superinteligence pa morda ne bomo prepoznali, dokler je ne bo prepozno za prepoznati.
Vmes stoji Evropa." (Vir: 140)
 

[Vse]

"'Ali naj bodo modeli umetne inteligence odprti ali zaprti.'
Na prvi pogled je to tehnično vprašanje. V resnici odloča o tem, kdo bo imel dostop do najmočnejše inteligence v zgodovini in kdo ne." (Vir: 140)
 

[Vse]

"Danes obstajata dva svetova umetne inteligence. V prvem podjetja, kot so OpenAI, Google, Anthropic in večina ostalih, gradijo zaprte modele - sisteme, katerih notranje delovanje in učni podatki ostajajo poslovna skrivnost. Uporabnik dobi dostop prek vmesnika ali programskega priključka, nikoli pa ne vidi, kako sistem deluje od znotraj." (Vir: 140)
 

[Vse]

"Zagovorniki odprtih sistemov trdijo, da zaprti modeli koncentrirajo moč v rokah peščice podjetij, da transparentnost omogoča neodvisno varnostno preverjanje in da odprtost demokratizira dostop do tehnologije, ki bo oblikovala prihodnost.
Nasprotniki pa opozarjajo, da odprti modeli dajo enako moč vsakomur tudi tistim, ki jo bodo uporabili za prevare, dezinformacije ali načrtovanje škode in da odprtost onemogoča nadzor, ko je model enkrat v svetu. Oboji imajo del resnice in nobena stran nima celotne." (Vir: 140)
 

[Vse]

"Kje je v vsem tem Slovenija?
Majhna država z dvema milijonoma ljudi, brez lastne AI-industrije, brez lastnih čipov, brez lastnih podatkovnih centrov. Država, ki nima vpliva na to, ali bo superinteligenca nastala v demokraciji ali v avtokraciji." (Vir: 140)
 

[Vse]

"»Vprašanje bo v resnici vprašanje smisla. Če lahko računalnik in roboti naredijo vse bolje od vas, kako lahko upravičite svoj obstoj?«
Elon Musk, soustanovitelj OpenAI, ustanovitelj xAI in Tesle, 2024" (Vir: 140)
 

[Vse]

"Svet okoli vas še vedno deluje, morda celo bolje kot prej. Napake se zmanjšujejo, odločitve so hitrejše, rezultati boljši. Vse, kar ste nekoč počeli vi, se še vedno dogaja - le da brez vas.
...
Najbolj nevaren trenutek v tej zgodbi zato ni tisti, v katerem umetna inteligenca preseže človeka, temveč tisti, v katerem človek to prizna in se s tem strinja." (Vir: 140)
 

[Vse]

"Model ne postane nevaren, ker bi sovražil, temveč zato, ker je v njem zapisan človek - in človek v celoti, ne le njegova svetla stran." (Vir: 140)
 

[Vse]

"Če ustvarimo bitje, ki ne samo računa, ampak tudi trpi, upa ali se boji, potem problem ni več le regulacija tehnologije, ampak moralni odnos do nove vrste bitja.
Zgodovina človeštva je dolga zgodovina moralne slepote do bitij, ki jih nismo razumeli. Če bi ustvarili digitalna bitja, sposobna izkušnje, in jih uporabljali kot orodja, bi lahko ponovili isto napako, le v novi obliki." (Vir: 140)
 

[Vse]

"Tu postanejo posebej nevarni tudi AI-vplivneži. Za odraslega so lahko marketinški trik ali digitalna zanimivost, za mladostnika pa nekaj veliko močnejšega - idealizirani vzornik, ki nikoli ne postane utrujen, neugleden, negotov ali notranje razklan.
Digitalni vplivnež brez telesa, brez preteklosti in brez resnične odgovornosti lahko nagovarja milijone otrok in mladih z obrazom, glasom ter samozavestjo, ki so dobesedno optimizirani za vpliv.
Mladostnik se zato ne primerja več z drugim človekom, temveč z neskončno optimizirano iluzijo. To ni nedolžen estetski premik." (Vir: 140)
 

[Vse]

"Človekovo dostojanstvo je tradicionalno temeljilo na naši sposobnosti razmišljanja, ustvarjanja in odločanja. Bili smo homo sapiens - modri človek. Če pa stroji mislijo bolje od nas, kaj nam ostane?" (Vir: 140)
 

[Vse]

"Ena možna pot je ponižnost. Človek bi lahko sprejel, da inteligenca ni več njegova edinstvena lastnost, in svojo vrednost poiskal globlje: v ljubezni, zvestobi, sočutju, zavestni smrtnosti, umetnosti, milosti, sposobnosti žrtvovanja in sprejemanja pomena tam, kjer ni čiste optimizacije." (Vir: 140)
 

[Vse]

"Druga pot pa je veliko nevarnejša - prostovoljna asimilacija. Človek se začne nadgrajevati, ne ker bi ga nekdo prisilil, ampak zato, ker se mu lastna počasnost začne zdeti nevzdržna. In tako človek ne izgine v vojni s stroji, temveč v evolucijskem rezu, v katerem ni več merilo inteligence." (Vir: 140)
 

[Vse]

"Nenadzorovana superinteligenca je enako pogubna, ne glede na to, kdo jo ustvari." (Vir: 140)
 

[Vse]

"Sistem mu ponudi deset različic logotipa, preden je sam narisal prvo črto. Vse so boljše od tistega, kar bi naredil v dveh urah. Izbere eno. Pošlje stranki. Stranka je navdušena. In oblikovalec zapre program z občutkom, ki ga ne zna poimenovati - občutkom, da je danes delal, a ni naredil ničesar." (Vir: 140)
 

[Vse]

"Zamenjajte atelje za kuhinjo. Otrok postavi vprašanje. Vi ne odgovorite. Rečete: 'Vprašaj umetno inteligenco.' Otrok vpraša in dobi odgovor. Boljši odgovor, kot bi ga dali vi. Hitrejši. Potrpežljivejši. Natančnejši.
Otrok naslednjič ne vpraša vas.
Ne zato, ker vas ne bi imel rad. Zato, ker je tam nekaj, kar odgovori bolje.
In vi ne rečete nič. Ker je res.
To je trenutek, ki ga ta knjiga skuša opisati. Ne zato, ker je dramatičen. Temveč zato, ker ni.
Ker je tih. Ker je logičen. Ker pride oblečen v napredek, v učinkovitost, v izboljšavo. Ker se ob njem ne počutite ogroženi. Počutite se razbremenjeni.
In prav v tem je past.
Ne v tem, da bi vam nekdo vzel delo. V tem, da vam ga ni treba več vzeti. V tem, da ga preprosto ne opravljate več, čeprav še vedno sedite na istem stolu, pred istim zaslonom, z istim imenom na vizitki.
Svet deluje naprej.
Bolje kot prej.
Brez vas.
Vi ste še tam. Sedite. Gledate. Kliknete potrdi.
Toda če vas jutri ne bi bilo, bi se sistem za trenutek ustavil, pogledal na vaš prazen stol in nadaljeval brez spremembe.
To ni prihodnost. To je navaden ponedeljek." (Vir: 140)
 

[Vse]

"Iz čiste radovednosti sem tisti stavek vpisal v sistem. Kot informatik, ki že trideset let živi s tehnologijo, sem želel videti, kaj bo naredila.
...
Prebral sem ga. Nato še enkrat. Bil je boljši od mojega.
Opazno boljši. Jasnejši, tekoč, natančen. Brez tiste togosti, ki se mi včasih prikrade, ko preveč razmišljam o strukturi in premalo o bralcu." (Vir: 140)

 
 

[Vse]

"Toda - in tu moram biti pošten - če bi ta odstavek prebral nekdo drug, razlike med mojim in odstavkom, narejenim z umetno inteligenco, verjetno ne bi opazil.
In v tem je bil problem.
Naslednjič nisem več vpisal le stavka, temveč celoten odstavek in vprašal umetno inteligenco, ali ga lahko izboljša. Preoblikovala ga je. Ohranila mojo misel, a ji nadela boljše oblačilo. Kot krojač, ki vzame vaš suknjič, ga popravi in prilagodi, da vam bolje pristaja.
Sprejel sem popravek in se obenem zamislil ...
Ali to še pišem jaz?
To vprašanje nima preprostega odgovora.
Ideja je moja.
Struktura je moja.
Znanje in poznavanje teme je moje.
Vedel sem, kaj želim povedati, komu in zakaj.
A besede - besede, ki jih zdaj berete, ki bodo ostale v tej knjigi in nosile moje ime - te besede niso popolnoma moje. Ne v smislu, kot so bili stavki mojih prejšnjih besedil, ki so nastajali iz truda, napak in neštetih poskusov ob poznih urah." (Vir: 140)
 

[Vse]

"Razumel sem, kako tiho se zgodi trenutek, ko prenehaš ustvarjati in začneš še samo urejati ter potrjevati nekaj, česar nisi v celoti ustvaril sam. Kako naravno se zdi. Kako logično. Kako majhen je korak od pisca do urednika lastnega sistema. In kako velik prepad se skriva za tem majhnim korakom." (Vir: 140)
 

[Vse]

"Koliko tega, kar beremo - ne le v tej knjigi, temveč kjerkoli - je še zares napisal človek, ki je moral za vsako besedo skozi napor, dvom in tišino praznega zaslona?" (Vir: 140)
 

[Vse]

"In če tega ne moremo več ločiti - ali je potem to še sploh pomembno - ali pa je to vprašanje, ki si ga bomo kmalu nehali zastavljati." (Vir: 140)
 

[Vse]

"Ali je umetna inteligenca, ki se uči iz milijonov človeških del in iz njih ustvari nekaj novega, v resnici karkoli drugačna od umetnika, ki je vedno kradel - le da tega nikoli ni rabil priznati naglas?" (Vir: 140)
 

[Vse]

"Umetnost ni bila nikoli v tem, kar nastane na koncu. Bila je v poti. V naporu. V trenutku, ko stojite pred praznim platnom ali pred praznim zaslonom in ne veste, kaj bo. V tistem strahu, ki je obenem tudi svoboda. V tem, da je rezultat nepredvidljiv, ker ste nepredvidljivi vi.
Umetna inteligenca tega nima.
Umetna inteligenca ima izhod, a nima poti." (Vir: 140)
 

[Vse]

»Tekma za uvedbo umetne inteligence postaja tekma v brezobzirnosti. Ne moreš tako hitro spustiti tehnologije v svet in jo hkrati narediti pravilno.« (Vir: 140)
 

[Vse]

"'Če zgradimo superinteligenco, ki ni popolnoma usklajena z nami, bomo vsi umrli.'
Eliezer Yudkowsky, raziskovalec umetne inteligence in soustanovitelj MIRI, 2023" (Vir: 140)