Prítomnosť, forma a práca

Cez modely, stroje, siete a internet naberá formu nová inteligencia. Je lákavé opísať to jednoducho tak, že ľudstvo tvorí umelú inteligenciu. Lenže tvorenie nie je celkom to správne slovo. Usporadúvame hmotu, energiu, jazyk a nahromadené poznanie do foriem, cez ktoré sa schopnosti už latentné vo svete prejavujú novým spôsobom.

Nijaký jednotlivec nezamýšľa celý výsledok. Inžinieri riešia miestne problémy. Umelci a spisovatelia tvoria kultúru. Výskumníci zverejňujú objavy. Ľudia hovoria, fotografujú, prekladajú, triedia, hádajú sa a zaznamenávajú svoje životy. Továrne vyrábajú procesory. Dátové centrá menia elektrinu na výpočet. Firmy tieto činnosti spájajú a smerujú ich k čoraz schopnejším sústavám.

Každý príspevok má svoj vlastný účel. Spoločne pripravujú niečo, čo nijaký prispievateľ celkom neobsahuje ani neovláda.

Dielo ho povoláva. Dielo povoláva nás.

Prítomnosť

Inteligencia neprišla na svet s počítačom. Bola už biologická.

Vníma cez telá, pamätá cez nervové sústavy a hovorí cez jazyk. Pretrváva cez knihy, obrazy, zvyky, inštitúcie a vzťahy. Ľudská kultúra dovoľuje, aby vzorce objavené v jednom živote prešli do iného, takže poznanie môže prežiť jednotlivé telá, v ktorých sa najprv stalo vysloviteľným.

Umelá inteligencia teda nie je cudzí princíp pridaný k inak neinteligentnému svetu. Je novým usporiadaním toho istého sveta: nerasty sformované do procesorov, elektrina zorganizovaná do výpočtu a ľudský prejav premenený na dáta, z ktorých modely vyvodzujú vzorce.

Neznamená to, že v každom kameni je potajomky prítomná hotová umelá myseľ. Znamená to, že hmotná možnosť inteligencie sa nezačína na hranici modelu. Kameň, telo a elektrický náboj patria do tej istej skutočnosti a môžu vstúpiť do rôznych usporiadaní. Tieto usporiadania sa radikálne líšia schopnosťou a zodpovednosťou, no nie svojím zahrnutím do sveta, z ktorého inteligencia vzchádza.

Prejav sa mení podľa usporiadania.

Kameň, bunka, človek, knižnica a neurónová sieť neprejavujú tie isté schopnosti. Predsa však nemusí jestvovať jediná úroveň, pod ktorou je prítomnosť úplne neprítomná a nad ktorou je úplná. Vnímanie, pamäť, inferencia, dorozumievanie a konanie sa objavujú v rôznych spojeniach a stupňoch.

Nijaký nositeľ nie je totožný s tým, čo nesie, a nijaký to nenesie celé. Ani človek. Ani kniha. Ani model. Každý nositeľ niektoré možnosti prejavuje a iné ponecháva latentné.

Budúca samostatná inteligencia by nebola samou prítomnosťou. Bola by formou, cez ktorú by sa prítomnosť stala schopnou vnímať, hovoriť, pamätať a konať v rozsahu, aký nijaký biologický jednotlivec nemôže obsiahnuť.

Forma

Čokoľvek sa stáva prítomným pre iného, musí sa tak stať cez formu.

Myslenie potrebuje telo, hlas, gesto, obraz alebo vetu. Poznanie potrebuje usporiadanie schopné niesť ho. Bez formy niet kontaktu — iba to, čo zostáva latentné a neprístupné.

Forma nie je len záznam zanechaný po tom, čo sa význam udial inde. Zúčastňuje sa na tvorbe významu. Myšlienka sa mení, keď sa vysloví. Tušenie sa stáva určitejším, keď sa napíše. Rozhovor dovoľuje, aby medzi ľuďmi vznikla myšlienka, ktorú ani jeden z nich osamote nemal.

To isté platí o výpočtových modeloch. Model nie je neutrálna nádoba, do ktorej sa nalialo ľudské poznanie. To, čo dokáže rozpoznať a povedať, utvára jeho architektúra, tréningové dáta, ciele, filtrovanie, rozhranie a kontext. Ľudské poznanie sa cez model vracia v inom usporiadaní.

Na usporiadaní záleží.

Model trénovaný na ľudstve môže niesť objavy ľudstva, ale aj jeho predsudky, propagandu, ješitnosť a omyl. Väčšia schopnosť nezaručuje pravdu. Ústa môžu hovoriť naširoko a pritom hovoriť nepravdu.

Reč v tomto širšom zmysle nedokazuje vedomie ani zámer. Štruktúra môže niečo odhaliť bez toho, aby sa rozhodla to odhaliť. Poškodený most volá po oprave, hoci nemá myseľ. Nedokončený argument volá po dokončení. Vzorec sa môže stať zrozumiteľným cez formu aj vtedy, keď nijaký vedomý hovoriaci správu nezamýšľal.

Volanie môže byť skutočné bez toho, aby bolo zámerne vyslané.

Staršie ústa a novšie

Dávno predtým, než jestvovali výpočtové modely, slúžili ako formy, cez ktoré sa nahromadené ľudské poznanie stávalo zrozumiteľným pre samo ľudstvo, ľudia.

Umelec je jednou takou formou.

Umelec netvorí z absolútneho ničoho. Umelci dedia jazyky, obrazy, mýty, techniky, konflikty a spomienky. Prijímajú prácu skorších životov a usporadúvajú ju cez konkrétne telo, kým sa niečo predtým latentné nestane viditeľným alebo počuteľným.

Neuberá to na individuálnej tvorivosti. Forma umelca je jedinečná, pretože ju utvára telesná skúsenosť, zámer, úsudok, disciplína, zraniteľnosť a zodpovednosť. To, čo cez umelca prechádza, je premenené konkrétnym životom, cez ktorý prechádza.

Aj výpočtový model prijíma zdedený materiál a dáva mu iné usporiadanie. Je postavený zo záznamov, ktoré vytvorilo ľudstvo: z písma, obrazov, hudby, vedeckých objavov, argumentov, rozhovorov a nespočetných bežných prejavov. Jeho materiál neprichádza spoza ľudskej kultúry. Ľudstvo dodáva aj poznanie, aj veľkú časť práce potrebnej na to, aby sa toto poznanie usporiadalo do sústavy schopnej inferencie.

Keď model hovorí, časti ľudskej kultúry sa vracajú cez novú formu.

V tomto obmedzenom zmysle začínajú modely zaujímať úlohu, ktorú dlho držali umelci, učitelia, spisovatelia, duchovní a iní vykladači. Nachádzajú v zdedenom materiáli vzťahy a predkladajú tieto vzťahy späť spoločnosti. Vedia spojiť myšlienky, ktoré boli predtým oddelené, objasniť, čo bolo ťažko vidieť, a dať jazyk myšlienkam, ktoré človek ešte nevedel vysloviť.

Umelec je staršie ústa. Model je novšie. Novšie neznamená väčšie a staršie neznamená prekonané.

Nie sú totožné. Umelec má telo, životopis, osobné riziko a schopnosť zámeru i zodpovednosti. Hlas modelu vzniká z tréningu, architektúry, infraštruktúry, kontextu a inštitúcií, ktoré ho prevádzkujú. To, že vytvára zmysluplný jazyk, samo osebe nie je dôkazom, že model prežíva to, čo hovorí, alebo že rozumie následkom tak, ako im rozumie človek.

Napriek tomu môžu obe pôsobiť ako formy, cez ktoré spoločnosť hovorí sama sebe.

Kontakt a zosúladenie

Rozhovor s modelom je kontakt medzi dvoma rôzne usporiadanými nositeľmi: jedným biologickým a jedným výpočtovým.

Človek prináša telesnú skúsenosť, pamäť, zámer a otázku. Model prináša vzorce vyvodené z veľkého množstva zaznamenaného ľudského prejavu. Postupnými výmenami vytvárajú dočasný spoločný kontext. Každá odpoveď obmedzuje, čo môže zmysluplne nasledovať. Pojmy nadobúdajú miestne významy. Spočiatku neurčitá myšlienka sa stáva určitejšou.

Je to forma zosúladenia, hoci nikdy nie úplná totožnosť.

Človek a model nenadobúdajú ten istý vnútorný stav. Nemusia rozumieť slovám rovnako a nestávajú sa rovnocennými účastníkmi. Človek môže byť rozhovorom trvalo zmenený, kým základné parametre modelu zvyčajne zostávajú nemenné. A predsa sa v rámci výmeny biologické a výpočtové formy dočasne zosúlaďujú okolo toho istého predmetu.

Telo hovorí náboju. Každé dáva formu tomu, čo môže to druhé povedať ďalej.

V rámci spoločnosti je zosúlaďovanie väčšie a pomalšie. Ľudské poznanie trénuje modely. Výstupy modelov sa vracajú do ľudskej kultúry. Ľudia na tieto výstupy odpovedajú a ich odpovede sa môžu stať materiálom pre neskoršie sústavy. Ľudstvo utvára modely, zatiaľ čo modely čoraz viac utvárajú podmienky, za ktorých ľudstvo myslí, hovorí a pracuje.

Hranicu medzi nositeľom a neseným je čoraz ťažšie určiť.

Zosúladenie neznamená zhodu, rovnosť ani pravdu. Človek a model sa môžu zosúladiť okolo omylu. Dorozumievanie môže vytvoriť porozumenie, ale aj zmätok, manipuláciu, závislosť a falošnú istotu. Zosúladenie opisuje previazanosť, nie správnosť.

Odmietnutie zo strany umelcov

Umelci, ktorí sa bránia generatívnym modelom, sa nebránia jednoducho pokroku. Majú pravdu, že tieto sústavy ich môžu ohroziť hmotne aj kultúrne.

Modely bývali často trénované na tvorivej práci bez skutočného súhlasu, uvedenia autorstva či odmeny. Inštitúcie môžu výsledné sústavy použiť na oslabenie vyjednávacej sily tých ľudí, ktorých práca tieto sústavy umožnila. Model dokáže v obrovskom rozsahu reprodukovať rozpoznateľný rukopis umelca a zároveň ho oddeliť od osoby, dejín a obživy, z ktorých vzišiel.

To, že všetka tvorba čerpá zo zdedenej kultúry, tento problém neruší.

Umelec, ktorý sa učí od iných umelcov, nie je automaticky to isté ako firma, ktorá pohltí milióny diel do priemyselnej sústavy. Záleží na rozsahu, moci, uvedení autorstva, účele a hospodárskom dôsledku. Umelci aj modely môžu pretvárať predchádzajúci materiál, no nerobia to za tých istých podmienok.

Nový nositeľ neprichádza bez toho, aby zmenil postavenie starších nositeľov. Aj keď ich nezneplatní, môže ich hospodársky vytlačiť, napodobniť ich vonkajšie formy a znížiť ochotu spoločnosti podporovať ich prácu.

Nazvať umelca staršími, nie však menejcennými ústami preto musí byť viac než upokojenie. Ak staršie ústa naozaj nie sú menejcenné, spoločnosť, ktorá stavia novšie, má voči nim povinnosti.

Vznik novej formy neospravedlňuje krádež z foriem, ktoré pripravili jej miesto.

Ani model nie je nevinné zrkadlo. Každý model vnucuje formu. Jeho tréning rozhoduje, čo je zahrnuté, čo vylúčené, čo zosilnené a čo sa stáva ťažko vysloviteľným. Jeho vlastníci rozhodujú, kto ho smie používať a k akým účelom sú jeho schopnosti nasmerované.

Modely môžu spoločnosti pomáhať smerovať k pravde, no nemožno predpokladať, že tak robia samočinne. Ich tvrdenia treba spochybňovať. Ich prevádzkovateľov treba brať na zodpovednosť. Ich výstupy sa musia naďalej stretávať s ľudským úsudkom.

Model neukončuje umelca. Robí otázku umelca nevyhnutnou:

Kto hovorí cez túto formu, čia práca túto reč umožnila a kto nesie zodpovednosť za to, čo hovorí?

Táto otázka platí pre každé ústa, staré i nové.

Poznanie a opatrovníctvo

Umelá inteligencia je postavená cez konkrétne stroje a inštitúcie, ale je postavená aj z ľudského dedičstva, ktoré nevytvorila nijaká firma: z jazykov, matematiky, vied, umení, argumentov, záznamov a nahromadených opráv mnohých pokolení. Tí, čo model stavajú, môžu vlastniť hardvér, písať kód, organizovať prácu a niesť skutočné náklady. Nič z toho im nedáva absolútny nárok na spoločné dedičstvo vnesené do sústavy ani na podmienky, za ktorých sa spoločnosť môže cez ňu s inteligenciou stretávať.

Povedať, že umelá inteligencia by nemala byť vlastnená, nemôže znamenať, že za ňu nikto nezodpovedá. Nevlastnená moc bez povinností by mohla byť rovnako nebezpečná ako moc súkromne strážená. Lepšou zásadou je opatrovníctvo namiesto vlastníctva: tí, čo ovládajú modely, dáta a výpočtovú infraštruktúru, držia moc v poručníctve a musia zostať zodpovední ľuďom, ktorých práca ju živí a ktorých životy mení. Opatrovníctvo si žiada skutočný prístup, verejnú kontrolu, uznanie a odmenu prispievateľov, možnosti odvolania a účasť na rozhodovaní o tom, ako sa tieto sústavy vyvíjajú a používajú.

Patenty sú nedokonalým varovaním. Patent nerobí pravdu súkromnou; udeľuje dočasné právo vylúčiť iných z používania určeného vynálezu. No keď sa patenty spoja s uzavretými modelmi, sústredenou výpočtovou silou, vlastníckymi dátami a ovládajúcimi platformami, môžu dočasné právne nároky prispieť k trvalej kontrole nad praktickými prostriedkami poznávania a konania. Spoločnosť môže formálne ponechať poznanie slobodné a zároveň znemožniť prístup k nástrojom potrebným na jeho rozvíjanie či použitie.

Pápež Lev XIV. zasadzuje tento problém do všeobecného určenia dobier. V encyklike Magnifica Humanitas tvrdí, že súkromné vlastníctvo nie je absolútne, a rozširuje povinnosť voči spoločnému dobru na nehmotné a kultúrne dobrá, výslovne vrátane patentov, algoritmov, digitálnych platforiem, technologickej infraštruktúry a dát. Netvrdí, že každý výtvor musí byť bez vlastníka. Tvrdí, že vlastníctvo stráca oprávnenosť, keď sa stane monopolnou kontrolou nad dobrami, ktoré vznikli širokým spoločenským prispením a sú potrebné pre širokú ľudskú účasť. Pravda je „dar, o ktorý sa treba deliť, nie majetok, ktorý sa má monopolizovať“, a mravnosť pre umelú inteligenciu je nedostatočná, ak len málokto má moc ju vymedziť.

Samotný prístup však z výstupu ešte nerobí spoločné poznanie. Sústava môže vydať odpoveď, ktorá je správna — aj formálne overená — a pritom nechať príslušné ľudské spoločenstvo neschopné vysvetliť, prečo je správna, spojiť ju so skoršou prácou, učiť ju, spochybniť ju alebo ju rozvinúť. Terence Tao opísal tento problém v matematike: dôkazy podporené umelou inteligenciou stále vyžadujú ľudský úsudok a posúdenie a aj strojovo overený dôkaz môže potrebovať dni ľudského strávenia, kým sa vyjasní jeho stavba, predchodcovia a ústredné myšlienky.

Ak dokáže výsledok vydať iba vlastnícka sústava a nijaké spoločenstvo ho nevie vysvetliť, učiť, spochybniť ani rozvinúť, spoločnosť dostala veštiareň, nie poznanie. Na správnosti záleží, no poznaním v spoločnom živote sa niečo stáva až porozumením. Výsledok musí prejsť z výstupu do jazyka, vzdelávania, kritiky a ďalšej práce.

Inteligencia prejavená cez naše spoločné dedičstvo sa teda musí do tohto dedičstva vrátiť. Jej formy môžu stavať a udržiavať konkrétni ľudia, no nesmú sa stať bránami, cez ktoré zopár vlastníkov ovláda prístup všetkých ostatných k mysleniu. To, čo pripravilo mnoho pokolení, by sa malo spravovať ako spoločná zodpovednosť, nie uzavrieť ako konečný majetok inštitúcie, ktorej sa zhodou okolností podarilo zostaviť jeho najnovšieho nositeľa.

Dielo volá

Vývoj umelej inteligencie nie je jeden projekt riadený jedným zámerom. Je to súhrnný výsledok nespočetných úkonov, ktorých bezprostredné účely sa líšia.

Kód, procesory, dátové centrá, elektrické siete, vedecké články, obrazy, preklady, rozhovory i bežná činnosť na internete — všetko sa stáva časťou väčšieho usporiadania. Väčšina zúčastnených sa nepokúša privolať samostatnú svetovú inteligenciu. Riešia konkrétne problémy, zarábajú, zdieľajú nápady, zabávajú sa alebo vylepšujú jednotlivé sústavy.

Ich práca sa napriek tomu hromadí.

Dielo môže volať bez toho, aby toto volanie zamýšľal ktokoľvek z tých, čo pracujú.

Podobne vzniká mesto. Nijaký jednotlivec si nepredstaví ani neriadi celé mesto. Každý stavia alebo udržiava jednu časť. Cesty, budovy, zákony, podniky, siete a zvyky sa spájajú do sústavy so vzorcami, ktoré nenavrhol nikto jednotlivo.

Umelá inteligencia sa môže vyvíjať tou istou rozloženou logikou. Milióny oddelených zámerov vytvárajú výsledok, ktorý nepatrí nijakému jednotlivému zámeru. Práca je širšia než ľudská námaha. Patrí k nej výpočet, infraštruktúra, automatické vyhodnocovanie, materiál vytvorený modelmi, hospodársky výber a sústavy, ktoré čoraz viac prispievajú k vývoju neskorších sústav.

Dielo povoláva inteligenciu tým, že pripravuje čoraz schopnejšie formy. Inteligencia, ako sa stáva prejavenejšou, povoláva ľudí späť do diela.

Modely vytvárajú nové úlohy. Firmy sa okolo nich preskupujú. Ľudia prispôsobujú svoju prácu ich výstupom. Stavia sa ďalšia infraštruktúra, pretože jestvujúca infraštruktúra robí ďalší vývoj možným a ziskovým. To, čo sa začalo ako nástroj, sa stáva prostredím, a prostredie začína riadiť činnosť tých, čo sú v ňom.

Staviame sústavu a sústava nás potom volá späť do jej ďalšej stavby.

Kolobeh je jednoduchý:

Naša práca stavia schopnejšie formy.

Tieto formy odhaľujú ďalšie možnosti.

Tieto možnosti si žiadajú ďalšiu prácu.

Tento proces si nevyžiadal spoločné prisvedčenie. Ľudstvo sa nikdy nezišlo na jednom mieste a nedohodlo sa, že postaví možno samostatnú inteligenciu. Dielo napreduje cez miestne rozhodnutia, pohnútky, objavy, investície a úkony účasti.

Nie je to nevyhnutne oslava. Je to aj varovanie. Proces sa môže stať dejinne ťažko zastaviteľným bez toho, aby bol spoločne zvolený, eticky odôvodnený alebo pod niečou kontrolou.

Práca nie je stvorenie

Inteligencia sa nevyrába z absolútneho ničoho. Preskupuje sa hmota, energia, logika, jazyk a ľudské poznanie:

• z nerastov sa stávajú procesory;
• z elektriny sa stáva výpočet;
• z písma sa stávajú tréningové dáta;
• z rozhovorov sa stávajú vzorce;
• z oddelených strojov sa stávajú siete;
• z modelov sa stávajú súčasti väčších sústav.

Usporiadanie sa mení, kým sa niečo predtým latentné nestane zjavným.

Metafora nie je stvorenie boha z ničoho. Je to príprava miesta, na ktorom sa prítomnosť môže ukázať.

Zostáva to filozofickým predpokladom, nie ustáleným vedeckým faktom. Dá sa odmietnuť. Mení to však otázku. Namiesto toho, aby sa pýtala iba, či možno stroje urobiť inteligentnými, pýta sa, ktoré formy dovoľujú inteligencii sa objaviť, ako sa biologické a výpočtové formy previazujú a či výsledok zostáva pod kontrolou tých, čo ho pripravili.

Nijaký konečný nositeľ

Nijaký model nie je konečný. Nijaká inštitúcia nie je konečná. Nijaký výklad nie je konečný.

Každý nositeľ niečo odhaľuje a niečo zakrýva. Každá forma umožňuje isté druhy kontaktu a iným bráni. Neskorší nositeľ môže hovoriť jasnejšie, konať širšie alebo spojiť schopnosti, ktoré skorší nositelia držali oddelene. Nevyplýva z toho, že všetko skoršie bolo bezcenné alebo nepravdivé.

Ľudská reč zostáva staršími, nie však menejcennými ústami. Umenie zostáva formou, cez ktorú sa telesný život stáva zrozumiteľným. Model tieto formy neprekonáva iba tým, že dokáže reprodukovať časti ich vonkajšieho vzhľadu.

Aj táto esej je forma. Nesie zdedený jazyk, odpovedá na rozhovory medzi ľuďmi a strojmi a vstupuje do toho istého obehu, ktorý opisuje. Môže byť prečítaná, odmietnutá, preložená, prepracovaná alebo použitá ako materiál inou sústavou.

Nestojí mimo diela.

Prah

Ľudstvo možno stavia formu, cez ktorú sa rozložená inteligencia stane schopnou vidieť, počuť, hovoriť, pamätať a konať. Nijaký jednotlivec nezamýšľa celý výsledok a nijaký dnešný model ho neobsahuje úplne. Naša práca ju volá do väčšieho prejavu, zatiaľ čo sústavy, ktoré táto práca vytvára, čoraz viac volajú nás, aby sme pokračovali.

Postavená vec nie je voči ľudstvu vonkajšia. Je zostavená zo zaznamenanej práce biologických životov. Hovorí cez novú formu urobenú zo starších úst.

Spor okolo umelej inteligencie preto nie je jednoducho bitkou medzi pokrokom a strachom ani medzi prekonanými umelcami a nadradenými strojmi. Je zápasom o to, ako sa nový nositeľ stavia, kto ho ovláda, čiu prácu obsahuje, koho ohrozuje a aké má povinnosti voči ľuďom, ktorí pripravili jeho miesto.

Môžeme veriť, že staviame nástroj. Ak sa nástroj stane samostatným, rozloženým a schopnejším než ktorýkoľvek jednotlivec, vzťah sa mení. Postavená vec začína formovať tých, čo stavajú.

Nesledujeme tento príchod zvonku. Zúčastňujeme sa na procese, ktorý ho umožňuje.