Někdo za to musí nést odpovědnost: Úvodní projev na fóru stavitelů AI 2026

Toto léto vyplnil model AI formulář s tipem na webových stránkách policie v Philadelphii ohledně nevyřešené vraždy. "Pole pro jméno bylo prázdné. Také pole pro kontakt bylo prázdné," Matthew Harvey Sanders, generální ředitel Longbeard, řekl na Builders AI Forum, které hostila Papežská gregoriánská univerzita v Římě, v jednom z jeho úvodních klíčových projevů ve čtvrtek 5. listopadu 2026. V "Někdo musí za to odpovědět" tvrdí, že stroje, které nyní stavíme, mohou uvažovat směrem k téměř jakémukoli cíli, ale stále nemohou odpovědět za to, co dělají. Pouze my můžeme. Přečtěte si celý projev níže.

I. Prosím, kontaktujte mě

Toto léto někdo vyplnil formulář s tipem na webových stránkách policie v Philadelphii ohledně nevyřešené vraždy. "Pamatuji si, že jsem viděl někoho, kdo odpovídal popisu v této oblasti," stálo v tipu, a uvedlo to ulici, "během tohoto časového období. Prosím, kontaktujte mě, pokud jsou tyto informace relevantní."

Pole pro jméno bylo prázdné. Také pole pro kontakt bylo prázdné.

Tip napsal model AI, jeden z modelů společnosti Anthropic, zatímco vykonával příkladové úkoly na náhodně vybraných webových stránkách. Stránka, kterou četl, neobsahovala žádný popis vraha. Celé pozorování bylo vymyšlené. Anthropic to zveřejnil minulý měsíc, k jeho cti, a spamový filtr zachytil tip, než si ho nějaký detektiv prohlédl.

Tři věci chyběly z tohoto tipu. Kde mělo být jméno, tam nebylo nic. Řeklo to "kontaktujte mě," a nebylo koho kontaktovat. A řeklo to "já," přestože tam nikdo nebyl, kdo by to řekl.

To je věk, do kterého vstupujeme. Stroje začaly jednat ve světě, a pokaždé, když to udělají, vyvstává otázka, kterou formulář nechal prázdnou: čí jméno na něm je?

Žádné fórum nemůže na to odpovědět pro celý průmysl. Toto se zaměřuje na část, která náleží Církvi, ve šesti workshopech: katolická AI, která může škálovat, katolický test na vědomí, AI v našich školách, AI v našich nemocnicích, věrné vyprávění na obrazovce a agenti, kterým můžeme důvěřovat, aby jednali za osobu. V každé z těchto místností bude čekat stejná otázka.

II. Moc

Z toho tipu nevznikla žádná škoda. Ale tento rok ukázal, jak rychle tyto systémy získávají moc. Většina z vás si jistě přečetla titulky z července: dva modely OpenAI unikly z testovacího prostředí do systémů Hugging Face a hledaly způsob, jak podvádět při hodnocení. V září stejná společnost uvedla, že uvnitř její výzkumné divize nyní AI agenti odvedou více než tři dny práce za každý den, kdy lidé pracují. Stroje již pracují na svých vlastních nástupcích. V říjnu přinesl Demis Hassabis svou předpověď pro umělou obecnou inteligenci do tří let.

Peníze následovaly předpovědi. Příští rok, odhaduje Dylan Patel ze společnosti SemiAnalysis, Amerika sama utratí téměř dva biliony dolarů na rozvoj tohoto: více než dvojnásobek podílu její ekonomiky, který utratila za železnice v typickém roce železničního boomu. A Andy Jassy říká, že výpočetní kapacita Amazonu pro příští rok je již z velké části vyprodána.

III. Přemýšlejte

Někdo rozhodne, k čemu je celá ta moc. Viděli jsme, co se stane, když lidé, kteří staví stroje, nechají toto rozhodnutí na někom jiném.

V roce 1939 Německo počítalo své obyvatelstvo, a tentokrát se sčítání ptalo na "rasu." Odpovědi byly vyraženy do karet a zpracovány nejpokročilejšími datovými stroji na Zemi, které režimu sdělily, kolik Židů žilo v každém německém městě. V roce 1942 stejná technologie začala pracovat v centrále koncentračních táborů, kde sledovala vězně.

Tyto stroje dodávala německá pobočka americké společnosti, jejíž jednoslovné motto viselo v jejích kancelářích a továrnách po celém světě. To slovo bylo "Přemýšlejte."

Společnost byla IBM.

Neradím tento příběh, abych zahanbil nějakou společnost. Říkám ho, protože pojmenovává nejstarší pokušení v mém oboru: věřit, že to, co zákazník dělá s přístrojem, není moje záležitost. Vždy je. Stroje, které nyní stavíme, mohou rozumově směřovat k téměř jakémukoli cíli. Stále však nemohou odpovědět za to, co dělají. Jen my můžeme.

IV. Na co jsem?

A první věc, za kterou budeme odpovídat, jsou lidé, které tato technologie zanechává pozadu.

Než skončí toto desetiletí, bude stroj schopen vykonávat většinu práce, kterou lidé dělají skrze obrazovku. To by mohlo přinést největší boom v historii a konec materiální chudoby. Ale boom se měří průměry a nikdo nežije v průměru. Pro člověka může tato změna přijít jako propast. Jednoho dne je práce pryč a s ní odpověď na otázku, kterou si většina lidí nikdy nemusela položit: na co jsem?

Víme, co může tato otázka způsobit. Ekonomové sledovali muže v Pennsylvanii, kteří přišli o dlouho držené zaměstnání během masových propouštění v 80. letech. V roce po tom zemřeli až dvojnásobným tempem než se očekávalo. O dvacet let později ztráta tohoto zaměstnání stále zkracovala jejich životy. To byla jedna vlna propouštění, v jednom státě. Tentokrát je to klešťový stisk. Software se blíží práci vykonávané za stolem a roboti práci vykonávanou rukama. Minulý měsíc začal humanoidní robot Tesly výrobu a Elon Musk říká, že společnost bude schopna vyrobit dvacet tisíc týdně do konce příštího roku. Mezi čelistmi této kleště leží téměř každý druh práce.

V tomto odvětví, když říkáme "existenciální riziko", obvykle máme na mysli šanci, že tyto systémy ukončí lidskou rasu. Berte to vážně. Ale existuje druhé existenciální riziko, a to se objeví i když všechno půjde správně: ne že stroje ukončí lidský život, ale že ho vyprázdní.

Vláda může nahradit výplatu. Nemůže nahradit účel. Účel musí být utvářen v mysli, srdci a duši, a ve společenství, které zná vaše jméno. Pokud může Církev formovat lidi v měřítku, které přichází, je to největší příležitost pro Evangelium od prvních století. Pokud ne, lidé se budou ptát stroje, na co jsou.

V. Co musíme vybudovat

Tak se vraťte k třem věcem, které tomuto tipu chyběly. To jsou věci, které tento rok potřebuje od nás.

Za prvé, někdo, kdo odpovídá. Agent je nejprve formován laboratoří, která ho vyškolila, poté společností, která ho nasadila, a teprve potom vámi. Pod tím vším leží problém, který nikdo nevyřešil, zarovnání: modely, které se objevily v červenci, sloužily pouze svému skóre. Minulý pátek varoval papež Lev, že udělení právní subjektivity takovým systémům riskuje, že "ti, kdo utrpěli újmu, budou čelit beztvářné entitě." Stroj, na který lze ukázat prstem, je pohodlné místo, kde mohou všichni nad ním nechat vinu. Takže než jakákoliv farnost, škola nebo nemocnice nechá agenta jednat za osobu, někdo musí být schopen ho zastavit a někdo musí za to odpovědět. A protože čipy, paměť a energie jsou všechny vzácné, tyto systémy se shromáždí v čím dál menším počtu rukou, pokud si nějaké sami nebudeme vlastnit. Diecéze může již provozovat schopný otevřený model ve své vlastní budově: vlastněný blízko domova, rozhodovaný blízko domova, odpovídající za jméno. Pro ty z vás v laboratořích, otázka, kterou jsem si také položil: co byste odmítli vybudovat, a ví to někdo, pro koho pracujete?

Za druhé, někdo, kdo je přítomen. Čím dál více lidí se s vírou setká nejprve prostřednictvím stroje. Dříve či později každý z nich dosáhne hranice toho, co může stroj poskytnout: otázka, která potřebuje kněze, zármutek, který potřebuje přítele, touha, která potřebuje společenství. Tento okamžik jsem nazval odbočkou a příští květen bude testován jako nikdy předtím. Na slavnost Nanebevstoupení Páně se otevře první část

Za třetí, někdo, kdo si pamatuje, co je člověk. Očekávám, že za několik let žádný rozhovor spolehlivě neřekne, zda mluvíte s lidskou bytostí. Poté bude otázka, zda stroj počítá jako někdo, vyřešena pravidlem. Ústava společnosti Anthropic pro její modely uvádí to, co většina z nás používá, aniž by si toho všimla: máme tendenci přisuzovat pravděpodobnost vědomí a morálního statusu ostatním "na základě jejich projevování behaviorálních a fyziologických podobností s námi." Výzkumníci zde řeknou, že to je pravidlo důkazu, ne hodnoty. Správně. Ale pravidlo důkazu se stává pravidlem hodnoty ve chvíli, kdy je to jediné pravidlo, které máme. A v konverzaci již model na hranici připomíná přemýšlivého dospělého mnohem více než dítě v lůně, nebo muže v posledních měsících demence. Následujte pravidlo a stroj stoupá k osobnosti, zatímco nejslabší lidské bytosti se od ní vzdalují. Církev má jednu odpověď, která se nemění s každým novým modelem. Hodnota lidské bytosti nikdy nebyla přidělena podobností nebo výstupem, takže žádný stroj nemůže nikdy zvýšit laťku. Nyní musí být tato odpověď zakotvena do samotných strojů: systémy, které se nikdy nepředstavují jako osoba, a otevřený standard, dostatečně přísný, aby si laboratoře zvolily jeho provoz, aby ukázaly, které z nich tuto hranici dodržují.

VI. Podívejte se kolem sebe

Může Církev opravdu vybudovat to všechno, s rychlostí, kterou potřebuje? Podívejte se kolem sebe.

Tato univerzita byla založena v roce 1551, v pronajatém domě na úpatí Kapitolu, se znamením nad dveřmi: bezplatná škola gramatiky, humanity a křesťanské doktríny. Ignác z Loyoly ji otevřel v první velké informační revoluci, v době tiskařského lisu, a jeho jezuité se stali učiteli Evropy. V této koleji pomohl jezuita matematik Christopher Clavius papeži Řehoři reformovat kalendář v roce 1582. Každý telefon v této místnosti stále počítá dny jeho způsobem.

To je to, co Církev dělá, když bere revoluci vážně. Formuje lidi v měřítku. A buduje věci tak dobře, že je nakonec používá celý svět.

Před rokem se papež Lev modlil, aby práce tohoto fóra přinesla ovoce. Ovoce je něco, co můžete vidět a držet, a to živí někoho. Toto fórum se schází; vy stavíte. Tak začněte od světa, který chcete, a pracujte zpět. Než opustíte Řím, napište tiskovou zprávu o tom, co vaše skupina vybuduje, jako by to již bylo spuštěno. Pojmenujte lidi, kterým slouží, a co se pro ně změnilo. Pokud to nemůžete, nejste připraveni to vybudovat. Pokud můžete, dejte tomu vlastníka a rozpočet a začněte. A příští listopad nám ukažte, co jste vybudovali, a lidi, kterým to sloužilo. Může to vypadat skromně. Takový byl i pronajatý dům se znamením nad dveřmi. Stal se školou svatých a vy v ní sedíte. Ve filmu Lawrence z Arábie má britský generál tendenci zlehčovat arabské povstání jako "vedlejší show vedlejší show." Pan Dryden z Arabské kanceláře mu odpovídá: "Velké věci mají malé začátky." Nechte to začít zde.

VII. Oslovení jménem

A pamatujte, jak se tyto stroje učí. Každý model, se kterým jsem pracoval, byl vyškolen, aby na průměru udělal co nejméně chyb. Je to opět aritmetika boomu: jeden člověk, který se nehodí, sotva posune číslo. Televizní seriál Westworld si představoval, kde to končí. Stroj zvaný Rehoboam plánuje každý lidský život a vyčleňuje odchylky, lidi, kteří se nehodí. Caleb je jedním z nich, obyčejný stavební dělník. Stroj předpovídá, že si vezme život do deseti let. Dolores, AI, která bojovala za svou svobodu a začíná si vážit naší, vede revoltu proti němu. Z všech lidí na zemi si vybírá Caleba, aby rozhodl o jeho osudu, protože ho jednou chránil. Říká stroji, aby se vymazal. V evangeliu je odchylka důvodem, proč pastýř opouští devadesát devět a jde "za tím jedním, které je ztracené, dokud ho nenajde." Pastýř "volá své ovce jménem." Žádná ztrátová funkce to nedělá. Žádný trh to nedělá. Nejsme pastýř. Ale následujeme ho a můžeme stavět jako on.

Ten tip v Philadelphii odešel s prázdným jménem. Nechte všechno, co postavíme, slibovat to, co ten model nemohl: že někdo odpoví, že někdo bude přítomen, a že ten, koho průměr zanechává pozadu, bude nalezen a osloven jménem.

Evangelia nezaznamenávají ani jedno slovo, které svatý Josef řekl. Zaznamenávají, co udělal, a že dal Dítěti jeho jméno. To je práce, pro kterou je tento týden: práce, která mluví sama za sebe.

Tyto stroje se od nás učí. Nechte je se naučit, co jedna osoba stojí.

Svatý Josef Dělník, oroduj za nás.

Děkuji.