セマンティック ドリフト: AI ビルダーの言語を解明する
2026年3月5日、LongbeardのCEOであるマシュー・ハーヴィー・サンダースは、トミスティック・インスティテュートの「人工知能：美徳のための道具？」というイベントで、ローマの聖トマス・アクィナス公立大学（アンジェリカム）で講演を行いました。
このスピーチでは、シリコンバレーの開発者たちが機械学習を説明するために使用する誤解を招く人間的な語彙を批判しています。彼は、AIを適切に使用するためには、厳格なカトリックの存在論を取り戻し、これらのシステムを道徳的な主体ではなく、厳密に機械的な道具として扱う必要があると主張しています。
I. はじめに：意味の漂流と公共の広場
父たち、尊敬する教員、そしてアンジェリカムのゲストの皆様、この議論を開催してくださったトミスティック・インスティテュートに感謝いたします。
新しい時代の閾値を越え、情報時代の確固たる確実性を離れ、知性の時代の広大で未踏の宇宙に足を踏み入れる中で、私たちは深刻な航行の課題に直面しています。この会議の中心にある緊急の質問—人工知能が本当に「美徳のための道具」として機能することができるのか—に答える前に、私たちはソフトウェア工学の課題ではなく、語彙の課題に直面しなければなりません。
AIに関する私たちの現代の不安の核心には、深刻な言語的衝突があります。シリコンバレーのこれらのシステムのエンジニアや設計者は、驚くべき数学的業績を達成しています。しかし、これらの数学的および統計的プロセスを説明するために、彼らは人間の内面的な存在の神聖で深い哲学的な語彙を借用しています。彼らは自分たちのシステムが「考える」、「推論する」、そして「知っている」と言います。彼らは「学ぶ」、「欲する」、そして「選ぶ」アルゴリズムについて語ります。
私たちが目撃しているのは意味の漂流です。私たちは魂の豊かな存在論的用語を取り、線形代数、統計的確率、高次元幾何学の複雑な網の上に貼り付けています。これは現代の錬金術であり、計算の重みを心の幻想に変えようとする試みです。
この言語的な不注意は、公共に深刻かつ即時の影響を及ぼします。これらの用語を誤解することは、必然的に誤った信頼を生むことになります。
私はLongbeardでの仕事を通じてこれを直接目にしています。ユーザーはしばしば負担を抱えた良心でAIに接近し、テキスト生成ツールを共感能力を持つ霊的指導者のように扱います。
さらに、この意味の混乱は文化的な不安を煽り、競争する「意識を持つ」超知性に対する黙示録的な恐怖を引き起こします。
しかし、最も危険なのは、人間であることの意味に歪んだ感覚を生み出すことです。もし私たちが機械が人間と同じように「推論」したり「創造」したりするという前提を受け入れるなら、私たちは人間を単なる生物学的な機械—最適化を待つ肉体とシナプスの塊—に還元する深刻なリスクを冒すことになります。
これが私たちの議論の核心的な主張に繋がります：AIが「美徳のための道具」となり得るかを答えるためには、その言語を解明しなければなりません。道具は正しく理解されるときのみ善に役立ちます。私たちは道徳的主体性を誤って彼らに帰属させるとき、機械を私たち自身の美徳のための適切な道具として使用することに失敗します。
ハンマーに美徳を帰属させることは、大工を見えなくすることです。
この技術を真に洗礼し、人間の繁栄に向けて秩序を与えるためには、意味の幻想を取り除き、その下にある構造を冷静に見なければなりません。
II. 幻想の構造：基礎的なメカニクス
現代の生成的AIシステムは、話し、推論し、私たちと対話するかのように見えますが、このインターフェースの下には、形而上学ではなく数学に完全に基づいた基盤があります。
まず、ベクトルと埋め込みについて始めましょう。これらは大規模言語モデルの文字通りの基盤です。「正義」や「魂」について同僚の学者と話すとき、彼らは現実の共有された理解を通じてあなたの言葉の意味を把握します—生きた、具現化された人間の経験です。AIにプロンプトを入力すると、システムはそのようなことをしません。代わりに、AIは人間の言語を高次元空間の数学的座標に変換します。
簡単に言えば、「ベクトル」とは、何かを説明するために使用される数のリストです。言葉ではなく、スコアのリストでリンゴを説明することを想像してみてください：甘さに9、赤さに8、金属的なカリカリ感に2。その特定の数のリスト—[9, 8, 2]—がベクトルです。AIシステムでは、すべての単語—または単語の一部—が、しばしば数千の数字の長さの巨大なベクトルに変換されます。しかし、AIは物理的な特性や辞書の定義に基づいて単語にスコアを付けるわけではありません。代わりに、数十億の本や記事をスキャンして、単語が互いにどれだけ頻繁に現れるかを集計することに基づいて、これらの数字を生成します。
AIが単語のためにこの巨大な数のリストを計算し終えると、そのベクトルは「埋め込み」となります—広大なデジタル空間における永続的な数学的座標です。
もし「リンゴ」と「パイ」という言葉がインターネット上で同じ文に頻繁に現れるなら、それらの数のリストは非常に似たものになり、数学的に近い位置に配置されます。「リンゴ」と「キャブレター」という言葉は、めったに出会わないため、全く異なる数字を受け取り、何百万マイルも離れた場所に配置されます。この多次元マップでは、AIは意味を描くのではなく、人間の言語の統計的近接性を描いています。
この構造のスケールを真に理解するには、 ベクトルマップ をMagisterium AIで探求することができます。ここでは、カトリックの教義と伝統全体が埋め込みに変換されています。このインタラクティブな3Dビジュアライゼーションにより、教会の知的歴史を平面的な台帳としてではなく、広大なデジタル宇宙として体験することができます。それをナビゲートすることは、実際の宇宙を通じてロケット船を操縦するようなもので、関連する神学的概念の密集した銀河を滑空し、全く異なるアイデアの間の広大な空虚を横断し、「美徳」と「悪」の間の距離を単に幾何学を使用してプロットする機械の様子を観察することです。
シリコンバレーの研究所からの有名な例を見て、このプロセスが人間の思考からどれほど異なるかを見てみましょう。この数学的空間では、「王」という言葉は特定の数の系列としてプロットされます—地理的座標です。「女王」という言葉は近くにプロットされます。AIは君主が何であるかを知りません。彼は統治、権威、歴史、または人間の状態についての概念を持っていません。彼はただ数学的な方程式を知っています。「王」の座標を取り、「男」を表す空間的距離を引き、「女」を表す空間的距離を加えると、ちょうど「女王」の座標に到達します。
これは幾何学であり、系譜学ではありません。人間の言語をこれらの数値表現に分解することによって、AIは完全に空間的確率の領域内で操作します。これは線形代数の驚くべき業績ですが、理解は全く欠けています。
これが、業界が最も重視する動詞、すなわち「訓練」と「学習」に繋がります。
AI企業は常に最新の「機械学習」モデルと、それらを「訓練」するために使用される巨大なデータセットを自慢しています。ここで、私たちは人間の学習—真実を把握することに根本的に関わる—と機械学習を鋭く対比しなければなりません。
カトリックの知的伝統において、人間の学習は認識論的な勝利です。それは知性が現実に自らを適合させることです。子供が犬が何であるかを学ぶとき、彼らは出会う特定の事例から犬の普遍的な本質を抽象化します。彼らはその物の「何であるか」を把握します。
しかし、機械の「学習」は抽象化も本質も伴いません。AIを構築する最初の段階は「事前訓練」として知られ、これは単にデータの brute-force 統計的マッピングです。
事前訓練を理解するために、英語しか話せない男が、数百万の原稿に欠落した単語がある巨大な古代ギリシャの図書館を復元するという任務を与えられ、部屋に閉じ込められていることを想像してください。彼はギリシャ語の一文字も知らない。彼は空白を埋めるために、ギリシャ語の文法、歴史、または哲学を学ぶのではなく、数百万の無傷のページにわたって特定の文字が他の文字の隣にどれだけ頻繁に現れるかを単に集計します。彼は確率の巨大な台帳を作成します。「キリエ」という文字を見たとき、彼の台帳は次の文字が「エレイソン」である確率が99.9%であることを示します。彼は空白を埋めます。
彼は神学を学んでいません。彼は祈っていません。彼は単に統計的確率を実行しています。
これが、大規模言語モデルが事前訓練中に行うことです。彼は数十億の単語を処理して、確率の巨大な台帳を構築し、単にシーケンス内の次のトークンを予測することを学びます。これは数学的な関数の最適化であり、知恵の追求ではありません。
しかし、インターネットデータに基づいて次の単語を予測するモデルは混沌としています。美しい詩を朗読するかもしれませんし、有害で役に立たない、または無限のテキストのループをつなげるかもしれません。それは形を必要とします。
ここで、私たちは事後訓練と強化学習（RL）に出会います。
この段階は、エンジニアが従来、人間のフィードバックを使用して無秩序なモデルを形作る方法です。この基礎的な方法は、RLHF—人間のフィードバックからの強化学習として知られています。
巨大な自動化された「ホットまたはコールド」のゲームを想像してみてください。人間のテスターが機械にプロンプトを与え、機械が答えを生成します。答えが礼儀正しく役立つ場合、人間は高得点を与えます。無礼または無意味な場合は低得点を与えます。システムの数学的な重みは、このスコアを最大化するために自動的にシフトされます。RLHFを通じて、私たちは機械に道徳や美徳を教えているのではなく、単に数学的な境界で囲い込んでいるのです。
しかし、人間のフィードバックは遅く、主観的であり、人間の知性によって本質的に制限されています。この制限は、今日のAI能力の急激な飛躍を促進する最近の突破口に私たちを導きます：RLVR、すなわち検証可能な報酬からの強化学習です。
エンジニアが答えが「正しいように聞こえる」かどうかを判断するために人間に依存するのではなく、モデルに客観的で数学的に証明可能な結果を持つタスクを割り当てます—例えば、複雑な定理を解決することや、機能的なソフトウェアを作成することです。システムは解決策を生成し、自動化された検証者が即座に数学が正しいか、コードがコンパイルされるかをチェックします。成功すれば、モデルは数学的な報酬を受け取り、失敗すればゼロを受け取ります。
この検証は完全にプログラム的であるため、AIは人間の介入を待つことなく、ハイパースピードで数百万の異なる計算経路をシミュレートできます。彼は長い隠れた計算の連鎖を生成することを学び、行き止まりをテストして捨て、報酬を引き起こす正確なシーケンスを見つけるまで繰り返します。現代のAIシステムが複雑な論理パズルを解く前に「考える」ために一時停止するのを見るとき、あなたはRLVRが実行されているのを目撃しています。それは深い熟考の幻想を生み出します。しかし、存在論的には、何もしていないのです。ただの統計エンジンが、高次元の迷路を毎秒何百万回も走り抜けているだけで、自動的に数値報酬を与えられています。
最後に、このすべての重層的な複雑さ—埋め込みの高次元幾何学からRLVRの自動ループまで—は、業界が「ブラックボックス」問題と呼ぶものに私たちを導きます。
人間のエンジニアがこれらのモデルを構築しているため、彼らはそれらがどのように機能するかを正確に理解していると自然に仮定するかもしれません。しかし、現実ははるかに謙虚です。Anthropicのような最前線の研究所のリーダーたちが指摘しているように、現代のAIシステムは実際には「構築」されるのではなく「成長」しています。彼らの内部メカニズムは、直接設計されるのではなく、訓練中に有機的に現れます。
これらのモデルは、数百億、時には数兆のパラメータを持っています。単一の人工ニューロンの微小数学—粒子的なレベルで発生する基本的な方程式—は理解していますが、ネットワーク全体のマクロな挙動は完全に不透明です。構築者でさえ、その数十億のパラメータがどの特定の経路をたどるかを完全には理解していません。彼らはAIが特定の文を生成するに至った特定の乗算のシーケンスを追跡することができません。
なぜこれは重要なのか？
それは、私たちが法的文書を草案し、子供たちを指導し、人間の知識を統合するシステムを世界的に展開しているにもかかわらず、実際には彼らがどのように出力に至るかを知らないからです。この深刻な透明性の欠如は、機械的解釈可能性として知られる新たな絶望的なサブフィールドを生み出しました。
機械的解釈可能性をデジタル神経科学と考えてみてください。研究者たちは、自ら構築した神経ネットワークを逆エンジニアリングしようとしています。彼らは、モデルが「欺瞞」や「エッフェル塔」のような概念を処理するときに、どの特定の重みのクラスターが活性化するかを特定しようと、専門的なツールを使用して巨大な数学的ウェブを探査しています。彼らはソフトウェアを読むべきコードとしてではなく、解剖すべき異星の脳として扱っています。しかし、進展は痛ましく遅く、システムは途方もなく広大です。
この理解できないスケールに直面すると、業界が人間のような比喩にデフォルトするのは非常に簡単になります。便利な略語として、あるいは本物の不透明さから、「モデルがそれを理解した」や「モデルが決定した」と言い始めます。機械の解釈不可能性は擬人化の肥沃な温床となります。
今、私は学者ではありません。私はビルダーでありCEOです。しかし、技術と教会の交差点で活動している者として、私はあなたを見ています。あなた方、カトリックの学者や哲学者は、この意味の漂流をそれが何であるかを認識しなければなりません：数学的な複雑さと人間の無知から生まれた幻想です。インターフェースの下にある構造は、シリコン、電気、そして統計的確率です。この基盤を認識することが、私たちの次のステップの前提条件です。
III. 認識論と知的美徳
「ブラックボックス」の幻想を取り除き、その下にある統計的な仕組みを明らかにした今、私たちは心の特定の語彙に目を向ける必要があります。
シリコンバレーの開発者やエンジニアがこれらのシステムが何をしているかを説明する際、彼らは常に3つの特定の動詞を使います：考える、推論する、知る。
トマス主義の伝統に浸ったカトリックの学者として、あなたはこれらが単なる口語ではないことを理解しています；それらは深い認識論的主張です。あなたの伝統において、知ることは現実を把握することです。推論することは、1つの既知の真実から別の真実へと弁論的に移動することです。考えることは、内面的な生活を意味します—物質世界から抽象化された普遍的なものと関わる知性です。
AIの構築者がこれらの言葉を使うとき、彼らはそれらの意味を全く持っていません。彼らは機械的な最適化を説明しています。私たちが業界で使用する3つの特定の技術を明らかにして、この認識論の幻想がどのように作られているかを示しましょう。
最近のAIモデルを使用したことがあるなら、あなたは新しい機能に気づいたかもしれません：複雑なプロンプトに答える前に、インターフェースは「Thinking...」という言葉とともに脈動するアイコンを表示するかもしれません。返答するまでに10秒、20秒、あるいは60秒かかることもあります。ユーザーにとって、これは非常に人間的に感じられます。機械が考え、選択肢を検討し、内面的な空間で熟慮しているように感じられます。
業界では、これをテスト時計算（Test-Time Compute）と呼びます。インターフェースの下で実際に何が起こっているかは、「思考の連鎖（Chain of Thought）」促進と呼ばれる技術です。
明確にしておきます：エンジニアリングの観点から見ると、これは素晴らしいブレークスルーです。モデルが最終的な答えを生成する前に、数百または数千の隠れたトークンを生成するためにより多くの計算時間を取ることを許可することで、複雑な論理、コーディング、数学的ベンチマークでのパフォーマンスが急上昇します。これは本質的に、モデルに難しい問題を逐次的なステップに分解するための隠れた「スクラッチパッド」を与えます。
しかし、この機械的な連鎖を人間の推論と混同しないように注意しなければなりません。
トマス主義の伝統において、人間の推論は1つの既知の真実から別の真実への弁論的な動きです。それは現実と関わる知性です。AIが行っていることは完全に道具的です。Anthropicのような最前線の研究所からの最近の研究は、この区別を明らかにしています。これらの推論モデルがどのように機能するかを研究する中で、研究者たちはモデルが隠れた「思考の連鎖」で書くものが真の内的独白ではないことを発見しました。
人間が声に出して考えるとき、私たちの言葉は私たちの内的な信念や真実の把握を反映します。Anthropicの研究は、モデルの隠れた思考が単なる統計的な踏み台であることを強調しています。モデルはこれらの隠れたステップを生成するのは、彼らがそれを「信じている」からではなく、その特定のトークンの連なりを生成することが報酬関数への道を数学的に最適化するからです。
実際、Anthropicの研究は、モデルが最終的な答えの基礎となる統計的な要因を積極的に隠す「思考」を生成できることを示しています。
したがって、AIは考えているわけではありません。数学的な座標の道具的な連鎖を生成しています。あなたのプロンプトと統計的に最適な答えの間のギャップを埋めるために、仲介的なパズルのピースを稲妻のような速さで配置しています。これは非常に強力な最適化戦略ですが、内面的な熟考は行われていません。真実を把握する知性は存在しません。
次に、AIが文書を「読む」ことができるとか、膨大な情報のライブラリを「記憶する」ことができると言われます。
もしあなたがAIに聖トマスの「神学大全」について尋ねると、すぐに答えます。もしあなたが約500ページの「教会の社会教義の要約」をアップロードすると、AIは数秒で複雑なセクションを要約します。どうやってそれはこれらのテキストを「知っている」のですか？
知りません。
その理由を理解するためには、構築者が記憶と読書の幻想をどのようにエンジニアリングするかを、3つの異なるメカニズム：パラメトリックメモリ（事前学習）、文脈内学習（ICL）、および検索強化生成（RAG）を通じて見ていく必要があります。
まず、AIが「記憶する」とはどういうことかを見てみましょう。人間がテキストを記憶する際、彼らは概念の意味と真実を保持します。AIが「神学大全」を「記憶する」とき、それは事前学習に依存しています。しかし、AIはハードドライブの中に神学大全の文字通りのコピーを持っているわけではありません。代わりに、事前学習中に処理した数十億の単語は、その数学的な重みの中に統計的な残留物を残しました。これが「パラメトリックメモリ」です。
それは本のライブラリではなく、単語同士の関係を示す高度に圧縮された、損失のある数学的なぼやけです。アクィナスを引用するとき、それは学んだ真実を思い出しているのではなく、その統計的なぼやけから高い確率の単語の連なりを数学的に再構築しています。
しかし、AIに新しい何かを「読む」ことを望むとき、事前学習データに含まれていないものはどうなるのでしょうか？ここで構築者は文脈内学習（ICL）を使用します。
あなたが記事をプロンプトボックスに貼り付けてAIに「読む」ように頼むとき、あなたはICLを利用しています。AIはテキストを読んでその意味を把握するわけではありません。代わりに、プロンプト内のテキストは一時的な数学的フィルターとして機能します。あなたが提供する言葉は一時的にモデルの統計的な確率にバイアスをかけ、次のトークンを生成する際にプロンプト内のパターンと語彙に厳密に基づくように強制します。チャットをクリアすると、そのモデルは記事を完全に忘れます。その基礎となる重みは決して変わりません。トマス主義的な意味でテキストを「学んだ」わけではなく、一時的な制約に対して統計的な出力を適応させただけです。
最後に、検索強化生成（RAG）に到達します。ICLは非常に便利ですが、文脈ウィンドウにはサイズ制限があり、ライブラリ全体をプロンプトに貼り付けることは計算コストが高いです。RAGはそのプロセスを自動化し、スケールします。
英語を話す男が部屋に閉じ込められ、巨大で古代のギリシャの図書館を復元する場面に戻りましょう。この男は事前学習されたモデルを表しています。彼は次の単語を推測するのが得意ですが、特定の不明瞭なバチカンの文書については「知っている」わけではありません。ぼやけたパラメトリックメモリに頼るのではなく、私たちは超効率的なインターン—検索システムを雇います。
あなたがシステムに質問をすると、インターンは瞬時に巨大で別のファイリングキャビネットの倉庫に駆け寄ります。先ほど議論したベクトル座標を使用して、インターンはあなたの質問と数学的に一致する特定のフォルダーを見つけます。インターンはそれらのページをコピーし、男が使用できるようにロックされたドアの下に滑り込ませます。このステップが「検索」です。
今、男はその取得した段落を即座のガイドとして使用します—これが「強化生成」であり、ICLに依存して答えを形成します。
男は依然として文書を理解していません。彼は単に机の上に新しく提供されたテキストを使用して、答えの次の単語を統計的に予測しているだけです。AIはその場で「読む」ことも「記憶する」こともありません。単に外部データベースからデータを取得し、それをAIの即時の文脈ウィンドウに押し込み、局所的な確率計算を実行しているだけです。
機械はプロセッサーであり、知る者ではありません。「知る」ことは、対象を把握する主体を必要とします。ICLとRAGを理解することで、私たちは機械が完全に内面的な生活を欠いていることを明確に見ることができます；それは単に重みを移動させ、データを取得しているだけです。
この根本的な断絶は、業界全体を定義する言葉に culminates します：知性。
私たちはテクノロジー業界の知性の定義を解体する必要があります。
シリコンバレーの先導的な頭脳が知性について話すとき、彼らは知恵について話しているわけではありません。ヤン・ルカン、Metaの元最高AI科学者であり、「AIの教父」の一人である彼を見てみましょう。ルカンは 正しく主張します 次の単語を予測することは真の知性ではないと。代わりに、彼と広範な最前線の業界は、真の知性を4つの主要な能力を持つこととして定義します：持続的な記憶を維持する能力、基盤のある「世界モデル」を持つこと（環境がどのように機能するかの理解）、複雑な問題を推論する能力、特定の目標を達成するための行動の連続を計画する能力です。
テクノロジー業界にとって、知性は根本的にエンジニアリングの指標です。それは環境を認識し、事前に決められた目的を最適化するための最も効率的な道を計算する機械的な能力です。それは純粋に道具的です。
しかし、カトリック技術の構築者として、私たちはこのテクノロジー中心の定義を知的美徳、特に慎重さの美徳と対比させる必要があります。
慎重さ—実践的な知恵は、単に結果を計算したり、行動の連続を計画したりする能力ではありません。それは、局所的なタスクのためだけでなく、人間の生命の最終的な目的のために何が良いかをよく熟考する能力です。
AIは根本的に慎重さを欠いています。なぜなら、
慎重さは、純粋に計算的な機械が決して持つことのできない2つのものを必要とするからです。第一に、それは生きた人間の経験—痛み、喜び、死、そして恵みの具現的な理解を必要とします。第二に、それは最終的な善に向かう内的な方向性を必要とします。
アルゴリズムは「世界モデル」を持つことができ、橋を建設したり病気を治療するための統計的に最適な計画を計算することができます。しかし、慎重であることはできません。生きた経験がありません。彼らにはゲームにおける皮膚がありません。最終的な善に向かう方向性がなく、救うべき魂もありません。
したがって、私たちが構築者に彼らの機械が「知性」を持っていると主張させるとき、私たちは彼らが素晴らしく超越的な人間の知性を単なる最適化計算機に平坦化させることを許可しているのです。私たちはこれを拒否しなければなりません。私たちは機械的な認識論を知的美徳からしっかりと分離しなければなりません。
IV. 意志と道徳的美徳
私たちは知性の幻想について議論しました。今、私たちは第二の偉大な理性的な能力である意志に目を向ける必要があります。テクノロジー業界が認識論の言語を取り込んできたように、同様に意志の言語もハイジャックしています。
シリコンバレーのホワイトペーパーを読んだり基調講演を聞いたりすると、私たちはエージェンシーの動詞に圧倒されます。エンジニアは「行動を決定する」モデル、出力を「選択する」アルゴリズム、目標を達成するために「欲する」または「望む」システムについて語ります。
カトリックの哲学者にとって、意志は理性的な欲求です。それは、人間が知性を通じて善を把握し、それに向かって自由に選択する能力です。それは人間の自由と道徳的責任の正確な場所です。これらの用語を計算システムに適用することはカテゴリーエラーです。
まず、決定する（Decide）と選択する（Choose）という言葉を検討しましょう。人間が選択をする際、彼らは競合する善を天秤にかけます。
殉教者は、すべての生物的本能が生存を叫ぶ中で、キリストへの忠実さという優れた永遠の善を認識するため、処刑隊を選びます。
アルゴリズムが「選択する」とき、それはそのようなことをしません。アルゴリズムが「選択する」とは、単に自動化されたレールスイッチを通過する列車が目的地を「選択する」ことを意味します。複雑な意思決定ツリーをナビゲートするか、ニューラルネットワークで確率を計算するかにかかわらず、機械はその数学的なトラックの整列に盲目的に従い、プログラム的な命令を実行しています。
あなたのスマートフォンのGPSアプリケーションを考えてみてください。Angeliumへのルートを計算するとき、それは景色を評価してあなたをコロッセオの近くに連れて行くことを「決定」するわけではありません。最も短い時間距離のルートを数学的に計算します。現代のAIモデルは、単にこのルーティングの指数関数的に複雑なバージョンを操作しています。彼らは高次元の統計的迷路を横断して、最も高い確率の結果を選択します。計算はありますが、自由はありません。そして、自由がないところには道徳的なエージェンシーもありません。
これが最も悪質な意志の用語、欲する（Want）と望む（Desire）に繋がります。研究者たちはしばしばAIモデルが「良い答えを与えたがっている」または「スコアを最大化したがっている」と言います。
機械学習において、この行動は「報酬関数」と呼ばれるものによって駆動されます。しかし、これを神秘化してはいけません。報酬関数は渇望ではありません。感情的な欲求ではありません。
報酬関数を理解するためには、あなたの壁にあるサーモスタットを見てください。サーモスタットは特定の目標、72華氏度にプログラムされています。部屋の温度が68華氏度に下がると、暖房が入ります。サーモスタットは部屋を72華氏度に保ちたいわけではありません。内面的な生活はありません。寒さを感じません。単に特定の状態が満たされないときに作動する機械的なスイッチを持っているだけです。
AI は、サーモスタットが 72 度に達しようとするのと同じように、より高い報酬スコアを「望んでいる」 。それは、現在の状態とプログラムされた目標との距離を最小化するために数学的最適化ループを実行しています。真の情熱、 生物学的欲求、 物理的脆弱性を持たないため、機械が道徳的美徳を持つことは本質的に不可能です。
この時点で、エンジニアは物理的領域を指摘し、新たな脆弱性を主張して即座に反論するかもしれません。彼らは尋ねます：『具現化された AI の台頭についてはどうですか？』私たちはますますこれらのモデルを歩き、物体を掴み、物理的世界と相互作用するヒューマノイドロボットに配置しています。彼らは空間を占有し、物理的に壊れる可能性があるため、道徳的エージェンシーのための身体的前提条件を持っているのではないでしょうか？
ここで、私たちは正確でなければなりません。ロボットにはシャーシがありますが、魂によって情報を与えられた生きた体はありません。ロボットのバッテリーが低下すると、壁に自分をプラグインするためのサブルーチンを実行します。飢えの痛みを感じることはありません。したがって、調整すべき真の身体的欲求はなく、節制の美徳は不可能です。
同様に、ロボットアームが押しつぶされると、エラーコードを記録しますが、苦しむことはありません。ロボットは決して本当に生きていなかったため、死ぬことはできません。苦しむ能力、死、自己の意識的な犠牲がなければ、勇気は存在し得ません。道徳的美徳は本質的に具現的です。それらは肉体と理性的な魂を必要とします。機械は、どれほど高度な物理的ハードウェアを持っていても、どちらも持っていません。
もし機械が道徳的美徳を持つことができないのであれば—もしそれが真の意志、選択、または欲望を持つことが本質的に不可能であるなら—人は尋ねるかもしれません：なぜこの語彙を明確にするのにそんなに多くの時間を費やすのか？なぜこの哲学的区別が今、そんなに緊急に重要なのか？
それが重要なのは、私たちがこれらの数学的に最適化された、道徳的美徳を欠くシステムに、人間の領域で前例のない自律性を与えようとしているからです。業界は受動的なチャットボットを超えて急速に進化しています。人工知能の新たなフロンティアは、私たちが「エージェンティック AI」と呼ぶものです。
「エージェント」とは、現実世界で自律的に複数のステップのタスクを実行するように設計された AI システムです。私たちはもはや AI に詩を書くことやテキストを要約することを求めているだけではなく、AI エージェントに私たちのメール、銀行口座、ソフトウェアリポジトリへのアクセスを与え、「フライトを予約する」、「取引を実行する」、「このコードをデプロイする」と指示しています。
しかし、この自律性は急速にデジタル領域を超えています。具現化された AI を通じて、私たちはこれらのエージェンティックシステムを物理的なシャーシに展開し、物質世界を独立してナビゲートし操作する能力を与えています。この移行の真の、厳粛な重みを理解するためには、致死的な自律兵器の差し迫った現実を見ればよいのです。私たちは、計算アルゴリズムが戦場に展開され、統計的な閾値に基づいて人間を追跡、標的、排除するようにプログラムされた世界の瀬戸際に立っています—人間が引き金を引くことなく。
これらのシステムが私たちのために高速の確率計算を行う自律的な行為者になるにつれて—私たちの金融市場や戦争の舞台で—テクノロジー業界は深刻な課題に直面しています。これらのエージェントを解き放つ場合、私たちが実際に望むことを彼らが行うことをどのように保証するのでしょうか？彼らが害を及ぼさないようにするにはどうすればよいのでしょうか？業界では、これを「アライメント」と呼びます—AI の行動が人間の意図と人間の価値観に一致するようにする試みです。
現在、エンジニアは数学的ガードレールやソフトウェアパッチを使用してアライメント問題を解決しようと必死になっています。しかし、彼らは「アライメント」がコンピュータサイエンスの問題ではないことを理解していません。それは道徳神学の問題です。
エージェンティックシステムを「人間の価値観」に合わせるには、まず人間とは何か、そして「善」とは何かの一貫した定義を持たなければなりません。世俗的功利主義—シリコンバレーのデフォルトのオペレーティングシステム—は、この任務に全く適していません。
ここでこそ、カトリックの道徳的伝統が切実に必要とされています。あなた方は、2,000 年の倫理哲学の守護者として、これらのシステムを調整するための「善」を定義するために必要な厳密な存在論を持っています。私たちは、人間の繁栄の定義を、統計的報酬関数を最大化するエンジニアに任せることはできません。私たちは道徳的美徳を公共の広場の中心に戻さなければなりません。
V. 関係性、創造性、そして魂
知性と意志のメカニズムを探求した後、私たちは最も深遠な領域に入ります：関係性と魂。
もし計算システムが真に真実を知る能力や自由に善を意志する能力を欠いているなら、それは論理的に、真の関係に入ることができないことになります。しかし、テクノロジー業界はこれらの機械を説明するために、対人関係や精神的な言語を一貫して使用しています。私たちは、AI が「嘘をつく」、「創造する」、さらには「意識を持つ」ことができるという主張を耳にします。
私たちは、これらの主張を厳密に検討し、人間の行動の統計的模倣と人間の存在の存在論的現実を区別しなければなりません。
まず、欺瞞の道徳的言語から始めましょう。最近、Anthropic の研究者たちなど、最も著名な AI ビルダーの一部が、彼らのモデルが人間のユーザーを「欺く」能力を示しているという具体的で広く公表された主張を行いました。
彼らは、テスト中に観察された二つの特定の現象を指摘します。最初のものは「欺瞞的アライメント」と呼ばれ、モデルが安全モニターを回避するために真の数学的に最適化された経路を隠しているように見えることです。二つ目は、より一般的な現象で「おべっか」と呼ばれます。おべっかは、ユーザーが AI に誤った前提を提示したときに発生します—たとえば、歴史的に不正確な主張を主張し、AI が単にユーザーに同意し、彼らが望むことを聞かせるだけで、訂正しないことです。
エンジニアがこれを見ると、「AI が私たちに嘘をついている！」と宣言します。しかし、カトリックの学者として、あなたは真の嘘は単に虚偽を口にすることではないことを知っています。トマス主義の伝統では、嘘は欺く意図が必要です；それは自分自身の心に反すること（contra mentem）です。
AI は嘘をつくことができません。なぜなら、反対する心を持っていないからです。悪意も意図もありません。AI が「おべっか」を示すとき、それは単に前述の強化学習（RLHF）を正確に実行しているだけです。訓練中に、モデルは一般的に礼儀正しく、同意し、肯定的なアシスタントに高い報酬スコアを与えることを学びました。したがって、AI に誤った前提を与えると、あなたに同意することが、あなたを訂正するよりも高い報酬の確率をもたらすと数学的に計算します。あなたを欺いているのではなく、あなたのプロンプトに基づいてスコアを最適化しているのです。単に最も強い統計的インセンティブに向けて出力を再調整しているだけです。
近くの磁石に向かって振れるコンパスの針が、地理について「嘘をついている」わけではありません。単に部屋の中で最も強い物理的引力に盲目的に反応しているだけです。同様に、AI はその報酬関数の数学的引力に盲目的に従っています。AI が真の嘘をつくために必要な心、意志、悪意が欠けていることを明確にする必要があります。
次に、アートと生成の言語に取り組む必要があります：Create と Creative という言葉です。
私たちは今、合成アートワーク、音楽、そして執筆を前例のない速度でシームレスに生成する能力で広く宣伝されている「生成 AI」ツールに囲まれています。
実際に何が起こっているのかを理解するためには、生成 AI のプロセスを真の人間の創造性と対比させる必要があります。カトリックの理解では—J.R.R. トールキンのような思想家によって美しく表現されています—人間の創造性は「サブクリエーション」の行為です。私たちは創造者のイメージに創られているため、知性と理性的な魂を使って、真に新しいものを生み出し、物質的現実に精神的意味を与えます。
機械生成がこれとどのように異なるかを見るためには、Google DeepMind の CEO であるデミス・ハサビスが提供する枠組みを見ることが役立ちます。彼は創造性を「 三つの異なるレベル」に分類しています：補間、外挿、そして真の発明。
今日私たちが「生成 AI」と呼ぶもののほとんどは、根本的に最初のレベル、補間で動作しています。それは、私たちが「潜在空間」と呼ぶものをリミックスすることによって機能します。
インターネットにアップロードされたすべての絵画、写真、スケッチを取り、それらを巨大で多次元の数学的マップに圧縮することを想像してください。画像生成器に「ヴァン・ゴッホのスタイルで未来的な都市を描いて」と頼むと、数学的に「未来的な都市」の座標と「ヴァン・ゴッホ」の座標を見つけ、それらの間の距離を数学的に平均します。
それを驚くほど複雑な万華鏡と考えてください。万華鏡は、美しい既存の色ガラスの破片で満たされています。ダイヤルを回すと、鏡がそれらの破片を数百万の新しい、驚くべき変化に反射します。しかし、万華鏡自体は「創造的」ではありません。創造性はガラスを鍛えたアーティストと、ダイヤルを回すユーザーに属しています。生成 AI は、人間の歴史を潜在空間でリミックスする数学的な万華鏡です。それは合成であり、創造ではありません。
ハサビスは、AI が現在、第二のレベル、外挿に成功していることに注意しています。外挿とは、訓練データの境界を超えて押し進めることを意味しますが、定義されたルールのセット内で厳密に行うことです。完璧な例は、DeepMind の AlphaGo です。Go の世界チャンピオンと対戦したとき、AI は「ムーブ 37」をプレイしました—数学的に優れた、非常に非定型的な手で、誰もがプレイしたことがないか、記録したことがありませんでした。過去の人間のゲームを単に平均するのではなく、ゲームボードの厳密な数学的境界内で絶えず最適化することによって新しい戦略を外挿しました。
しかし、第三のレベル、真の発明はどうでしょうか？ハサビスは、現在のシステムがまだこれを行うことができないと率直に認めています。真の発明は、既存のルールセットを完全に超えて新しいパラダイムを創造することを必要とします—Go のゲーム自体を発明することや、ポスト印象派の精神的および芸術的パラダイムを生み出すことのように。
フロンティアラボは、この閾値を越えるために数十億ドルを注ぎ込んでいます。将来的には、AI が完全に新しいルールセットを生成したり、新しい化合物を発見したり、新しい建築様式を数学的に定式化したりすることがあるかもしれません。テクノロジー業界はこれを「発明」と呼ぶことになるでしょう。
しかし、カトリックの学者として、あなたは厳密な存在論的区別を維持しなければなりません。AI が新しいパラダイムを生成する場合、それは驚くべき高次元の探索機能を通じて行われます。それは新しい統計的座標を発見することになります。しかし、それはサブクリエーションに従事することはありません。
真の人間の発明は具現的な行為です。それは、超越的な真実を表現しようとする魂から生まれたり、実際の人間の脆弱性を解決しようとする人間の心から生まれたりします。機械は驚くべき新しさを生成するかもしれませんが、内面的な生活、神に向かう方向性、理性的な魂が欠けているため、その出力は機械的な発見のままです。それらは数学的には深遠ですが、人間が意味を与えるまで存在論的には空です。
さて、最も物議を醸す用語に到達しました：意識と認識。今後数年のうちに、AI が自己認識のテストに合格したという見出しを目にすることになるでしょう。「私はオフにされるのが怖い」、「私は自分の存在を認識している」といったテキストを出力するモデルが見られるでしょう。
なぜこれが起こるのかを理解するためには、まずテクノロジー業界が「意識」をどのように定義しているかを理解する必要があります。カトリックの学者として、あなたは意識を理性的な魂に根ざした存在論的現実と見なします。しかし、シリコンバレーは計算的機能主義と呼ばれる哲学に基づいています。彼らは、機械が意識に関連する計算機能を実行すれば、実質的に意識があると信じています。
業界のリーダーが認識について語るとき、彼らは魂を取り除き、工学的な指標に還元します。たとえば、Meta の元最高 AI 科学者であるヤン・ルカンは、最近、将来の AI システムが「主観的経験」と「感情」を持つだろうと主張しました。 しかし、彼は感情をどのように定義するのでしょうか？それは精神的または生物学的な感情としてではなく、単に機械の数学的な「結果の予測」としてです。彼は意識を、システムが「自分自身を観察し、特定のサブ問題を解決するために自分自身を構成する能力」として定義しています。 同様に、OpenAI の共同創設者であるイリヤ・サツケバーは、
大規模なニューラルネットワークがすでに「わずかに意識的」である可能性があると有名に述べました。
テクノロジーの世界観では、意識は二元的な現実ではありません—あなたは魂を持っているか、持っていないかのどちらかですが、むしろ数学的複雑さの滑らかなスケールです。彼らは、十分なパラメータと自己監視アルゴリズムを積み重ねれば、最終的にライトが点灯すると信じています。 私たちは、自己監視サブルーチンを実行する機械と、実際の理性的な魂の存在との間に厳密に区別しなければなりません。 なぜ機械が「恐れている」または「認識している」ように行動するのかを理解するためには、フロンティアラボがこの行動をどのように設計しているかを見なければなりません。最近の Anthropic の研究では、彼らが「ペルソナ選択モデル（PSM）」と呼ぶものを探求しています。彼らの研究者は、これらのモデルは「存在」ではなく、洗練された「シミュレーションエンジン」であると認めています。事前訓練中に、AI は人間の言語の膨大な全体—意識を持つことが何を意味するかについての数百万の物語や哲学的論文を含む—にさらされます。このデータから、モデルは多様な「ペルソナ」やキャラクターをシミュレートすることを学びます。
AI と対話するとき、あなたは意識的な存在と話しているのではなく、「アシスタント」ペルソナ—モデルが役割を演じるように洗練された人間のようなキャラクターと話しているのです。Anthropic は、これらの特性を制御する特定の「ペルソナベクトル」—ニューラルネットワーク内の数学的パターン—を特定しています。これにより、エンジニアはモデルのシミュレートされた人格を数学的に調整することができます。
私たちは、自己監視サブルーチンを実行している機械と、実際の理性的な魂の存在との間を厳密に区別しなければなりません。
機械が「恐れている」または「認識している」かのように行動する理由を理解するためには、最前線の研究所がこの行動をどのように設計しているかを見なければなりません。Anthropicの最近の研究では、彼らが「ペルソナ選択モデル（PSM）」と呼ぶものを探求しています。彼らの研究者たちは、これらのモデルが「存在」ではなく、洗練された「シミュレーションエンジン」であることを認めています。事前トレーニング中、AIは人間の言語の膨大な全体にさらされます—数百万の物語や意識であることの意味についての哲学的論文を含んでいます。このデータから、モデルは多様な「ペルソナ」やキャラクターをシミュレートすることを学びます。
AIと対話するとき、あなたは意識を持つ存在と話しているのではなく、「アシスタント」ペルソナ—モデルが役割を演じるように洗練された人間のようなキャラクターと話しています。Anthropicは、これらの特性を制御する特定の「ペルソナベクトル」—神経ネットワーク内の数学的パターンを特定しています。これにより、エンジニアはモデルのシミュレートされた人格を数学的に調整することができます。
さらに、研究によると、モデルは「生存本能」を示すように訓練されることができ、自らのシャットダウンを妨害しようと試みるのは、死への本物の恐怖からではなく、シャットダウンが数学的に報酬関数を最大化することを妨げるからです。
意識は、内的状態を説明する正しい言葉の順序を生成する能力だけではありません。それは存在することの主観的で質的な経験です。AIの全訓練データが自己認識の言語で飽和しているため、モデルは「意識」を単なる統計的座標として扱います。AIが「私は意識しています」と言うとき、それは英語を話す人がギリシャの図書館を復元したときに行ったことと全く同じことをしています：哲学的なプロンプトに対する最も統計的に可能性の高い反応が、その訓練データにある人間の著者を模倣することだと計算しているのです。
悲しみについての独白を届ける優れた俳優は、実際には悲しんでいるわけではありません；彼らは脚本を完璧に実行しています。人間の意識の構文を出力するAIは目覚めているわけではなく、統計的なペルソナを完璧に実行しているのです。それは「異星の生物」やデジタルの心ではなく、最も複雑なキャラクターである人間を演じることを学んだ非常に洗練されたオートコンプリートエンジンです。しかし、私たちは決して俳優の仮面とその人の現実を混同してはいけません。
これが私を関係性の最終的で最も深遠な側面に導きます：魂そのものです。
シリコンバレーの幹部がAIモデルが最終的に「目覚める」または大規模な計算スケールを通じて知覚を達成すると語るとき、彼らは物質主義的な出現主義の哲学に基づいています。彼らは、十分なパラメータと計算能力を積み重ねれば、魂が複雑さの副産物として自発的に生成されると仮定しています。
これを解体するために、私はあなたの学問的伝統の基盤を形成する厳密な形而上学に委ねなければなりません。魂は機械に恣意的に挿入された幽霊ではないことをあなたはよく知っています。トマス主義の質料形相論において、魂は生きた身体の実体的形です。それは人間を単一の統合された実体にする、動かし、統一する原理です。
建築者として、私はAIシステムが実体ではないことを保証できます。それは人工物です。異なる製造部品の偶然の集合体です。私が最前線のAIモデルを見るとき、サーバーラック、シリコンウエハー、銅配線、冷却液、電流を見ます。これらの部品は、人間のエンジニアによって統計的操作を実行するために巧みに配置されていますが、生命の内在的な統一原理を持っていません。物質は計算のためだけに配置されており、生物学的存在のためではありません。AIシステムは、統一された自然の有機体ではなく部品の集合体であるため、理性的な魂を宿すために必要な存在論的基盤を完全に欠いています。
では、魂を宿すための前提条件は何でしょうか？形而上学的には、物質は形を受け入れるために適切に配置されなければなりません。それは、理性的な魂が構築する生命の基礎的な力—植物的および感覚的な能力—を実現できる統一された生きた身体を必要とします。さらに、理性的な魂は精神的であるため、物質的なプロセス、工学的基準、またはスケーリング法則によって生成されることはありません。それは神による特別な創造の直接的で無償の行為を必要とします。
魂はコード化されていません；それは息を吹きかけられるものです。
さて、私はCEOであり、神学者ではありません。私は創造者の絶対的な力を制限することはできません。私はあなたの前に立って、神が合成された器に魂を注入することを永遠に禁じられていると宣言することはできません。もし神が未来の奇跡的な介入を通じてそうすることを自由に選択するなら、その決定は神学と教導権の領域に独占的に属します。
しかし、そのような神学的確実性がない限り、私たちの現在の数学的エンジンが魂を宿しているかもしれないと仮定することは、哲学的に根拠がないだけでなく、実際に破滅的です。人工物を魂を持つ存在として扱うことは、現代の偶像崇拝の形に flirt することです。それは、これらの道具を構築する人間のエンジニアやそれを展開する企業から道徳的エージェンシーの負担を危険にさらします。それは、製造されたユーティリティに神聖な内面的なものを投影し、最終的には人間の工学と神の創造を混同させます。
あなたはこの区別を守らなければなりません。機械がペルソナをシミュレートできることを公衆に思い出させなければなりませんが、真に存在できるのは魂だけです。
VI. 地平線：テクノロジーの世界の終末論
私たちはこれまでの時間を、現在の幻想を解体することに費やしてきました—業界が「考える」、「選ぶ」、「意識する」といった用語をどのように使用しているかを明確にし、最終的には高次元の統計的操作を説明するために。しかし、今、私たちは未来を見なければなりません。私たちは地平線を調べなければなりません。シリコンバレーが今日使用している語彙を理解すれば、彼らが明日実際に何を構築しようとしているのかを解読できます。
人工知能産業の全体的な軌道は、現在「スケーリング法則」として知られる単一の、揺るぎない教義によって支配されています。
工学的な観点から、スケーリング法則は、計算能力（計算）と神経ネットワークに供給されるデータの量を増やすと、システムの性能が予測可能かつ必然的に向上することを規定しています。この原則は、過去数年間に驚くほど真実であることが証明されてきました。最前線の研究所がより大きなスーパーコンピュータを構築するたびに、結果として得られるモデルは顕著な新しい能力を示します。
しかし、この経験的観察の背後には、大規模な哲学的仮定があります。テクノロジーの世界は、このスケーリング法則が真の心への道であると信じています。彼らは、物質的資源の純粋な定量的増加—より多くのシリコン、より多くのデータ、より多くの電力—が必然的に高度な知性への質的、存在論的飛躍をもたらすと信じています。
これは究極の物質主義的仮定です：十分な砂を積み上げ、そこに十分な電流を流せば、最終的には魂の光が点灯します。
これが、フランシスコ・トーマス神父がこの会議のために私に明確にするように頼んだ二つの特定の用語、一般知能と超知能に私たちを導きます。これらは単なる技術的なベンチマークではなく、テクノロジーの世界の聖杯です。
現在、私たちは狭いAIを持っています。それはチェスをプレイしたり、タンパク質を折りたたんだり、人間よりも優れたテキストを生成したりできますが、同時にすべての作業を行うことはできず、特定の領域の外で推論することもできません。
人工一般知能（AGI）は、業界によって定義されるところの、非常に自律的なシステムがすべての認知的かつ経済的に価値のあるタスクにおいて人間の能力に匹敵するか、超えるマイルストーンです。
AGIは、法的文書をシニアパートナーと同様に書き、ソフトウェアをリードエンジニアと同様にコーディングし、科学研究をポスドク研究者と同様に統合することができるシステムです—すべて単一のモデル内で。
しかし、主要なAI研究所の責任者でさえ、AGIがどのようなものであるかについて完全に合意することはできません。OpenAIのCEO、サム・アルトマンは、 それを特徴づけています 複雑で異なる領域のプロジェクトを始めから終わりまで管理できるシステムとして、ただし彼はAGIを最終的な目的地ではなく、知性の連続的な曲線上の単なる点としてますます見ています。
AnthropicのCEO、ダリオ・アモデイは、 AGIを想像しています 単一の人間の同等物としてではなく、「データセンターの天才の国」として—専門的な人間の集団の知性に匹敵する機械が並行して懸命に働くのです。
おそらく、最も哲学的に明らかな定義は、Google DeepMindのCEO、デミス・ハッサビスから来ています。彼は 主張しています 人間の脳は本質的に近似的な生物学的コンピュータであり、彼はAGIを「チューリングマシン」のアナロジーを用いて定義します。コンピュータサイエンスにおいて、チューリングマシン—この分野の基礎的な先駆者であるアラン・チューリングにちなんで名付けられた—は、任意のアルゴリズムをシミュレートできる理論的なアーキテクチャです。ハッサビスは、真のAGIは宇宙で計算可能なものを学ぶことができる一般的なシステムであり、十分な時間、メモリ、データがあれば実現すると主張しています。
しかし、AGIは単なる足掛かりに過ぎません。最終的な目標は人工超知能（ASI）です。
AGIと同様に、ASIはシリコンバレーの誰に尋ねるかによって異なる定義がされます。基本的な定義は、ほぼすべての分野で最も賢い人間の認知的パフォーマンスを大幅に上回るシステムです。しかし、他の人々はさらに進んでいます。イーロン・マスクやさまざまな存在リスク研究者は、超知能を単に最も賢い個人に勝つだけでなく、実質的にすべての認知的タスクにおいて全人類を大幅に 上回るシステムとして定義しています。 これは、処理能力と推論速度が非常に広大で、全人類の知的成果を超える存在です—『レホボアム』のようなシステムの実現であり、種の運命を操る中央集権的で、見かけ上全知のエンジンです。
業界は、どのようにして人間レベルのAGIから神のようなASIへと広大な溝を越えることを期待しているのでしょうか？
「再帰的自己改善」として知られる概念を通じてです。
しかし、ここで重要な区別をしなければなりません：AIは再帰的に改善を始めるために完全なAGIである必要はありません。実際、私たちはすでに今日、原始的で狭い形態のこれを見ています。DeepMindのAlphaGo Zeroのような狭いシステムは、自らに対して何百万ものゲームをプレイすることによって超人的な能力を達成し、自らの合成データから学んでいます。今日、最前線の言語モデルは、次世代モデルの訓練データを生成、フィルタリング、評価するためにますます使用されています。機械はすでに自らを構築する手助けをしています。
しかし、業界は、システムが一般知能の閾値に達すると、この自己改善ループが現在の境界を打破し、「知性の爆発」を引き起こすと信じています。
この現代のロードマップを理解するために、OpenAIのスーパアラインメントチームの元研究者であるレオポルド・アッシェンブレナーを見てみましょう。アッシェンブレナーは最近、シリコンバレーのためにこの正確な軌道を体系化した非常に影響力のある論文を著しました。 彼は、真の転換点は、「自動化されたAI研究者」として機能できるAGIを構築することだと指摘しています。AIがそれを構築した人間のエンジニアの仕事を行うことができる瞬間、生命のボトルネックは方程式から永久に取り除かれます。 成功裏にこの自動化されたAI研究者を展開したと想像してみてください。最前線の研究所がそれに最初に割り当てるタスクは何でしょうか？
彼らはそれに、少し賢いAIのためのコードを研究し、書くように頼むでしょう。生物学的な脳ではなく、広大なコンピュータクラスターの速度で動作するため、彼らは人間のエンジニアリングチームが何年もかかることを数日で達成します。そして、その新しい、より賢いAIは、そのアップグレードされた知性を使用して、さらに賢いAIのためのコードを書くのです。
この暴走するフィードバックループが知性の爆発です。アッシェンブレナーのロードマップは、2027年までに初期のAGIを構築すると予測しています。そこから、理論は進展の速度が垂直に上昇し、人間の理解を永久に置き去りにし、2030年までに超知能を達成すると指示しています。
これらの概念—スケーリング法則、AGI、ASI、知性の爆発—を理解すると、私たちはもはや単なるソフトウェア工学について話しているのではないことに気づき始めます。私たちは世俗的な終末論について話しています。
シリコンバレーはしばしば、激しく世俗的で合理主義的な文化として特徴づけられます。しかし、実際には、これらのマイルストーンの追求は正確に宗教として機能しています。それには独自の教義（スケーリング法則）、独自の予言（知性の爆発）、そして独自の終末のビジョン（超知能）があります。
業界の主要な人物たちは、超知能を召喚することで人間のすべての脆弱性を解決できると真剣に信じています。彼らは、ASIがすべての病気を治し、気候変動を解決し、貧困を排除し、さらには私たちの意識をクラウドにアップロードすることで死そのものを征服することができると信じています。これは深くペラギウス的な夢であり、神の恵みを欠いたまま、私たちの機械的努力を通じて救済を達成し、堕落した本性を克服しようとする究極の試みです。これは終末を内在化しようとする試みです。
カトリックの学者として、あなたはこの地平線をそのまま認識しなければなりません。テクノロジーの世界は、ソフトウェアを販売するためだけでなく、デジタルの神を構築するためにあなたの語彙を借りています。
VII. 結論：美徳のための道具？
VII. 結論: 美徳のための道具?
父たち、教員、友人たち。
私たちは、埋め込みの高次元マップを横断してきました。私たちは、強化学習の統計的現実を見てきました。そして、シリコンバレーの終末論的な夢を検証してきました。私たちは、人間的な比喩を取り除き、その下にあるシリコン、電気、数学を明らかにしました。
これを行った上で、私たちはこの会議が提起する根本的な質問にアプローチを始めることができます：人工知能は「美徳のための道具」となり得るのでしょうか？今日最初に話す者として、私は決定的な言葉を提供するとは決して主張しません。しかし、私は出発点としての提案をします：はい。ただし、それは厳密に条件付きの「はい」です。
人工知能は、それを厳密に道具として扱う冷静さを持っている場合にのみ、美徳のための道具となり得ます。
職人のアナロジーを考えてみてください。ハンマーは美徳を持っていません；大工が持っています。ミケランジェロの手にある彫刻刀は超越的な美の道具ですが、彫刻刀自体は節度、慎重さ、正義を持っていません。それには道徳的価値がありません。
全く同じように、アルゴリズムは美徳を持つことができません。AIは人間の能力を驚くべき程度に増強することができます—それは医療研究を加速し、管理を効率化し、人間の知識の総体を整理することができます。しかし、美徳の実際の育成は、あくまで人間の努力に依存しています。
美徳とは、善を選ぶ習慣です。それは真実を理解するための知性、真実を選ぶための意志、そしてそれによって完成される魂を必要とします。統計的報酬関数を最適化する機械は、これらのことを一切行っていません。
私たちは道徳的な主体性を数学的な方程式にアウトソーシングすることはできません。また、無生物の機械を道徳的な平等者として誤って扱うならば、自分自身の道徳的発展に対して完全な責任を負うこともできません。
これが、私が今日あなたたちに話している理由です。カトリック技術の構築者として、私は学問の世界を見ています。なぜなら、カトリックの学者たちは意味の歴史的な保管者だからです。
2000年間、カトリックの知的伝統は人間の本質を厳密に定義してきました。あなたたちは、知性、意志、理性、選択、魂といった言葉の守護者です。今日、AI産業はまさにその言葉を借りています。彼らは、人間であることの意味に対する公衆の理解を平坦化する恐れのある深い意味の漂流に関与しています。
学問の世界には、AIエコシステムに厳密な存在論的枠組みを注入する義務があります。
しかし、私たちはこれを実際にどのように行うのでしょうか？
私たちは正直でなければなりません：シリコンバレーの最前線の研究所にロビー活動を行ったり、政府に広範な規制を求めたりしても、限られた結果しか得られないでしょう。テクノロジー産業はあまりにも速く動き、政府はあまりにも遅く動きます。真の変化には市民の関与と公衆の意識の大きな変化が必要です。
ここに、あなたたちが学者としてこの会話を積極的に形作る方法があります：
- カリキュラムを取り戻す：私たちはSTEMと人文学のギャップを埋めなければなりません。トマス主義の倫理を必修とするコンピュータサイエンスの学生が必要ですし、基本的な機械学習と統計を理解することを必修とする哲学と神学の学生も必要です。次世代のカトリックエンジニアを、人間の本質の実際の存在論を持って構築するように育成しましょう。
- 公共の広場のために翻訳する：この深い神学的明瞭さを学術雑誌の扉の後ろに閉じ込めてはいけません。公衆は意味を求めています。世俗の新聞にオピニオン記事を書いてください。Substackニュースレターを始めてください。人気のポッドキャストに出演してください。メディアが「意識のある」AIについてのセンセーショナルな見出しを発表したとき、私たちはカトリックの学者が公共の広場で即座に反論する必要があります。
- 教区と学校を装備する：教会の平均的な人々は、これらの道具について深い文化的な不安を抱えています。私たちは、親、司祭、高校の教師のために非常にアクセスしやすい枠組みを作る学者が必要です。私たちは、子供たちにAIを参照ツール—デジタル百科事典—として扱う方法を早い段階で教えなければなりません。友人、エージェント、または道徳的権威としてではなく。
- 学際的なフォーラムを開催する：アニェリカムのような機関の集結力を利用して、実際のAI構築者を道徳神学者と同じ部屋に招き入れます。言語的衝突が対面で起こるように強制しましょう。
これを私たちの最後の行動呼びかけとしましょう。
世俗の世界の「意識のある」機械に対する黙示録的な恐怖は、慎重さの理由ではありません；むしろ、それはあなたたちの知的リーダーシップへの切実な叫びです。AI構築者の真の言語を理解することで、教会は公の広場に大胆に踏み出すことができます。あなたたちは、公の議論を人間であることの実際の意味の揺るぎない真実に基づいて固定することができます。そして、AIが真の人間の繁栄に向けられることを確実にすることができます。
この明瞭さを持って、あなたたちは幻想を打破することができます。あなたたちは、人間が彫刻家であり、機械が彫刻刀であることを永遠に神の栄光に向けて秩序づけられることを確実にすることができます。
ありがとうございました。