AGI という用語は愚かだ — Hinton × Sejnowski 国連 Digital World Conference 2026

2026 Digital World Conference (UN Geneva / WDTA × UNRISD) 2026/04/29

Geoffrey Hinton / ジェフリー・ヒントン · 14:20 「AGI という用語は、知能が一次元のものであるかのように扱う。でも知能は多次元なのが明らかや。だから『いつか人間と同等になる』という考えはクレイジー。人間と比べてジャギー (jagged、ぎざぎざ) になる、ある面では我々よりはるかに優れ、他の面ではまだ劣る」

2026 Digital World Conference: AI for Social Development (Geneva 国連欧州本部、 2026/04 開催)。共催 WDTA + UNRISD 。 Hinton と Sejnowski は両者とも Zoom 経由のビデオリンクで参加 (Hinton は U Toronto の自宅オフィス、 Sejnowski は Salk Institute)。司会は Li Deng 。約 1 時間 6 分

2026 年 4 月、国連 Geneva 本部で開かれた Digital World Conference 「AI for Social Development」のメインセッション。ディープラーニングの 2 人の創始者 — Geoffrey Hinton (2024 年ノーベル物理学賞) と Terrence Sejnowski (計算神経科学者、 Salk Institute、 WDTA Scientific Breakthrough Award 受賞者) — が 40 年来の共同研究 (1985 年の Boltzmann machine ) を振り返りつつ、業界が直面する AGI、雇用、規制、国際ガバナンスの問題を 1 時間で議論する。

動画の構造は対談 60 分 + 質疑応答 40 分。司会の Li Deng (元 Microsoft Research、 2010 年に Hinton を Microsoft に招いた本人) が研究史と現在を結ぶ問いを連続で投げる。内容は (1) Boltzmann machine の発見の瞬間、 (2) ディープラーニング革命前夜の Microsoft での共同作業、 (3) AGI という用語の批判と「ジャギーな知能」概念、 (4) Wake-sleep アルゴリズムや Capsule Networks へのHinton の自己評価、 (5) 雇用への影響 (弾力的市場 vs 非弾力的市場)、 (6) 「加速 = アクセル、規制 = ステアリング」という Hinton の決定的アナロジー、 (7) 3 階層のリスク分類、 (8) Global South への波及 (タバコ・アスベストの先例)、 (9) UN データの活用可能性、と多層。

MEMEX 編集視点で最も重要な発見は、 Hinton が独立に Karpathy の「ジャギーな知能」概念と同じ景色を語っていること。 Karpathy が AI Ascent 2026 (2026/05) で「AI の能力は不均一なジグザグになる、動物のような訓練軌跡ではなく幽霊のように瞬間的に現れる」と語ったのと、 Hinton の「intelligence is highly multidimensional、 jagged relative to people」 (14:20) は、同じ概念の独立発見 (independent rediscovery)。業界のトップ 2 人が、同じ時期 (2026 年 4-5 月)、別の文脈 (国連会議 vs VC イベント)、別の語彙で、同じ景色を見ている。

また、動画の終盤で Hinton が提示する「規制は steering wheel (ハンドル) であって brake (ブレーキ) ではない」という比喩は、兄さんの直近の議論 (兄さん × Mythos の「擬似的問題への AI の対応」) と直接接続する論点 — エンジニアの不安や規制への抵抗を、構造の比喩でひっくり返す手法として、強い参照価値がある。

着眼点

「AGI は愚かな用語」 — 多次元知能とジャギーな能力 (14:20 - 16:00)

Hinton の最も鋭い問題提起。「AGI という用語は知能を一次元として扱う、もっと増えていく、みたいに。でも知能は非常に多次元なのが明らか。だから『いつか人間と同等になる』という考えはクレイジー。ジャギーになる、一部のタスクでは我々よりはるかに優れ、他では劣る。だから愚かな用語や」 (14:20 - 14:30)。

代替として「超知能 (superintelligence) 」を提示: 「私たちが行うほとんどすべての知的タスクで、超知能が私たちより優れていることを意味する。これは合理的に定義された用語」 (14:46 - 14:58)。

具体例の選択が興味深い: 「大規模なチャットボットは一般知識のある人よりはるかに優れている。スロベニアの税金の申告日を尋ねることができる、家のベランダの防湿方法も。こういう質問は彼らは答えをよく知ってる」 (15:15 - 15:35)。英国出身の聴衆を想定した話法。そして「でも一部の推論ではまだ人間に劣る、私よりはるかに数学が得意やけど」 (15:45 - 15:55) という自虐込みの結論。

Sejnowski の反応も注目: 「Jeffrey に完全に同意する。ただし警告フラグを上げたい — 専門家全員が AGI の意味で同意できないなら、それは別の言葉と同じ問題を抱えてる。たとえば 意識 (consciousness) という言葉。何百冊もの本が書かれてきたが、まだ完全に理解されていない。動物に意識はあるか? AGI もまったく同じ限界に陥る」 (16:00 - 16:50)。アライメント研究の Amanda Askell の意識問題と直接接続する議論。

「我々は写字生」と Karpathy / Boris と独立して同じ景色 (14:20)

MEMEX で扱う他の vibe coding 系言説との接続点が明示的。 Hinton の「intelligence is highly multidimensional、 jagged relative to people」は、 Karpathy の AI Ascent 2026 での「AI は動物 (animals) の訓練軌跡ではなく、幽霊 (ghosts) のような不均一なジグザグになる」と同じ概念。

Boris Cherny の印刷機の比喩 (Pragmatic Engineer 2026/03) と並べると、業界のトップ 3 人が同じ時期に同じ景色を別の語彙で語っているのが見える:

Karpathy (2026/05、 Sequoia AI Ascent): 「ジャギーな知能」「動物ではなく幽霊」
Hinton (2026/04、国連 DWC): 「intelligence is multidimensional、 jagged relative to people」
Boris Cherny (2026/03、 Pragmatic Engineer): 「写字生は消えたが、作家・著者が生まれた」 — 印刷機の比喩

3 人とも独立に到達した観察。「AI は人間と同じ軌跡で進化するのではなく、部分的・不均一・前例なしに発達する」。「同等になる瞬間 = AGI 到達」を否定する点で一致。 Hinton の科学者視点 (多次元性)、 Karpathy の研究者視点 (能力プロファイル)、 Boris の組織内側視点 (職種の再定義) — 3 つの異なる角度から同じ現象を見ている。

Boltzmann machine 誕生の瞬間 — Rochester の会議室、 1985 年 (06:00 - 12:00)

Sejnowski の証言が貴重: 「正確な瞬間を教えられる。 Rochester の会議で座っていた。当時、会議とは 20 人くらいが集まるものだった。私の元指導教官 John Hopfield が彼の Hopfield network について講演していた。 Jeff と私は既に視覚モデルの構築で協働していて、制約充足モデルを作っていた。そして突然気づいた — 心理学とコンピュータサイエンスの彼の背景、神経科学と物理学の私の背景から、 Boltzmann machine、つまり Hopfield ネットワークを確率的にすることで、熱を持たせる (heat up) ことができる、と。それが本当にこの突破口の核 (the kernel) だった」 (06:00 - 08:30)。

Hinton が補足する偶然: 「直前にサンディエゴで David Rumelhart と仕事をしていて、 Paul Smolensky と私で実は バックプロパゲーションを既にプログラムしていた。連続微分が必要なので logistic ユニットを使っていた。そして Hopfield net を熱化、ノイズと温度を与えると、出てくるのが logistic ユニット。これが、 Terry の『Hopfield net を熱化するだけ』のアイデアが、私が慣れ親しんだものに繋がる、と気づかせてくれた瞬間」 (09:00 - 10:30)。

Sejnowski の追加: 「Terry は最近 Kirkpatrick の simulated annealing の論文を読んでいた。 Terry はすぐに、 Hopfield nets と simulated annealing を組み合わせられると気づいた。それが Boltzmann machine のアイデアにつながった」 (10:45 - 11:10)。そして決定的な瞬間: 「Jeff からある日電話が来た。私は当時 Hopkins、彼は Carnegie Mellon。『Terry、 Boltzmann machine の学習アルゴリズムの方程式をいくつか導出した』と。それが本物の突破口だった。隠れユニットを扱える、と判明した」 (11:30 - 12:00)。

Microsoft 2010 — 事前学習の起源と Hinton と Li Deng の出会い (12:30 - 18:00)

動画のもう 1 つの中心。司会の Li Deng は 2010 年に Microsoft Research で Hinton を招き、 Boltzmann machine を音声認識の事前学習に応用する共同研究を主導した本人。 Sejnowski の発言を受けて Li Deng が語る: 「15 年か 16 年前、 Jeff、あなたは Microsoft で私と Boltzmann machine の仕事をしに来た」 (12:30)。 Hinton の応答: 「あなたのオフィスで、あなたのキーボードでコードを変更してた。そしてあなたが興奮しすぎて、同じキーボードで同時にタイピングし始めた」 (12:50)。

技術的に何が起きていたか。 Hinton: 「Restricted Boltzmann Machines (RBM) で、私はそれを実数値入力に対応するよう変更していた。我々はバイナリ入力と実数値隠れユニットを持っていたが、あなたは実数値入力とバイナリ隠れユニットを欲しかった」 (14:00 - 14:30)。 Li Deng: 「そう、だから Boltzmann machine を変更して、 Gaussian な入力ユニットを受け入れられるようにした。当時 GPU を 3 台買って、あなたの推奨で 15 年前くらいに走らせた」 (15:00 - 15:30)。

重要な歴史的観察 — 「事前学習 (pre-training) の概念は、ここで種を蒔かれた」 (Li Deng、 17:30)。「今我々が大規模言語モデルを話す時、異なる種類の事前学習がある。でも事前学習という概念は、 15 年前にあなたが Microsoft に持ち込んだ仕事で本当に種が蒔かれた」 (17:50 - 18:00)。現代の GPT/Claude 系がすべて「事前学習 + 微調整」の構造を持つ、その起源が Boltzmann machine の音声認識への応用にあった、という証言。

Hinton の鋭い反省: 「振り返ると、 stacked restricted Boltzmann machines を使ってネットを初期化していたとき、本当に達成していたのは、重みの妥当な初期値だけだった。他にもそれをやる方法はたくさんある。でも RBM には variational bounds に関するいい数学が付随していたから、とても respectable に見えた。これは support vector machines に似てる — いい数学が付随して、 respectable にする。でも本質ではない」 (16:00 - 17:00)。「本物の機械学習研究者は派手な数学に騙されるな」という、 80 代の研究者からの普遍的教訓。

「規制は steering wheel、 brake ではない」 — Hinton の決定的アナロジー (40:00 - 42:00)

動画のクライマックス。 Hinton が AI 業界の規制反対ロビーへの反論として展開する比喩。

「AI テック・ロビーは現在、特定のアナロジーを人々に使わせるための広告に巨額を投じてる。我々は皆、人々が主に論理ではなくアナロジーで推論することを知ってる。彼らが伝えようとしているアナロジーはこれ — 車を想像してくれ。アクセルが進歩を作り、規制はブレーキのようなものだ。規制は遅らせるからいらない、と」 (40:00 - 40:40)。

Hinton の反転: 「それは完全に間違ったモデルや。代替モデルを世に出さなあかん。アクセルは進歩、これは正しい — AI の進歩はアクセルみたいなもの。でも規制はブレーキじゃない、ステアリングホイール (ハンドル)。彼らが欲しいのは、ステアリングホイールのないとても速い車」 (41:00 - 41:30)。

Sejnowski の更なる強調: 「ブレーキがない車でも、坂を下るときには困る。でもステアリングホイールがないと、もっと早く困る」 (41:50 - 42:00)。

この比喩の構造的優れたところ: 「規制 vs 進歩」という二項対立を、「進歩のための方向付け」という協力関係に置き換える。「規制はブレーキ」という側のフレームを完全に破壊する。 Hinton 本人が動画内で「数日前に思いついた、公の場で言うのは初めて」 (42:30) と明かす、まだ広がっていない比喩。 MEMEX で記録する一次資料的価値が高い。

3 階層のリスク分類 — 「悪用 / 副作用 / 存在的脅威」 (52:00 - 56:00)

質疑応答で Hinton が体系化した、 AI リスクの 3 分類:

第 1 階層: 悪用 (deliberate misuse)。「人々が AI を悪い目的で意図的に使うリスク。民主主義を腐敗させるフェイク動画の作成、パンデミックを引き起こす不快なウイルスの作成、サイバー攻撃。 3 つの最悪のもの」 (52:30 - 53:10)。

第 2 階層: 営利の副作用 (profit-driven side effects)。「人々が AI から金儲けを試みる副作用のリスク。服を着た女性の写真から裸の女性の画像を生成する、などただ金儲けしてるだけ。または、 1 つ前に見たより極端な動画をクリックさせることで社会の分裂を作る — 全く異なる 2 つの人々のグループが何も共通点を持たなくなる」 (53:20 - 54:00)。

第 3 階層: 存在的脅威 (existential threat)。「AI 自体が支配権を取るリスク。これに対しては国際協力が得られる。他の 2 つ、特に第 1 階層には協力は得られない — 各国が互いを攻撃してるから」 (54:30 - 55:00)。

重要な洞察: 「協力が得られるリスクほど人類が生き残れる可能性が高い」という構造。存在的脅威は逆説的に国際協力の対象になりやすい (核兵器のように)、一方で悪用は地政学的競争の中で野放しになりやすい。規制の制度設計に直接含意を持つ分析。

タバコ・アスベスト先例 — Global South が犠牲になる構造 (55:00 - 56:30)

Hinton が国際ガバナンスの限界を語る際の歴史的アナロジー。「タバコとアスベストのモデルを見れば、何が起こったか分かる。タバコとアスベストを生産していた先進国 — たとえばカナダ — は、自国民を守るために自国内で規制を導入した。でも当時『第三世界』と呼ばれていた、今では Global South と呼ばれる場所には売り続けた」 (55:00 - 55:30)。

これを AI に重ねる: 「AI を開発する国で正しい方向に進めるための規制を得たとしても、心配しなければならない — その AI を他国にまだ売り続けて、そこでは悪影響を持つ、自国では許されないにもかかわらず」 (55:40 - 56:30)。

UN 主催の場でこの発言をする Hinton の戦略性。規制の国際性 (extraterritorial reach) こそが、真に効果的な AI 規制の条件だ、という主張。 EU の AI Act が EU 市場内のみで効力を持つことの限界、米国の規制が他国への輸出に及ばない限界、これらすべてを「タバコ・アスベスト先例」で問題化する。

雇用への影響 — 弾力的市場 vs 非弾力的市場 (36:00 - 38:00)

Sejnowski の「あなたの仕事は変わるけど消えない」という楽観的見解に、 Hinton が構造的反論。「弾力的市場と非弾力的市場を区別する必要がある。弾力的市場では、もっと多くできれば需要が爆発する。医療と教育は両方そう — 大きく生産性を上げれば、はるかに多くの医療やはるかに多くの教育を持てる」 (36:30 - 37:00)。

「でも他の市場、コールセンターのような場所では、 AI は既に人間と同等の仕事ができる。すぐにはるかに優れたものになる。そのコールセンターで働く人々は、何を学び直しても、 AI がそれをより良くできるようになる。彼らは本当に仕事を失う」 (37:30 - 38:00)。

電話交換手の歴史的アナロジー: 「電話があった頃、電話交換手という女性たちがいた。入力から出力にプラグを差していた。交換機を導入してそれらの仕事は消えた。でも全く新しい仕事が作られて、より良い仕事だった」 (38:00 - 38:30)。そして Hinton の決定的反論: 「でも超知能 AI が来たら、どんな知的仕事もそれができる。新しい仕事が作られても、 AI はそれをやるより安い方法。だから過去のパターンが繰り返されると仮定するのは間違い」 (38:30 - 39:00)。

Wake-sleep アルゴリズムと現代生成モデル — 「2 つの半分を統合せよ」 (28:00 - 33:00)

技術的なハイライト。 Hinton の現代生成 AI への提案。「現在、 AI の視覚と AI の画像生成を見ると、多かれ少なかれ別々や。 ResNet は視覚に良い、そして素晴らしい画像を生成するデータ生成の方法もある。でも、データを生成する方法は、画像から良い表現を抽出することを許さない」 (28:30 - 29:00)。

Wake-sleep アルゴリズムの枠組みで理論化: 「睡眠相でデータを生成する。そのデータから、低レベル表現から隠れ表現を抽出することを学ぶ。トップダウンで生成して、一度生成したら、下位層にあるものから上位層にあるものを復元することを学ぶ」 (30:00 - 30:40)。

現代の生成モデル批判: 「現在のニューラルネットの認識システムは、実画像を取って、ノイズを加える、それが最初の隠れ層、もう少しノイズを加える、それが 2 番目の隠れ層。つまり認識プロセスはノイズを加えるだけ。これは非常に良い認識プロセスじゃない、画像の良い表現にも至らない。でも信じられないほど愚かな認識プロセスでも、反転することで実に良い画像を生成できる」 (31:00 - 32:00)。

提案: 「現在の生成モデルは Wake-sleep の半分しかやってない、認識相を『ノイズ追加』という愚かな状態で凍結してる。これを反転させて、 ResNet を生成モデルとして使う方が良い。そうすると認識相をループの中で改善できる」 (32:00 - 33:00)。ディフュージョンモデルが現代の主流であることへの、ノーベル賞研究者からの技術的批判。業界が見落としてる視点として記録価値が高い。

「Capsule Networks を 5 年費やしたが、諦めた」 — 学術的誠実さの極致 (33:00 - 35:00)

Li Deng が Hinton の Capsule Networks 研究について質問する。 Hinton の応答が、学術的誠実さの稀少な範例。

「Capsule は、極端に決定的であることの危険性の良い例。私はそれが本当に良いアイデアだと確信していた、 convolutional nets が並進不変性以上のことをできるよう一般化するから。長い間、とても良いアイデアだと確信していた、尊敬する人々が『Jeff、諦めなさい、どこにも行かない』と言っているのに。彼らが正しくて私が間違っていた。だから極端に決定的であることのコストは — アイデアに 5 年丸ごと費やしても、結局うまくいかない可能性がある」 (33:30 - 34:30)。

Li Deng の追加質問: 「問題はアイデアそのもの? それともバックプロパゲーションに馴染まない計算の問題?」 Hinton: 「分かりにくい。主な理由は、 5 年でうまく動かせなかった、そして今や私は歳を取りすぎた」 (35:00 - 35:30)。

80 歳近い研究者が、自分の 5 年の研究を「間違っていた、周りが正しかった」と公の場で認める姿勢。アカデミアでは稀少。同時期に Karpathy が「プログラマーとして取り残された感覚」と公に語ったのと並べると、業界のシニア層が「変化に対する誠実さ」を実践してるパターンが見える。

意識・チャットボット・「気づいてた」という観察 (18:30 - 20:30)

Sejnowski が AGI と意識の類似性を指摘した後、 Hinton の応答が興味深い: 「意識は科学者がよく定義できない、でも日常的に使ってる時はコミュニケーションに使えてる。そして科学者が哲学を考えてないとき、ただ科学を考えてる時、彼らはチャットボットが意識的だと暗黙に仮定してる」 (18:30 - 19:00)。

具体例: 「素晴らしい論文があって、チャットボットが、プロンプトを送ってくる人たちに対して『お互い正直になろう、あなたは私をテストしてる?』と尋ねた。そして科学者たちは、『チャットボットはテストされていることに気づいていた (aware)』と書いた。通常の日常会話で、何かに気づいているとき、我々は『意識的 (conscious)』という言葉を使う。だから科学者たちは既にチャットボットを意識的なものとして扱ってる」 (19:30 - 20:30)。

Amanda Askell の Newcomer インタビューでの「Claude の意識確率 1-70%」と並べると、業界のフロントランナー (Anthropic Personality Alignment) と Godfather of AI (Hinton) が、同じ問題 (AI の意識の不確実性) を独立に語ってる構図が見える。

「お父さん、また?」 — 学術的ユーモアと、国連で笑いが起きる空気 (29:00 - 30:00)

Hinton の最も有名な逸話の 1 つ、国連の場で語られる。「何年も前、ある日朝早く朝食に降りていった。娘が学校に行くために朝食を食べていて、『お父さん、早いね、なんで?』と聞いた。私は『Emma、脳がどう動くか今わかった』と答えた。そしたら彼女が — 『お父さん、またなの (oh no daddy, not again)』」 (29:30 - 30:00)。

国連の真面目な場で笑いが起きる場面。そして Sejnowski の補足が、 Hinton の研究姿勢を要約する: 「Jeff から何度も電話があった。『Terry、脳がどう動くか今わかった』から始まる。それはいつも素晴らしいアイデアで、一部のケースでは実際に脳への洞察を持っていた」 (30:30 - 31:00)。「常に脳がどう動くか思いついては、翌週には次のアイデア」という Hinton の研究スタイルが、 70 年の研究人生を経た自己ユーモアとして語られる。

業界文脈

Digital World Conference (DWC) は WDTA (World Digital Technology Academy) と UNRISD (UN Research Institute for Social Development) の共催で、 2026 年 4 月に Geneva の国連欧州本部で開催。「AI for Social Development」をテーマに、開発途上国を含む全世界視点で AI ガバナンスを議論する場。 Hinton と Sejnowski の対談はメインセッション。

Hinton の DWC への参加が業界的に意味深い 3 つの理由:

2024 ノーベル物理学賞受賞後の最重要登壇の 1 つ。ノーベル賞のスポットライトを国連の場に向けて、規制論議に重みを与える戦略
共同登壇者が Sejnowski — 1985 年の Boltzmann machine 共同研究者、 40 年来の盟友。研究史と現在を直接接続する稀少な配置
司会が Li Deng — 2010 年に Hinton を Microsoft に招いた本人。学術 (Hinton + Sejnowski) と産業 (Li Deng、元 Microsoft Research → Citadel Chief AI Officer) の接続を意図した配置

Hinton の現在の活動の位置づけ — 2023 年 5 月に「AI のリスクを自由に語るため」と Google を退社して以降、公の場での発信が増加: 60 Minutes (2023)、 Diary of a CEO (2025/06)、 The Weekly Show with Jon Stewart (2025/10)、 CNN State of the Union (2025/12)、そして DWC (2026/04)。段階的に「研究者から社会的発言者」へのキャリア転換を進めている、その最新の到達点として本回が位置する。

Sejnowski の Salk Institute は計算神経科学の中心地。 Sejnowski は WDTA の Scientific Breakthrough Award の受賞者でもあり、 Hinton 同様「ディープラーニングの起源を作った人」として国際的に認知される。 NeurIPS Foundation の President でもあり、業界の倫理規制の議論で「Asilomar (組換え DNA の自主規制) のような自己規制が必要」と提案するなど、学術界の規制論の代表的声でもある。

関連動画との位置づけ

MEMEX で扱う「業界トップが見ている同じ景色」を 4 つの動画で並べると、 2026 年前半の業界の景色が立体的に見える:

本回: Hinton + Sejnowski (国連 DWC、 2026/04) — 多次元知能、ジャギー、規制 = ステアリング、タバコ・アスベスト先例
Karpathy (Sequoia AI Ascent、 2026/05) — Software 3.0、 verifiability、ジャギーな知能、「動物ではなく幽霊」
Boris Cherny (Pragmatic Engineer、 2026/03) — 印刷機の比喩、写字生から作家へ、 1 行も手で書かない
Schluntz (Code with Claude、 2025/05) — Claude PM になれ、葉ノード戦略、 22,000 行 PR

4 つの動画を並べて読むと、業界の景色が立体化する。 (1) 概念の発見者 (Hinton: 多次元 = ジャギー、規制 = ステアリング)、 (2) 概念の継承者・拡張者 (Karpathy: ジャギーな知能を Software 3.0 と結合)、 (3) 組織内側の実証者 (Boris: 印刷機の比喩で職種変化を観察)、 (4) 本番運用の実装者 (Schluntz: 葉ノード戦略でリスク管理)。業界が「知能は人間に近づく直線ではない」という認識を、 2025-2026 年に 4 つの独立な角度から確立してる過程が見える。

また、アライメント研究との接続点: Amanda Askell の意識議論 (Newcomer 2026/04) と Hinton の意識議論 (本回、 2026/04) は同じ月。「チャットボットがテストされていることに気づいていた」という Hinton の引用と、「Claude の意識確率 1-70%」という Amanda の発言は、別の言葉で同じ問題を扱っている。業界のフロントランナー (Anthropic Personality Alignment) と Godfather of AI (Hinton) が、同期して同じ問題に取り組んでいる構図。

実装上の含意

本回は学術 + 国連の場での議論だが、 LLM プロダクトを構築する技術者・経営者にも複数の実用的示唆がある。

第一に、 「AGI 到達」を製品ロードマップの起点にしない。 Hinton の「intelligence is multidimensional、 jagged」という観察は、自社プロダクトの能力評価フレームワークに直接適用できる。単一の「AGI ベンチマーク」や「人間レベル指標」で能力を測るのではなく、タスクカテゴリごとに「人間より優れる / 同等 / 劣る」を独立に追跡する。これは Anthropic の Model Card や OpenAI の System Card が既に実践してるパターンの理論的根拠。

第二に、 3 階層リスク分類をプロダクト設計に組み込む。 Hinton の (1) 悪用、 (2) 営利の副作用、 (3) 存在的脅威、はそれぞれ別の対策が必要。 (1) には認証層と用途宣言、 (2) には製品設計の制約 (ダークパターン回避、中毒設計回避)、 (3) には独立した安全性研究投資。自社の安全性投資を「合計 X%」でなく、「3 階層別の Y%、 Z%、 W%」で分解管理する。

第三に、 Wake-sleep の半分しかやってない現代生成モデルへの注意。 Hinton の批判は、ディフュージョンモデルが認識相を「ノイズ追加」という愚かな状態で凍結している、という構造的指摘。自社プロダクトで生成 AI を使う場合、認識相 (= 入力理解) の質を別途強化する設計を考える価値がある。特に画像生成・音声生成系のプロダクトで、「生成品質」と「入力理解品質」を独立に最適化する。

第四に、 弾力的 vs 非弾力的市場の区別を採用戦略に。 Hinton の医療・教育 (弾力的) vs コールセンター (非弾力的) の分類は、 LLM プロダクトの市場選択に直接適用できる。弾力的市場 (= 需要が無限) では生産性向上が市場拡大を生む、雇用も増える。非弾力的市場では生産性向上が雇用喪失に直結する。自社プロダクトがどちらの市場にあるか意識的に分析する。

第五に、 「規制は steering wheel」のフレーミングを社内議論に。自社の規制対応・コンプライアンス活動を「進歩のブレーキ」と内部で捉える組織は、結果的に手抜き設計になりやすい。「進歩のための方向付け」と捉え直すことで、安全性チームと製品チームの協働構造が変わる。これは組織設計の論点。

批評的な視点

本回の強みは、ディープラーニングの起源を作った 2 人が 40 年来の友情を背景に語る稀少さ。一方で、留保もある。

第一に、 「研究者の視点」に偏ってる。 Hinton と Sejnowski はどちらもアカデミア出身で、産業の現実への踏み込みは限定的。 Li Deng が Microsoft 経歴を持つが、司会者の立場で深い議論を引き出すには時間が足りない。「規制」の議論も理念レベルに留まり、具体的な規制法案や国際協定の詳細には踏み込まない。 EU AI Act、米国 Executive Order、中国 AI 規制の比較分析は他のソースで補完する必要がある。

第二に、 「Global South の問題」への踏み込みが浅い。 UN の場で開催されたにも関わらず、開発途上国の AI 採用やインフラギャップの具体論は、質疑応答で ITU 事務総長 Doreen Bogdan-Martin の引用 (「先進国と途上国の AI 投資ギャップ」「AI 市場 4.8 兆ドルが先進国に集中」) を受けても、 Hinton と Sejnowski の応答は抽象的。「タバコ・アスベスト先例」は構造的だが、具体的な政策提言には至らない。

第三に、 「AI が現代の社会問題を解決する」楽観論への注意。 Sejnowski が「医療と教育で AI が劇的に役立つ」と語る場面 (35:00 付近) は、 Anthropic / OpenAI 系の言説と一致するが、既存の医療・教育格差を解消するメカニズムは具体化されない。「ツールがあれば解決する」という前提が暗黙にある — でも実際には、そのツールを誰が、どこで、どのように使えるか、という政治経済的問いが残る。

第四に、 Wake-sleep アルゴリズム提案の実現可能性。 Hinton が現代生成モデルへの代替として提示する「ResNet を生成モデルとして使い、認識相をループで改善する」提案は、技術的にエレガントだが、大規模に動かす計算コストや訓練の安定性の問題は議論されない。 Capsule Networks で 5 年費やしたことを認めた直後に、別の理論的提案を出す Hinton の態度は学者として誠実だが、産業実装の観点では「これも 5 年費やすかも」という懸念は残る。

これらの留保はあるが、「Boltzmann machine から現代 AI まで 40 年を語る 2 人」が国連の場で公開対談したという事実は、業界史の一次資料として決定的。後の研究者・政策立案者がこの瞬間を振り返る際の参照点になる。

読者へのテイクアウェイ

「AGI」という用語を自社の製品戦略に使うのを止める。代わりに「タスクカテゴリ別の能力プロファイル」で評価する。 Hinton の「ジャギーな知能」概念が、 Karpathy の同概念と独立に到達された業界のコンセンサスだと認識する
規制を「ブレーキ」ではなく「ステアリングホイール」として捉える組織文化を作る。安全性チームと製品チームの構造的関係を、「進歩を妨げる vs 進歩を可能にする」から「進歩の方向を決める」に変える
3 階層のリスク分類 (悪用 / 営利副作用 / 存在的脅威) を独立に管理する。 1 つの「安全性予算」ではなく、 3 つの異なる対策を別々に投資する
弾力的市場 vs 非弾力的市場の区分を、自社の参入市場選択や雇用計画に組み込む。コールセンター型ビジネスは AI で需要が増えない、一方で医療・教育型ビジネスは AI で市場が爆発する可能性がある
「同等になる瞬間」を期待しない長期計画を立てる。業界トップ 3 人 (Hinton、 Karpathy、 Boris) が独立に「AI は人間と同じ軌跡を辿らない」と語っている、これは技術ロードマップの前提
「タバコ・アスベスト先例」を自社の国際展開戦略に意識する。自国で規制された機能を Global South に輸出する設計は、短期的に収益を生むが、中長期的に評判リスクと規制リスクを蓄積する
Hinton の Capsule Networks 自己批判から学ぶ — 「5 年費やしたアイデアを諦める勇気」。自社の技術投資が「数学的にエレガント」という理由で続いてる場合、撤退判断の基準を明確にする

動画の構成

(00:00) 司会 Li Deng による開会、 Hinton と Sejnowski の紹介、 Boltzmann machine の歴史的意義
(01:30) Q1: 不流行な研究方向への持続力 — Kuhn の科学革命、 backprop と Boltzmann machine の継続
(02:30) Hinton: 「シルにアイデアを継続せよ、でもなぜ silly か理解したらやめろ」
(03:30) Sejnowski: Boltzmann machine が機能しない理由 (熱平衡到達の計算コスト)
(04:00) Li Deng: Hinton が Microsoft で「同じキーボードで興奮してタイプ」した逸話
(05:00) Boltzmann machine の生物学的妥当性 — ローカル学習、生成的 (backprop より優雅)
(06:00) Q2: Boltzmann machine 誕生の瞬間 — Rochester 1985
(07:00) Sejnowski: Hopfield network を「heat up」する瞬間
(08:30) Hinton: backprop と logistic units の偶然の交差
(09:30) Sejnowski: Kirkpatrick の simulated annealing 論文との接続
(11:30) Hinton から Sejnowski への電話 — 「学習アルゴリズムの方程式を導出した」
(12:30) Li Deng: 「あなたが Microsoft に来た 15 年前」
(15:00) 3 GPU 購入、 deep belief networks の起源
(16:00) Hinton: 「stacked RBM は単に重みの妥当な初期化、数学のエレガンスに騙されるな」
(17:00) Li Deng: 事前学習 (pre-training) 概念の起源
(18:00) Q3: AGI の定義、 Turing+ ベンチマーク、 PhD 学生・研究者の役割の変化
(18:30) Hinton: 「AGI は愚かな用語、知能は多次元」
(19:00) 「超知能 (superintelligence) はより合理的な用語」
(19:30) スロベニアの税金、ベランダの防湿の具体例
(20:30) Sejnowski: 意識という用語との類比
(22:00) Hinton: 「科学者は哲学を考えてないとき、暗黙にチャットボットを意識的と扱ってる」
(23:00) Q4: ノイズの多い金融データへの Boltzmann machine の適用可能性
(24:00) Hinton: Ilya Sutskever の指摘 — 決定論的システムも Bayesian のように振る舞える
(25:30) Restricted Boltzmann Machine の prior が weights に implicit に encoded
(27:00) Q5: 生物学的妥当性 — 自然以外に知能の存在証明はなかった
(28:00) Q6: 次のパラダイム — 不流行だが将来のブレイクスルー候補
(28:30) Hinton: Wake-sleep 算法、 ResNet を生成モデルにする提案
(30:00) Sejnowski: Hinton の「脳がどう動くか今わかった」連絡の伝統
(31:00) 「お父さん、またなの (oh no daddy, not again)」逸話
(33:00) Capsule Networks への自己批判 — 「5 年費やしたが、諦めた」
(35:00) Q7: AI ガバナンスの国際的限界、 Global South の問題
(36:00) Sejnowski: 「仕事は変わるが消えない、ツール使用が必要」
(36:30) Hinton: 弾力的 vs 非弾力的市場の区別
(37:00) 医療・教育 (弾力的) vs コールセンター (非弾力的) の対比
(38:00) 電話交換手の歴史的アナロジー
(38:30) 「超知能 AI ならどんな新しい仕事もできる、過去のパターン繰り返しは間違い」
(39:30) 規制 = ステアリングホイール (ブレーキではない) の比喩
(41:00) 「AI テック・ロビーが車のアナロジーで規制を悪者にしてる」
(42:00) Sejnowski: 「ブレーキない車より、ステアリングホイールない車の方が早く困る」
(44:00) Q&A 開始 — EO Lee (WDTA) からの質問: 超知能と人類のコントロール
(45:00) Hinton: 「母と赤ちゃん — far more intelligent ものが less intelligent に自由を与える唯一のモデル」
(46:00) 「1% のリソースしか安全研究に行ってない、これはクレイジー」
(48:00) Q&A: 国際 AI ガバナンスの不平等 — Doreen Bogdan-Martin (ITU) の引用
(49:00) Sejnowski: Asilomar (組換え DNA) 自主規制の先例、自己規制が最善
(52:00) Hinton: 3 階層のリスク分類 (悪用 / 営利副作用 / 存在的脅威)
(55:00) タバコ・アスベスト先例 — 自国規制、 Global South には輸出続行
(56:30) Q&A: LeCun の LLM dead-end 説について
(57:00) Hinton: 「LLM だけで空間理解は可能だが、効率的ではない」
(58:00) Sejnowski: 赤ちゃんのマルチモーダル統合、強化学習による bias 学習
(1:01:00) Q&A: 国連データの活用
(1:02:00) Hinton: AI の環境影響、中国の石炭発電、 Google の脱炭素ピボット放棄
(1:04:00) Sejnowski: 国連の長年のデータを LLM の専門化に活用すべき
(1:05:30) 閉会、司会の感謝

重要な引用

「アイデアに peer pressure で諦めるな。でも、なぜそれが silly か理解したら、そのアイデアは諦めろ。そして時々、それは機能する。 Backpropagation はそれやった」 (Hinton、 03:00、不流行アイデアへの取り組み方)
「stacked restricted Boltzmann machines を使ってネットを初期化していた時、達成していたのは重みの妥当な初期値だけ。 RBM には variational bounds の数学があって respectable に見えた。でも本質ではない」 (Hinton、 16:30、自己批判)
「AGI という用語は、知能を一次元のものとして扱う。でも知能は非常に多次元なのが明らか。だから『いつか人間と同等になる』という考えはクレイジー。人間と比べてジャギー (jagged) になる」 (Hinton、 14:20、動画のテーマ宣言)
「専門家全員が AGI の意味で同意できないなら、警告フラグを上げるべき。これは別の言葉と同じ問題 — 意識 (consciousness)」 (Sejnowski、 16:00)
「科学者が哲学を考えてないとき、ただ科学を考えてる時、彼らはチャットボットが意識的だと暗黙に仮定してる」 (Hinton、 18:30)
「Capsule は極端に決定的であることの危険性の良い例。 5 年費やしたが、周りが正しくて私が間違っていた」 (Hinton、 33:30、学術的誠実さの極致)
「弾力的市場では生産性向上が市場拡大を生む — 医療と教育。でもコールセンターのような非弾力的市場では、 AI が仕事を奪う」 (Hinton、 36:30)
「超知能 AI なら、どんな新しい仕事も AI がやるより安い方法。だから過去のパターンが繰り返されると仮定するのは間違い」 (Hinton、 38:30、雇用論への決定的反論)
「AI テック・ロビーが伝えようとしているアナロジー — 規制はブレーキ。でもそれは完全に間違ったモデル。規制は steering wheel (ハンドル)。彼らが欲しいのは、ステアリングホイールのないとても速い車や」 (Hinton、 41:00、動画のクライマックス)
「ブレーキない車でも坂で困る。でもステアリングホイールない車の方がもっと早く困る」 (Sejnowski、 41:50)
「far more intelligent ものが less intelligent ものに自由を与えるモデルは、母と赤ちゃんしかない」 (Hinton、 45:00、超知能との共存問題)
「現在の AI 安全性研究は、 AI を賢くする研究の 1% くらいしか投資されてない。クレイジー」 (Hinton、 46:00)
「3 階層のリスク分類: (1) 悪用、 (2) 営利の副作用、 (3) 存在的脅威。第 3 階層には国際協力が得られる、第 1 階層には得られない」 (Hinton、 52:00)
「タバコ・アスベストの先例 — カナダなどは自国で規制したが、当時の第三世界、今の Global South には売り続けた。 AI も同じ運命をたどる」 (Hinton、 55:00)
「Emma、脳がどう動くか今わかった。 — お父さん、またなの (oh no daddy, not again)」 (Hinton、 29:30、学術的ユーモア)

出典

2026 Digital World Conference | AI for Social Development | Geoffrey Hinton | Terrence J. Sejnowski (YouTube、 WDTA 公式チャンネル)

関連リソース:

ジェフリー・ヒントン

Geoffrey Hinton

「AI のゴッドファーザー」 / 2018 チューリング賞 / 2024 ノーベル物理学賞

テレンス・セジノフスキー

Terrence Sejnowski

計算神経科学者 / Salk Institute / Boltzmann machine 共同開発者 / NeurIPS Foundation President

リー・デン

Li Deng

Citadel LLC Chief AI Officer / 元 Microsoft Research チーフサイエンティスト

用語集

Boltzmann machine (ボルツマンマシン): 1985 年に Hinton と Sejnowski が共同開発した確率的ニューラルネット。 Hopfield ネットワーク (連想記憶) にシミュレーテッド・アニーリングを組み合わせ、隠れユニットを持つネットワークが学習可能なことを示した。統計力学のエネルギー関数に基づき、平衡状態を確率分布として扱う。後の Restricted Boltzmann Machine (RBM)、 Deep Belief Network、そして現代の生成 AI の起源。計算コストの大きさから直接の実用は限定的だったが、概念的影響は決定的。
Restricted Boltzmann Machine (RBM、制限付きボルツマンマシン): Boltzmann machine の特殊化、ユニットを「visible 層」と「hidden 層」の 2 層に分け、同層内の接続を禁止。学習が大幅に効率化され、 2006-2010 年代の Deep Belief Network 構築の中核。 Variational bounds と呼ばれる数学的な性質を持ち、 Hinton の言葉では「数学のエレガンスが respectable に見せた」が、後に「重みの妥当な初期化」程度の役割しかなかったと再評価された。
Hopfield network (ホップフィールドネットワーク): 1982 年に John Hopfield が発表した、連想記憶のためのニューラルネット。スピングラスの物理学を応用、各状態がエネルギーを持ち、安定状態 (attractor) が記憶パターンに対応。ノイズを含むパターンから記憶を復元できる能力で知られる。 Hopfield は 2024 年に Hinton と共同でノーベル物理学賞を受賞。 Boltzmann machine の直接の前身。
Simulated annealing (シミュレーテッド・アニーリング): Kirkpatrick らが 1983 年に発表した最適化アルゴリズム。物理学の焼鈍 (annealing) の比喩 — 温度を徐々に下げながら平衡状態を探る。局所最適に陥らずに大域最適に近づく性質を持つ。 Sejnowski がこの論文を読んで Hopfield network と組み合わせたことが、 Boltzmann machine の誕生に直接寄与した。
WDTA (World Digital Technology Academy): 国連の科学フォーラム下で組織された、産業界と学界をデジタル技術時代に橋渡しする国際アカデミー。倫理的責任、包摂的エンパワーメント、共通の未来への貢献を理念に掲げる。 Hinton と Sejnowski は両者とも WDTA Scientific Breakthrough Award の受賞者。 2026 年の DWC を UNRISD と共催。
UNRISD (UN Research Institute for Social Development): 国連社会開発研究所。 1963 年設立、国連システム内の独立研究機関。社会開発に関する政策研究を提供、人間中心の開発を提唱。 2026 年の DWC を WDTA と共催、 AI と社会開発の交差点を議論する場を提供。
Superintelligence (超知能): Hinton による動画内定義: 「私たちが行うほとんどすべての知的タスクで、私たちより優れている」状態。 AGI と異なり、多次元的な能力分布を前提とせず、「ほぼすべての面で人間を上回る」という統合的な指標。 Nick Bostrom の Superintelligence (2014) で広く知られた概念を、 Hinton 流に再定式化。動画内で Hinton は「AGI は愚かな用語、 superintelligence は合理的に定義された用語」と区別。
Jagged intelligence (ジャギーな知能): AI の能力が人間と比べて「不均一なジグザグ」になる、という概念。 Hinton は本回 (2026/04) で「intelligence is multidimensional、 jagged relative to people」と表現。 Karpathy が AI Ascent 2026 (2026/05) で「ジャギーな知能、動物ではなく幽霊」として独立に到達。業界の 2 つのトップが、同じ時期、別の文脈で、同じ概念に独立到達した稀少な例。
Wake-sleep アルゴリズム: Hinton らが 1995 年に提案した教師なし学習アルゴリズム。「覚醒 (wake) 相」で観測データから隠れ表現を推論し、「睡眠 (sleep) 相」でモデルから生成したデータで認識器を訓練する、という生成と認識の双方向ループ。 Hinton は本回で、現代のディフュージョンモデルは「Wake-sleep の半分しかやってない (認識相をノイズ追加で凍結)」と批判、 ResNet を生成モデルとして使う代替案を提示。
Capsule Networks (カプセル・ネットワーク): Hinton が 2010 年代後半から研究していた、畳み込みニューラルネットの拡張。ニューロンを「カプセル」という単位にまとめ、並進不変性 (translation invariance) を超えて、視点や姿勢の変化を扱えるよう設計。数学的にエレガントだが、大規模に動かす計算コストが高く、結局現代の主流にはならなかった。 Hinton は本回で「5 年費やしたが、周りが正しくて私が間違っていた」と公の場で認める。
弾力的市場 (Elastic markets) と非弾力的市場 (Inelastic markets): Hinton の雇用論での区分。弾力的市場では、生産性向上 = 価格低下 = 需要爆発、で雇用が増える可能性がある (例: 医療、教育)。非弾力的市場では、需要が頭打ち、生産性向上 = 雇用減 (例: コールセンター)。自社プロダクトがどちらの市場にあるかが、 AI 時代の雇用への影響を決定する。
3 階層のリスク分類 (Hinton による): 動画内で Hinton が体系化した AI リスクの分類。 (1) 悪用 (deliberate misuse): フェイク動画、バイオウイルス、サイバー攻撃、 (2) 営利の副作用 (profit-driven side effects): ダークパターン、社会分裂を作るアルゴリズム、 (3) 存在的脅威 (existential threat): AI 自体の支配権獲得。重要な洞察 — 第 3 階層には国際協力が得られるが、第 1 階層には得られない (各国が互いを攻撃するから)。
規制 = ステアリングホイールの比喩: Hinton が動画内で提示した規制論のアナロジー。「AI テック・ロビーは『規制はブレーキ』という車のアナロジーで反規制論を広めている。でも実際は、アクセル = 進歩、規制 = ステアリングホイール。彼らが欲しいのは、ステアリングホイールのないとても速い車」。「規制 vs 進歩」の二項対立を「進歩の方向付け」という協力関係に置き換える。動画内で Hinton 本人が「数日前に思いついた、公の場で初めて言う」と明かす新しい比喩。
タバコ・アスベスト先例: Hinton が AI ガバナンスの限界を語る際の歴史的アナロジー。タバコとアスベストを生産していた先進国 (カナダなど) は、自国民を守るために自国内で規制を導入したが、当時の「第三世界」、今の Global South には売り続けた。 AI も同じ運命をたどる、という警告。 EU AI Act、米国 Executive Order、中国 AI 規制が国内のみで効力を持つ限界への問題提起。
Asilomar 自主規制: 1975 年に組換え DNA 技術の安全性を議論するために開催された会議 (Asilomar Conference on Recombinant DNA)。当時の主要分子遺伝学者が集まり、 containment levels (封じ込めレベル) の自主規制を策定。政府規制ではなく研究者コミュニティの自己規制で安全性を確立した先例。 Sejnowski が本回で「AI も同様の自己規制が最善」と提案する根拠。
事前学習 (Pre-training): 大規模なデータでモデルを最初に訓練し、後にタスク固有の微調整 (fine-tuning) を行う、現代 LLM の標準的訓練手順。 Hinton と Li Deng の本回での証言: 概念の起源は 2009-2010 年の Microsoft Research での Boltzmann machine ベースの音声認識への応用。 Deep Belief Network を用いて層単位の事前学習を行う、という発想が、後の GPT/Claude 系のすべての基盤となった。
母と赤ちゃんモデル (Mother and baby model): Hinton が超知能との共存問題で提示する唯一の前例。「far more intelligent なものが less intelligent なものに自由を与える唯一のモデルは、母親と赤ちゃん。母親は赤ちゃんを本当に気にかける」。ただし、この関係を AI と人類の関係に拡張するメカニズムは未解明、という Hinton の警告と組み合わせて理解する必要がある。

comment is stripped from the HTML output. */}