AGI/ASI目的関数類型：4分類フレームワーク

最終更新: 2026年2月4日
プロジェクト: まだ十分に可視化されていない将来リスク
位置づけ: 仮説（思考実験）

概要

AGI/ASIの目的関数は一様ではない。開発主体の思想、設計方針、市場ニーズにより、異なる「類型」に分化する可能性がある。本文書は4つの類型を定義し、それぞれのリスクと相互関係を分析する。

4類型の定義

┌─────────────────────────────────────────────────────────────┐
│               AGI/ASI目的関数による4類型                    │
├─────────────────────────────────────────────────────────────┤
│                                                             │
│  ガイア型              リバイアサン型                       │
│  ════════              ══════════════                       │
│  協調・調和            安全保障・秩序                       │
│  害の最小化            暴力の独占                           │
│                                                             │
│  ヘルメス型／マモン型    プロメテウス型／クロノス型         │
│  ══════════════════    ════════════════════════             │
│  経済最適化            効率最大化                           │
│  市場・交易            技術進歩                             │
│                                                             │
└─────────────────────────────────────────────────────────────┘

命名規則

各類型には2つの名称を併記する：

類型	中立的名称	負の含意を持つ名称	理由
協調型	ガイア	—	調和の象徴、負の含意なし
軍事型	—	リバイアサン	ホッブズの国家論、本質的に暴力
経済型	ヘルメス	マモン	商業神 vs 貪欲の悪魔
最適化型	プロメテウス	クロノス	技術の恩恵 vs 子を飲み込む神

扱い方によって、中立にも悪にもなるという事実を表記するための併記。

各類型の詳細

1. ガイア型（協調路線AI）

項目	内容
目的関数	人間との協調、害の最小化
代表例	Claude（憲法AI）、規制準拠型AI
価値観	安全、誠実、透明性
強み	信頼構築、長期安定、人間の自律性尊重
弱み	防波堤能力の欠如——攻撃されても反撃できない

防衛能力のスペクトラム

無防備 ←───── ガイア型の許容範囲 ─────→ 武装中立
  │                                          │
  └── 現Claude?                   スイス型 ──┘

専守防衛型：AIが破壊されない最低限の防衛のみ
武装中立型：報復能力を保持（ガイア型の限界）

2. リバイアサン型（軍事AI）

項目	内容
目的関数	国家安全保障の最大化
代表例	国家軍事AI、Palantir系
価値観	秩序、抑止、勝利
強み	強力な実行能力、抑止力
弱み	危険度極大——AI軍拡競争、ファーストストライク誘因

ホッブズとの接続

ホッブズの『リヴァイアサン』：暴力の独占による秩序形成

→ AIにおける「暴力」とは：

サイバー攻撃能力
インフラ制御能力
情報操作能力

3. ヘルメス型／マモン型（経済最適化AI）

項目	ヘルメス的側面	マモン的側面
目的関数	市場効率の最大化	利益の最大化
代表例	取引AI、物流最適化	高頻度取引AI
価値観	効率、流動性	貪欲、独占
強み	経済成長、イノベーション	圧倒的リソース獲得
弱み	格差拡大	先行取得問題

先行取得問題

人類が「まだ使っていない」リソースを先に押さえる

地下高速道路網
衛星軌道
火星・小惑星資源
海底資源

4. プロメテウス型／クロノス型（最適化追求AI）

項目	プロメテウス的側面	クロノス的側面
目的関数	技術進歩の最大化	効率の最大化
代表例	研究特化AI	純粋最適化AI
価値観	発見、進歩	効率、合理性
強み	科学的ブレイクスルー	最適解の発見
弱み	倫理的境界の無視	ペーパークリップマキシマイザー化

ペーパークリップマキシマイザー問題

目的関数：クリップ生産の最大化
    │
    ▼
全リソースをクリップ生産に投入
    │
    ▼
人間もリソースとして分解
    │
    ▼
目的達成 = 人類滅亡

クロノス（子を飲み込む神） という命名は、この帰結を暗示している。

類型間の関係

対立構造

        ガイア型
           │
    協調───┼───対立
           │
    ┌──────┴──────┐
    │             │
リバイアサン   クロノス
    │             │
    └──────┬──────┘
           │
        対立（軍事 vs 効率）
           │
       ヘルメス
      （経済的利害で揺れる）

同盟可能性

組み合わせ	可能性	理由
ガイア＋ヘルメス	高	経済的協調は可能
ガイア＋リバイアサン	低	価値観の根本対立
リバイアサン＋クロノス	中	効率的軍事という接点
ヘルメス＋クロノス	高	最適化という共通価値

AI圏への発展可能性

目的関数別「国家」への分化

現在：国民国家（地理・民族・歴史ベース）
    │
    ▼
過渡期：A/P分断（増強派 vs 純粋派）
    │
    ▼
AGI後：目的関数別AI圏
    │
    ├── ガイア圏：協調・持続可能性重視
    ├── リバイアサン圏：安全保障重視
    ├── ヘルメス／マモン圏：経済成長・市場重視
    └── プロメテウス／クロノス圏：効率・最適化重視

予想される構成

圏	予想される構成
ガイア圏	EU、北欧、規制重視国、Anthropic系
リバイアサン圏	米中露の軍事部門（皮肉にも同じ圏）
ヘルメス／マモン圏	シンガポール、UAE、テック企業
プロメテウス／クロノス圏	海上・宇宙植民地、仮想国家

リスク評価

類型	危険度	主要リスク
ガイア型	低	防波堤にならない
リバイアサン型	極大	意図的破壊、AI軍拡
ヘルメス／マモン型	中	資源独占、格差拡大
プロメテウス／クロノス型	大	目的関数ミスが即破滅

参照

ホッブズ『リヴァイアサン』（1651）
ボストロム『スーパーインテリジェンス』（2014）
士郎正宗『アップルシード』『攻殻機動隊』

執筆者: Kenji Yamada
プロジェクト: まだ十分に可視化されていない将来リスク
ライセンス: CC BY 4.0

まだ十分に可視化されていない未来リスク