ダリオ・アモデイ：Claude を作った Anthropic CEO、「安全な AI」を追求する物理学者

1. 身近な「Claude」を逆算する

Claude (生成 AI)、Anthropic 社、AI で書く・コードを生成する・要約する。これを作っているのが ダリオ・アモデイ。OpenAI で GPT を作っていた研究者が「もっと安全な AI を」と独立して起業した。

2. 100 文字でわかる

3. 500 文字でわかる

1983 年米国生まれ、イタリア系。プリンストン大学物理学博士。Baidu の AI 研究 (シリコンバレー)、Google Brain を経て、2016 年 OpenAI 入社、研究担当副社長に。GPT-2 / GPT-3 の開発を率いた中心人物。2020 年、OpenAI の方針 (商業優先・Microsoft 提携) に違和感を覚え、2021 年 1 月、妹サラ (元 OpenAI 安全性責任者) ら 7 人と Anthropic を共同設立。理念は 「Constitutional AI (憲法的 AI)」 — AI に「法律のような規範」を組込んで自律的に安全に振る舞うようにする。2023 年 3 月、Claude を一般公開。長文・複雑タスクに強く、「より誠実な AI」として企業や開発者に支持を獲得。Amazon・Google から数十億ドル投資、企業価値は数百億ドル規模。Claude は本記事執筆も支援している AI そのもの。「AI が制御を失う前に、安全性を組込まなければならない」という信念を、業界・政界に発信し続ける。

4. もっと詳しく

物理学から AI へ

プリンストンで物理学博士、計算神経科学を研究。「人間の脳の働きを真似て、知能を作る」道を求めて AI 研究に転じた。Baidu / Google Brain を経て、OpenAI に。

OpenAI 退社 (2020-21)

OpenAI 研究担当副社長として GPT-2 / GPT-3 を率いた。しかし 2019 年の Microsoft 投資 + 2020 年の OpenAI Inc. (営利部門) 分離で、商業性が安全性より優先される傾向に違和感を覚えた。2020 年末に退社、2021 年 1 月に Anthropic を共同創設。

Constitutional AI と Claude (2021-)

Anthropic の独自手法 Constitutional AI = AI に「国連人権宣言・倫理規範」を学習させ、自律的に有害な出力を避ける よう設計。これが Claude の「より誠実・親切」な振る舞いの基盤。2023 年 3 月 Claude 公開、2024 年 6 月 Claude 3.5 Sonnet が GPT-4 に匹敵・凌駕する性能で評価。

資金調達と業界での立場

Amazon が 40 億ドル、Google が 20 億ドル投資、企業価値は 2024 年時点で 500 億ドル超。OpenAI の最大の競合として位置付けられる。「AI による人類への悪影響を最小化する」という思想を、米国議会・EU AI 法等への参考意見として発信。

5. 現代への影響

• Claude シリーズ: GPT に匹敵する生成 AI、長文・コード生成に強み
• Constitutional AI: AI 安全性研究の主要手法
• 「AI 安全性主義」の象徴: 商業性 vs 安全性の議論を主導
• Amazon Bedrock 標準採用: クラウド AI 業界の主要選択肢
• 米国 AI 政策: 規制議論への意見書提出

6. もっと知りたい人へ

• Wikipedia (英語): Dario Amodei
• Anthropic 公式: https://www.anthropic.com/
• Claude: https://claude.ai/
• 論文「Constitutional AI: Harmlessness from AI Feedback」(2022)

7. 次の話

EP.35 では デミス・ハサビス を扱います。AlphaGo で世界最強の囲碁棋士に勝ち、AlphaFold でタンパク質構造解析を解いた、DeepMind 創業者。