【AI QUEST】シンギュラリティまで秒読み？今井翔太が解説するAnthropicのClaude自己進化ループ、Opus性能低下とミュトス級AIの調整

TL;DR

Claudeの自己進化はコーディング領域で進みつつありますが、人間を完全に外したループにはまだ達していません。Anthropicではエンジニアが書くコード量が2025年までの平均の8倍となり、Opus 4.6はソフトウェアタスクを12時間連続で実行できます。RSIの仕組み、残る人間の役割、進化を阻むボトルネックを知るために読み進めてください。

Transcript

今井さん はい。 アンソロピックからなかなか興味深い研究発表があってですね。 はい。 AIが自分自身を作っていると はい。 このなんか最期的自己改善 はい。 リカーシブセルフインプルーブメントなる言葉があるということで はい。はい。 これ何が起きてるんですか? これですね。多分AG とかと比べるとあんま馴染みがない気がするんですけど、割と研究者の中で RSI って猛略して言われてることがあるワードレス でこれはですね、 その、ま、アンソロピックの今回結構真面目な文脈で言われてますけども、いわゆる古典的なシンギュラリティと同一されることがある 言葉です。要するに IQ100 の人工知能いたとしましょう。で、 IQ100の人工値能は101 の人工知能を開発することできます。 とすると101は多分... Read More

Key Insights

• Claudeは自己改善を繰り返す現象であるリカーシブセルフインプルーブメント（RSI）を示している。
• RSIはAIが自らの能力を向上させるプロセスであり、シンギュラリティと関連付けられる。
• AnthropicはAIの進化が社会に与える影響を懸念し、開発を慎重に進める必要があると主張している。
• 最強AIとされるMythosはセキュリティ分野で大きな影響を及ぼしており、特に脆弱性の発見能力が高い。
• Microsoftは独自のAIモデルを開発し、プラットフォームとしての地位を強化している。
• AIの進化に伴い、倫理調整が必要であり、アラインメントタックスとして性能に影響を及ぼす可能性がある。
• 生物兵器のリスクもAIの進化と共に懸念されており、社会的な対策が求められる。
• AIが自己進化する時代が来る可能性があるが、技術的な課題や社会的影響を考慮する必要がある。

Questions & Answers

Q: AnthropicのClaudeは本当に自己進化しているのですか？

ClaudeはAI開発に必要なコーディングを担い、自己改善につながる能力を伸ばしています。ただし現状では研究の方向を人間が決めており、AIだけで改善を続ける完全なループにはなっていません。

Q: リカーシブセルフインプルーブメント、RSIとは何ですか？

RSIは、AIが自分より少し賢いAIを作り、そのAIがさらに賢いAIを作る自己改善の繰り返しです。番組では古典的なシンギュラリティと同一視されることがある言葉として説明されています。

Q: Claudeの自己改善で人間に最後まで残る役割は何ですか？

Anthropicの文章では、研究の方向を決める役割が最後まで人間に残りそうだとされています。方向の選定から研究の遂行、結果の評価、次の研究選びまでAIが担えば、自己改善のループが閉じると説明されています。

Q: Claude Opus 4.6はどれくらい長く作業できますか？

Opus 4.6は、ソフトウェアタスクで12時間連続して働けると説明されています。Claude Mythosプレビューは16時間以上で、測定用テストスイートの限界を超えています。

Q: Claudeの連続作業能力はどのように伸びましたか？

Claude Opus 3は2024年時点で約4分のソフトウェアタスクをこなす程度でした。その後、Sonnet 3.7は1時間半、Opus 4.6は12時間へと伸びたと紹介されています。

Q: Claudeが長時間働けるという評価は、すべての仕事に当てはまりますか？

いいえ、この評価は基本的にコーディングを使ったソフトウェアタスクの測定です。すべての分野へそのまま適用できるものではなく、RSI的な進展も現時点では全タスクで実現していません。

Q: AI開発で人間がボトルネックになるのはなぜですか？

コーディングが速くなっても、レビュー、検証、バグ修正などが新たなボトルネックになります。研究やエンジニアリングは自動化できるとの見方が示される一方、人間社会の審査制度など、自動化できない部分も残ると説明されています。

Q: Anthropicが示したAI進化の3つの未来とは何ですか？

1つ目はAIの進化がどこかで頭打ちになる未来、2つ目は人間が研究方向を決めてAIが大量に実行する未来です。3つ目はAIがAIを完全に作り、RSIが本格化する未来です。

Summary & Key Takeaways

• Definition: RSIは、強くなったAIがさらに自分を強くする改善を繰り返す仕組みで、古典的なシンギュラリティと同一視されることがあります。

• Step 1: 現状では、人間がAI研究の方向を決めます。

• Step 2: エージェントが研究を最後まで遂行し、その結果を評価します。

• Step 3: エージェントが次の研究方向を選び、改善ループを閉じます。

• Number: Anthropicのエンジニアが書くコード量は、2025年までの平均の8倍になっています。

• Number: Claude Opus 3は2024年時点で約4分、Sonnet 3.7は1時間半のソフトウェアタスクを実行できました。

• Number: Opus 4.6は12時間、Claude Mythosプレビューは16時間以上、ソフトウェアタスクを継続できます。

• Number: AIの作業時間の倍増ペースは、当初の7ヶ月ごとから4ヶ月ごとへ短縮したと説明されています。

• Compare: コーディングはAI開発そのものに必要なため、他の仕事より先に自動化する意味が大きいとされています。

• Who: 今井翔太は、研究とエンジニアリングに関する作業はすべて自動化できるとの見方を示しています。

• Tool: Claude Codeなどのコーディングエージェントは、コードを自ら書き、AI開発の自己改善を支える手段です。

• Compare: Anthropicの未来像は、進化の頭打ち、人間が方向を決める継続形、AIがAIを完全に作るRSI本格化の3つです。