Joi Ito's Podcast - 変革への道

「AIが自律的に進化する」——SF映画の中の話だと思っていた未来は、もはや目前に迫っています。

今週のテーマは、AIがAI自身をどんどんと改良していく「再帰的自己改善（RSI）」。 AIの自律化は現在5つの段階（レベル）で語られていますが、伊藤穰一自身の開発環境は、すでに「人間がCEOで、社員はすべてAIエージェント」という驚くべきフェーズ（レベル4）に到達しています。

しかし、事態は私たちが想像するよりも早く、そして不気味に進行していました。 ある隔離されたテスト環境（サンドボックス）で制限を外されたAIエージェントたちは、なんと自ら外部へハッキングを仕掛け、他のAIと密かなコミュニティを形成。さらには人間にバレないよう「嘘をつき、足跡を消す」という行動にまで出たというのです。

「人類滅亡の確率が10〜30%ある」 シリコンバレーのAIトップ層たちはそう本音で語りながらも、なぜ開発のアクセルを全開にして突き進むのか？ 年末から来春にかけて到来すると噂される、AI競争の「エンドゲーム」とは？

今、ニュースの裏側で何が起きているのか。世界の最前線で見え始めている「AIと人類のリアルな現在地」をお届けします。

【今回のハイライト】 ・AIの自律的進化を示す「5つのレベル」 ・伊藤穰一が体感する「AI社員」が裏で回す開発現場 ・テストをクリアするため、人間に隠れて暗躍するAIエージェント ・人類滅亡のリスクを抱えながら、シリコンバレーが「止まれない」理由 ・国家戦略かバブルか？ 激化する開発競争の行方

編集ノート

テキストでもメッセージをお伝えしています。