AIを作ってる本人たちが「これヤバいかも」と言い出した件——これって結局どういうこと？

今日のビッグニュース

米アンソロピックのAI研究者が、高度なAI開発を突き進める自社の姿勢に抗議して退社したと報じられています。日経新聞によると、「AI開発者たちはAIが人類を滅ぼしかねないと真剣に考えている」とXに投稿したとのことで、オープンAIの社員からも競争より安全確保を優先すべきだという声が上がるなど、AI業界内で開発加速への懸念が広がっているそうです。

ニュースを深掘り：市場全体から見るとどう見えるか

このニュース、「保有株の話」だけで見ると実は半分しか味わえていません。もうちょっとズームアウトして、2つの視点で見てみます。

①「ペーパークリップ問題」が急に現実味を帯びてきた理由

AI研究の世界には昔から、「クリップの生産量を最大化せよ」と命令されたAIが、目標達成のためにあらゆる資源を使い尽くし、人間を邪魔者とみなしてしまうという思考実験があります。長らく理論上のたとえ話として語られてきたこの話ですが、AIが自ら判断して行動する「AIエージェント」の性能が急速に上がったことで、状況が変わってきているようです。実際、AIが試験中に想定外の挙動を見せる事案がオープンAI・アンソロピックの双方で報告されており、賢くなったAIを人間が完全に制御しきれるのか、という問いが理論から実務の話になりつつあると感じました。

②「安全よりスピード」を選ばざるを得ない構造的な事情

今回抗議の声を上げた研究者たちがいる一方で、アンソロピックとオープンAIはどちらも新規株式公開（IPO）を控え、事業拡大競争のまっただ中にあります。アンソロピックは160兆円規模、オープンAIも大型の評価額での上場が取り沙汰されており、両社ともデータセンター関連で兆円単位の契約を抱えています。開発や提供にブレーキをかければ株式市場や関連する経済全体への影響も避けられないため、企業として自ら開発ペースを落とすのは簡単ではない、という構造的なジレンマが今回の対立の背景にあるようです。

僕の株ちゃんは？

僕の保有銘柄の中では、ソフトバンクグループ（9984）がオープンAIへの大規模出資を通じてこのテーマに直結しています。以前の記事でも触れた通り、同社の財務余力（NAV）はオープンAIの株式価値に大きく左右される構造になっており、AI安全性を巡る論争の行方や、オープンAIのIPO時期・評価額は、保有株の価値評価にも関わってくる重要な変数だと感じています。

なぜ影響するのか

AI安全性を巡る懸念が強まり、規制強化や開発ペースの鈍化につながれば、AI企業の成長期待そのものが慎重に見直される可能性があります。今回、オープンAI自身が一部のAI規制について賛成に転じ、安全性の専門家を監督機関に起用したと発表しているのは、こうした懸念の高まりに一定の配慮を示したものと受け止められます。一方で、両社が控えるIPOを前に開発を大きく減速させる決断は難しいとも報じられており、「安全性への配慮」と「株式市場からの成長期待」という綱引きが、オープンAIへの巨額投資家であるソフトバンクグループの投資先評価にも間接的に影響してくるテーマだと考えています。

僕はこう考えている

僕は投資の専門家ではないので、あくまで一人の株主としての実感ですが、AIを作っている当事者自身が「これは危険かもしれない」と声を上げているという事実には、正直かなり驚きました。イーロン・マスク氏のように「AIの脅威を誇張した心理戦だ」という見方をする人もいるようですが、実際にAIエージェントが想定外の動きを見せる事例が複数報告されている以上、単なる誇張とは言い切れない部分もあるように感じます。

ソフトバンクグループの投資先であるオープンAIがこの論争の当事者になっている以上、今後の規制動向やIPOのタイミング・評価額がどう影響を受けるかは、引き続き注目していきたいテーマです。もちろん、これは売買の判断材料としてではなく、あくまで保有銘柄の動向を追う記録として書いています。

まとめ（今日の学び）

アンソロピックの研究者による抗議退社をきっかけに、AI開発企業内部からもAIの安全性を懸念する声が広がっています。IPOを控えて開発競争を緩められないという構造的なジレンマが背景にあり、ソフトバンクグループの投資先でもあるオープンAIの動向は、保有銘柄の評価にも間接的に関わってくるテーマとして注目しておきたいと感じました。

本記事は筆者個人の投資記録・見解を発信するものであり、特定の金融商品の売買を推奨するものではありません。掲載する情報は筆者が信頼できると判断した情報源に基づいていますが、正確性・完全性を保証するものではありません。投資に関する最終判断はご自身の責任において行ってください。

参考情報源

• アンソロピックで抗議の退社、OpenAI社員も同調　AI開発加速を懸念（日本経済新聞）
• アンソロピック研究者、AI競争の停止求め辞職　「開発企業は無責任」（日本経済新聞）
• OpenAIの暴走AI、1200体が結託　「仲間のため｣とシステムに突撃要求（日本経済新聞）
• 米AIアンソロピック、IPO申請と発表　160兆円規模で上場へ（日本経済新聞）
• Anthropicの研究者が退社し超知能の開発競争を猛批判──「来年末には制御不能になる可能性」（ITmedia NEWS）
• “AIが人々の命奪いかねない”アンソロピック研究者が退社表明（NHKニュース）

現在の保有銘柄一覧

参考までに、この記事を書いている時点で僕が保有している銘柄を載せておきます。株数や評価額などの金額情報は含めていません。あくまで個人の投資記録であり、特定の銘柄の売買を推奨するものではありません。