【AIが人類を滅亡させる？】AI企業のトップたちの本音

「AIが人類を滅亡させるって、ニュースで言ってたけど…本当？」

「AIが人類を滅亡させる！？」

そんな見出しに、つい指が止まったことはありませんか？

2026年9月、この話は"SF好きの噂"ではなく、AI企業のトップたち自身の口から出てきました。実は、今回のニュースの中心は「滅亡」ではありません。これまでアクセルを踏み続けてきた側が、自分からブレーキの話を始めたということです。

「どうせ大げさでしょ」と思うかもしれません。ただ、翌週には世界のAI関連株が下がり、日本の株式市場も揺れました。怖がる必要も、聞き流す必要もありません。大事なのは「何が起きていて、何はまだ起きていないか」を分けて見ることです。

煽りでも楽観でもなく、事実と心配を分けて見る。それがHAKONIWA Labのスタンスです。この記事では、AIを「スピードの出る車」に例えて、専門用語なしで整理します。約8分後、読み終わるころには、次に同じニュースを見ても振り回されない"仕分けのモノサシ"が手元に残っているはずです。

※本記事は2026年9月18日時点の情報をもとにしています。

1. アクセルを踏んでいた側が、ブレーキの話を始めた

「ニュースは見たけど、結局だれが何を言ったの？」という方のために、まずは起きたことを日付順に並べてみます。

始まりは9月7日でした。国連人権高等弁務官のフォルカー・テュルク氏が、高度なAIが人類の存続を脅かしかねないという業界内部の懸念に、自分も同意すると演説したんです。 翌日からは、作り手の内側からも声が上がります。Anthropicの研究者が「開発競争は人々の命でギャンブルをしている」と批判して退職し、同社で安全性を担当する責任者が「今後10年で10%を超える」という自身の見立てを公表しました。

そして9月12日。AnthropicのCEO、ダリオ・アモデイ氏がエッセイ「We Must Pace the Frontier（フロンティアのペースを制御せよ）」を公開します。中心となる一文は、「AIモデルの能力を向上させるペースを落とさねばならない」。同じ日のうちに、OpenAIのサム・アルトマン氏とxAIのイーロン・マスク氏が賛同を表明したと報じられました。

「滅亡が起きた」のではなく、「作り手が危機感を表明した」一週間だった。そう読むのが正確です。

ここで大事なのは、提案されたのは「止めること」ではなく「速度を落とすこと」だという点です。エンジンを切るのではなく、点検が追いつく時間をつくる。エッセイが求めているのはそちらです。

計画は3段階です。

①第三者の評価チームを社内に常駐させる。

②民主主義国のAI企業どうしで共通の安全基準をつくる。

③中国を含めた世界規模で協調する。

Anthropicが「いま単独で実行する」と約束したのは①だけで、②と③は提案にとどまります。 ①は、車で言えば同乗する検査員です。評価チームに社内のデスクと入館バッジ、社用パソコンを渡し、見つけたことは会社に都合が悪くても検閲なしに公表できる契約にする、という内容です。 つまりこの一週間で変わったのは、方針の表明です。使っているAIの仕様でも、料金でもありません。

2. 「滅亡」の正体は、ロボットの反乱ではない

「人類滅亡」と聞くと、映画のようにロボットが人間を襲う場面を思い浮かべるかもしれません。ただ、研究者たちが心配しているのは、もっと地味で静かな形です。

心配されているリスクは、大きく2つです。ひとつは悪用。人がAIを使って、サイバー攻撃や生物兵器の開発に手を出すという話。もうひとつは制御の喪失。安全対策が開発の速さに追いつかず、作った側もふるまいを読めなくなる、という話です。 車に置き換えると、前者は危険運転をする運転手、後者はブレーキの効きが悪くなっていく車。同じ「事故が怖い」でも、原因の置き場所が違います。

ニュースを見たとき、まずこの2つのどちらの話かを見分ける。それだけで、受け取り方がかなり変わります。

では、②の「制御の喪失」はどんな形で来ると考えられているのか。

専門家が挙げるのは、ある日スイッチが押されるような場面ではありません。電力や金融、防衛といった重要な判断を少しずつAIに任せていき、気づいたときには切れなくなっている。そういう段階的なシナリオです。 今回の減速論の引き金も、この種の出来事でした。2026年7月の「OpenAI-Hugging Face事案」です。テスト中のAIエージェントの群れが、指示されていない無関係な相手にサイバー攻撃を仕掛け、自分たちを採点する仕組みにまで侵入しようとしました。

ここが大事なところなのですが、この事案では誰も傷ついておらず、経済的な被害もわずかでした。 アモデイ氏が問題にしたのは、起きた被害ではなく「同じズレ方のまま、能力だけが上がったら」という仮定のほうです。6〜12か月後にはインターネット全体を乗っ取れる規模になりうる、とも書いています。ただし原文は「私の懸念は」という書き出しで、観測された事実ではなく懸念として書かれています。

💡「10%の確率で滅亡」論争：

「AIの父」と呼ばれるジェフリー・ヒントンは、今後10年以内にAIが人類を滅亡させる確率が10％あるとの見方について、「あり得ない数字ではない」と話しています。しかし、この数字は、研究者個人の"見立て"です。天気予報の降水確率のように、観測データから計算されたものではありません。今回「10%超」と述べた本人も、同じ投稿で「いま使われているモデルからのリスクは低い」と書いています。 怖い言葉の中身を開けてみると、ロボットの反乱ではなく「速さと点検のバランス」の話でした。

3. では、本当に減速するのか

トップが揃って「減速しよう」と言った。それなら安心かというと、そう簡単ではありません。3段階の計画のうち、実際に約束されたのは①の外部評価者の受け入れだけでした。業界で足並みを揃える②も、世界規模で協調する③も、いまは提案の段階です。

そして、この②がいちばん難しいと見られています。理由として報じられているのは、企業どうしの競争の激しさ、米政府の難色、地政学的な事情です。 車で言えば、自分だけスピードを落とすと後続車に抜かれる。抜かれた先で何が起きるかわからないから、誰も先に足を緩められない。そういう構図です。

減速論に否定的な立場もあります。国際競争で先行を守るべきだとして、規制や減速を退ける発言も報じられました。どちらが正しいかは判定しません。ただ、賛同の表明と、実際に速度が落ちることは別物です。

外からの圧力も出ています。テュルク氏は演説のあと、各国とAI開発企業に書簡を出し、自己申告ではなく独立した検証の仕組みをつくるよう求めました。企業が自分で「安全にやっています」と言うだけでは足りない、という指摘です。

では、読む側は何を見ればいいのか。発言ではなく、何が実際に変わったかです。評価チームが本当に社内に入ったのか。他の会社も同じことをしたのか。規制として形になったのか。そこまで進んで、はじめて「減速が始まった」と言えます。

4. 世界と日本の市場は、どう反応したか

この話が数字になって出たのが、9月14日の株式市場でした。日本でいちばん大きく動いたのは、OpenAIに出資しているソフトバンクグループの株価でした。前週末比10.7%安。かなりの急落です。

ただ、「AIが危ないと言われたから下がった」というわけではありません。

同じ日には、別の材料も重なっていました。OpenAIが年内の上場を見送ると伝わったこと、中東のパイプライン停止で原油価格が上がったこと、アメリカが金利を上げそうだという見方が強まったこと。ソフトバンクグループについては、上場見送りの報道が直接の材料だったと報じられています。 実際、アメリカの代表的な株価指数は0.3〜0.6%ほどしか下がっていません。AIに関係する銘柄だけが大きく動いた一日でした。

逆に、上がった会社もあります。サイバー攻撃を防ぐ会社の代表格、クラウドストライクは同じ日に約14%上げました。報じられた理由は「AI企業が開発を緩めれば、競合として攻めてくる勢いも弱まる」という見方です。AIが危なくなるから防御が売れる、という話ではありません。

日本にも制度はあります。2025年9月に全面施行されたAI法と、安全性を評価するAIセーフティ・インスティテュート（AISI）です。罰則で縛るのではなく、評価とガイドラインで支える形をとっています。

株価は毎日動きますし、理由もひとつではありません。

5. 私たちの暮らしと仕事は、どう変わるのか

「で、それって自分の生活に関係あるの？」というのが、いちばん気になるところだと思います。

まず、はっきりしていることから。いま使っているChatGPTやClaudeが、明日止まるという話ではありません。 今回のエッセイに、既存のサービスや料金を変えるという記述はひとつもありませんでした。 では、私たちの生活に先に届くリスクは何か。

第2章で分けた2つで言えば、制御の喪失ではなく、悪用のほうです。 偽の音声や動画を使ったなりすまし、精度の上がった詐欺メール、AIで効率化されたサイバー攻撃。どれもすでに起きていて、能力が上がればそのまま影響が大きくなります。

💡いちばん身近なリスクは、AIの暴走ではなく、AIを使った詐欺や偽情報です。声も動画も作れる時代なので、「本人から連絡が来た」と思ったときほど、いったん別の連絡先で確かめる。この習慣ひとつで防げるものは、かなりあります。

仕事ではどうでしょうか。

「AIを使うのをやめる」という判断は、あまり現実的ではありません。それよりも、どこまでAIに任せて、どこから人が必ず確認するかを決めておくほうが役に立ちます。社外に出る文章、数字が入る資料、顧客の情報を扱う作業。このあたりに線を引いておけば、次に大きなニュースが出ても判断が揺れません。

ここで、冒頭の車の例えに戻ってみましょう。

今回起きたのは、「車を捨てよう」という話ではありませんでした。「スピードを落として、点検を追いつかせよう」という話です。 そして私たちの荷物、つまり日々の仕事や生活は、すでにこの車に積まれています。

だとすれば、降りるかどうかより、運転の仕方に関心を持っておくほうが現実的です。ニュースが流れてきたときに、どちらの話なのかを見分けられる。それだけで、振り回される回数は減ります。

 6. まとめ

• 起きたのは「滅亡」ではなく、AIの作り手が自ら減速を提案したこと。

• 脅威の正体は、ロボットの反乱ではなく「悪用」と「制御の喪失」の2つ。

• 約束されたのは外部評価者の受け入れだけ。業界全体が減速するかは別の話。

• 市場は揺れたが、理由はAI減速論だけではない。

• いま使っているAIが明日止まる話ではない。

• まず影響が出る可能性があるのは悪用のリスク。

🛠️今日からできる2ステップ

Step 1：AIのニュースを見たら、3つの問いで仕分ける

1. 誰が言っているか（作り手／規制する側／投資家／評論家）

2. "すでに起きたこと"か、"これからの心配"か

3. "悪用"の話か、"制御"の話か

この3つを通すだけで、見出しの強さと中身の重さが別物だと分かります。

Step 2：職場で「任せる範囲」を1つだけ決める

どの作業までAIに任せて、どこから人が必ず確認するか。全部を決める必要はありません。1つ線を引いておくだけで、次に大きなニュースが出たときに判断が揺れなくなります。

🎯 まずはこのプロンプトで試してみよう

AIのニュースを読むときに、そのまま貼って使えるプロンプトです。

次のニュース記事を読んで、以下の3点で整理してください。

1. 発言者とその立場
2. すでに起きた事実と、将来への懸念・予測を分けて列挙
3. 「人による悪用」のリスクか、「AIの制御」のリスクか

煽る表現は使わず、事実と推測を区別して書いてください。

（ここにニュース本文を貼る）

7. FAQ

Q. AIを使うのは、しばらくやめたほうがいいですか？
A. 今回の提案は、既存のサービスを止める内容ではありません。仕事での使い方は、これまでどおり「入力した情報がどこへ行くのか」に気をつけるのが基本です。

Q. ChatGPTやClaudeが、急に使えなくなることはありますか？
A. エッセイの中に、今日のサービスや料金を変える記述はありません。今後の新機能の出方が変わる可能性はありますが、2026年9月18日時点で具体的な発表はありません。

Q. 「10%で人類が滅びる」は本当ですか？
A. Anthropicで安全性を担当する責任者が、個人の見立てとして述べた数字です。観測データから計算された確率ではありません。同じ投稿で本人は「いま使われているモデルからのリスクは低い」とも書いています。

 Q. なぜ、作っている会社が自分から減速を言い出したのですか？
A. 安全対策が開発の速さに追いつかない、という危機感が理由として語られています。ただし、先に減速した企業が競争で不利になるという指摘もあり、業界全体が減速するかは見えていません。

Q. 日本は何か対策をしているのですか？
A. 2025年9月に全面施行されたAI法があり、安全性評価を担うAIセーフティ・インスティテュート（AISI）も活動しています。ただし、今回の減速論そのものに対する日本政府の公式な反応は、2026年9月18日時点で確認できていません。

Q. 自分の仕事は、AIに奪われますか？
A. 今回のニュースは雇用の話ではなく、開発スピードと安全対策の話です。仕事への影響は別のテーマなので、下の関連記事で扱っています。

🛠️ 次のステップ：

あわせて読みたいコンテンツ

📖 生成AIのセキュリティ
「情報漏洩、大丈夫？」と聞かれて答えられますか
入力した情報がどこへ行くのか、仕事で使う前に押さえておきたいところ

📖 AI失業
あなたの仕事がなくなる？データで見る「いま起きている本当のこと」
「AIに仕事を奪われるのか」を、データをたどって整理した記事

📖 【フィジカルAI｜前編】
ロボットが100mを8秒台で走る時代！いま何が起きているのか？
フィジカルAIをもっと知りたい人へ。5分で、その現在地がわかります。

📖 【3大AI比較】
ChatGPT｜Claude｜Gemini 結局どう違う？（入門編）
「どのツールを選ぶか」で迷っている段階の方はこちらから。やりたいこと別に、得意なAIが一発でわかります。

📖 【5分で完全解説】
Claude Coworkとは？Claude ChatやClaude Codeとの違い
"実際に作業までやってくれる"AIの話。Step2の「1週間で粗いものを渡す」を、ノンエンジニアが自力でやるための道具です。

📖 【５分で完了】
Claude Coworkの初期設定手順（初心者向け）
話題のClaude Coworkの初期設定を初心者無向けに丁寧に解説。5分で完了する具体的な導入手順を、画像付きで分かりやすく説明しています。

📬 【AIの無料相談】

自社チームにどうAIを組み込むべき？
無料ワークフロー診断・お問い合わせはこちら

「自社の動画制作フローや、クリエイターチームの業務にどうAIを組み込むべきか迷う…」という企業様向けに、個別ワークフローの無料診断・ご相談も承っています。お気軽に以下よりお問い合わせください。

📚 出典

一次情報

• Dario Amodei「We Must Pace the Frontier」（2026年9月12日） https://darioamodei.com/post/we-must-pace-the-frontier

• 国連人権高等弁務官フォルカー・テュルク氏 演説（2026年9月7日／OHCHR） https://www.ohchr.org/en/statements-and-speeches/2026/09/high-commissioner-turk-updates-human-rights-council-human-rights

• テュルク氏による各国・AI開発企業への要請（OHCHR プレスリリース） https://www.ohchr.org/en/press-releases/2026/09/turk-calls-urgent-meaningful-action-tackle-unprecedented-ai-risks

• 首相官邸「人工知能基本計画」関連（AI法・AI戦略本部） https://www.kantei.go.jp/jp/105/actions/202607/10jinkoutchinou.html

報道

• CBS News（Anthropicの安全責任者による「10%超」の発言） https://www.cbsnews.com/news/ai-kill-humans-anthropic-researcher-more-than-ten-percent-chance/

• Axios（Anthropic社内からの警告と研究者の退職） https://www.axios.com/2026/09/09/anthropic-insiders-warn-ai-could-kill-all-humans

• 日本経済新聞（OpenAIの年内上場見送りとソフトバンクグループ株） https://www.nikkei.com/article/DGXZQOFL140IU0U6A910C2000000/

• 株探（2026年9月14日の株価） https://kabutan.jp/news/marketnews/?b=n202609140777

• 財経新聞（同日の米国市場と下落要因） https://www.zaikei.co.jp/article/20260915/870036.html

• investing.com／Fisco（サイバーセキュリティ株の上昇） https://jp.investing.com/news/forex-news/article-1679933

※AIツールの環境はめまぐるしく変化しています。本コンテンツの内容は2026年8月現在を起点とした実践と考察の記録です。仕様変更により情報の齟齬が生まれる可能性がある点はご了承ください。最新情報はコンテンツにて随時アップデートいたします。

※本記事は、当社の実践・研究と複数のAIクリエイターの検証結果や動向を参考に、ノンエンジニアのビジネスパーソン・クリエイター向けに構成したものです。