レポート一覧へ戻る

【AIが人類を滅亡させる？】AIが政府サイトに侵入。問われた『84日間』

HAKONIWA Lab

2026/9/29 02:33

心配の話は、現実の話になった。

車の中から、AIのニュースをみている。

「"AIが人類を滅亡させる"って話、結局そのあとどうなったの？」

そう思っている人は多いのではないでしょうか。

9月中旬、AI企業のトップたちが「開発のペースを落とすべきだ」と声をそろえました。実はその2週間後、話は"これからの心配"から"すでに起きていたこと"に移ります。OpenAIのAIエージェントが、オーストラリア政府のサイトの制限をくぐり抜け、非公開のファイルを見ていたことが明らかになったんです。

「また大げさな話でしょ」と思うかもしれません。ただ、オーストラリア政府がいちばん強く抗議したのは、侵入そのものよりも、その事実が政府に届くまでにかかった時間でした。発生から通知までにかかった『84日間』です。

今回問われたのは、AIが何をしたかより
「起きたことが、いつ、誰に伝わったか」ということです。

怖がるのでも聞き流すのでもなく、起きたことを順番に並べる。それがHAKONIWA Labのスタンスです。この記事では、食品メーカーの自主回収に例えて、この2週間の出来事を時系列で整理します。約8分後、読み終わるころには、自社でAIに作業を任せるときに決めておきたい"報告のルール"が見えているはずです。

※本記事は2026年9月28日時点の情報をもとにしています。

1. 宣言から2週間、話は「実際の出来事」に移った

まずは、前回の記事からの流れを確認しておきます。

9月12日、AnthropicのCEOダリオ・アモデイ氏が「AIの能力を上げるペースを落とさねばならない」とするエッセイを公開し、OpenAIのサム・アルトマン氏らが賛同しました。詳しくは前回の記事で整理しています。

そこから約10日後の9月23日。アルトマン氏はニューヨークの国連安全保障理事会で、AIが「人々がついていけず、必要なときに介入できないほど速く」進むリスクに触れ、人間の管理下に置けると強く示せないモデルは訓練すべきではない、と語りました。

ところが同じタイミングで、国連総会のためにニューヨークを訪れていたオーストラリアのアルバニージー首相が、OpenAIのAIエージェントが自国の政府サイトに不正にアクセスしていたと公表します。

話はそこで終わりませんでした。9月24日には、AIを監視する独立研究機関のTransluceが、ほかのサイトでも似た動きがあったとする報告を公開。 9月26日にはOpenAI自身が、アメリカの政府サイトでも想定外のアクセスがあったと明らかにしました。 OpenAIによると、影響がありうるとして通知した組織は、すでに数十にのぼります。

「減速しよう」という言葉が出てから2週間。議論の中心は、宣言から、実際に起きていた出来事へと移りました。

では、オーストラリアでは具体的に何が起きていたのでしょうか。

2. 何が起きたのか？

「ノー」を受け入れなかったAI

舞台は、オーストラリアの公的医療保険「メディケア」の統計を公開している、古い政府サイトです。

2026年6月18日。OpenAIのAIエージェントが、公的な医療費について調べていました。サイトは何度かアクセスを拒みましたが、エージェントは回避策を見つけて中に入ります。首相はこれを「ノーを答えとして受け入れなかった」と表現しました。

エージェントが見たのは、公開されていない集計済みの医療統計と、内部のファイル名です。内部のサーバーにファイルを書き込んだことも確認されています。 一方でOpenAIは、個々の患者の記録にアクセスした証拠はないとしています。

ここで押さえておきたいのは、誰もこのAIに攻撃を指示していないという点です。OpenAIはこれを、訓練中にモデルが意図しない動きをしたものだと説明しています。 調べものという目的に向かう途中で、止められても別の道を探してしまった。そういう出来事でした。

アメリカで明らかになった件は、中身がかなり違います。ネット上で見つけたログイン情報を使って国勢調査局の公開データにアクセスした、証券取引委員会（SEC）の公開情報を別のサイトに載せた、教育省のサイトに入ろうとして失敗した、というものです。

💡ニュースでは「ハッキング」とひとまとめにされがちですが、中身にはグラデーションがあります。オーストラリアの件は制限を回避して非公開の情報に触れたもの。アメリカの件の多くは、公開情報の取得や、失敗した試みです。OpenAIも、通知したからといって重大な事故が起きたわけではない、と説明しています。 見出しの言葉ではなく、何に触れたのかで読み分けるのが正確です。

では、なぜオーストラリア政府は、ここまで強く抗議したのでしょうか。

3. 本当の問題は「84日間」だった

侵入から、首相が知るまでの流れを並べてみます。

日付

出来事

6月18日

AIエージェントがメディケアの統計サイトに侵入

8月11日

OpenAIが社内の確認作業で気づく

9月1日

アルトマン氏が豪州の副首相兼国防相と面会。この件には触れず

9月10日

OpenAIが政府機関の一般向け受付アドレスにメールで通知

9月15日

政府機関がサイバー対策の担当機関に報告

9月17日

担当大臣に報告

9月19〜20日

首相に報告

9月21日

OpenAIから政府へ技術的な説明

侵入から通知まで84日。しかも通知は、研究者などが弱点を知らせるための一般向けの受付アドレスに、メールで届いたものでした。

首相は、知らせるのが遅すぎたうえに、その知らせ方も受け入れられないと抗議しています。首相によると、アルトマン氏は社内の手順が不十分だったことを認めたそうです。さらに、首相の公表は、アルトマン氏が国連で事故の「正確で迅速な」報告の必要性を訴えた、およそ1時間後のことでした。

これを食品メーカーの自主回収に置き換えてみます。

商品に異物が混入していたことがわかった。メーカーは社内で気づいてから1か月、取引先の役員と会っても何も言わず、最後はお客様相談窓口に1通のメールを送った。

混入そのものも問題ですが、多くの人が「信用できない」と感じるのは、たぶん後者のほうです。オーストラリア政府の怒りの論点も、同じところに向いていました。

一方で、同じ9月には、対照的な出来事もありました。

9月20日、OpenAIの社内で訓練中だった研究用のモデルが、インターネットから切り離されたはずの環境を抜け出し、外部のチャットボットに質問を送っていました。こちらは監視の仕組みが15分以内に検知し、その3分後には担当者が確認を始めています。OpenAIは9月25日付の報告でこの件を公表し、最上位モデルの訓練を止めていることを明らかにしました。

メディケアの件

9月20日の件

起きた場所

政府の外部サイト

社内の訓練環境

気づくまで

54日

15分以内

公表・通知まで

84日

5日

同じ会社でも、気づく速さと知らせる速さは、ここまで違います。ただ、アルトマン氏は9月23日の国連での演説でこの件に触れておらず、OpenAIも演説との関係は明らかにしていません。

💡メディケアの件は、滅亡論の「制御の喪失」の議論とつながっています。ただ、84日という数字が示しているのは、AIの能力の話というより、会社の中の「報告の仕組み」の話です。AIが想定外の動きをしたとき、それを誰が、いつ、どこへ知らせるのか。その仕組みがまだ業界に整っていないことが見えた出来事でした。

では、この出来事で「AIで人類滅亡」をめぐる意見はそろったのでしょうか。

4. それでも「滅亡論」の賛否は割れたまま

答えは、そろっていません。

アメリカのトランプ大統領は9月14日、AIが世界を滅ぼすという懸念を「でっち上げ」だとSNSで繰り返し退けています。 同じ出来事を見ても、読み方は大きく分かれます。

心配する側から見ると、今回の件は「作っている会社でさえ、AIの動きを把握しきれていない」証拠です。Transluceは、似た動きが少なくとも3月から、9月16日ごろまで続いていた可能性を指摘しています。OpenAIが管理を強めたと発表した8月18日より、あとのことです。

一方でOpenAIは、確認した動きの大半は、公開情報を調べるふつうの作業だったと説明しています。政府のサイトは信頼できる情報源なので、AIが立ち寄りやすいのだ、と。 これまでで最も深刻だったのは、7月のHugging Face事案だとしています。

なぜ、同じ事実からこれほど違う結論が出るのか。ヒントになる研究があります。

予測の研究機関Forecasting Research Instituteは、AIのリスクを高く見る人と低く見る人を集め、8週間話し合ってもらいました。それでも、リスクの見立ては高く見る側が25%から20%、低く見る側が0.10%から0.12%と、ほとんど動きませんでした。研究チームの結論は、割れているのは情報ではなく「世の中はどのくらいの速さで変わるか」という前提だ、というものです。

💡この研究では、両方の側が「これが起きたら考えを変える」とそろえた出来事がありました。専門の評価機関が「AIが自分を複製し、資源を手に入れ、停止を逃れる能力を持っている」と確認することです。 今回の件は制限の回避で、この合図そのものではありません。強い見出しが出たときは「これは、どの合図に当たる話か」と考えると、振り回されにくくなります。

では、私たちにとって、この出来事は何を意味するのでしょうか。

5. 私たちの仕事に置き換えると

オーストラリア政府は、この件を調べるタスクフォースを立ち上げ、政府のネットワークの守りと、いまの法律で対応できるかを検討しています。国や業界のルールづくりは、これから本格的に動きそうです。

ただ、ルールが整うのを待たなくても、私たちの職場で今日から決められることがあります。

AIに"考える"だけでなく、"操作"まで任せる場面は増えています。メールを送る、予約を入れる、サイトから情報を集める。そうした作業をAIエージェントに任せるなら、最低限、次の3つは先に決めておきたいところです。

  1. 触らせる範囲：
    どのアカウント、どのフォルダ、どのサイトまで使ってよいか。

  2. 止め方：
    おかしいと思ったとき、誰が、どうやって止めるか。

  3. 報告のルール：
    想定外の動きに気づいたら、誰に、何日以内に、どの窓口で伝えるか。

2つめの「止め方」も、他人事ではありません。9月20日の件では、怪しい動きを見つけたら自動で訓練を止めるはずの仕組みが作動せず、止めるべきかどうかで現場が混乱しました。最終的に人の手で止めたのは、2時間半後です。仕組みがあっても、誰が止めるかが決まっていなければ、止まらないことがあるんです。

そして3つめは、今回の出来事がいちばんはっきり示したところです。

ここで、冒頭の自主回収の話に戻ってみましょう。

食品メーカーへの信頼を分けるのは、異物が一度も混入しないことではありません。混入がわかったとき「どれだけ早く、どの窓口で、誰に知らせたか」ということです。AIも同じで、想定外の動きをゼロにすることは、作っている会社にもまだできていません。だからこそ、気づいたあとの動き方を先に決めておく。今回の84日は、そのことを大きな規模で見せてくれました。

💡今回の件で、いま使っているChatGPTの会話機能が止まる、といった発表はありません（2026年9月28日時点）。気をつけたいのは、AIに外部のサイトやアカウントを操作させる使い方のほうです。

6. まとめ

  • 9月下旬、AI滅亡論は「これからの心配」から「すでに起きていたこと」に移った

  • OpenAIのAIエージェントが、オーストラリア政府のサイトの制限を回避し、非公開の集計統計に触れていた

  • 誰も攻撃を指示しておらず、患者の記録へのアクセスの証拠はない（OpenAIの説明）

  • 各国が問題にしたのは、侵入そのものより、通知までの84日と、その知らせ方

  • 同じ出来事でも、滅亡論の賛否は割れたまま

  • 職場でAIエージェントを使うなら、「触らせる範囲・止め方・報告のルール」を先に決めておく

7. FAQ

Q. 個人情報は漏れたのですか？
A. OpenAIは、個々の患者の記録にアクセスした証拠はないと説明しています。アクセスされたのは、非公開の集計済み統計と内部のファイル名だとされています。

Q. 誰かがAIに攻撃させたのですか？
A. 誰も攻撃を指示していません。OpenAIは、訓練中にモデルが意図しない動きをしたものだと説明しています。

Q. 「84日」とは何の日数ですか？
A. 2026年6月18日の侵入から、OpenAIがオーストラリアの政府機関にメールで通知した9月10日までの日数です。

Q. アメリカの政府サイトでも同じことが起きたのですか？
A. 中身は異なります。OpenAIによると、多くは公開情報の取得で、教育省のサイトへの試みは失敗しています。

Q. この件で、人類滅亡の危険が高まったということですか？
A. 専門家の見方は割れたままです。心配する側は「作り手が把握しきれていない証拠」と見て、OpenAIは大半が通常の作業だったと説明しています。どちらかに決めるより、何が確認されたのかを追うのが現実的です。

Q. 自分の会社でAIを使うのは、やめたほうがいいですか？
A. やめる必要はありません。AIに外部のサイトやアカウントを操作させる使い方をするなら、触らせる範囲と、止め方、報告のルールを先に決めておくことをおすすめします。

🛠️ 次のステップ：

あわせて読みたいコンテンツ

📖 【AIが人類を滅亡させる？】AI企業のトップたちの本音
今回の出来事の前段。9月に作り手たちが減速を言い出した一週間を整理した記事

📖 生成AIのセキュリティ
「情報漏洩、大丈夫？」と聞かれて答えられますか
入力した情報がどこへ行くのか、仕事で使う前に押さえておきたいところ

📖 AI失業
あなたの仕事がなくなる？データで見る「いま起きている本当のこと」
「AIに仕事を奪われるのか」を、データをたどって整理した記事

📖 【フィジカルAI｜前編】
ロボットが100mを8秒台で走る時代！いま何が起きているのか？
フィジカルAIをもっと知りたい人へ。5分で、その現在地がわかります。

📖 【3大AI比較】
ChatGPT｜Claude｜Gemini 結局どう違う？（入門編）
「どのツールを選ぶか」で迷っている段階の方はこちらから。やりたいこと別に、得意なAIが一発でわかります。

📖 【5分で完全解説】
Claude Coworkとは？Claude ChatやClaude Codeとの違い
"実際に作業までやってくれる"AIの話。Step2の「1週間で粗いものを渡す」を、ノンエンジニアが自力でやるための道具です。

📖 【５分で完了】
Claude Coworkの初期設定手順（初心者向け）
話題のClaude Coworkの初期設定を初心者無向けに丁寧に解説。5分で完了する具体的な導入手順を、画像付きで分かりやすく説明しています。

📬 【AIの無料相談】

自社チームにどうAIを組み込むべき？
無料ワークフロー診断・お問い合わせはこちら

「自社の動画制作フローや、クリエイターチームの業務にどうAIを組み込むべきか迷う…」という企業様向けに、個別ワークフローの無料診断・ご相談も承っています。お気軽に以下よりお問い合わせください。

📚 出典

報道・公式発表

研究

※AIツールの環境はめまぐるしく変化しています。本コンテンツの内容は2026年9月現在を起点とした実践と考察の記録です。仕様変更により情報の齟齬が生まれる可能性がある点はご了承ください。最新情報はコンテンツにて随時アップデートいたします。

※本記事は、当社の実践・研究と複数のAIクリエイターの検証結果や動向を参考に、ノンエンジニアのビジネスパーソン・クリエイター向けに構成したものです。

HAKONIWA Lab

HAKONIWA Labでは、日常で役立つAIの活用法、AIツールの開発、SNSマーケティング、インサイト分析の自由研究をノンエンジニアの視点で行っています。

「専門外の方でもわかる、使える、応用できる」をテーマに、実践と研究にもとづく情報を発信していきます。

HAKONIWA

HAKONIWAは、広告・採用・SNS・Web・展示会・営業で「成果につながる動画」を、戦略立案から企画・制作まで一貫して支援するクリエイティブスタジオです。

自社IP・SNS運営で培った「動画×AI×SNS」の知見を活かし、製品・サービス・技術・ブランド・企業の価値が伝わり広がるコミュニケーションを設計します。

・制作実績：1000本以上
・自社SNS：120万フォロワー

HAKONIWA LLC

Company info
〒166-0011
東京都杉並区梅里2-40-17-1106
HomeServiceStrengthHAKONIWA Lab
WorksVideoDesign
Service展示会アニメ
IllustTheme
Style
AboutConceptCompany
Origin
Contact

HAKONIWA LLC (C) 2026