何が起きたか
この事故で流出した、または流出したおそれがある情報は、一部の内部データセットと、複数のサービスの認証情報。提携先や顧客のデータへの影響は調査中。公開のモデル・データセット・Spacesの改ざんは見つかっていないです。その後の対応と影響は、コード実行の経路を閉じ、侵害されたノードを作り直し、認証情報を失効・再発行した。外部のフォレンジック専門家に依頼し、捜査機関に届け出た。利用者にはアクセストークンの再発行とアカウントの操作履歴の確認を呼びかけたです。
原因になったのは「悪意あるデータセットを使ったコード実行と自律型AIエージェントによる横展開」です。生成AIで作ったもの、または生成AIの使い方が事故に関わっています。
- 中心 直接の原因確定
悪意あるデータセットが、データセット処理にある2つのコード実行の経路（遠隔コードを読み込むローダーと設定ファイルのテンプレート注入）を使い、処理用のサーバーでコードを実行した。
- 1つ外側 流出した情報確定
一部の内部データセットと、複数のサービスの認証情報。提携先や顧客のデータへの影響は調査中。公開のモデル・データセット・Spacesの改ざんは見つかっていない。
- いちばん外側 その後の対応と影響確定
コード実行の経路を閉じ、侵害されたノードを作り直し、認証情報を失効・再発行した。外部のフォレンジック専門家に依頼し、捜査機関に届け出た。利用者にはアクセストークンの再発行とアカウントの操作履歴の確認を呼びかけた。
なぜ起きたか
会社の説明では、攻撃者は処理用サーバーでノードの権限を取り、クラウドとクラスタの認証情報を集めて、週末の間に複数の内部クラスタへ移った。自律型エージェントの仕組みが短時間だけ使う実行環境で数千の操作を行い、記録された操作は1万7000件を超えた。どのAIモデルが使われたかは分かっていない。
原因の種類は「不正アクセス」です。第三者がシステムに入り、情報を見たり持ち出したりした事故を指します。このサイトに掲載している事故のうち、同じ種類の原因で起きた事故は131件あります。
事故が起きてから公表されるまで
- 悪意あるデータセットが処理用サーバーでコードを実行する
- 攻撃者がノードの権限を取り、認証情報を集める
- 週末の間に複数の内部クラスタへ移る
- 異常検知とAIによる一次判定で侵入に気づき、対応する
- 2026年7月16日会社が侵入を公表する
どうすれば防げたか
上の流れでは、最初から公表まで、途中で異常に気づいて止める仕組みが働いていません。
止められた可能性がある所（当社の見立て）外部から投稿されたデータを処理する仕組みで、任意のコードを実行する機能を止め、処理用サーバーの権限を最小限にしていれば、侵入後に認証情報を集められる範囲を狭められた可能性がある。
この見立ては、公表された原因から当社が考えたものです。当事者の調査の結果とは異なる場合があります。
自社で確認する3つの手順
上から順に、短い時間で確認できるものを並べています。
- 利用者が投稿したファイルを自動で処理する仕組みを一覧にし、コードやテンプレートを実行する機能が無いかを確認する
- 処理用サーバーが持つクラウドやクラスタの認証情報と、その権限の範囲を確認する
- 深刻な警告が出た時に、夜間や週末も担当者に連絡が届くかを確認する
自社に同じ原因があるか
当てはまるものを選んでください。1つでも当てはまれば、この事故と同じ原因が自社にもある可能性があります。
出典と更新の履歴
- Security incident（Hugging Face）2026.07.16
- Hugging Face breach: autonomous AI agent system accessed internal datasets, credentials（BleepingComputer）2026.07.20
