距離構造の忠実性を、
公開コードで検証する。
予兆監視の実力は、再現可能な形で示せるか。
正解の形があらかじめ分かっている合成データ6種 (非一様密度・密なクラスタ・連続遷移・外れ値・不均衡集団・時系列酔歩)を使い、 8つの次元削減手法(PCA / Isomap / t-SNE / UMAP / PyMDE / PCC / DREAMS / toorPIA)に 完全に同一の生データを入力して、 高次元の距離構造——遠いものは2次元でも遠く、近いものは近くにあるか——をどれだけ忠実に2次元へ運べるかを、 共通指標(距離バンド制限 Shepard ρ)で定量評価しました。 結果は6種のデータセット中5種で toorPIA が総合1位。 コード・仮説・全手法の出力座標をすべて GitHub で公開しており、誰でもオフラインで再計算できます。
5/6
6種のデータセット中5種で総合1位
8手法
同一の生データで比較
9.7×
未知異常の分離距離(正常域半径比)
10/10
異常の発生源帰属
※ すべての図表・評価指標は、リポジトリに公開済みの出力座標から API キーなしで再現できます。 toorPIA の座標を新たに生成する場合のみ有効な API キーが必要です(他の7手法はローカルで再実行可能。キーがなくてもベンチマーク全体は最後まで動作します)。 本編5種は768次元・1000点、時系列酔歩は50次元・4000点です。
このベンチマークはtoorPIAの開発元自身が作成・維持しているものです。 だからこそ、結果が私たちの判断に依存しないよう、設計段階から透明性を最優先しました。
- 018手法すべてに完全に同一の生データを入力する、配置アルゴリズム同士の厳密な比較(toorPIA だけの前処理や正規化は一切なし)
- 02評価指標はどの手法からも独立に、全ペア距離の上で厳密に計算
- 03「近くの点どうし」を評価する範囲は、データ自身の距離分布から自動的に定義——人手の調整の余地なし
- 04仮説は結果を得る前に文書化し、リポジトリにコミット
- 05全手法の出力座標を公開 — すべての数値を第三者がオフラインで再計算可能
- 06信頼区間が重なる接戦では勝者を主張せず、全種目の結果を掲載(連続遷移データセットは総合3位タイ。下記 06 参照)
リポジトリは MIT ライセンスで公開され、Zenodo に長期アーカイブされています (DOI: 10.5281/zenodo.21189374)。
正常だけで地図を作り、
未知の異常を後から置く
異常を一切含まない正常データだけで基準マップを作成し、 そこへ未知の異常を1点ずつ追加プロット(addplot)する—— これは実験のための特殊な設定ではなく、予兆監視の運用そのものです。 異常は正常クラスタの特徴を共有しつつ、正常データが変動しない新しい次元方向へずれた点として合成されています。
▲ が追加投入された異常(色は発生源クラスタ)。PCA・Isomap・UMAP・DREAMS では異常が正常クラスタの中に埋もれるのに対し、 toorPIA では全異常が正常域のはっきり外側に、発生源クラスタの方向を指して配置されます。
t-SNE / PyMDE / PCC
本ベンチマークで用いた標準実装では、学習後のマップに新しい点を置く out-of-sample 変換の仕組みを持たず、 この監視操作を実行すること自体ができません。
PCA / Isomap / UMAP / DREAMS
異常を配置できても、正常域からの距離は中央値で半径の0.96〜1.34倍。 つまり異常が正常データの中に埋もれ、地図は警報を出しません。 発生源の方向が合っていても、異常がただの正常点として描かれるのでは監視になりません。
toorPIA
未知の異常を正常域の外に描けたのは、8手法中 toorPIA のみ。 異常は正常域半径の9.7倍(中央値。最小でも8.7倍)の位置に分離され、 その方向は発生源クラスタを指します(帰属 10/10=精度1.000、角度誤差は中央値で約0.9°)。 「異常が起きた」と「どこ由来か」に同時に答えられる唯一の手法でした。
追加点×基準点ペアの高次元距離(横軸)と2次元距離(縦軸)。toorPIA のみ両者が単調に対応し、 異常ペア(黒)が最も遠い側に分かれます。
監視の基準マップが、
作り直しても動かない
t-SNE や UMAP は乱数シードに依存する確率的手法で、同じデータでも実行のたびに配置が変わります。 toorPIA は完全に決定論的で、シードを変えても結果は同一—— 上の out-of-sample テストでも、異常の分離距離はシードによらず一致しました(run間のばらつきゼロ)。
確率的手法(t-SNE / UMAP など)
実行ごとに配置が変化
正常領域やしきい値の定義が再学習のたびにずれ、監視基準の再調整が必要になります。
toorPIA
シード間で結果が同一
基準マップ・正常領域・しきい値が固定でき、長期運用の監視システムとして扱えます。
外れ値の「距離」と「種類」を、
そのまま地図に残す
正常クラスタ群に3種類・計6個の外れ値(種類ごとに、ほぼ重複するペア)を混ぜたデータセットで、 外れ値を含むペアの距離がどれだけ正しく2次元へ運ばれるかを測りました。 toorPIA は同種の外れ値ペアを同じ方向(角度差10°以内)に保ち、 3種類の外れ値を空間的に別々の位置へ分離——「どれくらい異常か」と「どんな異常か」の両方を地図上に残します。 総合成績は8手法中1位でした(複数の評価指標の順位を点数化した合計「コンポジット」で13点。2位は PCA の9点。集計のしかたは下部の総合成績を参照)。
★ が正解の外れ値(色は異常の種類、a/b はほぼ重複するペア)。PCA・Isomap では外れ値がクラスタに埋もれ、 toorPIA では3種が別方向に分離しつつ a/b ペアが隣接します。
外れ値ペア限定 Shepard ρ(高いほど忠実)
外れ値を含むペアに限定した、高次元距離と2次元距離の順位相関(外れ値データセット、信号と雑音が同じ強さの SNR=1 条件)
クラスタIDで着色した全体像。toorPIA は5クラスタの相互配置を保ちつつ外れ値(青)を外側へ。
指標サマリー。外れ値ペアに限らない全点間で測った Shepard ρ(全ペア)でも toorPIA が 0.768 で最良——上の棒グラフの 0.649 は外れ値を含むペアに限定した値です。 各点のご近所関係の再現度を見る近傍保存系の指標では t-SNE・UMAP が高く出ます(下記「手法と限界」参照)。
外れ値の強さ(正常域からどれだけ離れているか)を段階的に変えたスイープ。 各手法の距離忠実度がどう推移するかを追跡しています(詳細は英語レポート参照)。
データの95%が正常でも、
5%の少数派を潰さない
実際の監視データでは、興味のある状態(異常・過渡状態・レアイベント)は圧倒的少数です。 しかもその少数派が存在すること自体、事前には誰も知りません。 多数派95% vs 少数派5%の不均衡データで検証したところ、toorPIA は少数派の内部構造を保ったまま 多数派から分離して描き、全ペアの距離忠実度(Shepard ρ = 0.821)でも最良でした (2位は PCC の 0.761。総合成績も toorPIA が1位)。 「少数派を見分けられる集団として正しい位置に置く」と「少数派の内部構造も保つ」を両立できたのは toorPIA だけです。
○ が多数派、△ が少数派。t-SNE は少数派の5クラスタを1点に融合し、UMAP は端の島に散らし、 PCA は正しい位置に置くものの内部構造のないのっぺりした塊にし、 DREAMS は内部構造は保った塊を根拠のない距離に放り出してしまいます。 toorPIA は多数派5クラスタの構造と、少数派の位置・内部の広がりの両方を残します。
少数派比率を50%→5%まで下げるスイープ
少数派の割合を段階的に下げ、各手法がどこで少数派の構造を潰し始めるかを追跡しました。
単一の指標だけでなく、ギャラリー(上図)での見た目の破綻も含めた複数の観点を併記するのは、 このベンチマークの設計方針です。
設備の状態は、
動き続ける「軌跡」でやってくる
実際のプラントデータは、きれいなグループには分かれてくれません。 運転状態は時間とともに少しずつ動き続ける——つまりクラスタを作らない「軌跡」のデータです。 そこで用意したのが、この検証です。 50次元の空間で、共通の出発点から8本の独立した酔歩(ランダムウォーク、各500ステップ・計4000点)を歩かせました。 高次元の酔歩は、紙の上の落書きのようには振る舞いません——それぞれの軌跡は出発点から一方的に離れ続け、 互いにほぼ直角の方向へ伸びていきます。つまり正解の形は、出発点から8方向へ伸びる一歩ごとにギザギザした「星型」です。 この軌跡の形を、8手法がどれだけ正しく2次元の地図に写せるかを測ります。
色の濃淡は時間の進み(暗い=古い、明るい=新しい)。toorPIA は8本が別方向へ伸びる星型の全体配置と、 一歩ごとの細かな揺らぎの両方を残します。
t-SNE / UMAP / DREAMS
軌跡を滑らかなリボンに変えてしまい、一歩ごとの揺らぎがほぼ完全に消えます(ギザギザ再現度 ≈0)。 t-SNE と UMAP は星型の全体配置も失い(系列間 0.353 / 0.407 で最下位)、 DREAMS は放射配置こそ保つものの軌跡が途中で千切れます。
PCC
3つの距離指標はいずれも2位(全ペア 0.877・系列間 0.860・系列内 0.950)ですが、 軌跡を均してしまい一歩ごとの揺らぎが半分以下に(ギザギザ再現度 0.436)。 さらに3個の点を軌跡から遠く離れた位置に孤立させます。
toorPIA
距離忠実度(Shepard ρ)は全ペア 0.893・系列間 0.871・系列内 0.966 と、 3指標すべてで8手法トップ。ギザギザの再現度も 0.709 を保ち、 「局所の揺らぎ」と「全体の配置」を同時に保てた唯一の手法でした。
「星型が正解」の根拠(すべて実データ上で測定)。50次元の酔歩は原点から一方的に離れ続け(左から2番目)、 連続する2歩の角度も、軌跡どうしの角度も90°付近に集中します(3番目)—— だから正解の形は、互いに直角の8本のギザギザのスポークなのです。
数字と地図で、
評価が分かれた種目
7つの密な状態が環状につながった「連続遷移」データセットでは、 toorPIA は全体の距離忠実度(全ペア Shepard ρ)こそ 0.729 で最良でしたが、 近くにあるべき点どうしの再現度(近距離帯 ρ 0.547)で PCC・t-SNE・DREAMS に及ばず、 総合3位タイ(1位 PCC・2位 t-SNE、DREAMS と同点3位)でした。
7つの状態(色)と、それらをつなぐ環状の遷移が正解の形。 Isomap は輪は綺麗ですが状態がにじみ、PCA は輪は保つものの状態が重なり、 t-SNE・UMAP は状態は出ますが橋が千切れ、DREAMS は状態と並び順は出ますが橋が切れて輪が開き、 PCC は放射状に潰れて全状態が隣接してしまいます。
一方で、地図としての読み取りやすさは図の通りです—— 7つの状態と環状のつながりを同時に描けたのは toorPIA のみでした。 これは定量的にも確かめられます。状態を分離して描けた4手法(toorPIA・t-SNE・UMAP・DREAMS)のうち、 隣り合う状態をつなぐ7本の橋をすべて繋いだまま保てたのは toorPIA だけ (橋の最大の空隙は状態間距離の14%。t-SNE は7本中4本を切断〔最大49%〕、UMAP も4本〔最大85%〕、DREAMS は3本〔最大58%〕)。 指標と地図の両面からご判断いただけるよう、図もあわせて掲載しています。
センサーを増やすほど、
無関係なチャンネルも増えていく
実際の現場では、どの変数が異常の兆候を含むか、事前には誰にもわかりません。 センサーを増やすほど、異常とは無関係な計測チャンネルも一緒に増えていきます。 そこで本編の6データセットとは別の補足検証として、意味のある信号がたった3列だけに入っていて、 残りの列はすべて無関係なノイズ——というデータを作り、全体の列数(次元)を増やしながら 「3つの状態の違いを2次元マップでまだ見分けられるか」を試しました。 判定はシンプルです。マップ上の近くの点の多数決で、各点の状態を当てられるか (kNN 正答率)。あてずっぽうなら 1/3 です。 検証は二段構えで行いました。
第一段:他手法と完全に同一の条件(配置アルゴリズム単体)
まず、8手法すべてに同じ生データを入力する条件です。 この条件でも toorPIA は全手法中トップでした——80次元で 0.985、 200次元で 0.920(他手法の最高は DREAMS の 0.589)。 200次元では、次元削減をせず生データのまま近傍多数決した場合(0.75)をも上回ります—— 2次元に描いた地図のほうが、生データそのものより状態を読み取りやすいということです。 一方で、限界もあります。300次元で 0.767、400次元で 0.462 と、 300〜500次元のあいだで信号を失います(768次元では 0.356 とあてずっぽう並み)。
toorPIA 以外の7手法
200次元で最高 0.589
40〜300次元のあいだで次々とあてずっぽう(1/3)のレベルへ低下していきます。
toorPIA(同一条件)
200次元で 0.920 — 全手法中トップ
生データのままの近傍多数決(0.75)をも上回ります。 ただし 300〜500次元で信号を失います——これが配置アルゴリズム単体の限界です。
第二段:toorPIA標準のCSV分析パイプライン
次に、お客様に製品として提供している標準の分析パイプライン(表形式データの標準処理)で同じ検証を行いました。 結果は大きく変わります——200次元で 1.000、768次元で 0.991、2000次元でも 0.953。 そして6000次元——5997列が純ノイズという極限——でも 0.821 を保ちます。 さらに、生データのまま近傍多数決した場合と比べた実力(あてずっぽう分を補正した比)は 768次元で約2.9倍、2000次元で約5.8倍、6000次元で約7.2倍—— 2次元の地図のほうが、生データの距離そのものより状態を正しく見分けられる、という結果です。
左:横軸は全体の次元数 D(対数)、縦軸は2次元マップでの kNN 正答率(破線=あてずっぽうの 1/3、点線=生データのままの近傍多数決)。 右:生データに対する実力比。同一条件の比較(第一段、灰色の実線)でも toorPIA は他手法を上回りますが、300〜500次元で低下。 標準パイプライン(第二段、黒の実線)は6000次元でも状態を見分け続けます。
標準パイプライン
2000次元で 0.953、6000次元でも 0.821
信号3列に対してノイズ765列という768次元でも 0.991 とほぼ完全。 5997列が純ノイズの6000次元でも、3つの状態を見分け続けます。
生データとの比較
実力比 約2.9〜7.2倍
あてずっぽう分を補正したうえで、生データのままの近傍多数決に対して768次元で約2.9倍、2000次元で約5.8倍、6000次元で約7.2倍。 2次元の地図が、生データの距離より状態を良く保持します。
この頑健さは、ノイズ除去の前処理を別途挟んでいるからでも、どの列に信号があるかをあらかじめ教えているからでもありません。 入力は第一段と同じデータで、このデータセット向けの調整もない標準設定のままの結果です。 方式そのものがノイズ次元に強いのです(実現方法は非公開です)。
代表的な次元数での各手法の2次元マップ(色は3つの正解状態)。次元が増えるにつれ、 他の手法ではクラスタが溶けて混ざっていきます。最下段が標準パイプラインで、右端は6000次元の地図です。
なぜこの極限でも信号を見失わないのか——距離集中現象と、近傍グラフに頼らない設計の解説は 技術ページをご覧ください。
※ 実験設計の補足: 本編のデータセットは信号が全列に分散する(冗長性の高い)設計のため、設計上、次元の呪いは働きません。 この補足検証はその逆の極限——信号3列+純ノイズ列のみ——を試すもので、信号と雑音の比(実効SNR)は 3/(D−3)、768次元で約 0.004、6000次元では約 0.0005 まで下がります。 第一段は全手法に同一の生ベクトルを入力する前処理なしの条件、第二段は標準のCSV分析パイプラインです(対応するレポート内の実験名はそれぞれ basemap_embedding / basemap_csvform)。 2000次元・6000次元の値は、5通りの独立なノイズ生成×3シードで集計しています(実現間のばらつきは 2000次元で 0.94〜0.96、6000次元で 0.80〜0.84)。 結果は設定依存です——本編データセットでの順位がこの疎信号の設定へそのまま移るわけではなく、逆も同様です。 実験条件と全数値は英語レポートを参照してください。
6種のデータセット、総合成績
本編5種のデータセットの総合成績は、複数の評価指標それぞれで1〜5位に5〜1点を与えた合計点(コンポジット)で決まり、 toorPIA は本編5種のうち4種で総合1位でした。 時系列酔歩にはコンポジットの集計がないため、距離忠実度の3指標すべてで8手法トップだったことをもって1位と数え、 あわせて6種中5種で1位としています。
なにを測り、なにを測っていないか
本ベンチマークは、正解の形が既知の合成データセット6種 (非一様密度・密なクラスタ・連続遷移・外れ値・不均衡集団・時系列酔歩)——加えてノイズ次元を増やしていく補足検証(上記 07)——の上で、 高次元の距離構造が2次元へどれだけ忠実に運ばれるかを測るものです。 中核指標の距離バンド制限 Shepard ρ は、距離の帯ごとに高次元距離と2次元距離の順位相関を取るもので、 どの手法にも依存せず全ペア距離から直接計算されます。 近距離の評価帯は、データ自身の距離分布(第一ピーク)から自動的に定義され、人手で調整する余地はありません。
一方で、近傍集合の再現率(recall@k)のようなk近傍保存の指標では t-SNE や UMAP が上位に来ます。 また、ごく近距離に限った忠実度では、2026年発表の最新手法 DREAMS(t-SNE の配置を PCA の大域配置へ引き寄せる手法)が本編5種すべてで最良でした。 これは各手法が最適化している対象の違いであり、本ベンチマークも 「単一の数値で全体像は語れない」ことを前提に複数指標を併記しています。 局所的な近傍関係の再現が目的なら近傍法が適し、 距離・方向・少数構造を保った監視用の地図が目的なら toorPIA が適する——という整理です。
※ 結果はすべて合成データ上のものです。実データへの適用性は個々の案件で検証が必要です。 本リポジトリは toorPIA の開発元が維持しており、その前提で透明性策(仮説の事前文書化、 全手法の出力座標の公開、接戦で勝者を主張しない等)を講じています。 全手法は既定パラメータで実行し、パラメータを変えた場合の感度分析も公開しています(どの設定でも各データセットの総合首位は入れ替わりません)。 実験条件・指標定義・全数値は GitHub 上の README と REPORT(英語)を参照してください。
結果は、手元で再計算できます。
コード・データ生成スクリプト・全手法の出力座標を MIT ライセンスで公開しています。 予兆監視への適用のご相談は、お問い合わせからお気軽にどうぞ。
※ 再計算に API キーは不要です。公開済みの出力座標からすべての図表・指標を再現できます。 toorPIA の座標を新規に生成する場合のみ API キーが必要です — ご希望の方はお問い合わせください。 学術利用の際は DOI(10.5281/zenodo.21189374)で引用できます。