AIによる安全監視を導入すると、警報が出た場面に目が向きます。しかし、安全担当者が決めておきたいのは、警報が出ていない時間の扱いです。警報が鳴らない理由には、対象の事象が起きていない場合だけでなく、必要な情報が得られていない場合や、監視自体が止まっている場合もあります。
結論として、警報がないことだけを作業継続の根拠にはできません。何を、どの範囲で確認できているのかを把握し、確認できない場合の対応を先に決めることが大切です。本稿では、画像AIを使った現場の安全監視を例に、その運用方法を整理します。
1 警報の有無と現場の安全は別に確認する
AIの検知結果は、あらかじめ決めた対象と条件についての判断です。カメラに映る物体を検知する仕組みであれば、画角外の状況まで確認した結果ではありません。対象が映っていても、遮蔽、照明、撮影距離や見え方によって、検知できないことがあります。
例えばフックの姿が映っていることと、取付先の強度や接続方法まで適切であることは、同じ確認ではありません。何を観測して何を判定しているのか、その判定が現場のどの確認を補助するのかを区別します。
NISTのAIリスクマネジメント枠組みは、使用条件に即した評価、見逃しや誤検知、人による介入を扱っています。これを現場運用に当てはめると、警報が出なかった時間にも、監視条件が成立していたかを確認する必要があります。
2 撮影と解析の状態を三つに分けて考える
以下は、撮影と解析の状態を把握し、運用を設計するための整理案です。規格上の正式な分類や、AIMOS-Safetyに実装済みの画面表示を示すものではありません。
対象事象の検知なし
撮影・解析が動き、事前に確認した監視条件の範囲内で、警報対象の事象が検知されていない状態です。ただし、見逃しの可能性や監視対象外の危険は残ります。通常の点検や安全確認を省略する理由にはなりません。
判断に必要な情報が不足
資材がカメラを遮る、作業者が画角外へ移動する、逆光で対象が見分けにくいなど、判断の前提が崩れた状態です。システム自身が情報不足を検知して知らせるとは限りません。人による確認や機器の状態確認を含め、気づく方法を用意します。
撮影または解析が停止
端末の電源切れ、アプリの停止などにより、想定した監視を頼れない状態です。警報件数がゼロでも、正常に監視していた結果とは扱えません。事前に決めた停止・代替確認・復旧確認の手順へ移ります。
これらとは別に、解析では対象を検知していても、通知機器の不具合や音量設定などによって警報が作業者に届かない場合があります。検知の動作だけでなく、通知の経路と実際の作業環境で気づけるかも確認します。
なお、外部通信の不通と端末内の解析停止も別です。端末内でAI処理を行う構成では、通信が不安定でも解析を継続できる場合があります。一方、クラウドへの記録や遠隔通知は別途確認が必要です。撮影、解析、現場通知、外部連携を一括して「動作中」と判断しないようにしましょう。
3 誰が何を確認するかを始業前に決める
まず、対象作業と監視範囲を明確にします。どの作業者、設備、区域、行動を対象にするのか。対象がどこへ移動すると確認できなくなるのか。カメラ位置や作業工程が変わったとき、誰が再確認するのかを決めます。
次に、現場のリスク評価に基づき、次の項目を手順に落とし込みます。
- 始業時や条件変更時に、撮影範囲と解析・通知の動作を確認する担当者
- 情報不足や機器停止を発見したときの連絡先と、判断を引き継ぐ相手
- 作業を停止する条件、承認された代替確認へ切り替えられる条件
- 復旧後に確認する項目と、作業再開を判断する責任者
代替確認を置けば、必ず作業を続けられるわけではありません。必要な安全措置を維持できない場合は作業を止めることを含め、現場の責任者が判断できる手順にします。全国一律の確認間隔や「何秒以内なら安全」といった値を、この整理だけから設定することもできません。
NIST AI RMFは、運用中の監視、責任の明確化、機能を外れた際の対応や復旧を扱っています。これは任意利用の枠組みであり、日本の法令や現場固有の安全基準を置き換えるものではありません。
4 現場が変わったら監視条件も見直す
例えば、始業時には見えていた通路に、午後の資材搬入で死角ができたとします。警報が増えていなくても、監視範囲が狭まった可能性があります。この場合は、警報履歴だけで判断せず、現場の状況とカメラ映像を確認し、設置や運用を見直します。これは説明用の仮想例であり、導入事例ではありません。
産総研の機械学習品質マネジメントガイドラインは、運用環境の変化による品質への影響と、運用中の継続的な監視を扱っています。現場でも、設備配置、照明、作業服、作業姿勢、カメラ位置などが変われば、導入時に確認した条件が保たれているかを見直すことが重要です。
出典：産総研 機械学習品質マネジメントガイドライン 第4版 4.2.0 第9.13節
記録には、警報件数だけでなく、確認できなかった時間、理由、実施した対応、復旧確認を残すことを勧めます。例えば、作業時間が短くなった日と、カメラが遮られた日では、警報が減った意味が異なります。件数の増減を、安全性の改善や悪化に直結させないことが大切です。これらを製品で記録できるか、別の運用記録で補うかは導入前に確認してください。
5 AI監視を基本的な安全措置の代わりにしない
厚生労働省のリスクアセスメントの説明では、法令で定められた事項を実施し、危険な作業の廃止・変更などの本質的対策、工学的対策、管理的対策、個人用保護具の順にリスク低減措置を検討します。
AIで気づきを支援する場合も、危険源を取り除く、危険な場所へ立ち入らせない、必要な防護を設けるといった対策の検討を省略してはいけません。本稿で扱う監視・注意喚起は、それらの対策を補助する運用です。機械を安全に停止させるための安全機能として使用できるかどうかは、別途その用途に必要な仕様と評価の確認が必要です。
まとめ
AI安全監視では、警報が出たときの対応とともに、警報が出ない時間に何を確認するかを決めておきます。対象事象の検知なし、情報不足、撮影・解析停止を区別し、確認できない場合の担当者と対応を明確にすることが、現場で使い続けるための土台になります。
人とAIの役割分担については、人の目とAIで支える、これからの安全巡視もあわせてご覧ください。撮影環境や通信などの基本条件は、よくある質問で確認できます。
AIMOS-Safetyの導入をご検討の際は、監視したい作業に加え、撮影条件、通知先、監視できない場合の対応もご相談ください。検知・通知は安全確認を支援するものであり、事故防止や現場の安全を保証するものではありません。
