日本でもDX（デジタルトランスフォーメーション）推進に取り組む企業が増えつつあります。中でも、進化や変化が激しいAI（人工知能）活用において、知っておきたい技術トレンドの一つが「AI TRiSM」です。

AI TRiSMは「エーアイトリズム」と読み、AIの信頼性やリスク、セキュリティマネジメントなどに関連する取り組みを指す用語です。本記事ではAI TRiSMの基本的な知識について説明します。

AI TRiSMとは「AI Trust, Risk and Security Management」の頭文字をとった略称で、AIの活用において信頼性やリスク、セキュリティマネジメントなどを向上させる取り組みを指します。もともとはアメリカのITアドバイザリー企業であるGartner（ガートナー）によって発表された造語で、2023年に戦略的テクノロジーのトレンドとして取り上げられました。

なぜ今、AI TRiSMが注目されているのでしょうか。その理由の一つには「AIの利活用が進んだことで、リスク管理の必要性が高まった」ことが挙げられます。

新型コロナウイルスの流行により、Web会議やリモートワークなどデジタル技術を取り入れる動きが加速しました。また、ChatGPTに代表されるようなAIが登場し、業務での利用が進みました。その結果、多くの企業では、AIなどのデジタル技術の活用におけるセキュリティリスクの管理が大きな課題となりました。

サイバー攻撃への対策は行われていても、AI活用におけるリスクにまで対策を実施している企業はあまり多くありません。これからあらゆる企業が効果的かつ安全にAIを活用していくために、セキュリティやプライバシー、倫理などの課題に対して、正しく認識しルール化することが重要だという見方が高まってきているのです。

AIは驚くべきスピードで進化しており、その可能性に気づいた人たちを中心に、企業だけでなく個人ユーザーにも急速に利用が拡大しています。その反面、AI利用に伴うリスクの増大が懸念されています。AI TRiSMの取り組みにおいて、どのような運用や管理が求められるのでしょうか。ここでは、AI活用時に考慮・検討するべき項目を確認していきましょう。

AIの進化により、これまで人の手で行っていた多くの作業が機械やロボットに代行されるようになります。業務効率化や人件費削減などのメリットがあるため、製造の自動化など幅広いシーンで活用されていくでしょう。

活用シーンが増えるということは、不具合が発生した場合、その影響が広範囲に及ぶ可能性があることを意味します。一部の個人や企業において不便が生じるというだけでなく、社会全体が混乱してしまうリスクがあるということを認識しておく必要があります。

AIは膨大なデータを収集・解析し、判断・出力を行います。収集の工程で考えなければいけないのは、その情報収集は、提供者の承諾を得た上で行われているかということです。また、解析の工程においても、意図した用途以外で悪用されたり、漏えいしたりする可能性があります。

さらに、収集データから推定したプロファイリングの正確性は保証できません。万が一、個人や企業に対して間違った評価がなされると偽物のデータが流出する危険性があります。これらは甚大なプライバシー侵害に繋がる可能性がるため、十分な注意が必要です。

AIは多くのデータを保有しているため、それを守るための強固なセキュリティ対策が求められます。不正アクセスなどの外部攻撃を受けた場合、重要なデータの紛失や盗用などのリスクがあります。また、AIの出力したデータが改ざんされる危険性も考慮しなければなりません。セキュリティ管理を徹底し、安全にデータ利用が行われているかを常に確認する必要があります。

AI TRiSMは次の4つの柱から構成されています。

説明可能性は、AIの判断プロセスやロジックを人間が理解できるようにすることを意味します。判断に至ったプロセスを可視化することで、AIの行った判断の信頼性を高めます。

ModelOpsは「Model Operationalization」の略で、「（AI）モデルの運用最適化」を意味します。AIモデルの開発から運用、更新に至るまでのライフサイクル全体を最適化することで、効率的で信頼性の高い運用を実施することができます。

AIセキュリティは、AIモデル自体やそのAIモデルが扱うデータが外部からの攻撃に対して堅牢であることを指します。AIモデルやデータは、企業の機密情報を含むことも多いので、それらが格納・運用されているサーバーやデータベースなどは、外部からの攻撃に対して高い耐性を持つ必要があります。

大量のデータを扱うAIではプライバシー保護は不可欠です。外部からの不正なアクセスやデータの盗聴から保護することだけでなく、内部からの不正なデータ持ち出しや破損に対応することも重要です。

AI TRiSMを導入するには、技術的な問題解決だけでなく、組織全体での取り組みが必要です。以下では、AI TRiSMを効果的に導入するための5つのポイントについて解説します。

AI TRiSMを推進するためには、専門の部門や組織を設置することが重要です。技術的な問題解決だけでは不十分と説明しましたが、当然、セキュリティやデータサイエンスなどITに関する専門的な知識・スキルを持ったメンバーは必須です。ITだけでなく、法務やコンプライアンスなどに精通したメンバーも必要です。加えて、AI TRiSMの取り組みを組織全体で進めるための管理や調整を行うためのマネジメントができる人材も重要です。

AI導入の目的や利用シーンに合わせて、どのようなリスクが考えられるかを詳細に洗い出すステップも欠かせません。例えば、顧客情報を取り扱うシステムであれば、個人情報の漏えいリスクを警戒する必要があるため、それに関連する対策を十分に計画・実施することが求められます。

AIの思考プロセスや判断の根拠を明確に説明できるようにすることも重要です。AIモデルの回答が論理面でも倫理面でも信頼に足ることを保証できなければ、安全で正しいAI活用は実現できません。

AIの機能やパフォーマンスは、トレーニングデータによって大きく左右されます。したがって、データの品質を確保するためのクレンジングや前処理、そして定期的なデータの更新や再訓練は、AIの精度を維持・向上させるために欠かせません。また、データの不正な持ち出しや改ざんを防ぐために、暗号化やアクセス制御などを実施し、データセキュリティを強化することも必要です。

AIモデルには、常に監視とメンテナンスが必要です。運用中のAIモデルのパフォーマンスをリアルタイムで監視することで、問題を早期に発見し、修正を可能にします。特にデータを更新する際は、その変更がAIモデルの出力に与える影響を把握し、必要に応じて再訓練や調整を行わなければなりません。エラーや異常の自動検知ができれば、迅速かつ効率的にトラブルへ対処することができます。