シスコ最新調査、1/4以上の組織がデータセキュリティ等を懸念し生成系AI使用制限と判明

シスコの最新調査、4分の1以上の組織がプライバシーやデータセキュリティ上のリスク
の問題から生成系AIの使用を制限していると判明

概要

シスコの 2024 年データプライバシーベンチマーク調査によると、大多数の組織がデータのプライバシーやセキュリティ上の問題から、生成系 AI の使用を制限していることが判明しました。また27%の組織が少なくとも一時的に使用を禁止しています。
組織の42％が公開されていない企業情報を生成系 AI ツールに入力したことがあると認めています。
91%の組織が、AI において顧客データが意図された合法的な目的に使用されていると顧客に安心させるための施策を強化すべきと認識しています。
組織の98% が、外部プライバシー認証が購買判断の重要な要素だと回答し、この数値は過去最高です。

シスコは、主要なプライバシー関連の問題とその事業への影響に関する年次調査である 2024 年データプライバシーベンチマーク調査（2024 Data Privacy Benchmark Study）の結果を公表しました。国際データプライバシーデーに先立ち公開されたこの調査報告では、生成系 AI によるプライバシー上の懸念の拡大、AI を活用していく上で組織が直面する信頼性の課題、プライバシー投資から得られる魅力的なリターンに焦点を当てています。12 の国・地域の 2,600 人のプライバシーおよびセキュリティ担当者からの回答を元にまとめられた、7 回目となるこのベンチマーク調査では、プライバシーが規制コンプライアンス事案に留まらないことが示されています。

生成系 AI によるプライバシー懸念の拡大
シスコのチーフリーガルオフィサー、デヴ・シュタールコフ（Dev Stahlkopf）は次のように述べています。「組織は、生成系 AI がこれまでとは根本から異なるテクノロジーであり、新たに検討課題が存在すると考えています。90% 以上が、AI についてはデータやリスクを管理するための新たな手法が必要と回答しています。そのためには慎重なガバナンスが重要になり、顧客の信頼を維持できるかが左右されます。」

組織が懸念のトップとして挙げたのは、組織の法的権利や知的財産権に対する脅威（69%）、一般社会や競合他社への情報開示のリスク（68%）でした。

ほとんどの組織がこのようなリスクを認識しており、その管理体制を整えています。63%が、入力できるデータに制限を設けており、61%が、社員が使用できる生成系AIツールを制限しています。また、27%が、生成系AIのアプリケーションを当面全面的に禁止していると回答し、漏洩を抑制するための措置を講じています。一方で、個人の多くが社員情報（45%）、非公開の企業情報（48%）など問題となりうる情報を入力したことがあると回答しています。

AI や透明性に関する取り組みは進んでいない
現在、消費者は自分のデータが AI で活用されることについて不安を抱いている一方で、組織の 91% は、AI において顧客データが意図された合法的な目的のみに使用されていると顧客が安心できるよう、さらに施策を講じる必要があると認識しています。これは昨年の水準と同等であり、大きな進捗がなかったことが示されています。

顧客の信頼構築に向け注力すべき事項については組織と個人で見解が分かれています。消費者が最優先事項として挙げたのは、自分のデータが具体的にどのように使われているかがわかる明確な情報を得ること、そして自分のデータがマーケティング目的で販売されないことでした。同じ質問に対し、企業が最優先事項として挙げたのは、プライバシー法の遵守（25%）とデータ漏洩対策（23%）でした。このことから、アルゴリズムによる判断がどのように行なわれているかが見えにくい AI アプリケーションの場合は特に、透明性に対するさらなる配慮が有効であることが示唆されます。

プライバシーと信頼：外部認証や法律の役割
組織は、顧客データの活用について顧客が安心できる施策が必要であると認識しています。

シスコのバイスプレジデント兼チーフプライバシーオフィサーのハービー・ジャング（Harvey Jang）は次のように述べています。「回答者の 94% が、データを適切に保護しなければ自社製品が購入されなくなるとしています。回答者の98% が、外部プライバシー認証が購買判断の重要な要素であると回答するなど、信頼が得られることを示す確かな証拠を求めています。この数値はシスコが長年にわたり実施してきたプライバシー調査の中で最も高く、プライバシーが顧客の信頼やロイヤルティと切っても切り離せないものになっていることが改めて証明されました。これは AI の時代には一層当てはまり、プライバシー投資により組織は倫理的で責任のある AI 活用の体制をさらに整えることができます。」

プライバシー法は組織にとってコストや要件の負担となる場合があるにも関わらず、回答者の 80% はプライバシー法が自社のビジネスにプラスの影響をもたらしていると回答しており、マイナスの影響をもたらしているとした組織はわずか 6% にとどまりました。厳格なプライバシー規制があると、消費者が組織にデータを共有する際の信頼感が向上します。

また、多くの政府や組織が、特定のデータを国内や地域内に保持することを規定したデータローカライゼーション要件を整備しています。ほとんどの企業（91%）が、自社のデータが国内や地域内に保管されている方が本来安全であるとしており、86% は、大規模に事業を展開するグローバルプロバイダーはローカルプロバイダーよりデータ保護能力が高いと回答しています。

プライバシー：価値ある投資
この 5 年でプライバシー関連の支出は 2 倍以上となり、メリットは拡大傾向にあり、引き続き強力なリターンが得られています。今回の調査では、95% がプライバシー上のメリットがコストを上回るとし、平均的な組織の投資額に対するプライバシーのメリットは平均で 1.6 倍となっています。さらに、80％がプライバシー投資から得られる大きなメリットとして「ロイヤルティや信頼」を挙げ、最もプライバシー成熟度の高い組織では92％と、さらに高くなっています。

大企業（社員 1 万人以上）においては 2023 年のプライバシー関連支出が前年比 7〜8% 増となっています。一方、小企業では投資額が抑えられ、例えば社員数 50〜249 人の企業はプライバシー投資を平均で 4 分の 1 削減しています。