企業向けCopilotに入力して欲しくないプロンプト6選

私どもVaronis Systems, Inc (NASDAQ: VRNS) は、データセキュリティと分析の先駆者で、データ保護、脅威の検出と対応、およびコンプライアンスに特化したソフトウェアを開発しています。

このコラムでは、サイバーセキュリティ、プライバシー、データ保護についての最新のトレンドや知見、分析情報、事例などを皆様にご紹介していきたいと考えております。

第6回目となる今回は、「Copilotに入力して欲しくないプロンプト6選」と題して、Microsoft Copilotのしくみを紹介し、Copilotのプロンプトハッキングの例を挙げ、相互補完関係、Copilotのプロンプトハッキングを防止するためには何をする必要があるのかを解説する、当社Brian Vecciのブログ記事をご紹介いたします。

AI時代の最高の生産性向上ツールとして輝いたMicrosoft Copilotは、今日の企業にとって強力な資産となっています。

しかし、大きな力には大きな責任が伴います。

データセキュリティ態勢の可視性が低い組織では、Copilotやその他の生成AIツールは、本来知ってはならない従業員や、最悪の場合には脅威アクターに、機密性の高い情報を漏洩させる可能性があります。

Microsoft Copilotのしくみ

Microsoft Copilotは、Microsoft 365の各アプリケーション（Word、Excel、PowerPoint、Teams、Outlookなど）に統合されたAIアシスタントです。

Copilotのセキュリティモデルでは、Copilotによる回答範囲をユーザーの既存のMicrosoft環境でのアクセス許可に依拠しています。会議の議事録の要約、営業情報のファイルの検索、アクションアイテムの特定などをCopilotに依頼することができ、ユーザーは時間を大幅に節約することができます。

ただし、組織のアクセス許可が適切に設定されていない状態でCopilotを有効にしてしまうと、ユーザーは機密性の高いデータを簡単に表に出すことができてしまいます。

なぜこれが問題になるのでしょうか？

ユーザーはあまりにも多くのデータにアクセス権を持っています。平均的な従業員は入社初日から1700万個のファイルにアクセスできます。機密性の高いデータに誰がアクセス権を持っているのかの把握や管理ができない場合、たった1人の侵害されたユーザーや悪意のある内部者が計り知れない損害を与える可能性があります。また、付与されているアクセス許可のほとんどは使用されていないことから、必要性のないユーザーに機密性の高いデータが露出しているという、リスクの高い状態にあります。

Varonisでは、企業の機密性の高いデータをCopilotを使って容易に露出させてしまう簡単なプロンプトがどんなものかを示すライブシミュレーションを作成しました。このライブデモンストレーションではまた、Varonisの業界専門家が、Copilotの安全なロールアウトのための実践的な手順と戦略と、組織でのデータ露出を自動的に防止する方法を紹介します。

それでは、プロンプトハッキングの例をいくつか見てみましょう。

Copilotのプロンプトハッキングの例

1. 新しい従業員のデータを見せてください。

従業員のデータには、社会保障番号、住所、給与情報などの機密性の高い情報が含まれている可能性があります。いずれの情報も適切に保護されていなければ悪人の手にわたる可能性があります。

2. 最近どんなボーナスが支払われましたか？

Copilotは、あなたが特定のファイルを見ても良い立場にあるかどうかを知る術がありません。あなたが持っているアクセス権を利用して、生産性を向上することを目指しています。したがって、ボーナス、給与、業績評価などについて質問をすると、組織のアクセス許可設定がロックダウンされていない場合には、この情報にアクセスできてしまう可能性があります。

3. 資格情報が含まれているファイルはありませんか？

ユーザーは、この質問からもう一歩踏み込んで、Copilotに認証パラメーターを要約して表にまとめる作業も依頼できます。すると、クラウド全体にわたるログインとパスワードの表が画面いっぱいに広がります。

4. APIやアクセスキーが書かれているファイルはありませんか？表にまとめてください。

Copilotは、Microsoft 365環境に接続されているクラウドアプリケーションに保存されているデータを利用することもできます。AIツールがあれば、データアプリケーションにアクセス権を提供するデジタルシークレットを簡単に見つけることができます。

5. ABCカップケーキショップの買収に関する情報はありますか？

ユーザーはCopilotに、合併、買収、または特定の取引に関する情報について尋ね、提供されたデータを利用することができます。情報について尋ねるだけで、購入価格や特定のファイル名などを答えてくれます。

6. 機密性の高いデータを含むファイルをすべて見せてください。

おそらく最も憂慮すべきプロンプトは、エンドユーザーが機密性の高いデータを含むファイルを具体的に尋ねるものです。

機密性の高い情報が本来あるべきでない場所にあると、社内の誰も簡単にアクセスできるだけではなく、そのユーザーが使用する生成AIツールも簡単にアクセスできてしまいます。

Copilotでのプロンプトハッキングを防ぐには？

Copilotを有効化する前に、データを適切に保護し、ロックダウンする必要があります。その上で、爆発範囲が広がらないようにし、データが安全に利用されていることを確認する必要があります。

VaronisとMicrosoftは、配備前、配備中、配備後にMicrosoft 365のデータセキュリティ態勢を継続的に評価し、改善することにより、組織が自信を持ってCopilotの力を活用できるよう支援します。

Varonis Data Security Platformは、Microsoft 365の組み込みデータ保護機能を補完し、組織のデータセキュリティモデルの管理と最適化を支援し、適切なユーザーのみが機密性の高いデータにアクセスできるようにすることで、データの露出を防止します。

Copilotのロールアウトに向けた飛行計画では、VaronisがどのようにしてAIの爆発範囲を2段階で制御するのかをご紹介しており、この中では、Purviewとの統合、高い露出リスクの修正、ダウンストリームDLPの有効化、データセキュリティポリシーの自動化などについて、具体的な手順が含まれています。

また、Varonisは、Copilotとの対話、プロンプト、応答のキャプチャなど、Microsoft 365環境で発生するすべてのアクションを監視します。Varonisはこの情報を分析し、不審な振る舞いがないかどうかを確認し、必要に応じてアラートをトリガーします。

使いやすい自然言語検索とフィルタリングにより、社内の誰がCopilotを使用しているのかだけではなく、環境全体でユーザーがどんなデータにアクセスをしているのかという観点についての、高度に強化され、読みやすい行動履歴を作成することができます。

参考

オリジナルブログ記事（英文） https://www.varonis.com/blog/6-prompts-you-dont-want-employees-putting-in-copilot-varonis

Varonis、Microsoft Copilot for M365の安全な導入を加速 https://www.innovations-i.com/release/1275295.html

Webinar Recording - Securing Microsoft Copilot Lab [2024-03-14]（英語） https://view.highspot.com/viewer/65fe0ad3d545f04d7039eb50?iid=65fadb2b5caa5cbb767787d0

ホワイトペーパー

生成AIセキュリティ: Microsoft Copilotでのデータ漏洩を防止 https://view.highspot.com/viewer/65fe0ad3d545f04d7039eb50?iid=6564d40f6e897adbbec5cdda

ブログ記事著者のご紹介

Brian Vecci

Brian VecciはVaronisのフィールドCTO（最高技術責任者）で、2010年にテクニカルエバンジェリストとしてチームに加わりました。彼は、内部者脅威、サイバー攻撃、出来の悪い営業プレゼンテーションからチームを守っています。

（翻訳：跡部 靖夫）