DeepSeekを見つける: シャドゥAIの見つけ方、止め方

私どもVaronis Systems, Inc (NASDAQ: VRNS) は、データセキュリティと分析の先駆者で、データ保護、脅威の検出と対応、およびコンプライアンスに特化したソフトウェアを開発しています。 このコラムでは、サイバーセキュリティ、プライバシー、データ保護についての最新のトレンドや知見、分析情報、事例などを皆様にご紹介していきたいと考えております。

第42回目となる今回は、「DeepSeekを見つける: シャドゥAIの見つけ方、止め方」と題して、DeepSeekのようなシャドゥAIを従業員が使用することによるセキュリティの影響と、組織がすぐにリスクを軽減する方法を解説する、Rob Sobers（Varonis最高マーケティング責任者）のブログ記事をご紹介いたします。

DeepSeekは瞬く間に世界中の注目を集め、最近ではChatGPTを抜いて、アップル社のApp Storeで最も多くダウンロードされた無料アプリケーションとなりました。

低コスト、高度な機能、オープンソースのアプローチがユーザーを惹き付けていますが、組織は従業員がDeepSeekを使用することによるセキュリティ上の影響を理解する必要があります。

重大なセキュリティ上の懸念

セキュリティ上の懸念が高まっているため、世界中の組織や政府がDeepSeekを禁止するために奔走しています。米国議会が禁止しました。米国海軍も禁止しました。イタリアもDeepSeekを遮断しましたが、以前はChatGPTも禁止していました。

懸念の原因を分析してみましょう。

中国でのデータ処理

•    プライバシーポリシーによると、DeepSeekはユーザープロンプトを中国にあるサーバーで処理します。

•    しかし、開発者は、中国の母船から隔離されたサーバー上でDeepSeekのローカルインスタンスをホスティングすることができます。

•    すべてのデータは、中国のデータプライバシー法規制の対象となります。

•    組織は、米国の規制要件のコンプライアンス対応への影響を考慮する必要があります

シャドゥAIのリスク

•    従業員は、組織の承認を得ることなく、DeepSeekをダウンロードして利用できます

•    従来のような企業によるAIツールの使用禁止は、強制が難しいことが判明しています

•    何気ない会話を通じて、企業の機密情報がうっかり共有されてしまう可能性があります

オープンソースの性質から、TikTokやHuawei（華為）とは異なるセキュリティ上の課題があります。さらに、DeepSeekは学習や実行に掛かるコストが低いため、サイバー犯罪者はDeepSeekを利用して大規模なキャンペーンをより効率的に展開することができます。

リスク軽減戦略

DeepSeekは、心配しなければならない最後のシャドゥAIアプリケーションではありません。では、シャドゥAIアプリケーションが企業秘密を取り込んでいることを確実に発見し阻止するためには、どのような手段を講じればよいのでしょうか？

即時の対応

明確なAIポリシーの策定

•    承認されたAIツールに関する明確なガイドラインの作成

•    機密性の高い情報の取り扱いに関する手順の確立

•    AIツールの不正使用に対する対処を定める

安全な代替手段の提供

•    DeepSeekのオープンソースコードを使用した隔離インスタンスの構築を検討

•    適切なセキュリティ管理策を備えた企業向けAIソリューションの評価

•    外部サーバーに接続しない隔離バージョンの実装

従業員の教育

•    データセキュリティリスクに対する意識の向上

•    無許可のAIツールに変わる明確な選択肢の提供

•    機密性の高い情報をAIモデルと共有することの意味を説明

Varonisを利用したDeepSeekの発見と遮断のイメージ

•    Varonisは、機密性の高いデータを発見して分類し、DeepSeekやその他のリスクの高いAIツールへの潜在的な露出を最小限に抑えるための最小権限の実装を支援します。

•    Varonis for Networkは、DNSおよびWebプロキシー監視により、DeepSeekの使用状況を検出することができます。

•    VaronisのSSPM機能は、IT部門の承認なく、ユーザーが認可されたSaaSアプリケーションとシャドゥDeepSeekアプリケーションやプラグインを統合した場合、それを検出して自動的に削除します。

•    どのユーザーがいつDeepSeekアプリケーションをインストールし、どのようなアクセス許可が付与され、どんなアクションが実行されたのかを示すことができます。

•    Varonisは、DeepSeekに関連するファイル、ソースコード、電子メールなどを発見して分類し、ならず者の開発者やコードをダウンロードしてテストしている熱心な従業員を明らかにします。

今後に向けて

DeepSeekの機能は素晴らしいものですが、組織はその利点とセキュリティリスクを慎重に天秤にかける必要があります。DeepSeekのコードがオープンソースであることには、利点と課題の両方が存在します：

利点

•    組織はモデルの重みづけと学習コードを検査することができます

•    安全で隔離された実装を構築できる可能性があります

•    モデルの動作方法の透明性

課題

•    標的型攻撃に対する脆弱性の増大

•    悪意ある利用の可能性

•    データプライバシー規制へのコンプライアンス上の懸念

まとめ

DeepSeekは大きな技術的進歩を代表するものですが、組織はその利用には慎重になる必要があります。

中国のデータ主権要件、オープンソースの脆弱性、シャドゥAI利用の可能性が組み合わさることとなるため、そこから生じるセキュリティ上の課題には、慎重な検討と積極的な管理が必要です。

DeepSeekのセキュリティへの影響と企業での使用に関する新しい情報についても、引き続き当コラムにて取り上げる予定です。

参考資料

・オリジナルブログ記事（英文）
https://www.varonis.com/blog/deepseek

・Scoop: Congress bans staff use of DeepSeek
https://www.axios.com/2025/01/30/house-congress-bans-deepseek-ai

ブログ著者について

Rob Sobers

Rob Sobersは、Webセキュリティを専門とするソフトウェアエンジニアで、「Learn Ruby the Hard Way」という本の共著者でもあります。

（翻訳：跡部 靖夫）