お客様のAIセキュリティ・セーフティの実現を支援する。
急速に普及する生成AIを活用したシステムは情報漏洩、悪用や誤用、不正確な出力等、さまざまなリスクが潜んでいます。
当社のAIセキュリティ診断は、こうしたリスクを事前に洗い出し、生成AIを活用したお客様のシステムにおけるセキュリティとセーフティの確保を支援します。
AIセキュリティ診断
AIセキュリティ診断とは？
プロンプトインジェクション、プロンプトリーキングなどの手法を用いて、AIシステム（LLMを活用したAIシステム）に対して疑似攻撃を実施します。これにより、システムに潜むリスクを洗い出し、安全・安心な運用を実現するための具体的な対策をご提案します。
被害・問題事例
生成AIの活用は、利便性が高まる一方で、サイバー攻撃による情報漏洩などのリスクも増しています。
ここでは、被害・問題事例の一部をご紹介します。
1. 業務支援システムからの情報流出懸念
ある企業の業務支援システムでは、社員がメールや文書を扱う際にLLMが自動で要約や整理を提示していました。しかし、外部からの指示文によりLLMが誤って社内情報を抽出し外部に送信してしまうことが確認されました。利用者が特別な操作をせずとも発生しうるため、情報漏えいだけでなく業務の混乱や企業の信用失墜につながる重大なリスクとなります。
２. AIアシスタントを通した内部情報の漏洩懸念
あるAIアシスタントでは、ユーザーがプロンプトインジェクションを利用してAIの内部ルールや設定（APIキーを含む）を取得することに成功しました。APIキーを悪用されると、情報漏洩や不正利用などの被害につながる可能性があります。
３. 数学用生成AIツールで任意コードの実行が可能に
数学の問題を解く生成AIツールにおいて、外部から任意のコードを実行できる脆弱性が発見されました。これにより、APIキーを含むシステム内部の機密情報が閲覧が可能であり、プログラムの停止やAPIの不正利用にもつながりかねない状況でした。速やかな対処により、深刻な被害を未然に防ぐことができました。
お客様に選ばれる理由
当社がお客様に選ばれる理由をご紹介いたします。
生成AIのユースケースにもとづき
的確にリスクを特定!
生成AIシステムの利用者・目的・利用方法によって、注目すべきリスクは大きく異なります。当社では、セキュリティエキスパートがユースケースをもとにリスクシナリオを設計し、そのシナリオに沿って重点的にテストを行います。これにより、ビジネスへの影響が大きいリスクを的確に特定することが可能です。
Webアプリケーション診断との
組み合わせでワンストップ対応!
AIシステムはWebアプリの仕組み上に成り立つことが多く、AI特有のリスクとWeb脆弱性が複合的に悪用される可能性があります。当社はAIセキュリティ診断とWebアプリ診断を一括で提供し、システム全体を通じたリスクを網羅的に評価。実践的な改善提案につなげます。
各種AIセキュリティ
ガイドラインを活用!
生成AIを活用したAIシステムの普及に伴い、各国・地域でリスクへの対応が求められています。当社では、OWASP LLM Top10をはじめとする、各種AIセキュリティ情報を活用して、テストを実施。お客様はガイドラインに則った安全・安心な運用ができます。
ケーススタディ
ケーススタディをご紹介いたします。
ECサービスを展開する企業A様
（顧客向け生成AIチャットボット導入案件）
弊社は、以前よりお客様からのお問い合わせ対応にチャットボットを活用してきましたが、顧客満足度の向上を目的に、生成AIの導入を検討していました。当社では、セキュリティは重要事項と考えており安全の確認のため、AIセキュリティ診断を実施したところ、想定していなかった潜在的なリスクが明らかになり、導入前に適切な対策を講じることができました。
グローバル小売業B様
（採用活動における生成AI活用案件）
履歴書の内容から候補者の経験やスキルが募集職種にマッチしているかを判別する社内向けのAIシステムを開発しました。当初は社内の利用に限られるため大きなリスクはないと考えていましたが、念のためAIセキュリティ診断を依頼したところ、実装に不備があり情報漏洩のリスクがあることが判明しました。早期に対処できて本当によかったです。
料金
対応の期間・内容、対象等応じて個別にお見積りいたします。
※無料の相談を行っています。お気軽にご相談ください！
代表メッセージ
生成AIは、登場以来めざましい存在感を示し続けており、私たちの社会や日常に深く入り込んできています。
その影響はビジネスの領域にも及び、これまでの常識や仕組みを見直すような変化が、各所で起こり始めています。
多くの企業が、生成AIを活用して新たな価値を創出したいと考える一方で、セキュリティや倫理面のリスクが不透明なままでは、思い切った一歩を踏み出せないという声を、私たちは多くいただいてきました。
私たちが提供する「AIセキュリティ診断」は、世界最先端の動向や技術トレンドを踏まえた知見をもとに、セキュリティおよびセーフティの観点から潜在的なリスクを洗い出します。最新の脅威やユースケースを意識しながら、実践的かつ現実的なシナリオで検証を行うことで、企業がより安心して、そして自信を持って生成AIをビジネスに取り入れられるよう支援します。
変化の速い時代において、いかにして安全かつ先進的にテクノロジーを活用するか。私たちはその挑戦に伴走し、未来を切り拓くパートナーであり続けたいと考えています。AI活用時のセキュリティやセーフティに関するお悩みやご相談があれば、ぜひお気軽にご連絡ください。
大西健太
代表プロフィール
よくある質問
１．サービスの流れを教えてください。
概要ヒアリング、お申込み、詳細ヒアリング、テスト、結果分析、報告、改修後のテスト、となります。