AIセキュリティ
AIセキュリティテスト
従来のアプリケーションテストは、モデルの周辺までを見てそこで止まります。私たちは、プロンプトインジェクション、データ持ち出し、ツールの悪用、検索対象の汚染に対して、システム全体を試験します。
事業上の課題
既存のテストではここをカバーできない
ペネトレーションテストが見つけるのはパラメータへのインジェクションであって、アシスタントが後で読む文書に仕込まれた指示ではありません。エンドポイントの認可は確かめても、他人の代わりにツールを使うようモデルを説得できるかは確かめません。これらは別の脆弱性区分であり、すでに購入している範囲には含まれていません。
私たちの取り組み
現実的な悪用に照らして試す
チェックリストではなく脅威モデルから始めます。攻撃者が何を望み、システムが何に到達可能にしているか。試験は、モデルが読みうるすべての内容経路からのインジェクション、出力を通じた持ち出し、ツールの悪用と権限昇格、検索対象の汚染を対象とします。指摘には再現手順、深刻度、修正案が付き、悪用のしやすさで順位付けします。修正後に再試験し、テスト自体も置いていきます。
AIセキュリティテスト
提供できること
-
プロンプトインジェクション試験
-
ジェイルブレイク試験
-
AIの情報漏えい試験
-
エージェントのセキュリティ試験
-
RAG汚染の試験
-
ツール悪用の試験
代表的なユースケース
代表的なユースケース
- AIアプリケーションが本番や顧客に届く前に試験する。
- 誰もレビューしていないシステムアクセスをすでに持つアシスタントを評価する。
- 顧客のセキュリティ質問票や監査人に向けて、試験の証跡を用意する。
- 事故の後に追加したガードレールが実際に持ちこたえるかを検証する。
進め方
進め方
-
脅威モデル
攻撃者が何を狙い、そこに到達して何を得るのかを明らかにする。
-
検証
既知文字列のチェックリストではなく、現実的な悪用に対する敵対的検証。
-
報告
再現手順、深刻度、修正方法を添えた指摘を、悪用しやすさの順に並べる。
-
再検証
修正が有効であることを確認し、再発が見えるようテストを残す。
テクノロジー
テクノロジー
- OWASP LLM Top 10
- MITRE ATLAS
- Garak
- Burp Suite
- ISO/IEC 27001
セキュリティとガバナンス
セキュリティとガバナンス
検証は書面で承認を受け、合意した対象に限定し、別段の決定がない限り本番以外の環境で実施します。指摘は機密として扱い、他の誰よりも先にお客様へ開示します。報告書と、残すよう依頼された回帰テスト以外は、契約期間を超えて保持しません。
協業モデル
協業モデル
AIアドバイザリー
経験豊富なコンサルタントが戦略、アーキテクチャ、評価、変革の助言を提供します。
AIプロジェクト
定義されたAIソリューションの設計と提供について、私たちが責任を負います。
マネージドAI
本番のAIシステムを、私たちが運用・監視し、継続的に改善します。
TeamExtension.aiを選ぶ理由
モデルではなくシステムを試験します
モデル単体の攻撃面は限られています。露出は、それが何につながっているかから生まれるので、試験にはツール、検索、権限を含めなければなりません。私たちはこうしたシステムを作っているので、継ぎ目がどこにあるかを知っています。
主なお客様
よくあるご質問