KELA株式会社は19日、生成AIセキュリティソリューション「AiFort（エーアイフォート）」を国内で販売開始すると発表した。
AiFortは、生成AI/大規模言語モデル（LLM）を、“セーフティ”“セキュリティ”“プライバシー”の3つの観点で保護するために、AIモデル学習用データセットや模擬攻撃などを提供するソリューション。アンダーグラウンドの犯罪社会を常時監視することによって収集・蓄積した、膨大なデータに基づいているのが特長で、実際の犯罪の背景にある情報や、最新の脅威動向が反映されているので、より現実的な対策を講じられるという。
具体的には、「AiFort Suite」を構成する3つの機能・サービスから構成されている。
1つ目の「AiFort Data」は、生成AIモデルのトレーニングで利用する、脅威インテリジェンスに基づくデータセット。最新の脅威動向や犯罪技術などを反映したAiFort Dataを生成AIモデルに学習させることで、セキュリティを強化できるとのことで、例えば、ジェイルブレイクの手口を学習させることで、AIチャットボットによる暴力的な発言や誤情報の流出などの脅威リスクを回避可能とした。
2つ目の「AiFort Red」は、AIモデルの脆弱性やセキュリティリスクがないかどうかといった信頼性と安全性を診断するための、脅威インテリジェンスに基づくアドバーサリーエミュレーション（Adversary Emulation：攻撃模倣プログラム）である。
このAiFort Redでは、利用者が作成したテストプランに基づいて模擬攻撃を実行し、その分析・診断結果をダッシュボードで確認できる。こうして安全性を確認・検証することで、例えば、AIチャットボットやAIヘルプデスクなどのAIアプリケーションを、安全性に自信を持って導入できるようになるとした。また、運用開始後も継続的に診断を続けることにより、システム/サービスのセキュリティレベルを維持するのに役立つとのこと。
3つ目の「AiFort Protect」は、悪意のある不正なプロンプト入力をリアルタイムに検知・通知し、プロンプトインジェクションやデータ漏えい、ハッキングなどの不正行為を防止するもの。こちらの機能は2024年中の提供開始を予定している。
からの記事と詳細 ( KELA、生成AI環境のセキュリティを保護するソリューション「AiFort」 - クラウド Watch )
https://ift.tt/h5PK7tb
No comments:
Post a Comment