LLM アプリケーションの脆弱性診断、レッドチーム演習、プロンプト品質評価を行うオープンソース基盤
CLI ツールとセキュリティ検証コアは完全無料のオープンソースでローカルおよび CI 環境で無制限に利用可能
Promptfoo はフォーチュン500企業にも広く採用されているオープンソースのLLMセキュリティテストおよび評価プラットフォームです。プロンプトインジェクション、脱獄、幻覚、情報漏洩などの脆弱性を自動検出し、CI/CDパイプラインと統合してモデルの品質劣化を未然に防止。複数のモデル間でのベンチマーク比較を直感的に実行できます。