대규모 언어 모델 보안 취약점 진단, 레드팀 시뮬레이션 및 프롬프트 품질 평가를 위한 오픈소스 MLOps 플랫폼
핵심 평가 CLI 및 레드팀 보안 검증 라이브러리는 100% 무료 오픈소스로 로컬 및 CI 파이프라인에서 무제한 실행 가능
Promptfoo 는 글로벌 포춘 500대 기업에서 널리 활용되는 오픈소스 대규모 언어 모델 보안 평가 및 레드팀 테스트 프레임워크입니다. 프롬프트 인젝션, 탈옥 시도, 할루시네이션, 민감정보 노출 취약점을 자동으로 시뮬레이션하며, CI/CD 배포 파이프라인과 완벽 연동되어 프로덕션 릴리스 전 모델의 보안성과 성능을 철저히 검증합니다.