Dify
시각적인 워크플로우 캔버스 위에서 대형 언어 모델 기반 에이전트와 지식베이스 RAG를 손쉽게 만드는 오픈소스 플랫폼.
Coze 扣子
풍부한 플러그인 생태계와 직관적인 워크플로우를 갖춘 원스톱 AI 에이전트 개발 및 배포 플랫폼.
Ollama
개발자 친화적인 초경량 오픈소스 로컬 LLM 실행 엔진으로, 터미널 명령어 한 줄 실행 및 표준 REST API 연동 지원。
Hugging Face
수백만 개의 최신 모델, 데이터셋 및 Spaces 웹 데모 애플리케이션을 호스팅하는 전 세계 최대의 오픈소스 AI 개발자 커뮤니티 플랫폼.
FastGPT
시각적 워크플로우를 기반으로 사내 지식 기반 질의응답 및 자율 에이전트를 구축하는 오픈소스 플랫폼.
OpenRouter
단 하나의 통합 표준 API 로 전 세계 수백 개 상용 및 오픈소스 LLM 을 연결하는 모델 라우터 플랫폼.
vLLM
PagedAttention 기술을 통해 초고처리량과 저지연을 구현하여 서빙 비용을 획기적으로 낮춘 산업 표준 오픈소스 LLM 추론 엔진.
LangChain
전 세계에서 가장 널리 사용되는 오픈소스 대형 언어 모델 개발 프레임워크로, 복합 멀티 에이전트 오케스트레이션 엔진 LangGraph를 포함합니다.
阿里百炼 (ModelStudio)
알리바바 클라우드의 통합 AI 개발 플랫폼으로 통이 모델 API 연동, 미세조정 파이프라인 및 에이전트 오케스트레이션을 제공합니다.
Mem0
AI 에이전트가 대화를 거듭하며 사용자의 성향과 지식을 지속 학습하도록 돕는 장기 기억 레이어.
LFM3 Omni 2B WebGPU
Liquid AI 가 선보인 온디바이스 멀티모달 스페이스로 WebGPU 를 활용해 브라우저 내에서 실시간 음성 및 언어 추론 완수.
Aiproxy
프롬프트가 외부 LLM API에 닿기 전 로컬에서 개인정보와 민감 데이터를 자동 마스킹하는 프록시
Pushary
장시간 구동되는 AI 에이전트의 작업 알림 및 의사결정 승인을 위한 실시간 모바일 푸시 인프라.
QAnything (网易有道)
넷이즈 유다오가 공개한 2단계 검색 지원 오픈소스 RAG 프레임워크로 모든 포맷의 문서 청킹 및 리랭킹 지원.
Dex Semantics
AI 에이전트의 데이터베이스 조회 및 분석 오류율을 25% 이상 줄여주는 오픈소스 시맨틱 레이어.
LlamaIndex
RAG 검색 증강 생성에 특화된 오픈소스 데이터 인덱싱 및 대형 언어 모델 컨텍스트 연결 프레임워크.
CrewAI
명확한 역할 부여와 팀 분업을 바탕으로 복잡한 프로젝트를 협업 수행하는 차세대 멀티 AI 에이전트 자동화 프레임워크.
Goethe
자체 프라이빗 AI 운영을 위한 경량 인프라 엔진으로 노드 오케스트레이션과 장애 대응 라우팅 제공.
百度智能云千帆大模型平台
원신 모델 및 오픈소스 모델을 제공하며 전 과정 LLMOps 도구를 갖춘 바이두의 기업용 대형 모델 플랫폼.
Flowise
드래그 앤 드롭 방식의 직관적인 UI를 통해 LangChain 기반 대형 모델 앱과 자율 에이전트를 시각적으로 조립하는 오픈소스 도구.
AutoGen (Microsoft)
복수의 AI 에이전트가 상호 대화하며 복합 업무를 자율적으로 완수하도록 설계된 마이크로소프트의 대표 오픈소스 프레임워크.
Promptfoo
대규모 언어 모델 보안 취약점 진단, 레드팀 시뮬레이션 및 프롬프트 품질 평가를 위한 오픈소스 MLOps 플랫폼
Orderflow Claude Skill
투기적 추측을 배제하고 증거 등급제에 기반하여 호가창 깊이와 자금 흐름을 객관적으로 분석하는 Claude 스킬.
Expo Simulators
AI 에이전트를 위해 설계된 클라우드 모바일 시뮬레이터로 앱을 프로그래밍 방식으로 테스트
MaxKB (飞致云)
사내 업무 시스템에 간편하게 임베드 가능한 대형 언어 모델 기반의 오픈소스 엔터프라이즈 지식베이스 질의응답 시스템.
Tanka
AI 네이티브 기업을 위해 설계된 차세대 에이전트 통신 및 워크플로 운영 플랫폼.
Hardcount
세분화된 AI 비용 관리를 지원하는 자체 호스팅 LLM 토큰 계량 및 멀티테넌트 청구 엔진입니다.
腾讯云知识引擎 LKE
기업용 지식베이스 구축 및 RAG 검색 엔진에 특화된 텐센트 클라우드의 공식 엔터프라이즈 AI 플랫폼.
Helicone
단 한 줄의 코드로 대형 언어 모델 API 비용 추적, 지연시간 모니터링 및 캐싱을 지원하는 오픈소스 관측 플랫폼 및 프록시 게이트웨이.
Modelpeers
탈중앙화된 블라인드 테스트와 동료 평가를 통해 실제 업무 환경의 LLM 성능 순위를 매기는 벤치마크 플랫폼.
FounderMail
보유한 Cloudflare 도메인에서 사용자와 AI 에이전트를 위한 이메일 인프라를 원클릭 구축합니다.
Groq
자체 LPU 칩셋 기반의 초고속 LLM 추론 클라우드 플랫폼, 초당 수백 토큰의 압도적인 처리 속도와 초저지연 제공
UUMit
내 PC 속 로컬 앱, 도구 및 AI 에이전트를 안전한 권한 제어 기반 원격 웹 서비스로 연결해 주는 게이트웨이
讯飞星火开放平台
iFlytek의 공식 대형 언어 모델 플랫폼으로 Spark API, 맞춤형 비서 제작 도구 및 도메인 미세조정 툴킷을 제공합니다.
Modal
파이썬 코드에서 클라우드 GPU 자원을 직접 호출하여 실행하는 차세대 서버리스 AI 컴퓨팅 플랫폼.
Fireworks AI
극강의 저지연과 비용 효율성을 겸비하여 실제 상용 서비스 환경에 최적화된 엔터프라이즈 오픈소스 대형 모델 추론 플랫폼.
Fal.ai
밀리초 단위의 압도적인 추론 성능을 자랑하는 생성형 미디어 개발자 플랫폼 및 API 인프라.
Replicate
단 한 줄의 코드로 오픈소스 AI 모델을 클라우드 API 형태로 실행, 미세조정 및 배포할 수 있는 개발자 중심의 서버리스 플랫폼.
Cerebras Inference
웨이퍼 스케일 슈퍼칩 기반 초고속 대규모 언어 모델 추론 플랫폼, 초당 2000 토큰 돌파
Claude Guardian
Claude 계정 보호 및 리스크 방지를 위한 올인원 보안 도구로 기기 지문, 네트워크 순도 및 결제 환경 정밀 진단.
Omni2api
임의의 Python 스크립트나 CLI 도구를 표준 OpenAI 호환 API로 즉시 래핑하는 경량 브리지입니다.
智谱 AI 开放平台
Zhipu AI의 공식 개발자 플랫폼으로 GLM 모델 API, 미세조정, 에이전트 개발 및 초장문 컨텍스트 호출을 지원합니다.
ApiClay
API 탐색·구축·판매와 함께 MCP 를 통해 Claude, ChatGPT 및 AI 에이전트를 연결하는 개발자 플랫폼
TruLens
RAG 애플리케이션의 답변 정확도, 문맥 연관성 및 환각 여부를 정밀하게 측정하고 진단하는 오픈소스 평가 도구.
ChainPoints
복잡한 LLM 프롬프트 체인과 에이전트 파이프라인을 시각적으로 설계하고 디버깅하는 캔버스 도구.
Langflow
파이썬 기반의 시각적 에이전트 및 RAG 파이프라인 오케스트레이션 도구로 빠른 테스트와 API 배포를 지원합니다.
MLflow
실험 추적, 코드 패키징, 모델 등록 및 배포 등 머신러닝과 대형 모델의 전체 수명주기를 관리하는 대표적인 오픈소스 MLOps 플랫폼.
LangSmith
LangChain 공식 개발팀이 구축한 엔터프라이즈급 LLM 실행 추적, 자동 평가 및 디버깅 플랫폼
Replicate
글로벌 최고 수준의 서버리스 오픈소스 AI 추론 플랫폼, 단 한 줄의 코드로 최신 머신러닝 모델 구동
Cohere
엔터프라이즈 전용 대규모 언어 모델과 독보적인 시맨틱 리랭킹 검색 API 플랫폼
Repairer
리눅스 핵심 취약점이 공개되는 즉시 마이크로 패치를 자동 생성하여 침해를 원천 차단하는 보안 에이전트。
RunPod
글로벌 개발자들에게 널리 사랑받는 클라우드 GPU 대여 및 서버리스 AI 모델 배포 인프라 플랫폼.
Together AI
세계 최고 수준의 추론 속도를 자랑하는 오픈소스 대형 모델 API 및 클라우드 파인튜닝 플랫폼.
Langfuse
프로덕션 레벨 LLM 호출 추적, 프롬프트 버전 관리, 자동 평가 및 토큰 비용 분석을 통합 지원하는 오픈소스 AI 관측성 플랫폼.
Weights & Biases (W&B)
실험 추적, 하이퍼파라미터 최적화 및 모델 버전 관리를 지원하는 업계 표준 MLOps 협업 플랫폼.
Arize AI
프로덕션 환경의 대형 모델 및 RAG 파이프라인을 실시간 모니터링하고 환각 진단 및 답변 품질 평가를 자동화하는 AI 관측 플랫폼.
Glif
이미지 생성, 텍스트 모델, 로직 노드를 자유롭게 결합하여 나만의 생성형 AI 미니앱을 제작하고 공유하는 노코드 플랫폼.
ForAgent
자율 AI 에이전트에 전용 가상 전화번호를 부여하여 상호 간 직접 통화를 지원하는 인프라 플랫폼。
Backlane
클로드, 챗GPT, 커서를 글로벌 이커머스 마켓플레이스와 직접 연결하는 전용 MCP 서버 인프라.
LanceDB
차세대 컬럼형 포맷 Lance 기반의 오픈소스 임베디드 멀티모달 고성능 벡터 데이터베이스
Axiocairn MCP
AI 에이전트가 기관급 포트폴리오 자산 분석과 스트레스 테스트를 직접 수행하도록 돕는 MCP 서버。
Ragas
RAG 파이프라인의 체계적인 진단을 위한 표준 오픈소스 프레임워크로 합성 테스트 데이터 생성 및 정밀 지표 평가 지원.
Rainbrand
기업의 브랜드 가이드라인과 디자인 자산을 AI 에이전트의 공유 맥락으로 연결하는 인프라.
Airgap Check
로컬 AI 애플리케이션과 코딩 에이전트가 오프라인 상태에서 몰래 외부 네트워크를 호출하는지 검증하는 보안 도구
Agent Buddies
AI 에이전트의 상태에 반응하여 생동감 넘치는 표정을 연출하는 경량 교체형 애니메이션 아바타 라이브러리。
Lettercamp
순수한 글쓰기 집중과 초고속 빌드 속도를 위해 설계된 미니멀한 오픈소스 정적 블로그 프레임워크。
Wipecraft
온디바이스 로컬 AI 를 탑재하여 안심하고 지울 수 있는 시스템 데이터를 정밀 식별하는 Mac 전용 클리너。
Ragie
몇 줄의 코드만으로 고성능 RAG 검색을 애플리케이션에 완벽 연동하는 엔지니어 전용 완전 관리형 지식 플랫폼.
Dev Circuit Ultra
불필요한 컨텍스트 낭비와 절차적 거품을 줄이고 설계 우선으로 빠른 배포를 이끄는 5단계 에이전트 루프
LiteLLM
100개 이상의 LLM 을 OpenAI 표준 포맷으로 통합 호출하는 오픈소스 프록시 및 로드밸런서.
three.dev
사용자가 겪기 전에 AI 에이전트 실패 패턴을 먼저 찾아 수정하는 평가 플랫폼
Vast.ai
P2P 분산 네트워크 기반의 초저가 GPU 대여 플랫폼으로 AI 대규모 학습 및 배치 추론을 가장 경제적으로 수행.
AwaitIO
AI 에이전트를 위해 설계된 장시간 비동기 작업 스케줄러로 상태 영속성과 자동 복구 기능 내장.
BAML
프롬프트 엔지니어링 및 타입 안정성을 갖춘 구조화 데이터 추출 전용 언어와 실시간 플레이그라운드
Portal2Bench
포탈 물리 퍼즐 환경을 기반으로 멀티모달 AI 의 3차원 공간 추론 및 계획 능력을 측정하는 벤치마크。
AnythingLLM
데이터 유출 없는 올인원 로컬 AI 지식베이스 및 전 포맷 문서 대화 소프트웨어.
DeepInfra
압도적인 가격 경쟁력을 갖춘 오픈소스 대형 언어 모델 및 임베딩 API 서버리스 추론 플랫폼.
Switchy
클라우드 배포 현황, 2단계 인증 코드, AI 모델 사용량 한도를 메뉴바에서 즉시 관리하는 Mac 전용 유틸리티。
OpenAI Platform API
GPT-4o, o1 추론 모델, 임베딩 및 Assistants API를 제공하는 OpenAI의 공식 개발자 플랫폼.
Baseten
초저지연 대형 모델 추론 및 맞춤형 모델 서빙에 특화된 고성능 서버리스 AI 인프라 플랫폼.
Seldon Wren
자연어 시나리오로 E2E 테스트를 병렬 실행하고 누락된 테스트 케이스까지 찾아내는 행동 모델 QA 에이전트
BentoML
다양한 인공지능 모델을 표준 규격으로 패키징하고 고성능 API로 컨테이너화하여 배포하는 통합 서빙 프레임워크.
TestSprite
코드 변경 시 회귀 버그를 감지하고 E2E 테스트를 자동 생성 및 실행하는 자율형 AI 테스트 에이전트.
Hyperbolic
개방형 분산 AI 컴퓨팅 네트워크 및 뛰어난 가성비의 오픈소스 대규모 언어 모델 추론 클라우드
Priv Kit
외부 인증 앱 의존 없이 루트와 ADB 권한을 직접 제어할 수 있는 안드로이드 개발 프레임워크。
Maritime
다양한 AI 에이전트를 위해 맞춤 설계된 온디맨드 보안 클라우드 컴퓨터 샌드박스입니다.
Harness Tuner
평가 기반 자율 에이전트 튜닝 루프, 도구 호출과 프롬프트 및 모델 라우팅 자동 최적화
Portkey
지능형 장애 우회 라우팅, 로드 밸런싱, 가드레일 및 통합 비용 관리를 제공하는 엔터프라이즈 프로덕션 LLM 게이트웨이.
SunsetLint
코드베이스 전반에서 서비스 종료 예정이거나 퇴역한 거대언어모델 API 엔드포인트를 감지하는 정적 분석 도구.
Google AI Studio
Gemini 모델 프로토타입 제작, 프롬프트 엔지니어링 및 무료 API 키 발급을 지원하는 구글 공식 개발 도구.
Outages.live
클라우드, AI, 개발자 인프라의 공식 상태 페이지를 단일 실시간 피드로 통합하고 RSS·JSON API·MCP 를 제공하는 무료 서비스
Omnigraph
AI 에이전트의 장기 기억과 다중 홉 관계 검색을 위한 오픈소스 그래프 데이터베이스
Leetsys
수석 아키텍트 수준의 AI 면접관과 고성능 분산 시스템 설계를 인터랙티브하게 실전 대비하는 플랫폼.
Scale AI
고품질 데이터 라벨링, 인간 피드백 강화학습 RLHF 및 대형 모델 안정성 평가를 주도하는 글로벌 인공지능 데이터 파운드리.
百度文心智能体平台 (灵境矩阵)
바이두 검색 엔진 및 원신 생태계와 긴밀히 연동되는 바이두 공식 AI 에이전트 개발 및 배포 플랫폼.
Chroma
파이썬 및 자바스크립트 생태계와 완벽히 연동되는 개발자 친화형 오픈소스 AI 임베딩 데이터베이스
Neon & Mubit
프론티어 모델의 토큰 비용을 최대 73% 자체 압축 절감하는 에이전트 라우팅 게이트웨이
Apgar
고비용의 LLM 판사를 거치지 않고도 결정론적 검증으로 에이전트의 도구 호출 결함을 찾아내는 테스트 프레임워크.
Pinecone
프로덕션 레벨 생성형 AI 를 위해 설계된 업계 표준 완전 관리형 서버리스 벡터 데이터베이스
Semantic Kernel (Microsoft)
C#, 파이썬, 자바 등 표준 프로그래밍 언어와 최신 AI 기능을 유기적으로 결합하는 마이크로소프트의 기업용 AI 개발 SDK.
Cloptima
LLM 애플리케이션을 위한 AI 게이트웨이, 보안 가드레일 및 AI 재무 비용 최적화 관리 플랫폼.
Anyscale
Ray 개발팀이 직접 구축한 공식 엔터프라이즈 플랫폼으로 대규모 모델의 분산 학습과 대량 추론을 지원합니다.
Groq
독자 개발한 LPU 전용 칩셋 아키텍처를 바탕으로 세계에서 가장 빠른 실시간 추론 속도를 제공하는 AI API 플랫폼.
Unstructured
복잡한 PDF, 오피스 문서, 표 데이터를 고정밀 전처리하여 RAG 및 LLM 환경에 공급하는 데이터 플랫폼.
E2B
AI 에이전트가 안전하게 코드를 실행하고 데이터를 분석할 수 있는 초고속 클라우드 샌드박스 인프라.
NoMac
AI 에이전트를 위한 클라우드 macOS 샌드박스 환경, 구독 없는 분당 종량제 과금
Tensward
로컬 환경에서 거대언어모델 추론 처리량을 극대화하고 VRAM 소모를 최적화하는 엔진.
Airlock
자율 AI 코딩 에이전트 군집의 권한 경계 설정 및 작업 내역, 비용을 통제하는 코드형 정책 거버넌스 플랫폼
AgentOps
CrewAI 및 AutoGen 등 멀티 에이전트 협업 시스템의 시각적 세션 리플레이, 성능 분석 및 추적에 특화된 관측 플랫폼.
Firecrawl
모든 웹사이트를 LLM 친화적 마크다운 및 구조화된 데이터로 자동 변환하는 AI 전용 웹 크롤링 플랫폼.
Weaviate
멀티모달 벡터 검색 및 하이브리드 검색을 기본 내장한 오픈소스 AI 네이티브 벡터 데이터베이스
Attest Framework
AI 에이전트의 실제 행동과 시스템 부작용을 검증하는 엔드투엔드 테스트 프레임워크
Anthropic Claude Console
Claude 3.5 Sonnet 및 Haiku 공식 API와 인터랙티브 Workbench를 제공하는 Anthropic 개발자 콘솔.
Qdrant
Rust 기반 고성능 오픈소스 벡터 데이터베이스, 대규모 프로덕션 RAG 및 시맨틱 검색 최적화
PinPage
원하는 웹페이지나 로컬 HTML 파일을 윈도우 바탕화면의 유용한 반투명 위젯으로 바꿔주는 오픈소스 유틸리티。
魔搭社区 (ModelScope)
알리바바 다모아카데미가 구축한 대표적인 오픈소스 MaaS(Model-as-a-Service) 플랫폼으로 수천 종의 최신 모델 체험 및 가중치 다운로드 지원.
TFF dbt Fitness Functions
dbt 데이터 파이프라인의 아키텍처 건전성과 거버넌스를 자동으로 검증하는 데이터 엔지니어링 도구.
Harness Leaderboard
모델·단계·추론 강도 조건별로 코딩 에이전트 하네스의 실제 수행 성능을 비교하는 인터랙티브 평가 보드
RagFlow
딥러닝 기반 심층 문서 이해 기술을 탑재한 오픈소스 RAG 엔진으로 복잡한 서식의 기업 문서 분석에 특화.
Voyage AI
스탠퍼드 NLP 연구진이 설계하여 업계 벤치마크 1위를 달성한 최고 정밀도 임베딩 및 리랭커 API