AI Infrastructure

Qdrant

Qdrantは、非構造データ向けのvector searchとsemantic searchを提供するRust製OSSエンジン。self-hosted databaseとmanaged cloudでAIアプリのretrieval基盤を支える。

DE · 2021 年 · 出典 20

#AI infrastructure#Open Source#rust

AI Infrastructure

LiteLLM

LiteLLMは、複数のLLM providerをOpenAI互換の入力形式で呼び出し、proxy・routing・observabilityを一つのgatewayにまとめるOSS基盤。

United States · 2023 年 · 出典 11

#AI infrastructure#Open Source#Developer Tools

AI Infrastructure

BentoML

PythonでAI modelのinference APIを組み立て、BentoCloudや自前環境へdeployできるOSS serving frameworkとinference platform。

Global · 2019 年 · 出典 17

#MLOps#AI infrastructure#Open Source

Data Infrastructure

OpenMeter

OpenMeterは、AI・API・SaaSプロダクトの利用イベントをリアルタイムに計測し、usage limits・entitlements・usage-based billingへつなぐOSSのmetering基盤。Kong参加後もオープンソースとして開発が続く。

United States · 2023 年 · 出典 17

#Developer Tool#AI infrastructure#Open Source

AI Infrastructure

Together AI

Together AIは、open-source AIモデルの推論・fine-tuning・GPU computeを一つのAI Native Cloudで提供するAI infrastructure platform。モデル選択からkernel最適化、production inferenceまでを垂直に組み合わせる。

US · 2022 年 · 出典 12

#Developer Tool#AI infrastructure#GPU

AI Infrastructure

AssemblyAI

音声データをSpeech-to-Text、Speech Understanding、Voice AI APIへ変換するdeveloper platform。高精度な音声認識モデルと従量課金APIを組み合わせ、会議・コールセンター・音声エージェントの開発を支える。

United States · 2019 年 · 出典 12

#Audio API#AI infrastructure#Developer Tools

AI Infrastructure

Qovery

自社Cloud上のKubernetes運用を、Terraform・CLI・MCP・AI Skillで簡単にするagentic infrastructure platform。

France · 2020 年 · 出典 12

#Kubernetes#AI infrastructure#Developer Tools

PaaS

Railway

Heroku alternative PaaS。2026 $100M Series B。

US · 2020 年 · 出典 22

#AI infrastructure#usage-based pricing#cloud

AI Infrastructure

Lambda

Lambdaは、AIのtraining・fine-tuning・inference向けにGPU instances、1-Click Clusters、single-tenant Superclustersを提供する米国のAI compute platform。1 GPUのself-serve利用から大規模な専有clusterまで、NVIDIA GPUと高速network、managed orchestrationを一つの調達・運用面にまとめる。

United States · 2012 年 · 出典 15

#AI infrastructure#GPU Cloud#Cloud Computing

AI Agent Infrastructure

Northflank

Kubernetes、CI/CD、sandbox、GPU、databaseをmanaged cloudまたは顧客VPCへ展開するdeveloper platform。

United Kingdom · 出典 16

#Kubernetes#AI infrastructure#GPU