AI Infrastructure

Together AI

Together AIは、open-source AIモデルの推論・fine-tuning・GPU computeを一つのAI Native Cloudで提供するAI infrastructure platform。モデル選択からkernel最適化、production inferenceまでを垂直に組み合わせる。

US · 2022 年 · 出典 12

#Developer Tool#AI infrastructure#GPU

AI Infrastructure

Koyeb

CPU、GPU、acceleratorを使うAI inferenceやserverless applicationを、globalにdeploy・autoscaleするdeveloper-friendlyなcloud platform。

France · 2021 年 · 出典 15

#GPU#AI#serverless

AI Agent Infrastructure

Modal

PythonからAI推論、学習、batch処理、sandboxをサーバーレスGPU基盤へデプロイするAI infrastructure platform。

United States · 2021 年 · 出典 11

#GPU#Sandbox#AI

AI Infrastructure

Runpod

AI/ML向けGPU cloud。開発・training・fine-tuning向けのPods、API inference向けのServerless、分散学習・大規模推論向けのInstant Clustersを同一platformで提供する。

United States · 2021 年 · 出典 15

#GPU#AI#cloud

AI Infrastructure

Baseten

独自・OSS AIモデルを高速かつ高可用に本番推論へ載せる、trainingとinferenceのplatform。Truss、専用runtime、multi-cloud capacity、autoscalingを通じて、モデル運用をAPI endpointとして提供する。

United States · 2019 年 · 出典 18

#MLOps#Open Source#GPU

AI Agent Infrastructure

Northflank

Kubernetes、CI/CD、sandbox、GPU、databaseをmanaged cloudまたは顧客VPCへ展開するdeveloper platform。

United Kingdom · 出典 16

#Kubernetes#AI infrastructure#GPU