#inference
5 件のプロダクト
AI Infrastructure
BentoML
PythonでAI modelのinference APIを組み立て、BentoCloudや自前環境へdeployできるOSS serving frameworkとinference platform。
AI Infrastructure
Together AI
Together AIは、open-source AIモデルの推論・fine-tuning・GPU computeを一つのAI Native Cloudで提供するAI infrastructure platform。モデル選択からkernel最適化、production inferenceまでを垂直に組み合わせる。
AI Infrastructure
Fireworks AI
オープンモデルの推論・fine-tuning・評価をAPIとして提供し、AIプロダクトの本番運用を短縮するAI infrastructure。
AI Agent Infrastructure
Modal
PythonからAI推論、学習、batch処理、sandboxをサーバーレスGPU基盤へデプロイするAI infrastructure platform。
AI Infrastructure
Baseten
独自・OSS AIモデルを高速かつ高可用に本番推論へ載せる、trainingとinferenceのplatform。Truss、専用runtime、multi-cloud capacity、autoscalingを通じて、モデル運用をAPI endpointとして提供する。