DeepInfraが800万ドル調達、AIの推論ランニングをより手頃に

DeepInfraはステルスから姿を現し、A.CapitalとFelicisをリードにした800万ドルのシードラウンドを調達し、MetaのLlama 2やCodeLlamaなどのオープンソースモデルの推論を顧客に提供する予定である。

DeepInfraは、ビジネスリーダーに対して簡潔に質問に答えることを目指している。彼らは顧客のためにモデルをプライベートサーバー上で稼働させ、100万トークンあたり10ドルのOpenAIのGPT-4ターボや100万トークンあたり11.02ドルのAnthropicのClaude 2に比べて、100万トークンあたり1ドルという攻撃的に低い料金を請求する。

DeepInfraは推論ホスティングサービスを提供することで、AIとLLMのコスト効率的な活用を目指している。その効率性は、DeepInfraがサーバーインフラとコンピュートリソースの構築における優れた経験によるものであり、Felicisの創業者であるアイディン・センクットも同社への投資を検討する際に魅力となった要素である。

DeepInfraは、推論ホスティングの提供を通じてデータリーダーに革新的なソリューションを提供することを目指している。彼らのサービスは、小規模から中規模のビジネス（SMB）を対象にしており、コストに敏感なこれらの企業にとって手頃な価格でオープンソースの言語モデルを活用する機会を提供する。

DeepInfraは、オープンソースAIコミュニティの進展に注目し、テキスト生成や要約からコンピュータビジョンアプリケーション、プログラミングへの応用まで、さまざまなタスクのためにリリースされ、チューニングされた新しいモデルが登場するたびに追加していく予定である。

DeepInfraの推論ホスティングサービスは、データプライバシーやセキュリティに懸念を持つ企業にも好評を博すとボリソフは考えている。彼は「私たちは人々が入力するプロンプトを保存したり使用したりすることはありません。モデルのチャットウィンドウが閉じられるとすぐに破棄されます」と述べている。