FriendliAI、AI推論最適化で2000万ドル調達・コスト90%削減技術

  • FriendliAIが推論コスト90%削減技術でシード拡張ラウンド2000万ドル調達
  • 独自の連続バッチング技術でLLMスループット10倍以上向上を実現
  • 25-30社の大手顧客基盤で今年600%の売上成長見込み
目次

SEOの常識を覆す
AIライティングエージェント

プロフェッショナルの業務フローを完全再現するAIの活用で、飛躍的な品質向上とコストダウンの両立。「magicss」でAI時代のSEO&AIOを実現してみませんか?

AIライティングツール「magicss」SEO記事生成モード

今なら 1記事無料で生成可能(カード登録不要)

最短3分で無料体験する

AI推論最適化スタートアップが大型資金調達を実現

カリフォルニア州レッドウッドシティを拠点とするFriendliAI Corp.は、AI推論ワークロードの高速化技術により2000万ドルのシード拡張ラウンドを完了したと発表しました[1]。今回の資金調達はCapstone Partnersがリードし、Sierra Ventures、Alumni Ventures、KDB、KB Securitiesが参加しています[2]

同社が開発するFriendli Engineプラットフォームは、低レベル最適化により推論コストを最大90%削減し、AI応答時間を大幅に短縮することを可能にしています[1]。この技術革新により、企業のAI導入コストを劇的に引き下げることで、AI活用の民主化に貢献しています。

AI推論コストの90%削減という数字は、企業のAI導入における最大の障壁の一つを解決する可能性を示しています。これは例えば、月100万円のAI運用コストが10万円になることを意味し、中小企業でも高度なAI機能を導入できる環境を創出します。推論(inference)とは、訓練済みAIモデルが実際のデータに対して予測や判断を行う処理のことで、ChatGPTのような対話型AIサービスでユーザーの質問に答える際の計算処理がこれに該当します。

革新的な連続バッチング技術でスループット10倍向上

FriendliAIの最大の技術的優位性は、同社が独自開発した「連続バッチング」技術にあります[4]。この技術は、動的で不均一なLLM推論トラフィックを最適化し、推論リクエストの処理順序を効率化することで実現されています[1]

従来のバッチ処理では、複数のリクエストをまとめて処理する際に、最も処理時間の長いタスクに全体の処理時間が左右されていました。しかし連続バッチング技術により、処理が完了したタスクから順次結果を返すことで、全体のスループットを10倍以上向上させることが可能になっています[1]

連続バッチング技術は、レストランの厨房運営に例えると理解しやすいでしょう。従来の方式では、テーブルの全ての料理が完成するまで一品も提供できませんでしたが、新技術では完成した料理から順次提供できるため、顧客満足度と厨房効率が同時に向上します。LLM(大規模言語モデル)の推論処理においても、短時間で完了するタスクを先に処理完了させることで、ユーザー体験の向上とリソース効率化を両立しています。この技術革新により、リアルタイム性が重要なチャットボットや翻訳サービスなどの応答性が劇的に改善されることが期待されます。

堅調な事業成長と今後の展望

FriendliAIは現在25-30社の大手顧客にサービスを提供しており、今年は最大600%の売上成長を見込んでいます[1]。同社は2021年の600万ドルのシードラウンドに続く今回の拡張ラウンドにより、総調達額は2600万ドルに達しています[4]

強固な粗利益率を維持している一方で、同社は現在も赤字状態にありますが、急速な市場拡大により収益化への道筋を描いています[1]。AI推論市場の拡大とコスト効率化への需要増加により、同社の技術的優位性が市場シェア獲得の鍵となることが予想されます。

600%の売上成長予測は、AI推論最適化市場の急速な拡大を物語っています。これは企業がAI導入を本格化する中で、運用コストの削減が最重要課題となっていることを示しています。現在の赤字状態は、多くの成長段階のテック企業に共通する現象で、市場シェア獲得と技術開発への投資を優先している段階と考えられます。AI推論処理は、今後あらゆる業界でデジタル変革の中核となる技術であり、その最適化技術を持つFriendliAIのような企業は、クラウドコンピューティング黎明期におけるAWSのような存在になる可能性を秘めています。

まとめ

FriendliAIの2000万ドル調達は、AI推論最適化技術の市場価値を証明する重要な事例となりました。同社の連続バッチング技術による90%のコスト削減と10倍のスループット向上は、企業のAI導入を加速させる革新的なソリューションです。今後のAI市場拡大において、推論処理の効率化は競争優位の源泉となり、FriendliAIのような技術企業の重要性がさらに高まることが予想されます。

参考文献

*この記事は生成AIを活用しています。*細心の注意を払っていますが、情報には誤りがある可能性があります。

  • URLをコピーしました!

関連ニュース

目次