Die KI-Entwicklungsplattform Hugging Face hat Partnerschaften mit Drittanbieter-Cloud-Anbietern, darunter SambaNova, geschlossen, um Inference Providers zu starten, eine Funktion, die es Entwicklern auf Hugging Face erleichtern soll, KI-Modelle mit der Infrastruktur ihrer Wahl auszuführen.
Andere Partner, die an dem neuen Vorhaben beteiligt sind, sind Fal, Replicate und Together AI.
Hugging Face gibt an, dass die Partner mit ihr zusammengearbeitet haben, um den Zugang zu ihren jeweiligen Rechenzentren für die Ausführung von Modellen in die Plattform von Hugging Face zu integrieren. Entwickler auf Hugging Face können nun beispielsweise mit nur wenigen Klicks ein DeepSeek-Modell auf den Servern von SambaNova von einer Hugging Face Projektseite aus starten.
Hugging Face hat schon lange eine eigene Lösung für die Ausführung von KI-Modellen angeboten. Aber in einem Blog-Beitrag am Dienstag erklärte das Unternehmen, dass sich der Fokus auf Zusammenarbeit, Speicherung und Modelldistributionsfähigkeiten verschoben habe.
"Serverless-Anbieter haben sich entwickelt, und es war an der Zeit, dass Hugging Face einfachen und vereinheitlichten Zugang zu serverlosem Inferenz durch eine Reihe großartiger Anbieter bietet", schrieb das Unternehmen in dem Beitrag. "Es war natürlich, mit der nächsten Generation von serverlosen Inferenzanbietern für modellzentrierte, serverlose Inferenz zusammenzuarbeiten."
Serverlose Inferenz ermöglicht es Entwicklern, KI-Modelle zu implementieren und zu skalieren, ohne die zugrunde liegende Hardware zu konfigurieren oder zu verwalten. Anbieter wie SambaNova starten automatisch die erforderlichen Rechenressourcen und skalieren sie je nach Bedarf nach oben oder unten.
Die Entwickler, die über ihre Plattform Drittanbieter-Cloud-Anbieter nutzen, zahlen vorerst die Standard-API-Raten der Anbieter. (Hugging Face könnte in Zukunft Umsatzbeteiligungsvereinbarungen mit Anbieterpartnern treffen, heißt es.) Alle Hugging Face-Benutzer erhalten ein kleines Kontingent an Credits, um sie für Inferenz zu verwenden. Abonnenten von Hugging Face Pro, der Premiumstufe von Hugging Face, erhalten zusätzlich 2 Dollar Credits pro Monat.
Gegründet im Jahr 2016 als Chatbot-Startup, ist Hugging Face zu einer der größten KI-Model-Hosting- und Entwicklungsplattformen weltweit geworden. Bisher hat Hugging Face fast 400 Millionen US-Dollar von Investoren wie Salesforce, Google, Amazon und Nvidia eingesammelt. Das Unternehmen behauptet, profitabel zu sein.
TechCrunch hat einen auf KI ausgerichteten Newsletter! Hier anmelden, um ihn jeden Mittwoch in Ihrem Posteingang zu erhalten.
