News | Souveräne LLMs: STACKIT Model Serving in Kürze verfügbar 

Am 04.02. geht der neue Service STACKIT Model Serving in der Beta-Phase live. Interessenten können den neuen Service 30 Tage lang kostenfrei testen. Dazu müssen sie in der Beta-Phase einen entsprechenden Token anfordern. Der Service steht dann im Laufe der ersten Jahreshälfte 2025 allen zur Verfügung. 

STACKIT Model Serving bietet einfachen und sicheren Zugriff auf fortschrittliche Open Model GenAI-Modelle aus dem Bereich Large Language Models wie Llama 3.1. 

Die Modelle werden per API bezogen und können in eigene Anwendungen integriert werden. Denkbare Anwendungsfälle sind die intelligente Texterstellung und -bearbeitung oder die Erweiterung eines Chatbots mit einer internen Wissensdatenbank. Das STACKIT Model Serving ermöglicht eine datensouveräne Nutzung der LLMs, da die GenAI-Modelle auf der STACKIT Cloud laufen und die übermittelten Daten weder gespeichert noch zum Training der LLMs genutzt werden.  

Zum kostenfreien Test anmelden: https://www.stackit.de/de/produkt/stackit-model-serving-beta/