News | Souveräne LLMs: STACKIT Model Serving in Kürze verfügbar 

Am 04.02. geht der neue Service STACKIT Model Serving in der Beta-Phase live. Interessenten können den neuen Service 30 Tage lang kostenfrei testen. Dazu müssen sie in der Beta-Phase, die am 03.03. endet, einen entsprechenden Token anfordern. Ab dem 04.03. steht der Service allen zur Verfügung. 

STACKIT Model Serving bietet einfachen und sicheren Zugriff auf fortschrittliche Open Model GenAI-Modelle aus dem Bereich Large Language Models wie Llama 3.1. 

Die Modelle werden per API bezogen und können in eigene Anwendungen integriert werden. Denkbare Anwendungsfälle sind die intelligente Texterstellung und -bearbeitung oder die Erweiterung eines Chatbots mit einer internen Wissensdatenbank. Das STACKIT Model Serving ermöglicht eine datensouveräne Nutzung der LLMs, da die GenAI-Modelle auf der STACKIT Cloud laufen und die übermittelten Daten weder gespeichert noch zum Training der LLMs genutzt werden.  

Zum kostenfreien Test anmelden: https://www.stackit.de/de/produkt/stackit-model-serving-beta/