Definition
Ein KI-Modell, dessen Gewichte veröffentlicht und herunterladbar sind, sodass es auf Ihrer eigenen Infrastruktur laufen kann, ohne von der Cloud seines Entwicklers abhängig zu sein.
Ein Open-Weight-Modell (Llama, Mistral, Qwen, DeepSeek, GPT-OSS…) lässt sich herunterladen und überall betreiben: auf einem Unternehmensserver, in einer Private Cloud, sogar auf einem Arbeitsplatzrechner. Die verarbeiteten Daten verlassen die Maschine nie, anders als bei proprietären Modellen, die nur über eine Cloud-API zugänglich sind.
Die besten offenen Modelle können es heute bei den meisten geschäftlichen Aufgaben mit proprietären Modellen aufnehmen, bei kalkulierbaren Betriebskosten. Sie sind der Grundpfeiler souveräner Bereitstellungen: Selbst wenn alle amerikanischen Anbieter morgen ihre APIs abschalten würden, liefe ein lokales Modell weiter.
Ein KMU lädt ein Modell wie Llama oder Mistral herunter und betreibt es auf dem eigenen Server. Keine Anfrage geht an den Anbieter des Modells, und niemand kann über Nacht den Zugang sperren oder die Bedingungen ändern.
Wenn Sie Ihre Daten, Ihre Kosten und Ihre Abhängigkeit von einem Anbieter selbst in der Hand behalten oder ohne Internetverbindung arbeiten möchten.
Ist ein Open-Source-Modell kostenlos?
Das Modell selbst in der Regel ja, je nach Lizenz. Es bleiben die Hardware für den Betrieb, die Installation und die Wartung. Im laufenden Einsatz gibt es keine Rechnung pro Nutzer oder pro Anfrage.
Alle KI-Modelle, auf Ihrer Infrastruktur bereitgestellt, mit Ihren Dokumenten verbunden.