Vorschau webAION 2.0. Formulare werden hier nicht versendet.

Zum Inhalt springen
Anfrage senden
Menü
KIOllamaOpen WebUISelf-HostedDSGVOOpen SourceRAG

KI selber hosten mit Ollama: ab 10 € im Monat

KI selber hosten mit Ollama: Das Programm ist kostenlos, der Server nicht, ab etwa 10 bis 20 € im Monat. Hardware, Modelle, DSGVO. Stand 10/2026.

Ronni Wordel
, aktualisiert am
16 Min. Lesezeit
KI selber hosten mit Ollama: ab 10 € im Monat

Passend zum Thema: In zwei Minuten einordnen, welche Pflichten aus der KI-Verordnung Ihren Betrieb treffen.

Zum KI-Verordnungs-Schnellcheck

ChatGPT, Claude und Co. liefern beeindruckende Ergebnisse, aber viele Unternehmen können oder wollen ihre Daten nicht an US-Cloud-Dienste übergeben. Die Alternative: KI-Modelle selbst betreiben, auf eigener Hardware, ohne Datenabfluss. Was vor zwei Jahren noch Expertenwissen erforderte, ist 2026 in wenigen Minuten eingerichtet.

Dieser Artikel zeigt Ihnen den kompletten Stack, vergleicht die verfügbaren Modelle und erklärt, was Sie an Hardware brauchen. Wer zuerst nur ausprobieren will, nimmt oft LM Studio statt Ollama; wann welches der beiden Werkzeuge passt, steht im Vergleich LM Studio vs Ollama. Den Überblick für Entscheider liefert Lokale KI im Unternehmen.

Kurz gesagt: Ollama selbst ist kostenlos und quelloffen. Kosten entstehen für den Rechner, auf dem es läuft. Ein gemieteter Server mit 8 GB Arbeitsspeicher kostet bei günstigen Anbietern ab etwa 10 bis 20 Euro im Monat und reicht für kleine Modelle. Größere Modelle brauchen eine Grafikkarte: Ein gemieteter GPU-Server mit 24 GB Grafikspeicher lag zuletzt bei rund 255 Euro im Monat (Beispiel Hetzner, mit Umsatzsteuer, Standort Finnland). Mit Open WebUI als Oberfläche arbeiten mehrere Mitarbeitende gleichzeitig, ihre Eingaben bleiben auf Ihrem Server. Ausnahme: Die Cloud-Modelle von Ollama laufen nicht lokal (siehe Häufige Fragen).

Stand: Oktober 2026. Modelle, Preise und Lizenzen ändern sich schnell, deshalb stehen Datum und Quelle direkt am jeweiligen Wert.

Sie suchen nur eine Zahl? Was der Betrieb kostet und wann sich das gegenüber ChatGPT Plus rechnet, steht kompakt auf KI selbst hosten: Kosten und Ablauf.

Noch grundsätzlicher unterwegs? Der Anker-Artikel Lokale KI im Unternehmen vergleicht die drei Betriebsarten, nennt die nötige Hardware und sagt, wann sich das Ganze ausdrücklich NICHT lohnt. Wer zwischen den Werkzeugen schwankt: Ollama vs LM Studio. Welche Hardware Sie für welches Modell brauchen, mit gerechnetem Speicherbedarf und aktuellen Marktpreisen, steht auf Ollama-Hardware und Server mieten. Wenn Sie den Weg dorthin verstehen wollen, lesen Sie einfach weiter.

KI selber hosten: der Stack aus drei Bausteinen

Wer KI selber hosten will, braucht dafür keine Spezialhardware. Die Kosten und den Ablauf im Überblick finden Sie auf KI selbst hosten: Kosten und Ablauf. Eine Self-Hosted-KI-Lösung für Unternehmen besteht aus drei Komponenten:

1. Ollama: der Inference-Server

Ollama ist ein Open-Source-Tool (MIT-Lizenz), das KI-Sprachmodelle auf lokaler Hardware ausführt. Es lädt Modelle herunter, verwaltet sie und stellt eine API bereit, kompatibel zum OpenAI-Format. Die Installation erfolgt über Docker oder als native Anwendung.

2. Open WebUI: die Benutzeroberfläche

Open WebUI ist eine browserbasierte Chat-Oberfläche, die sich direkt mit Ollama verbindet. Für Ihre Mitarbeiter fühlt es sich an wie ChatGPT, mit dem Unterschied, dass alles auf Ihrem eigenen Server läuft.

Wichtige Features für den Unternehmenseinsatz:

  • Benutzerkonten mit Rollen (Admin, User)
  • Chat-Historien pro Nutzer (privat)
  • Vorlagen für häufige Aufgaben (System-Prompts)
  • Eingebaute RAG-Funktion: Firmendokumente hochladen und durchsuchen
  • Modellauswahl: Nutzer können zwischen verschiedenen Modellen wechseln

Zur Lizenz: Der Quelltext von Open WebUI ist öffentlich und frei nutzbar. Seit Version 0.6.6 (April 2025) enthält die Lizenz aber eine Klausel zum Markenauftritt: Name und Logo dürfen nicht entfernt oder ersetzt werden, es sei denn, es sind höchstens 50 Nutzer in 30 Tagen, oder Sie haben eine Enterprise-Lizenz. Wer Open WebUI mit eigenem Logo für Kunden anbieten will, sollte den Lizenztext vorher lesen. Für den internen Einsatz im eigenen Betrieb ist das in der Regel unkritisch (Hinweis, keine Rechtsberatung; Stand Oktober 2026).

3. n8n: die Automation (optional)

Für automatisierte Workflows können Sie n8n einsetzen. Typische KI-Automationen:

  • Eingehende E-Mails zusammenfassen und Antwortvorschläge generieren
  • Angebote aus Stichpunkten erstellen
  • Support-Tickets kategorisieren und priorisieren
  • Dokumente automatisch zusammenfassen und verschlagworten

n8n verbindet sich über die Ollama-API mit Ihren lokalen Modellen, die Daten bleiben dabei im internen Netzwerk.

Modellvergleich: Welches Modell für welchen Zweck?

Open-Source-Modelle haben in den letzten zwei Jahren enorme Fortschritte gemacht. Hier die wichtigsten Optionen:

Stand der Modell-Angaben: Oktober 2026. Die Größen sind gegen die Ollama-Bibliothek geprüft (11.10.2026). Modellnamen sind das Verfallsdatum jedes KI-Artikels. Die Werte unten sind Richtwerte bei 4-Bit-Quantisierung und schwanken mit der Kontextlänge. Wenn Sie diesen Abschnitt deutlich später lesen: Die Klassen und die Auswahl-Logik bleiben gültig, die konkreten Namen prüfen Sie besser gegen die aktuelle Ollama-Bibliothek.

Der wichtigste Punkt zuerst: Deutsch braucht Größe

Unter etwa 7 Milliarden Parametern bricht die deutsche Sprachqualität ein. Sie sehen Grammatikfehler und Modelle, die mitten im Satz ins Englische wechseln. Die ganz kleinen Modelle sind bei der Hardware verlockend, aber für deutschen Schriftverkehr im Betrieb ist die 8B-Klasse die untere Grenze. Wer Angebote und Kundenmails schreiben lässt, ist mit der 27B-Klasse deutlich besser bedient.

Einstiegsklasse (läuft auf bescheidener Hardware)

Modell Speicherbedarf Stärke Deutsch
Qwen3 8B ca. 5 GB Allrounder für Text und Anweisungen Gut
Mistral Small ca. 14 GB Solide Textarbeit, europäisches Modell Gut
Gemma 4 (kleine Variante) ab ca. 7 GB Kompakt, versteht auch Bilder Brauchbar

Geeignet für: E-Mails beantworten, Texte zusammenfassen, Angebote formulieren, einfache Fragen. Für viele Büroaufgaben ausreichend.

Arbeitsklasse (hier tragen lokale Modelle im Alltag wirklich)

Modell Speicherbedarf Stärke Deutsch
Qwen3.5 27B ca. 17 GB (Download 20 GB mit Bildmodul) Beste Qualität je Gigabyte, passt auf eine 24-GB-Karte Gut bis sehr gut
Qwen3 Coder 30B ca. 19 GB Code und lange Dokumente (großes Kontextfenster) Gut
DeepSeek R1 (destilliert, 14B bis 32B) ca. 9 bis 20 GB Schrittweises Denken, Analyse Gut
Llama 3.3 70B ca. 43 GB Arbeitstier für anspruchsvolle Texte Sehr gut

Geeignet für: Komplexe Analysen, längere Dokumente, anspruchsvolle Texterstellung. Braucht deutlich mehr Speicher und läuft auf kleinen Servern ohne GPU langsam.

Die Spalte „Deutsch“ ist eine Einschätzung, kein Messwert. Prüfen Sie jedes Modell mit eigenen Texten, bevor Sie sich festlegen.

Empfehlung für den Einstieg

Starten Sie mit Qwen3 8B. Das Modell läuft auf bescheidener Hardware und reicht für den Geschäftsalltag. Wer die jüngere Generation derselben Familie testen will, nimmt Qwen3.5 9B (rund 7 GB). Wenn deutsche Texte in Kundenqualität herauskommen sollen, planen Sie die 27B-Klasse ein: Der Sprung in der Sprachqualität ist größer als der Sprung im Hardware-Preis. Wechseln können Sie jederzeit, die Modelle sind austauschbar, das ist der Vorteil offener Gewichte.

Installation: In fünf Schritten zum laufenden System

Die Einrichtung zum Ausprobieren dauert auf einem normalen Büro-Rechner etwa 15 Minuten. Für den Team-Betrieb auf einem Server kommen Benutzerverwaltung und Absicherung dazu, der Weg ist aber derselbe.

Schritt 1: Ollama installieren

Den Installer für Windows, macOS und Linux gibt es direkt beim Projekt: ollama.com/download. Unter Linux (auch auf dem Mietserver) genügt eine Zeile im Terminal:

curl -fsSL https://ollama.com/install.sh | sh

Danach läuft Ollama als Dienst im Hintergrund und wartet auf Anfragen. Standardmäßig hört es nur auf dem eigenen Rechner (127.0.0.1, Port 11434); für den Zugriff von außen stellen Sie es bewusst um und sichern es ab, am besten hinter Open WebUI.

Schritt 2: Das erste Modell laden

ollama run qwen3:8b

Beim ersten Aufruf lädt Ollama das Modell herunter (bei Qwen3 8B rund 5 GB, je nach Leitung ein paar Minuten) und startet direkt einen Chat im Terminal. Welche Modelle es gibt und wie groß sie sind, listet die Ollama-Bibliothek.

Schritt 3: Open WebUI als Oberfläche für das Team

Das Terminal ist nichts für den Büroalltag. Open WebUI liefert die vertraute Chat-Oberfläche und läuft am einfachsten als Docker-Container:

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Danach ist die Oberfläche unter http://localhost:3000 erreichbar, das erste angelegte Konto wird automatisch Administrator. Mitarbeiter melden sich mit eigenen Konten an, Gespräche bleiben getrennt.

Schritt 4: Modelle von Hugging Face nachladen

Die Ollama-Bibliothek deckt die gängigen Modelle ab. Das vollständige Angebot an offenen Gewichten liegt auf Hugging Face, dort finden Sie auch spezialisierte deutsche Feinabstimmungen, die es in der Ollama-Bibliothek nicht gibt. Ollama kann GGUF-Dateien von dort direkt beziehen:

ollama run hf.co/BENUTZER/MODELLNAME-GGUF:Q4_K_M

Zwei Dinge beachten: Das Modell muss im GGUF-Format vorliegen (auf Hugging Face links nach „GGUF“ filtern), und die Endung wählt die Quantisierung. Q4_K_M ist der übliche Kompromiss aus Qualität und Speicherbedarf, feiner quantisierte Varianten wie Q8_0 brauchen fast doppelt so viel Speicher für einen Qualitätsgewinn, den man im Büroalltag selten merkt.

Schritt 5: Modelle austauschen, wenn ein besseres erscheint

Der eigentliche Vorteil des Selbst-Betriebs: Ein Modellwechsel ist kein Projekt, sondern drei Befehle.

ollama pull qwen3.5:27b   # neues Modell laden (rund 20 GB)
ollama list               # was liegt auf der Platte?
ollama rm qwen3:8b        # altes Modell entfernen, gibt Speicher frei

Die Größe jedes Modells steht bei seinem Eintrag in der Ollama-Bibliothek; das Modell qwen3:27b gibt es dort nicht, die 27B-Variante der Familie heißt qwen3.5:27b. In Open WebUI taucht das neue Modell automatisch in der Auswahl auf; unter Einstellungen legen Sie es als Standard für alle Nutzer fest. Ihre Gespräche, Nutzerkonten und hochgeladenen Dokumente bleiben dabei unangetastet, die Oberfläche und das Modell sind sauber getrennt. Prüfen Sie nach jedem Wechsel mit zwei, drei typischen Aufgaben aus Ihrem Alltag, ob das neue Modell die alten wirklich schlägt, bevor Sie das alte löschen.

Lieber einrichten lassen? Genau diese Schritte, plus Absicherung, Benutzerverwaltung, Datenschutz-Unterlagen und Mitarbeitereinweisung, übernehme ich als Festpreis-Einrichtung: auf einem Server in Deutschland oder als eigener KI-Server im Betrieb. Was beides kostet, steht offen und mit Stand auf KI selbst hosten.

Hardware-Anforderungen

Eine ausführliche Aufstellung mit dem gerechneten Speicherbedarf je Modellklasse, den drei Betriebsvarianten und aktuellen Marktpreisen steht auf der Seite Ollama-Hardware: Anforderungen und Server mieten. Ob Sie Hardware besser kaufen oder mieten, rechnet KI-Server kaufen oder mieten mit Beispielzahlen vor. Hier die Kurzfassung:

Variante 1: VPS (Virtual Private Server)

Ein gemieteter Server bei einem Hoster mit Rechenzentrum in der EU (Standort je Tarif prüfen, zum Beispiel Hetzner, netcup, IONOS oder dogado):

  • Minimum: 8 GB RAM, 4 vCPUs → reicht für 7B-Modelle
  • Empfohlen: 16 GB RAM, 8 vCPUs → komfortabel für 7-8B-Modelle
  • Kosten (Stand 11.10.2026): Bei netcup kostet ein VPS mit 8 GB (VPS 1000) rund 15 bis 17 Euro im Monat, einer mit 16 GB (VPS 2000) rund 27 bis 31 Euro, jeweils bei zwölf Monaten Laufzeit; die Preisseite zeigt je nach Ansicht den Betrag mit oder ohne Umsatzsteuer. IONOS nennt für seinen VPS mit 8 GB einen Angebotspreis von 7 Euro im Monat für die ersten drei Monate (inklusive Umsatzsteuer). Bei Hetzner sind die Preise für neue Cloud-Server im Juni 2026 teils verdoppelt bis verdreifacht worden (heise online, 15.06.2026); dort lohnt der Vergleich vor der Bestellung besonders.
  • Vorteil: Kein eigener Serverraum nötig, Daten liegen im Rechenzentrum des Hosters
  • Standort prüfen: Nicht jeder Tarif steht in Deutschland. Bei netcup wählen Sie den Standort bei der Bestellung (zur Auswahl stehen unter anderem Nürnberg und Wien), bei IONOS nennt die Preisseite „EU, USA und Großbritannien“. Wer „Daten bleiben in Deutschland“ zusichern muss, wählt Standort und Vertragspartner ausdrücklich.

Variante 2: NAS oder Homeserver

Ein leistungsfähiges NAS (Synology, QNAP) oder ein Mini-PC im Büro:

  • Minimum: 16 GB RAM, moderner x86-Prozessor
  • Vorteil: Daten verlassen nie das Büronetzwerk, einmalige Kosten
  • Nachteil: Sie sind für Wartung und Backup selbst verantwortlich

Variante 3: Dedizierter Server mit GPU

Für höchste Anforderungen (70B-Modelle, viele gleichzeitige Nutzer):

  • Empfohlen: eine Grafikkarte mit 24 GB Grafikspeicher für die 27B-Klasse, mit 48 GB und mehr für 70B-Modelle
  • Kosten (Stand 11.10.2026): Der GEX45 von Hetzner (Grafikkarte NVIDIA RTX PRO 4000 Blackwell mit 24 GB, 64 GB Arbeitsspeicher) kostet 254,66 Euro im Monat inklusive Umsatzsteuer, das sind rund 214 Euro netto, dazu einmalig 248,71 Euro Einrichtung inklusive Umsatzsteuer (Hetzner, 01.09.2026).
  • Standort: Laut Hetzner-Übersicht stehen GEX45 und GEX63 in Helsinki, der GEX131 in Nürnberg oder Falkenstein. Finnland liegt in der EU, ist aber nicht Deutschland.
  • Vorteil: Antwortzeiten wie bei Cloud-Diensten, auch bei großen Modellen

CPU vs. GPU

Wichtig zu wissen: Ollama läuft auch ohne GPU, dann rechnet der Prozessor. Bei 7B-Modellen ist das akzeptabel (Antwort in 5-15 Sekunden), bei 70B-Modellen wird es langsam (30-60 Sekunden pro Antwort). Eine GPU beschleunigt die Inferenz um den Faktor 5-10. Das sind Größenordnungen, keine Messwerte für Ihre Hardware: Wie schnell es bei Ihnen wird, hängt an Prozessor, Speicherbandbreite, Modell und Kontextlänge.

RAG: Firmenwissen durchsuchbar machen

Die vielleicht spannendste Funktion für Unternehmen: RAG (Retrieval-Augmented Generation). Damit kann das KI-Modell auf Ihre internen Dokumente zugreifen und Fragen dazu beantworten.

So funktioniert es in Open WebUI

  1. Dokumente hochladen: PDF, DOCX, TXT oder Markdown in Open WebUI hochladen
  2. Automatische Verarbeitung: Das System zerlegt die Dokumente in Textabschnitte und erstellt einen Suchindex
  3. Fragen stellen: Wenn Sie eine Frage stellen, durchsucht das System zuerst Ihre Dokumente und gibt dem Modell die relevanten Stellen als Kontext mit
  4. Fundierte Antwort: Das Modell antwortet auf Basis Ihrer tatsächlichen Firmendaten, statt zu raten

Praxisbeispiele

  • Mitarbeiterhandbuch: “Wie viele Urlaubstage habe ich nach der Probezeit?” → Antwort aus dem Handbuch
  • Produktkatalog: “Welche unserer Maschinen eignet sich für Aluminium bis 5mm?” → Antwort aus dem Katalog
  • Vertragstexte: “Was sind die Kündigungsfristen im Rahmenvertrag mit Lieferant X?” → Antwort aus dem Vertrag

Datenschutz bei RAG

Bei Self-Hosted RAG bleiben alle Dokumente und der Suchindex auf Ihrem Server. Es werden keine Daten an externe Dienste übermittelt. Die Dokumente werden nicht zum Training des Modells verwendet, sie dienen ausschließlich als Kontextinformation bei Anfragen.

Self-Hosted vs. ChatGPT Plus: Der Vergleich

Kriterium Self-Hosted (Ollama) ChatGPT Plus/Team
Datenschutz Maximal: Daten bleiben lokal AVV nötig, Daten beim Anbieter
Modellqualität Gut (7B) bis sehr gut (70B) Spitzenmodelle der Cloud-Anbieter
Kosten Server oder Hardware, unabhängig von der Kopfzahl Pro Nutzer und Monat, wächst mit dem Team
Skalierung Keine Lizenz pro Nutzer, die Last begrenzt Pro Nutzer bezahlen
Firmenwissen (RAG) Eingebaut (Open WebUI) Je nach Tarif unterschiedlich
Automatisierung Volle API-Kontrolle (n8n) Über die separate Schnittstelle, nach Nutzung abgerechnet
Internetanbindung Nicht nötig (auch offline) Zwingend erforderlich
Einrichtung Technisches Know-how nötig Sofort nutzbar

Fazit: Bei einem Cloud-Abo zahlen Sie pro Kopf, die Kosten wachsen mit dem Team. Ein eigener Server kostet unabhängig von der Kopfzahl, nur nicht unabhängig von der Last: Ab einer bestimmten Zahl gleichzeitiger Nutzer und langer Dokumente braucht er mehr Grafikspeicher. Die Datenschutz-Lage ist einfacher, weil kein Drittlandtransfer anfällt; der Vertrag mit dem Hoster bleibt bei einem gemieteten Server nötig.

Häufige Fragen

Ist Ollama kostenlos?

Ja. Ollama ist quelloffen und steht unter der MIT-Lizenz, die Software kostet nichts, und die gängigen Modelle haben keine Lizenzgebühr (jedes Modell hat eine eigene Lizenz, die Sie vor dem geschäftlichen Einsatz lesen sollten). Was Geld kostet, ist der Rechner: ein gemieteter Server oder eigene Hardware, dazu Zeit für Einrichtung und Pflege. Die Ausnahme sind die Cloud-Modelle von Ollama: Sie laufen auf Rechnern von Ollama und haben eigene, kostenpflichtige Tarife (siehe unten).

Welches Ollama-Modell ist das beste?

Das eine beste Modell gibt es nicht, es gibt die passende Klasse. Für Büroaufgaben auf Deutsch ist die 8B-Klasse die untere Grenze, die 27B-Klasse liefert deutlich bessere Texte, und Modelle der 70B-Klasse kommen den Cloud-Modellen nahe, brauchen aber 43 GB und mehr. Namen und Speicherbedarf stehen in den Tabellen oben (Stand Oktober 2026). Testen Sie zwei, drei Kandidaten mit Aufgaben aus Ihrem Alltag, bevor Sie sich festlegen. Wie viel Arbeitsspeicher ein Modell braucht, rechnet die Seite Ollama-Hardware vor.

Wie lange dauert die Einrichtung?

Ollama + Open WebUI über Docker: ca. 30 Minuten für einen erfahrenen IT-Dienstleister. Modelle herunterladen: je nach Modellgröße und Internetverbindung 5-30 Minuten.

Können meine Mitarbeiter das bedienen?

Ja. Open WebUI sieht aus und funktioniert wie ChatGPT. Wer ChatGPT bedienen kann, kann auch Open WebUI bedienen. Eine kurze Einführung (30-60 Minuten) reicht in der Regel aus.

Was passiert bei einem Serverausfall?

Wie bei jeder IT-Infrastruktur: Regelmäßige Backups sind Pflicht. Bei einem VPS übernimmt der Hoster die Hardware-Verfügbarkeit. Die Chat-Historien und hochgeladenen Dokumente sollten regelmäßig gesichert werden.

Kann ich später auf Cloud-KI wechseln?

Ja, problemlos. Open WebUI kann neben Ollama auch externe Schnittstellen im OpenAI-Format anbinden. Sie können den Hybrid-Ansatz nutzen: Standard-Aufgaben lokal, anspruchsvolle Aufgaben über eine Cloud-API, alles über dieselbe Oberfläche.

Brauche ich dafür einen IT-Dienstleister?

Nicht zwingend, aber empfehlenswert. Die Ersteinrichtung ist mit Docker-Kenntnissen machbar, aber für den sicheren Betrieb (HTTPS, Backup, Monitoring, Updates) ist Fachwissen hilfreich.

Was muss ich beim Datenschutz mit Ollama selbst erledigen?

Ollama ist ein Werkzeug, es ist nicht pauschal konform oder nicht konform. Läuft es auf Ihrer eigenen Hardware, sieht der Anbieter nach seiner FAQ Ihre Eingaben nicht, und es gibt keinen Auftragsverarbeiter. Mieten Sie einen Server, braucht es einen Vertrag zur Auftragsverarbeitung mit dem Hoster und einen Blick auf den Standort. Rechtsgrundlage, Verarbeitungsverzeichnis und Löschregeln bleiben in beiden Fällen Ihre Aufgabe. Die vollständige Aufstellung steht in KI DSGVO-konform im Unternehmen einsetzen. Das ist eine Einordnung aus der Praxis, keine Rechtsberatung.

Gibt es Ollama auch als Cloud-Dienst?

Ollama Cloud führt Modelle auf Rechnern von Ollama aus statt auf Ihrem Gerät, nach Angaben von Ollama hauptsächlich in den USA (Preisseite, Stand 11.10.2026). Das ist keine lokale KI: Bei personenbezogenen Daten brauchen Sie vorher einen Vertrag zur Auftragsverarbeitung und eine Prüfung der Drittlandübermittlung. Wer ausschließlich lokal arbeiten will, schaltet die Cloud-Funktionen ab (OLLAMA_NO_CLOUD=1). Preise, Standort und Datenschutz im Überblick: Ollama Cloud für Betriebe. Hinweis, keine Rechtsberatung.

Kann ich Ollama auf einem Hetzner-Server betreiben?

Ja, Ollama läuft auf jedem Linux-Server mit genug Arbeitsspeicher, also auch bei Hetzner, netcup, IONOS und anderen. Zwei Dinge prüfen Sie vorher. Erstens den Preis: Hetzner hat im Juni 2026 die Preise für neue Cloud-Server teils verdoppelt bis verdreifacht (heise online). Zweitens den Standort: Die GPU-Server GEX45 und GEX63 stehen laut Hetzner in Helsinki, der GEX131 in Nürnberg oder Falkenstein (Stand 11.10.2026). Finnland liegt in der EU, ist aber nicht Deutschland. Wenn Ihr Vertrag oder Ihr Berufsrecht einen Standort in Deutschland verlangt, wählen Sie Tarif und Rechenzentrum entsprechend.

Nächster Schritt

Sie möchten Self-Hosted KI in Ihrem Unternehmen einsetzen? Auf der Seite KI selbst hosten stehen die Kosten für Betrieb und Einrichtung getrennt aufgeschlüsselt, dazu die ehrliche Einordnung, für wen sich das rechnet und für wen nicht. Wenn es um einen eigenen KI-Server im Betrieb geht, mit Hardware-Empfehlung, Einrichtung und laufendem Betrieb aus einer Hand, finden Sie die Pakete auf der Seite On-Premise KI.

Wenn Sie Ollama und Open WebUI nicht selbst einrichten möchten: Die EU-Cloud-Einrichtung bringt beides auf einen Server in Deutschland, mit Nutzerverwaltung, Härtung, Backup und Einweisung. Der Preis steht mit Stand auf KI selbst hosten.

Kosten und Ablauf ansehen →

Für Betriebe mit eigener IT: Wenn Sie klären wollen, ob eigene Hardware oder ein gemieteter Server der richtige Weg ist, beginnt das bei mir mit dem On-Prem-KI-Check, einer schriftlichen Entscheidungsvorlage. Die Einzelheiten stehen auf On-Premise KI.

webAION ist der Ein-Personen-Betrieb von Ronni Wordel in Lauenburg/Elbe (Kreis Herzogtum Lauenburg). Er richtet offene Sprachmodelle mit Ollama und Open WebUI auf einem Server in Deutschland oder auf Ihrer Hardware im Haus ein und betreut sie auf Wunsch im Abo. Die Zusammenarbeit läuft bundesweit per Telefon, Videocall und Fernzugriff, Termine vor Ort in der Region nach Absprache. Preise mit Stand: On-Premise KI.

KI im eigenen Unternehmen einsetzen?

Multi-Provider-KI mit Claude, Gemini, ChatGPT und n8n: DSGVO-konform und pragmatisch. Im Erstgespräch klären wir, was sich für Sie rechnet.

Das könnte Sie auch interessieren