Lokale AI auf deinem eigenen Server

Wann das die richtige Wahl ist

• Personalakten, Bewerbungen, Krankmeldungen: alles, wonach ein Betriebsrat fragen würde.
• Klienten- oder Patientendaten unter Verschwiegenheitspflicht.
• Verträge, Kalkulationen und Konstruktionsdaten, die du in keine fremde Cloud legen würdest.
• Branchenauflagen oder ein Kundenvertrag, die eine Verarbeitung außerhalb der eigenen Systeme verbieten.
• Ein Standort, an dem du dich auf die Internetverbindung lieber nicht verlassen willst.

Wie es abläuft

1. 1 Wir klären, was wirklich im Haus bleiben muss und was nicht. Oft ist es weniger als erwartet.
2. 2 Wir wählen die passende Hardware. Ein einzelner Rechner mit ordentlicher Grafikkarte trägt ein kleines Team.
3. 3 Ich setze das Modell und die Oberfläche auf und hänge es an die Programme, die du ohnehin nutzt.
4. 4 Übergabe: wie du es aktualisierst, wie du siehst ob es läuft, und wen du anrufst wenn nicht.

Was du dafür aufgibst

Das ist kein Gratis-Mittagessen. Ein Modell auf eigener Hardware liegt bei wirklich schweren Denkaufgaben meist einen Schritt hinter den größten Cloud-Modellen. Du kaufst einmal Hardware, statt pro Nutzung zu zahlen. Irgendwer muss es am Laufen halten. Dafür verlässt kein Datensatz das Haus, es gibt keinen Auftragsverarbeiter, keine Drittlandübermittlung zu rechtfertigen und keine Preiserhöhung eines Anbieters, den du nicht steuerst. Fürs Zusammenfassen, Entwerfen, Durchsuchen der eigenen Unterlagen und Sortieren fällt der Unterschied kaum ins Gewicht.

Was es kostet

Zwei getrennte Dinge: die Hardware, die du einmal kaufst und die vollständig davon abhängt, wie viele Leute gleichzeitig damit arbeiten, und die Einrichtung, die ein Fixpreis für einen festgelegten Umfang ist. Danach ist die laufende Ausgabe der Strom. Es gibt keine Abrechnung pro Frage und kein Abo.