Leistungen Lokale KI im Betrieb
Lokale KI: nützlich, ohne die Daten aus der Hand zu geben
Der schnellste Weg zu einem Datenschutzvorfall ist derzeit ein Mitarbeiter, der einen Vertrag, eine Personalakte oder eine Bürgeranfrage in ein kostenloses KI-Portal kopiert. Das Verbieten funktioniert erfahrungsgemäß nicht — die Arbeitserleichterung ist zu groß. Der gangbare Weg ist eine Alternative im eigenen Haus: ein Sprachmodell auf eigener Hardware, das dieselbe Arbeit leistet, ohne dass ein einziges Byte den Betrieb verlässt.
Was dazugehört
- Bedarfsklärung: welche Aufgaben lohnen sich überhaupt, welche nicht
- Auswahl offener Modelle passend zu Aufgabe und vorhandener Hardware
- Auslegung und Beschaffung der Rechenleistung, oft als Erweiterung vorhandener Server
- Betrieb im eigenen Netz, ohne Zugang von außen und ohne Anbindung an fremde Dienste
- Anbindung an eigene Dokumente, damit Antworten auf Ihren Unterlagen beruhen
- Zugriffsrechte je Abteilung sowie Protokollierung für das Verarbeitungsverzeichnis
- Einweisung der Mitarbeitenden — auch zur KI-Kompetenz nach Art. 4 KI-Verordnung
Häufige Fragen
Ist eine selbst gehostete KI wirklich datenschutzkonform?
Der entscheidende Punkt fällt weg: Es gibt keine Übermittlung an einen Dritten und keinen Drittlandtransfer, weil die Verarbeitung auf Ihrer eigenen Hardware in Ihren Räumen stattfindet. Ein Auftragsverarbeitungsvertrag ist damit entbehrlich. Die übrigen Pflichten bleiben allerdings bestehen — Verarbeitungsverzeichnis, Rechtsgrundlage, Zweckbindung und je nach Anwendung eine Datenschutz-Folgenabschätzung. Wir liefern die technischen Angaben, die Ihre Dokumentation dafür braucht.
Wie gut ist ein lokales Modell im Vergleich zu den großen Anbietern?
Ehrliche Antwort: bei freier Konversation und bei schwierigen Aufgaben schlechter. Bei den Aufgaben, um die es im Betrieb tatsächlich geht — zusammenfassen, umformulieren, aus eigenen Unterlagen beantworten, Entwürfe erstellen, übersetzen — liegen offene Modelle nah genug dran, dass der Unterschied im Alltag kaum auffällt. Wir prüfen das vor der Beschaffung an Ihren echten Texten, nicht an Beispielen aus dem Prospekt.
Welche Hardware braucht das, und reicht unser Server?
Für einen Betrieb mit einer Handvoll gleichzeitiger Nutzer genügt meist eine einzelne Grafikkarte mit ausreichend Speicher; sie lässt sich häufig in einen vorhandenen Server einbauen. Größere Modelle und mehr gleichzeitige Anfragen brauchen entsprechend mehr. Was Sie brauchen, ergibt sich aus der Bedarfsklärung — nicht umgekehrt aus einem Angebot.
Kann die KI auf unsere eigenen Dokumente zugreifen?
Ja, und das ist meist der eigentliche Nutzen. Angebote, Protokolle, Handbücher oder Satzungen werden durchsuchbar gemacht, sodass Antworten auf Ihren Unterlagen beruhen statt auf Allgemeinwissen. Wichtig sind dabei die Zugriffsrechte: Wer die Personalakten nicht sehen darf, darf sie auch nicht über die KI erfragen können. Das richten wir entsprechend Ihrer bestehenden Rechtestruktur ein.
Was ist mit der KI-Verordnung der EU?
Selbst zu hosten befreit von nichts — die Pflichten hängen am Anwendungsfall, nicht am Betriebsort. Für die üblichen Büroanwendungen gelten vor allem Transparenz gegenüber den Nutzenden und die Pflicht, für ausreichende KI-Kompetenz der Beschäftigten zu sorgen. Anwendungen, die Menschen bewerten — etwa im Personalbereich —, unterliegen deutlich strengeren Anforderungen. Darauf weisen wir hin, bevor etwas eingerichtet wird.
Auch interessant
- IT-Infrastruktur und ServerPassende Rechenleistung genau dann, wenn Sie sie brauchen — ohne überdimensionierte Pakete.
- IT-Sicherheit und FirewallWirksamer Schutz der Firmendaten vor Verschlüsselungstrojanern und Angriffen von außen.
- Netzwerk und WLANAusfallsichere Verbindungen und WLAN, das auch in der letzten Ecke der Halle trägt.
Tätig in Marktredwitz, Waldershof, Wunsiedel, Selb, Tirschenreuth, Kemnath und Umgebung — mit Sitz in Waldershof.