KI im Unternehmen
KI im Unternehmen: einfach erklärt, sicher & effizient eingesetzt.
Künstliche Intelligenz wie ChatGPT, Claude oder Mistral beruht auf Sprachmodellen: Programmen, die aus riesigen Textmengen gelernt haben, Sprache zu verstehen und zu schreiben. Hier lesen Sie ohne Fachchinesisch, wie das funktioniert, wo KI Ihrem Betrieb Arbeit abnimmt, wo ihre Grenzen liegen und wie Sie sie DSGVO-konform einführen.
- In zehn Minuten verstanden
- Ehrlich auch bei den Grenzen
- DSGVO und EU AI Act im Blick
Was ist KI? Die kurze Antwort
Künstliche Intelligenz (KI) ist Software, die aus Beispielen lernt, statt Schritt für Schritt programmiert zu werden.
Sie löst Aufgaben, für die man bisher menschliches Urteilsvermögen brauchte: Sprache verstehen, Bilder erkennen, Muster finden, Entscheidungen vorbereiten. Dieses Lernen aus Daten heißt maschinelles Lernen.
Wenn heute von KI die Rede ist, sind meist generative Sprachmodelle gemeint, auf Englisch Large Language Models (LLM). Sie stecken hinter ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google und Le Chat von Mistral. Ein Sprachmodell hat beim Training gelernt, welches Wort in einem Zusammenhang am wahrscheinlichsten als Nächstes kommt. Weil es das an Milliarden Texten geübt hat, kann es zusammenfassen, übersetzen, Fragen beantworten und Entwürfe schreiben. Kurz gesagt: Ein Sprachmodell denkt nicht wie ein Mensch, es rechnet sehr gut mit Sprache. Das macht es stark bei allem, was mit Text zu tun hat, und unzuverlässig, wenn etwas exakt stimmen muss und keine Quelle vorliegt. Genau darauf baut ein guter KI-Einsatz im Unternehmen auf.
So schreibt KI: Wort für Wort
Vielen Dank für Ihre Anfrage
- Anfrage 54 %
- Nachricht 23 %
- Geduld 14 %
- Bestellung 9 %
Vereinfachte Darstellung mit Beispielzahlen. Echte Modelle rechnen mit Wortteilen (Tokens) und nehmen nicht immer das Wahrscheinlichste, damit Antworten natürlich klingen.
KI-Begriffe kurz erklärt
- Künstliche Intelligenz (KI)
- Software, die aus Beispielen lernt und Aufgaben löst, die bisher menschliches Urteilsvermögen brauchten.
- Generative KI
- KI, die Neues erzeugt: Texte, Bilder, Code oder Sprache, statt nur zu sortieren oder zu erkennen.
- Sprachmodell (LLM)
- Large Language Model: ein generatives Modell, das Sprache versteht und schreibt, etwa GPT, Claude, Gemini oder Mistral.
- Token
- Ein Textbaustein, meist ein Wortteil. Modelle rechnen in Tokens, und Anbieter berechnen ihre Preise danach.
- Prompt
- Die Anweisung oder Frage an die KI. Je klarer Aufgabe, Rolle und Beispiele, desto besser das Ergebnis.
- Kontextfenster
- Wie viel Text ein Modell auf einmal berücksichtigen kann, von einigen Seiten bis zu ganzen Büchern.
- RAG (Retrieval-Augmented Generation)
- Die KI sucht zuerst passende Stellen in Ihren Dokumenten und antwortet dann auf dieser Grundlage, mit Quellenangabe.
- Halluzination
- Eine Antwort, die überzeugend klingt, aber falsch ist. Sie entsteht vor allem, wenn dem Modell die passende Information fehlt.
- KI-Agent
- Eine KI, die nicht nur antwortet, sondern Werkzeuge bedient: im Kalender nachsehen, ein Ticket anlegen, eine E-Mail entwerfen.
- Fine-Tuning
- Ein Modell mit eigenen Beispielen nachtrainieren, damit es Stil oder Format trifft. Für Firmenwissen ist RAG meist günstiger und aktueller.
Wo KI stark ist, und wo nicht
- Stark: Sprache verstehen und schreibenZusammenfassen, übersetzen, umformulieren und Entwürfe schreiben, in Sekunden und in Ihrem Ton
- Stark: Unordnung einordnenE-Mails, Notizen, Fotos und PDFs verstehen, auch wenn jedes anders aussieht und niemand ein Formular benutzt hat
- Stark: Wissen schnell findenDie Antwort steckt irgendwo in 300 Seiten Handbuch? KI findet sie in Sekunden und zeigt die Stelle
- Vorsicht: Fakten ohne QuelleOhne Ihre Unterlagen kann KI plausible, aber falsche Antworten erfinden. Deshalb arbeitet sie bei mir mit Quellen, die Sie prüfen können
- Vorsicht: Entscheidungen über MenschenBewerbungen, Kredite oder Diagnosen gehören nicht allein in die Hand einer KI. Hier entscheidet ein Mensch, die KI bereitet vor
- Schwach: feste Regeln und exakte RechnungenWo jedes Mal dasselbe passieren muss, ist klassische Automatisierung zuverlässiger und günstiger
KI oder Automatisierung: Was ist der Unterschied?
Automatisierung folgt festen Regeln, KI trifft Einschätzungen. Geht ein Formular ein, erstellt eine Automatisierung jedes Mal dasselbe Angebot. Das ist zuverlässig und günstig, solange die Eingaben gleich aussehen.
KI ist dort stark, wo Regeln nicht reichen: bei Sprache, Bedeutung und Ausnahmen. Ob eine E-Mail eine Reklamation, eine Anfrage oder eine Kündigung ist, steht in keinem Feld. Man muss sie lesen, und genau das kann ein Sprachmodell.
In der Praxis arbeiten beide zusammen: Die KI versteht, die Automatisierung erledigt. Die KI liest die E-Mail und erkennt das Anliegen, die Automatisierung legt das Ticket an, sucht den Kunden im CRM und verschickt die Bestätigung. Ich empfehle KI nur dort, wo sie Ihnen wirklich etwas bringt. Oft reicht eine einfache Regel, und die ist günstiger.
So nutzen Unternehmen KI: sechs Beispiele aus dem Alltag
- Ein Assistent für Ihr FirmenwissenHandbücher, Verträge, Angebote und Protokolle: Ihr Team fragt in eigenen Worten und bekommt die Antwort mit Quelle, statt Kollegen zu unterbrechen
- Kundenservice rund um die UhrEin Chat auf Ihrer Webseite beantwortet Fragen aus Ihren Inhalten, nimmt Anliegen auf und übergibt an einen Menschen, wenn es knifflig wird
- Posteingang vorsortiertE-Mails nach Anliegen, Dringlichkeit und Zuständigkeit einordnen, mit einem Antwortentwurf für die häufigsten Fälle
- Dokumente auslesen und prüfenRechnungen, Lieferscheine, Formulare und Verträge auslesen, vergleichen und auf Auffälligkeiten prüfen, auch als Foto vom Handy
- Besprechungen festhaltenAus der Aufnahme eines Termins entstehen Protokoll, Aufgabenliste und Follow-up-Mail, mit Einverständnis aller Beteiligten
- Texte in Ihrem TonAngebote, Stellenanzeigen und Produkttexte als Entwurf, mit Ihren Fakten statt Allgemeinplätzen
Modelle: GPT von OpenAI, Claude, Mistral oder Open-Source-Modelle wie Llama im eigenen Rechenzentrum. Welches passt, entscheiden Aufgabe, Datenschutz und Kosten.
KI im Unternehmen einführen: in fünf Schritten
- 01Chancen findenWir schauen gemeinsam, wo in Ihrem Alltag Wissen gesucht, Text gelesen oder geschrieben wird, und schätzen, wie viel Zeit das heute kostet
- 02Regeln festlegenWelche Daten darf die KI sehen, welche Werkzeuge sind erlaubt, wer prüft die Ergebnisse. Das steht danach in einer kurzen KI-Richtlinie
- 03Pilot mit echten BeispielenEin kleiner Prototyp zeigt mit Ihren eigenen Unterlagen, wie gut es wirklich funktioniert, bevor Sie größer investieren
- 04Team schulenIhr Team lernt, KI sinnvoll und sicher zu nutzen. Das verlangt der EU AI Act seit Februar 2025 ohnehin
- 05Ausrollen und messenErst wenn es sich bewährt, kommt es in den Alltag, mit klaren Zahlen zu Zeitersparnis und Qualität
Datenschutz, DSGVO und EU AI Act: Was für Sie gilt
KI lässt sich DSGVO-konform nutzen, wenn klar ist, welche Daten wohin fließen. Dafür braucht es einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO mit dem Anbieter, die Zusage, dass Ihre Eingaben nicht zum Training verwendet werden, und nach Möglichkeit Server in der EU. Für besonders sensible Daten, etwa Patienten- oder Mandantendaten, laufen Open-Source-Modelle auch auf Servern in der EU.
Der EU AI Act, die KI-Verordnung der EU, gilt seit August 2024 schrittweise. Für Unternehmen, die KI nutzen, sind zwei Pflichten schon heute wichtig: Seit Februar 2025 müssen Sie dafür sorgen, dass Ihr Team ausreichend KI-Kompetenz hat (Art. 4). Seit August 2026 gelten Transparenzpflichten (Art. 50): Wer Kunden mit einem Chatbot sprechen lässt, muss das erkennbar machen, und KI-erzeugte Inhalte sind in bestimmten Fällen zu kennzeichnen. Strengere Regeln für Hochrisiko-Anwendungen, etwa bei der Auswahl von Bewerbern, greifen später. Ich helfe Ihnen bei der Einordnung, der KI-Richtlinie und der Schulung Ihres Teams. Eine Rechtsberatung ersetzt das nicht.
Stand: Oktober 2026.
Häufige Fragen zu KI im Unternehmen
Ist das nicht einfach ChatGPT?
ChatGPT ist ein allgemeiner Assistent, der Ihr Unternehmen nicht kennt. Eine Unternehmens-KI arbeitet mit Ihren Unterlagen, Ihren Regeln und Ihren Zugriffsrechten, und sie ist dort eingebaut, wo Ihr Team ohnehin arbeitet: im Postfach, im CRM oder auf Ihrer Webseite.
Erfindet KI nicht manchmal Dinge?
Ja, das nennt man Halluzination: Das Modell schreibt etwas, das plausibel klingt, aber falsch ist. Dagegen helfen eigene Quellen, sichtbare Belege in jeder Antwort und ein Mensch, der bei wichtigen Entscheidungen freigibt.
Kann ich KI DSGVO-konform nutzen?
Ja, wenn die Grundlagen stimmen: ein Vertrag zur Auftragsverarbeitung mit dem Anbieter, keine Nutzung Ihrer Eingaben fürs Training, Server in der EU oder in Deutschland und klare Regeln, welche Daten die KI sehen darf. Sie entscheiden, was die KI sieht. Für besonders sensible Daten laufen Modelle auch auf Servern in Deutschland oder bei Ihnen im Haus.
Was verlangt der EU AI Act von meinem Unternehmen?
Seit Februar 2025 müssen Unternehmen, die KI einsetzen, für ausreichende KI-Kompetenz im Team sorgen. Seit August 2026 gelten Transparenzpflichten, etwa wenn Kunden mit einem Chatbot sprechen. Für die meisten Büroanwendungen ist das gut machbar. Ich helfe bei Einordnung und Schulung, eine Rechtsberatung ersetzt das nicht.
Was kostet KI im Unternehmen?
Die laufenden Kosten liegen bei typischen Büroaufgaben oft bei Bruchteilen eines Cents bis wenigen Cent pro Vorgang. Den größten Teil macht die Einrichtung aus: Daten anbinden, Regeln, Tests und Schulung. Nach dem kostenlosen Erstgespräch bekommen Sie einen Festpreis.
Ersetzt KI meine Mitarbeitenden?
Nein, sie nimmt ihnen Routine ab. KI liefert Entwürfe, Zusammenfassungen und Vorschläge in Sekunden, die Entscheidung trifft Ihr Team. Die gewonnene Zeit fließt in Beratung, Kunden und Aufgaben, für die bisher keine Zeit blieb.
Welches KI-Modell ist das richtige?
Das hängt von Aufgabe, Datenschutz und Budget ab. Für anspruchsvolle Texte und Analysen eignen sich große Modelle wie GPT oder Claude, für einfache Einordnungen reichen kleinere, günstigere. Sollen Daten das Haus nicht verlassen, kommen Open-Source-Modelle wie Mistral oder Llama auf eigenen Servern infrage. Ich lege mich auf keinen Anbieter fest, ein späterer Wechsel bleibt möglich.
Wie viele Unternehmen nutzen schon KI?
Laut Statistischem Bundesamt setzte 2025 gut jedes vierte Unternehmen in Deutschland KI ein (26 %, Unternehmen ab zehn Beschäftigten), 2024 waren es 20 %. Bei großen Unternehmen sind es 57 %, bei kleinen 23 %. Gerade kleinere Betriebe können also noch einen Vorsprung gewinnen.
Wie lange dauert die Einführung?
Ein klar umrissener Pilot, etwa ein Assistent für ein Handbuch, ist oft nach zwei bis vier Wochen einsatzbereit.