Ist die Einführung von KI Aufgabe der IT-Abteilung? Die IT übernimmt wichtige Teile der technischen Umsetzung: Sie prüft Systeme, Schnittstellen, Zugriffsrechte und den sicheren Betrieb. Für die Einführung im gesamten Unternehmen braucht es zusätzlich Entscheidungen über Ziele, Arbeitsabläufe, Qualität und Verantwortung. Diese Entscheidungen treffen Geschäftsführung und Fachbereiche gemeinsam mit der IT.
Das klingt zunächst selbstverständlich. Im Alltag beginnt ein KI-Projekt jedoch häufig mit der Frage, welches Tool die IT bereitstellen kann. Weniger klar ist, welcher konkrete Vorgang besser werden soll, wer das Ergebnis beurteilt und welche Person später über einen breiteren Einsatz entscheidet. Genau dort entstehen die teuren Umwege.
Dieser Beitrag richtet sich an Geschäftsführer und Führungskräfte, die KI in ihrem Unternehmen sinnvoll einsetzen wollen. Du erfährst, welche Aufgaben zu welcher Rolle gehören, wie du einen ersten Anwendungsfall führst und woran du erkennst, ob aus einem Pilot ein belastbarer Prozess werden kann.
Warum die Frage nach der IT-Abteilung so wichtig ist
Bei klassischer Unternehmenssoftware ist die Aufteilung oft vertraut: Ein Fachbereich formuliert Anforderungen, die IT stellt die Anwendung bereit. Bei KI verschwimmen diese Grenzen. Eine KI kann E-Mails zusammenfassen, Angebote vorbereiten, Daten aus Dokumenten extrahieren oder einen Vorgang im CRM anstoßen. Jede dieser Aufgaben greift unmittelbar in fachliche Abläufe ein.
Ein System kann technisch korrekt funktionieren und fachlich trotzdem keinen Nutzen bringen. Denk an einen Assistenten, der Kundenanfragen zuverlässig klassifiziert. Wenn niemand definiert hat, welche Anfragen Vorrang haben, wann ein Mensch übernehmen muss und wie die Antwortqualität geprüft wird, bleibt der Prozess unvollständig. Die IT kann diese Regeln technisch abbilden. Die fachlichen Maßstäbe müssen aus dem betroffenen Bereich kommen.
Auch aus Managementsicht ist die Aufgabenteilung kein Randthema: Ein Impulspapier des Bundesverbands mittelständische Wirtschaft zur KI-Implementierung beschreibt KI als Managementaufgabe und hält einen bloßen „Verweis auf die IT“ für zu kurz gegriffen. Das Papier empfiehlt, dass Geschäftsführung und Fachbereiche den Nutzen gemeinsam bestimmen. Es ist eine Handlungsempfehlung für den Mittelstand, keine gesetzliche Vorgabe.
Was die Geschäftsführung bei der KI-Einführung entscheiden muss
Du musst als Geschäftsführer weder Modelle trainieren noch Schnittstellen konfigurieren. Deine Aufgabe besteht darin, die Entscheidungen zu treffen, die keine technische Abteilung allein für das Unternehmen treffen kann.
- Ziel festlegen: Welches Kunden-, Qualitäts-, Zeit- oder Kostenproblem soll sich verbessern?
- Priorität setzen: Welcher Anwendungsfall verdient zuerst Budget und Arbeitszeit?
- Verantwortung zuordnen: Wer ist fachlich für den Prozess zuständig und wer entscheidet bei Zielkonflikten?
- Grenzen definieren: Welche Entscheidungen darf die KI vorbereiten, welche Aktionen erfordern menschliche Freigabe?
- Wirkung prüfen: Welche Kennzahlen zeigen, ob die Lösung im Arbeitsalltag tatsächlich hilft?
Diese Führungsrolle bedeutet nicht, jede Einzelentscheidung an dich zu ziehen. Sie schafft einen Rahmen, in dem Fachbereiche und IT selbstständig arbeiten können. Das freiwillige AI Risk Management Framework des US-amerikanischen NIST empfiehlt ebenfalls klar definierte Zuständigkeiten im Unternehmen und ordnet Entscheidungen über Risiken von KI-Systemen der obersten Leitung zu. Für DACH-Unternehmen ist es ein Orientierungsrahmen, keine unmittelbar geltende Rechtsnorm.
Eine internationale McKinsey-Befragung von 2025 zeigt zudem einen Zusammenhang zwischen hohem wirtschaftlichem KI-Nutzen, aktivem Engagement der Führung und der Neugestaltung von Arbeitsabläufen. Das ist eine Beobachtung aus Befragungsdaten; sie beweist nicht, dass Führung allein den Erfolg verursacht. Für die Projektpraxis unterstreicht sie aber, warum ein reiner Tool-Rollout zu kurz gedacht ist.
Welche Verantwortung die IT-Abteilung tatsächlich trägt
Die IT ist ein zentraler Partner. Sie bewertet, ob eine geplante Lösung sicher und dauerhaft in die bestehende Systemlandschaft passt. Gerade sobald mehrere Mitarbeitende auf Unternehmensdaten zugreifen oder KI selbst Aktionen in anderen Anwendungen ausführen soll, steigt die Bedeutung dieser Arbeit.
Zu den typischen IT-Aufgaben gehören:
- bestehende Systeme, APIs und Datenflüsse prüfen;
- Identitäten, Rollen und Berechtigungen technisch umsetzen;
- Integrationen, Protokollierung, Backups und Fehlerbehandlung planen;
- Anforderungen an Verfügbarkeit, Leistung und parallele Nutzung bewerten;
- Cloud-, lokale oder hybride Betriebsmodelle technisch vergleichen;
- Kosten und Auslastung des Modellbetriebs beobachtbar machen.
Für diese Fragen brauchst du technisches Fachwissen. Insbesondere bei sensiblen Daten oder schreibenden Zugriffen auf CRM und ERP sollte die IT früh beteiligt sein. Unser Leitfaden zur KI-Integration in die IT-Infrastruktur vertieft Schnittstellen, Berechtigungen, Modellwahl und Betrieb.
KI im Unternehmen praktisch umsetzen?
AI Cowork ist ein KI-System für Unternehmen, das E-Mails, Meeting-Zusammenfassungen, KI-CRM, automatische Aufgabenverteilung und vieles mehr unterstützt. DSGVO-konform und individuell auf dein Unternehmen trainiert.
Virtuelle KI-Mitarbeiter ansehenWichtig ist eine saubere Übergabe zwischen Fachbereich und IT. „Wir brauchen einen KI-Agenten für Vertrieb“ ist noch keine technische Anforderung. „Der Agent soll eingehende Anfragen vorsortieren, einen Angebotsentwurf aus freigegebenen Produktdaten vorbereiten und vor jedem Versand eine Vertriebsmitarbeiterin um Freigabe bitten“ ist bereits ein prüfbarer Auftrag.
Warum die Fachbereiche den Anwendungsfall führen sollten
Vertrieb, Service, Buchhaltung oder Personalabteilung kennen die Ausnahmen ihrer Arbeit. Sie wissen, welche Informationen fehlen können, welche Fehler schwerwiegend sind und woran ein brauchbares Ergebnis zu erkennen ist. Dieses Wissen wird bei KI-Projekten schnell zum Engpass, wenn es nur mündlich vorhanden ist.
Deshalb sollte der betroffene Bereich einen fachlichen Prozesseigner benennen. Diese Person beschreibt den heutigen Ablauf, stellt geeignete Testfälle bereit, legt Qualitätskriterien fest und sammelt Rückmeldungen der Mitarbeitenden. Sie entscheidet zusammen mit der Projektleitung, ob der Pilot fachlich einsatzfähig ist. Die IT kann dabei beraten und die Umsetzung verantworten, sollte aber fachliche Abnahmen nicht ersetzen müssen.
Gerade Führungskräfte im Fachbereich prägen die spätere Nutzung. Wenn eine neue Arbeitsweise zusätzlichen Aufwand erzeugt oder unklar bleibt, wann die KI-Ausgabe geprüft werden muss, wird ein bereitgestelltes Tool kaum zum verlässlichen Standardprozess.
Wer entscheidet was? Eine einfache Verantwortungsmatrix
Die folgende Zuordnung ist ein Ausgangspunkt für mittelständische Unternehmen. Je nach Größe können mehrere Rollen bei einer Person liegen. Entscheidend ist, dass jede wichtige Entscheidung einen benannten Eigentümer hat.
| Entscheidung oder Aufgabe | Federführend | Unbedingt beteiligt |
|---|---|---|
| Geschäftsziel, Priorität und Budget | Geschäftsführung | Fachbereich, IT |
| Prozessbeschreibung und Erfolgskriterien | Fachlicher Prozesseigner | Mitarbeitende, Geschäftsführung, IT |
| Technische Architektur und Systemanbindung | IT | Fachbereich, Informationssicherheit |
| Datenverwendung und Datenschutzprüfung | Zuständige Unternehmensfunktion | Fachbereich, IT, Datenschutz und gegebenenfalls Rechtsberatung |
| Regeln für Freigaben und menschliche Kontrolle | Fachlicher Prozesseigner | Geschäftsführung, IT, Compliance |
| Schulung und Einführung im Team | Führungskraft des Fachbereichs | HR/Personalentwicklung, IT, Mitarbeitende |
| Produktivfreigabe und weitere Skalierung | Benannte Projektverantwortung | Geschäftsführung, Fachbereich, IT und zuständige Kontrollfunktionen |
Bei Datenschutz und Regulierung hängen die formalen Zuständigkeiten vom Unternehmen, den Daten und dem konkreten KI-System ab. Die Tabelle ersetzt keine rechtliche Prüfung. Sie verhindert vor allem, dass eine Aufgabe unbemerkt zwischen Abteilungen liegen bleibt.
Praxisbeispiel: 20 Mitarbeitende sollen KI im Kundenservice nutzen
Stell dir ein mittelständisches Unternehmen vor, in dem bis zu 20 Personen gleichzeitig Kundenanfragen bearbeiten. Die Geschäftsführung möchte Reaktionszeiten verkürzen. Ein KI-System soll E-Mails zusammenfassen, relevante Unterlagen finden und Antwortentwürfe vorbereiten. Dieses Beispiel ist ein Planungsszenario, kein behaupteter Kundenfall.
Die Geschäftsführung definiert zunächst das Ziel: kürzere Bearbeitungszeiten bei gleichbleibender oder besserer Antwortqualität. Die Serviceleitung beschreibt Anfragearten, Sonderfälle und Freigaben. Sie stellt echte, zulässig verwendbare Beispiele für den Test bereit und definiert, wann ein Entwurf als fachlich brauchbar gilt.
Die IT prüft parallel, welche Postfächer und Wissensquellen angebunden werden dürfen, wie Berechtigungen pro Person funktionieren und wie das System bei parallelen Anfragen reagiert. Bei lokalen Modellen gehören Hardware, Warteschlangen und Lastverteilung in diese Prüfung. Bei externen Modellen sind unter anderem Datenflüsse, vertragliche Bedingungen, Kosten und Kapazitätsgrenzen zu bewerten. Ein günstiges Modell kann für einfache Klassifikation ausreichen; komplexere Antworten benötigen möglicherweise ein leistungsfähigeres Modell. Das muss anhand realer Aufgaben getestet werden.
Datenschutz und gegebenenfalls weitere Kontrollfunktionen prüfen den konkreten Einsatz. Die Führungskraft sorgt dafür, dass Mitarbeitende wissen, wie sie Vorschläge kontrollieren und Fehler melden. Erst danach entscheidet das Unternehmen anhand von Testfällen und Messwerten, ob der Prozess auf weitere Teams ausgeweitet wird.
Dieses Szenario zeigt, warum „20 Lizenzen kaufen“ und „KI einführen“ unterschiedliche Entscheidungen sind. Die Einführung umfasst den gesamten Weg vom Geschäftsziel bis zum verlässlichen Betrieb.
So startest du als Geschäftsführer mit einem überschaubaren Pilot
1. Wähle einen Prozess mit klarem Nutzen
Suche eine wiederkehrende Aufgabe, die heute Zeit bindet und deren Qualität du beurteilen kannst. Das kann die Vorbereitung von Angeboten, die Sichtung von Serviceanfragen oder die strukturierte Zusammenfassung von Dokumenten sein. Ein guter Pilot hat einen klaren Anfang und ein klares Ende.
2. Benenne einen fachlichen Eigentümer
Die Person sollte den Prozess kennen, Mitarbeitende einbinden und Entscheidungen zu Ausnahmen treffen können. Gib ihr ausreichend Zeit für Beispiele, Tests und Feedback. Ohne dieses Mandat landet die fachliche Klärung oft bei der IT oder beim Anbieter.
3. Beziehe IT, Datenschutz und weitere zuständige Stellen früh ein
Prüfe Datenarten, Zugriffe und Schnittstellen, bevor du eine Plattform auswählst. Sobald personenbezogene Daten verarbeitet werden, ist eine konkrete Datenschutzprüfung erforderlich. Auch der EU AI Act kann je nach Rolle und Anwendungsfall Pflichten auslösen. Die Europäische Kommission erläutert zu Artikel 4, dass Anbieter und Betreiber von KI-Systemen Maßnahmen zur Förderung der KI-Kompetenz der mit dem System befassten Personen ergreifen müssen. Umfang und Ausgestaltung richten sich nach Rolle, Kenntnisstand und Einsatzkontext; für Unternehmen in der Schweiz sind die jeweils anwendbaren Rechtsgrundlagen gesondert zu prüfen.
4. Lege vor dem Start Messpunkte fest
Miss beispielsweise die Zeit pro Vorgang, den Anteil fachlich brauchbarer Entwürfe, notwendige Korrekturen, Fehlzuordnungen und die tatsächliche Nutzung im Team. Vergleiche die Ergebnisse mit dem bisherigen Ablauf. Neben Modell- oder Lizenzkosten gehören Prüfung, Integration und laufender Betrieb zur wirtschaftlichen Bewertung.
5. Entscheide ausdrücklich über den nächsten Schritt
Nach dem Pilot gibt es mehrere gute Ergebnisse: ausbauen, den Ablauf anpassen oder den Anwendungsfall stoppen. Ein gestoppter Pilot kann wertvoll sein, wenn er früh zeigt, dass Daten, Prozess oder Nutzen noch nicht zusammenpassen. Triff die Entscheidung gemeinsam mit Fachbereich und IT anhand der zuvor vereinbarten Kriterien.
Fünf Fragen, die du vor dem Auftrag an die IT beantworten solltest
- Welcher konkrete Vorgang soll besser werden? Beschreibe den bisherigen Ablauf und die größte Reibung.
- Was bedeutet „besser“? Lege eine messbare Verbesserung bei Zeit, Qualität, Kosten oder Kundenerlebnis fest.
- Wer kennt den Prozess im Detail? Benenne die fachliche Person für Ausnahmen, Testfälle und Abnahme.
- Welche Daten und Entscheidungen sind sensibel? Halte fest, welche Informationen zugänglich sein dürfen und wo ein Mensch freigeben muss.
- Wer trägt den Betrieb nach dem Pilot? Kläre Zuständigkeiten für fachliche Änderungen, technische Störungen, Kosten und Schulung.
Wenn du auf diese Fragen Antworten hast, kann die IT viel gezielter beraten. Gleichzeitig wird sichtbar, ob ein einfaches Werkzeug reicht oder ob du eine stärker integrierte KI-Anwendung benötigst.
Was passiert, wenn das Unternehmen keine eigene IT-Abteilung hat?
Viele KMU arbeiten mit externen IT-Dienstleistern. Auch dann braucht es intern eine Person, die das Geschäftsziel und die fachliche Nutzung verantwortet. Der Dienstleister kann Sicherheit, Schnittstellen und Betrieb übernehmen. Er kann jedoch nicht allein festlegen, welche Antwort im Kundenservice fachlich richtig ist oder welche Prozessänderung deinem Unternehmen wirtschaftlich hilft.
Für kleinere Teams reicht häufig ein schlankes Modell: ein Mitglied der Geschäftsführung als Sponsor, eine Führungskraft als Prozesseigner und ein technischer Partner für Umsetzung und Betrieb. Datenschutz und weitere notwendige Prüfungen werden passend zum Anwendungsfall eingebunden. Entscheidend ist Klarheit über Entscheidungen und Übergaben, nicht die Zahl der Gremien.
Häufige Fragen zur Verantwortung bei der KI-Einführung
Soll die IT bei der Auswahl eines KI-Tools mitentscheiden?
Ja. Die IT sollte technische Machbarkeit, Sicherheit, Integrationsaufwand und Betrieb bewerten. Der Fachbereich prüft, ob das Werkzeug die Aufgabe im Alltag tatsächlich erfüllt. Die Investitionsentscheidung richtet sich nach beiden Perspektiven und dem Geschäftsziel.
Braucht jedes Unternehmen einen Chief AI Officer?
Nein. Ein eigener Titel kann bei größeren Organisationen sinnvoll sein, ersetzt aber keine klaren Zuständigkeiten für einzelne Prozesse. Im Mittelstand sind ein benannter Sponsor, ein fachlicher Prozesseigner und eine verlässliche technische Verantwortung oft der bessere Ausgangspunkt.
Wer prüft die Qualität von KI-Ergebnissen?
Die fachlich zuständige Person legt die Qualitätsmaßstäbe fest und organisiert geeignete Prüfungen. Die IT kann Test- und Freigabeprozesse technisch unterstützen. Bei rechtlich oder fachlich besonders sensiblen Ergebnissen müssen die zuständigen Experten eingebunden werden.
Wann ist ein KI-Pilot bereit für den Regelbetrieb?
Wenn der Nutzen anhand vereinbarter Kriterien erkennbar ist, Risiken und Ausnahmen bearbeitet werden können und Betrieb, Verantwortlichkeiten sowie Schulung geregelt sind. Eine überzeugende Demo allein reicht dafür nicht aus.
Fazit: KI-Einführung braucht einen klaren Auftrag an alle Beteiligten
Die IT-Abteilung leistet einen unverzichtbaren Beitrag zur KI-Einführung. Sie macht aus einer fachlichen Idee eine sichere, integrierte und betreibbare Anwendung. Den Anlass für das Projekt, die Prioritäten und die fachliche Bewertung müssen Geschäftsführung und Fachbereiche liefern. Sobald diese Rollen geklärt sind, werden technische Entscheidungen einfacher und Ergebnisse überprüfbar.
Mein Rat für deinen nächsten Schritt: Nimm einen konkreten Prozess, benenne einen fachlichen Eigentümer und sprich mit deiner IT über Daten, Zugriffe und Betrieb. Wenn du zuerst die strategische Richtung klären möchtest, hilft dir der Beitrag zur KI-Strategie im Unternehmen. Für die Umsetzung einzelner Abläufe findest du hier mehr zur KI-Prozessautomatisierung.
Wie eine gemeinsame KI-Arbeitsumgebung mit Rollen, Freigaben und Unternehmenswissen aussehen kann, zeige ich dir auf der Seite zu AI Cowork. Sie ist ein Beispiel für einen möglichen nächsten Schritt, wenn aus einzelnen Tests ein kontrollierter Arbeitsprozess für mehrere Mitarbeitende werden soll.
Quellen und Einordnung
- BVMW, Impulspapier zur KI-Implementierung im Mittelstand (2025) – praktische Handlungsempfehlungen zur Führungsverantwortung und Zusammenarbeit.
- NIST, AI Risk Management Framework 1.0, Govern – freiwilliger Orientierungsrahmen für Verantwortlichkeiten und KI-Risikomanagement.
- McKinsey, The State of AI in 2025: Agents, Innovation, and Transformation – internationale Befragung; beobachtete Zusammenhänge sind keine Kausalitätsnachweise.
- Europäische Kommission, Fragen und Antworten zur KI-Kompetenz nach Artikel 4 AI Act – aktuelle Erläuterung der EU-Regelung.
Sie möchten KI nicht nur testen, sondern als System im Unternehmen nutzen?
In einer kostenlosen KI-Potenzialanalyse prüfen wir, welche administrativen Prozesse sich in Ihrem Unternehmen sinnvoll automatisieren lassen.
Mit Potenzialanalyse & Demo starten
