
Künstliche Intelligenz: So starten auch Mittelständler durch
Wie kleine und mittlere Firmen die neue Technologie mit Erfolg einsetzen
Generative KI-Anwendungen sind auch in der mittelständischen Wirtschaft angekommen. Doch von einem flächendeckenden Einsatz sind die hiesigen Unternehmen noch weit entfernt und verlieren so viele mögliche Produktivitätsgewinne. Expertinnen und Experten raten dazu, mutiger zu sein, einfach mehr auszuprobieren – und vor allem den eigenen Beschäftigen vorhandene Bedenken zu nehmen und sie mit der neuen Technologie noch besser vertraut zu machen.
Erfahren Sie in unserem Artikel:
- Warum KI weit mehr als eine nette Hilfe für das Verfassen guter Emails oder das Erstellen schneller Bilder für Präsentationen ist
- Was die größte Hürde für den erfolgreichen Roll-out von generativer KI-Anwendungen in Firmen ist
-
Wie Unternehmen ihren Mitarbeitenden die Angst vor Job-Abbau durch KI nehmen können
Die Unternehmensberatung McKinsey hat in ihrer Anfang 2025 vorgestellten Studie „KI-Kompetenzen in deutschen Unternehmen“ den Entwicklungsstand deutscher Unternehmen mit Blick auf den Einsatz von künstlicher Intelligenz angeschaut. Zentrale Erkenntnis: Die Firmen rufen bei Weitem noch nicht die Leistung ab, die möglich wäre. Vergleichbar ist das mit einem Sportler oder einer Sportlerin, die vom Körper- und Muskelbau her alles mitbringen für olympische Topleistungen, aber leider sehr untrainiert und damit weit weg von der Bestform sind. Die gute Nachricht in der schlechten: An der Trainingsintensität lässt sich arbeiten.
Firmen und auch Hochschulen mit Nachholbedarf
Zusammen mit dem Stifterverband hat McKinsey & analysiert, wie die Unternehmen auf KI vorbereitet sind. Die Mehrheit der befragten Führungskräfte (86 Prozent) ist der Meinung, dass ihre Unternehmen das Potenzial von KI noch wesentlich besser nutzen könnten. Dafür fehle es aber an den notwendigen Kompetenzen, sagen 79 Prozent der Firmen. Für die Studie wurden 1.000 Führungskräfte befragt und zusätzliche qualitative Interviews mit Personalverantwortlichen von Hochschulen geführt. Auch die Hochschulen müssen in Sachen KI-Ausbildung nachbessern in der Lehre, so eine zweite zentrale Erkenntnis der Befragung: 82 Prozent der Befragten sind der Meinung, dass deutsche Universitäten Studierende (eher) schlecht auf die neue Arbeitswelt vorbereiten. Dies betrifft vor allem die praktische Anwendung von KI in der Automatisierung von Arbeitsprozessen oder die souveräne Auswahl von KI-Modellen und -Tools. Jedes fünfte Unternehmen sieht Nachholbedarf im KI-basierten Erstellen neuer Inhalte, im Prompting oder in der Fähigkeit, datengetriebene Entscheidungen zu treffen.
Deutliche Produktivitätssteigerungen durch KI möglich
„KI ist eine Jahrhundertchance für Deutschland. Digitalisierung und demografischer Wandel machen den souveränen Umgang mit der Schlüsseltechnologie unerlässlich. Unternehmen müssen nicht nur die Technologie selbst beherrschen, sondern ihre Mitarbeitenden in die Lage versetzen, diese im täglichen Tun anzuwenden, um Produktivitätspotenziale zu heben“, erklärt Julia Klier, Senior Partner bei McKinsey und Co-Autorin der Studie. „Eine klare KI-Strategie und ein gezielter Kompetenzaufbau sind wichtige Hebel, um das volle Potenzial von KI zu entfalten. Unternehmen können ihre Produktivität um fast 20 Prozent erhöhen durch die Automatisierung wiederholender Aufgaben, Verschlankung von Prozessen und Förderung von datenbasierter Innovation. Hier liegt ein enormes Wertschöpfungspotenzial“, ergänzt Co-Autor Julian Kirchherr, McKinsey-Partner und Experte im Bereich Personal und KI-Kompetenzen.
Immerhin hat sich die Zahl der deutschen Unternehmen, die KI nutzen, seit 2017 verdoppelt, errechnete die Initiative „Mittelstand-Digital“ im Auftrag des damaligen Bundesministeriums für Wirtschaft und Klimaschutz im Dezember 2023. Darunter sind mehr und mehr mittelständische Firmen – einige davon setzen bereits lange vor dem publikumswirksamen Start von ChatGPT im Herbst 2022 auf die Kraft der smarten Maschinen. Künstliche Intelligenz ist im Alltag kleiner und mittlerer Unternehmen angekommen. Bereits jede dritte Firma (32 Prozent) schwört auf die zukunftsweisende Technologie – das ergab eine jetzt eine YouGov-Studie im Auftrag des IT-Unternehmens Ionos. Der Anteil KI-nutzender Unternehmen ist danach innerhalb eines Jahres um elf Prozentpunkte gestiegen.
Der Start von ChatGPT hat den Korken endgültig aus der Flasche genommen – und eröffnet seitdem auch mittelständischen Firmen ungeahnte Chancen und die Aussicht auf Produktivitätsgewinne. Der Entwicklungssprung von bisher verwendeten KI-Modellen zu den aktuellen, die mit sogenannter generativer KI arbeiten, ist gewaltig: Hier kann die KI etwa eigenständig neue Inhalte erstellen, die wie von Menschen gemacht erscheinen.
„Generative KI eröffnet enorme Chancen für Anwendungen in praktisch allen Bereichen von Unternehmen jeglicher Branche. Diese Technologien sind jedoch komplex und es bedarf der Expertise, damit es zu einer zielführenden und durch alle mitgetragenen Anwendung in den Unternehmen kommt“, sagt Professorin Katharina Hölzle, Leiterin des Fraunhofer-Instituts für Arbeitswirtschaft und Organisation IAO.

„Der verstärkte Einsatz von KI in den Unternehmen wird zunehmend zum Erfolgsfaktor für die Unternehmen.“
Christian Opitz, Trend- und Innovationsmanager bei der Deutschen Leasing
Von „Quick Wins“ zur strategischen Verankerung von KI im Unternehmen
„Der verstärkte Einsatz von KI in den Unternehmen wird zunehmend zum Erfolgsfaktor für die Unternehmen“, unterstreicht Christian Opitz. Er ist Trend- und Innovationsmanager im Bereich Unternehmensentwicklung der Deutschen Leasing. Opitz und das Team einer ins Leben gerufenen Arbeitsgruppe entwickeln nicht nur hausintern eigene „Use Cases“ für KI-Anwendungen wie Chatbots oder vertriebsunterstützende Tools. Der KI-Experte beobachtet genau, wie sich die Unternehmenskunden der Deutschen Leasing mit dem Thema befassen. Dabei sollte das „Ob“ aus seiner Sicht längst mit „Ja“ beantwortet sein. Auch für das „Wann“ hat Opitz eine klare Antwort parat: „Jetzt – wer abwartet und meint, das Thema müsse erst aus den Kinderschuhen herauswachsen, gefährdet letztlich die Zukunft seines Unternehmens.“ Bleibt die große Frage nach dem „Wie“.
Ratsam ist eine Doppelstrategie: Unternehmen mit wenig bis keiner Vorerfahrung sollten sich schnell dranmachen, die ersten Schritte zu gehen und sich erst einmal ausprobieren in der neuen KI-Welt. Erste generative Erfolge lassen sich in wenigen Tagen umsetzen. Solche „Quick Wins“ sind etwa Tools zur Textformulierung wie ChatGPT oder CoPilot für das Erstellen von Social Media Postings oder Emails und Newslettern. Doch im nächsten Schritt braucht es mehr: einen strategischen Plan für die feste Verankerung von KI im gesamten Unternehmen. Firmen kommen schnell an den Punkt, wo klarer werden sollte, worin genau die Hilfe der KI bestehen könnte: Welche Prozessschritte oder ganzen Prozesse lassen sich automatisieren? Und: Reichen dafür vorhandene Tools am Markt oder braucht es eine eigene, maßgeschneiderte KI-Anwendung – die klassische Frage nach dem „Make or Buy? “.
KI soll Menschen besser machen – nicht ersetzen
Einer der größten Hürden beim Einsatz von künstlicher Intelligenz im Unternehmen sind jedoch die Menschen selbst. „Mitarbeiterinnen und Mitarbeiter haben oft auch Ängste und Sorgen, dass sie auf absehbare Zeit durch Maschinen ersetzt werden. In der überragende Zahl aller Fälle lassen sich diese Bedenken aber zerstreuen. Die KI ist nicht gekommen, um den Menschen die Arbeit abzunehmen, sondern sie von wiederkehrenden Aufgaben zu entlasten und so Freiraum für strategische und wertschöpfende Aufgaben zu geben“, erklärt Opitz. Diese so wichtige Botschaft mantraartig zu wiederholen, sei primäre Aufgabe für alle Führungskräfte – und die Grundvoraussetzung dafür, dass die Beschäftigten Lust haben, sich mit der neuen Technologie auseinanderzusetzen.

Sie möchten tiefer einsteigen?
Digitalisierung verspricht Unternehmen und Gewerbetreibenden, Kommunen und Behörden enorme Chancen. Vernetzte Produktion, optimierte Prozesse, neue Kundenbeziehungen und Geschäftsmodelle steigern Wachstum, Produktivität und Wettbewerbsfähigkeit. Für die Finanzierung brauchen sie einen Partner, der die digitale Transformation versteht und mit dem Thema umgehen kann. Erfahren Sie mehr hierzu in unseren Reportagen, Interviews sowie Praxisbeispielen: