Ausgabe 3/2025
KI und Gesellschaft
Das im Juni veröffentlichte Whitepaper „Nachvollziehbare KI“ der Plattform Lernende Systeme fasst aktuelle Forschungsergebnisse und praktische Empfehlungen zum Thema erklärbare KI zusammen. Auf diese Weise sollen Unternehmen dabei unterstützt werden, KI- Systeme so zu gestalten, dass ihre Entscheidungen verständlich und überprüfbar bleiben – eine Anforderung, die gerade im Finanzsektor äußerst relevant ist.
Zentrale Inhalte: Mangelnde Erklärbarkeit: Für große KI-Modelle wie Sprachmodelle gibt es laut den Autoren noch keine effektiven Methoden der Erklärbarkeit. Das bedeutet, dass für Anwender:innen nicht klar nachvollziehbar ist, wie die KI-Anwendung zu einem Ergebnis gekommen ist. .
Relevanz: Die Verfasser des Whitepapers betonen die hohe Relevanz von erklärbarer KI, etwa in der medizinischen Diagnostik, der Kreditbewilligung im Finanzwesen oder der Qualitätskontrolle in der Produktion. Zugleich ist die Erklärbarkeit auch Grundlage für das Vertrauen in KI-Systeme und essenziell, um die Qualität zu erhalten und zu verbessern.
Die Erklärbarkeit von KI-Systemen ist für die von hoher Relevanz, sofern in kritischen Unternehmensprozessen KI-gestützte Produkte eingesetzt werden sollen. Hier sind u.a. auch die regulatorischen Vorgaben der KI-Verordnung zu beachten, die Anforderungen an die Erklärbarkeit stellen.
Zum Whitepaper →Für das am 26. Juni veröffentliche TechnikRadar 2025 befragte acatech – Deutsche Akademie der Technikwissenschaften über 2.000 Personen ab 16 Jahren in Deutschland zu ihrer Haltung gegenüber Digitaler Transformation und Künstlicher Intelligenz. Zentrale Ergebnisse: KI-Nutzung: Rund 45 % der Bevölkerung nutzen generative KI privat, 37 % beruflich.
Viele empfinden neue Technologien als Arbeitserleichterung, wünschen sich aber eine klare Kennzeichnung von KI-generierten Inhalten. . Positive Erfahrungen: Die Frage nach ihren Erfahrungen mit generativer KI beantworteten die Nutzer:innen meist positiv. Der Hälfte dieser Gruppe hat die Technologie laut eigener Angabe Arbeit abgenommen. Knapp zwei Drittel äußerten sich fasziniert über die neuen Möglichkeiten. .
Differenzierung nach Einsatzgebieten: Den Nutzen generativer KI beurteilten die Studienteilnehmer:innen abhängig vom Einsatzgebiet. Mehrheitlich positiv erwähnten sie das Erstellen von Texten, Bildern und Videos (52 Prozent), den Einsatz in der Arbeitswelt (57 Prozent) und in der medizinischen Diagnostik (66 Prozent).
Sorge um Arbeitsplatzverlust: Rund 40 Prozent der Befragten befürchten, dass KI den Menschen verdrängt oder Arbeitsplätze bedroht. Die Mitarbeiterbefragung bei der hat ergeben, dass rund zwei Drittel der Mitarbeitenden KI bereits genutzt haben - damit liegt der Schnitt im Unternehmen über dem in der Bevölkerung.
Die Befragung von acatech belegt eine grundsätzliche Offenheit gegenüber KI, die sich Unternehmen bei der Einführung neuer Technologien zunutze machen können.
Zur Publikation →Nachvollziehbarkeit ist keine Kür, sondern wird über Transparenz- und Dokumentationspflichten der KI-Verordnung zur Rechtsfrage. Das Whitepaper eignet sich als Blaupause, um Erklärbarkeit schon im Einkauf von KI-Systemen als Anforderung zu verankern.
KI und Arbeit
Der Digitalverband Bitkom befragte im Frühjahr 2025 über 1.000 Personen ab 16 Jahren in Deutschland zur Nutzung von generativer KI und deren Auswirkungen auf Arbeit. Zentrale Ergebnisse: KI-Nutzung: 56 % der Erwerbstätigen in Deutschland wünschen sich eine KI- Unterstützung bei der Arbeit. Rund 45 Prozent nutzen KI bereits mit Wissen des Arbeitgebers im Job.
Ohne Wissen des Arbeitgebers verwenden rund 10 Prozent der Befragten KI - eine Verdoppelung im Vergleich zum Vorjahr. . Kompetenzlücke: 64 Prozent derjenigen, die KI bisher nicht einsetzen, geben mangelnde technische Kenntnisse als Hauptgrund an. Die Umfrageergebnisse legen nahe, dass Unternehmen die Nutzung von KI im Job ermöglichen sollten, sofern sie nicht die heimliche Nutzung riskieren wollen.
Zudem stützt die Befragung den von der eingeschlagenen Weg, Mitarbeitende gut zu KI zu schulen.
Zur Pressemitteilung →Das ifo Institut befragte im Rahmen seiner regelmäßigen Konjunkturumfrage Unternehmen in Deutschland zu den erwarteten Auswirkungen von Künstlicher Intelligenz auf die Beschäftigung in den kommenden fünf Jahren. Zentrale Ergebnisse: Stellenabbau: Rund 27 Prozent der befragten Unternehmen rechnen mit einem Stellenabbau in ihrem Unternehmen aufgrund eines zunehmenden KI-Einsatzes.
Wenn das Personal wegen des Einsatzes von KI verkleinert wird, erwarten die jeweiligen Firmen Reduktionen in Höhe von durchschnittlich rund acht Prozent. . Branchenunterschiede: Die Befragung zeigt, dass bei dem erwarteten Stellenabbau erhebliche Unterschiede zwischen den Branchen bestehen. In der Industrie rechnen 37 % der Unternehmen mit einem Abbau, im Handel knapp 30 %.
In technologie- und IT-nahen Dienstleistungen hingegen rechnen einzelne Unternehmen mit über 10 Prozent Beschäftigungszuwachs. Die Befragung belegt, dass der technologische Fortschritt einen erheblichen Einfluss auf die Arbeitswelt hat. Unternehmen wie die sollten diese Entwicklung im Blick behalten und für Mitarbeiter:innen, die von diesem Wandel betroffen sind, frühzeitig neue Perspektiven schaffen.
Im Idealfall lassen sich Geschäftswachstum, Fachkräftemangel und Beschäftigungsabnahme durch KI-Einsatz in ein Gleichgewicht bringen, in dem sich die Effekte gegenseitig abfedern.
Zur Befragung →Der Wunsch nach KI-Unterstützung läuft der offiziellen Bereitstellung davon. Unternehmen, die jetzt kein geordnetes Angebot schaffen, bekommen ungeordnete Nutzung, mit allen Datenschutz- und Geheimnisrisiken. Eine KI-Richtlinie kanalisiert diese Energie, statt sie zu unterdrücken.
KI und Healthcare
Die Europäische Arzneimittel-Agentur (EMA) hat zusammen mit nationalen Behörden einen Arbeitsplan für die Jahre 2025-2028 vorgestellt, um den Einsatz von Künstlicher Intelligenz in der Arzneimittelregulierung zu koordinieren.
Zentrale Ergebnisse: Pilotprojekte zur Nutzung von Real-World Data und KI: Bis 2028 werden konkrete Pilotprojekte durchgeführt, etwa zur Auswertung individueller Patientendaten aus klinischen Studien und zur Verbesserung der Pharmakovigilanz (z.B. neue Signal-Detection-Methoden und ein öffentliches Meldeportal für Nebenwirkungen), um regulatorische Entscheidungen schneller und datenbasierter zu treffen. .
Aufbau einer EU-weiten Dateninfrastruktur: Es werden zentrale Systeme für kritische Datenbestände geschaffen, die mit dem European Health Data Space (EHDS) verknüpft werden, um den effizienten, sicheren und standardisierten Datenaustausch im gesamten Netzwerk der Regulierungsbehörden zu ermöglichen.
Die zu erwartende Neugestaltung von Prozessen in der EMA kann als Anhaltspunkt dafür dienen, wie digitale Infrastruktur, Automatisierung und intelligente Auswertung von Daten Arbeitsabläufe beschleunigen können.
Zum Arbeitsplan →McKinsey hat im vierten Quartal 2024 150 Führungskräfte aus US-Gesundheitsunternehmen zu ihren Erfahrungen mit generativer KI befragt. Die Studie gibt Einblicke in Strategien, Umsetzungsstand und erwartete Effekte der Technologie. Zentrale Ergebnisse: Verbreitung von KI: 85 % der befragten Unternehmen haben generative KI bereits eingeführt oder arbeiten an ersten Pilotprojekten. .
Fokus auf Partnerschaften: 61 % der Umfrageteilnehmer setzen auf Kooperationen mit externen Partnern, 20 % entwickeln selbst und 19 % nutzen Standardlösungen – häufig in Zusammenarbeit mit etablierten IT-Anbietern. . Return-on-Investment (ROI): 64 Prozent der bereits implementierten Projekte erreichten bereits einen positivem ROI, teils mit einem Nutzenfaktor von 2–4.
Obwohl die Befragung unter US-amerikanischen Unternehmen durchgeführt wurde, zeigt sie das hohe Potenzial von KI-Einsatz im Healthcare-Bereich und belegt insbesondere die Wirtschaftlichkeit von Investments in neue Technologien.
Zur Befragung →Der EMA-Arbeitsplan signalisiert Pharmaunternehmen und Herstellern: Die Regulatorik öffnet sich für KI und Real-World-Data, aber entlang definierter Pilotpfade. Wer Zulassungsprozesse plant, sollte diese Pfade früh in die eigene Evidenzstrategie einbeziehen.