Ausgabe 4/2025
KI und Gesellschaft
Nachdem von Unternehmensseite vielseits um Aufschub hinsichtlich der Umsetzung der KI- Verordnung gebeten wurde, hat die EU-Kommission klargestellt, dass es einen solchen nicht geben wird.
Zur Pressemeldung →In einem Artikel der SRH Fernhochschule befassen sich die Autoren Mause und Dr. Prinz mit dem Problem der Voreingenommenheit (Biases) in KI-Systemen bzw. der zugrundeliegenden Daten. Ursachen für Biases: Eine Ursache für Voreingenommenheit können die zugrundeliegenden Daten sein. Werden z.B.
Daten aus der Vergangenheit verwendet, in denen nicht mehr zeitgemäße Muster auftraten, so setzten sich diese Muster in der KI-Anwendung fort. Ein Bias kann sich auch ergeben, wenn in den zum Training verwendeten Datensätzen bestimmte Gruppen nicht oder falsch repräsentiert werden. . Der Bias kann sich zudem aus dem Code ergeben.
Diese Einflüsse sind jedoch aufgrund der permanenten Fortentwicklung des Codes (auch durch die KI selbst) nur schwer nachzuvollziehen. Für Unternehmen wie die ist es von hoher Bedeutung, eventuell vorhandene Biases in KI-Anwendungen frühzeitig zu erkennen und zu vermeiden, um keine verfälschten Arbeitsergebnisse zu erhalten. Das macht eine umfassende Prüfung der Anwendungen vor ihrem Einsatz erforderlich.
Zum Artikel →Eine neue PwC-Studie, für die über 1.800 Personen befragt wurden, gibt Einblicke in KI und Compliance. Die Befragung nimmt zunächst Compliance-Herausforderungen im Zusammenhang mit KI in den Blick. Im Anschluss werden Möglichkeiten aufgezeigt, Complianceanforderungen durch KI-Anwendungen effektiver gerecht zu werden.
Zentrale Erkenntnisse: Hohe Relevanz: 45 % der Befragten sehen in Künstlicher Intelligenz eine zentrale Compliance-Komponente. . Complianceanforderungen als Hindernis: 46 % der Befragten gaben an, dass komplexe Complianceanforderungen die Adaption von künstlicher Intelligenz in ihrem Unternehmen zum Teil negativ beeinflusst haben. Weitere 21 % attestieren einen erheblichen negativen Einfluss.
Kernbedenken betreffen Datenschutz und Fehlinformation. . KI als Chance für Compliance: 71 % der Befragen sehen Potentiale, KI effektiv für eigene Compliance-Themen einzusetzen. Lediglich 32 % der Befragten nutzen oder pilotieren KI noch in keinem Compliance-Bereich. Diese Ergebnisse bestätigen die Wichtigkeit eines verlässlichen Compliance-Konzepts, um KI rechtssicher und effektiv nutzen zu können.
Zugleich zeigen sie die Einsatzmöglichkeiten zur Einhaltung der gerade im Factoring umfangreichen Compliance-Pflichten.
Zur Studie →Die Absage der Kommission an einen Aufschub war die zentrale Planungsbotschaft des Sommers: Wartende Compliance-Strategien hatten damit ihre Grundlage verloren. Das Thema Voreingenommenheit gehört parallel auf die Agenda, denn Bias-Prüfung wird für Hochrisiko-Systeme zur dokumentierten Pflicht.
KI und Arbeit
Die Mitte Juli von der Uni Konstanz veröffentlichte KI-Studie befasst sich mit der Nutzung und Wahrnehmung von KI-Tools. Dabei differenzieren die Forscher zwischen verschiedenen Arbeitnehmergruppen. Für die Studie wurden im März 2024 und im März 2025 insgesamt über 3.000 Personen befragt und die Ergebnisse der Befragungen miteinander verglichen.
Zentrale Ergebnisse: Divergenz zwischen abstrakter und konkreter Einschätzung: 46 % der Befragten gehen davon aus, dass der Arbeitsmarkt durch KI in den kommenden 10 Jahren erheblich unter Druck geraten wird, nur 20 % befürchten dagegen einen Verlust des eigenen Arbeitsplatzes im gleichen Zeitraum. . Divergenz zwischen Tätigkeitsfeldern: Beschäftigte in wissensnahen Tätigkeitsfeldern (z.B.
IT, Verwaltung, Forschung) erwarten mit 43 % zu deutlichen höheren Anteilen positive Effekte auf ihre Arbeit als Beschäftigte in produktionsnahen, manuellen Tätigkeiten (24 %). . Divergenz zwischen Bildungsniveaus: Beschäftigte mit hohem Bildungsabschluss nutzen mit einem Anteil von rund 51 % zu einem deutlich höheren Anteil KI- Anwendungen als Beschäftigte mit niedrigem Bildungsabschluss (15 %).
Für Unternehmen legen die Umfrageergebnis nahe, den Einsatz von KI auszuweiten, indem in KI-affinen Bereichen ein beschleunigter Ausbau stattfindet, während in weniger aufgeschlossenen Abteilungen zielgerichtet Sensibilisierungsmaßnahmen druchgeführt werden.
Zur Studie →In einem kürzlich veröffentlichten Whitepaper wurden zentrale Ergebnisse aus dem Forschungsprojekt „KI-Cockpit“ des Berliner Instituts für Innovation und Technik präsentiert. Im Rahmen des Vorhabens wurde die Umsetzung der europäischen KI-Verordnung in der betrieblichen Praxis untersucht und Gestaltungsansätze ausgearbeitet.
Zentrale Vorschläge: Anwendungsbereich: Das KI-Cockpit ist ein interaktives Steuerungs- und Überwachungsinstrument für den sicheren und menschenzentrierten Einsatz von KI. Der Anwendungsbereich umfasst insbesondere kritische oder hochautomatisierte Bereiche, wie z. B. das Gesundheitswesen..
Menschliche Aufsicht: Das KI-Cockpit ermöglicht Unternehmen, KI-Entscheidungen zu verstehen, zu kontrollieren und zu beeinflussen. Auf diese Weise wird die in der KI- Verordnung geforderte menschliche Aufsicht sichergestellt..
Funktionen: Das KI-Cockpit ermöglicht die Echtzeit-Überwachung von Performance und Fairness von KI-Systemen, bietet flexible Eingriffs- und Autonomiestufen, Warnsysteme bei Fehlverhalten sowie nahtlose Integration in bestehende IT- und Verwaltungsprozesse. Das KI-Cockpit ermöglicht einen europarechtskonformen Einsatz von KI und begegnet den im Briefing 3/2025 dargelegten Bedenken zur fehlenden Nachvollziehbarkeit.
Für den Einsatz von KI in der sind diese Ergebnisse daher von hoher Bedeutung und sollten bei einer künftigen Nutzung von KI berücksichtigt werden.
Zum Whitepaper →Mitte Juli hat EY sein jährliches KI-Barometer veröffentlicht, eine Umfrage unter knapp 5.000 leitenden und nicht-leitenden Angestellten aus über 21 Branchen in ganz Europa zum Thema KI in der Arbeitswelt. Zentrale Erkenntnisse: Diskursthema: KI ist ein wesentliches Gesprächsthema in der Gesundheitsbranche. Rund 27 % aller KI-bezogenen Beiträge auf sozialen Netzwerken wie LinkedIn stammen aus dieser Branche..
KI-Nutzung: Europaweit ist der Anteil der KI-Nutzer von 72 % auf 78 % gestiegen.. Positive Grundhaltung: In Deutschland gaben 73 % der Befragten eine positive Grundhaltung gegenüber KI an. Dabei zeigt sich, dass leitende Angestellte positiver auf die Entwicklungen blicken als nicht-leitende, und jüngere Personen dem Fortschritt offener gegenüberstehen als ältere. .
Weiterbildung: 57 % der Befragten gaben an, dass sie sich im KI-Bereich weiterbilden. Das sind 20 Prozentpunkte mehr als im Vorjahr. Das Barometer unterstreicht die Entwicklung, die sich auch in der zeigt: Die Bedeutung von KI am Arbeitsplatz nimmt zu, die Mitarbeitenden sind dieser Entwicklung auch positiv gegenüber eingestellt und bilden sich gerne fort.
Zum Barometer →Der Konstanzer Längsschnitt zeigt, dass sich Nutzungsmuster zwischen Arbeitnehmergruppen auseinanderentwickeln. Wer Schulungen nach Gießkanne plant, verfehlt beide Enden, differenzierte Lernpfade nach Vorerfahrung sind der wirksamere Zuschnitt.
KI und Healthcare
In einem Whitepaper vom 25. Juni 2025 hat das Berliner Institut für Innovation und Technik (iit) ein Konzept zur Einbindung von KI in die Pflege entwickelt und veröffentlicht. Zentrale Ergebnisse: Kurzfristiges KI-Potenzial: Derzeit verbringen Pflegefachkräfte in der Altenpflege etwa 13 % ihres Arbeitstages mit bürokratischen Aufgaben zur Dokumentation. Diese lassen sich durch KI erheblich beschleunigen. .
Langrfristiges KI-Potenzial: Weitere Aufgaben, die hohes Potential einer KI- Unterstützung bieten, sind Medikamentenmanagement, Personalplanung und Dienstplangestaltung, Terminkoordination sowie Kommunikation mit Angehörigen und externen Dienstleistern. .
Vorgeschlagenes Konzept: Der vom iit vorgeschlagene Lösungsansatz sieht ein zentrales KI-System vor, welches zunächst in Echtzeit Koordination und Terminmanagement übernimmt, und perspektivisch auch einen vereinfachten Zugriff auf Pflegestandards, Medikamenteninformationen und Handlungsanweisungen bietet.
Das Konzept zeigt, dass auch in Berufsfeldern, die im öffentlichen Diskurs als schwer durch KI unterstützbar gelten, Effizienzpotentiale bestehen. Hierbei sind Vorteile für alle beteiligten Stakeholder, namentlich Mitarbeiter und Patienten, zu erzielen.
Zum Whitepaper →Der kürzlich veröffentichte Future Health Index 2025 offenbart Herausforderungen und Potentiale im Bezug auf das Vertrauen von Patienten und Gesundheitsfachkräften in KI. Für den von Philips in Auftrag gegebenen Report wurden knapp 2.000 Gesundheitsfachkräfte und über 16.000 Patienten befragt.
Zentrale Inhalte: KI-Potenzial: Der Future Health Index 2025 bestätigt die These des iit, dass die Effizienz im Gesundheitswegen bei Übernahme administrativer Aufgaben durch eine KI erheblich gesteigert werden kann. 37 % der Befragten verlieren laut eigener Angabe über 45 Minuten pro Schicht wegen unzureichender technischer Infrastrukturen. .
Optimismus der Gesundheitsfachkräfte: 80 % der Gesundheitsfachkräfte sind optimistisch, dass KI das Gesundheitswesen verbessern kann. Bedenken bestehen hingegen mit Blick auf Haftungsrisiken: 76 % der befragten Gesundheitsfachkräfte sehen hier Probleme. . Skepsis der Patienten: Nur 48 % der Patienten glauben an eine Verbesserung des Gesundheitswesens durch KI.
Der Report zeigt, dass die Akzeptanz von Patienten steigen würde, wenn dadurch ihre Gesundheit verbessert würde und Ärzte mehr Zeit für sie hätten.. Schulungen: Nur 44 % der Gesundheitsfachkräfte geben an, derzeit zu wissen, wo und wie KI in ihren Abteilungen eingesetzt wird. Hier besteht also großes Schulungspotenzial. Der Index belegt das hohe Potenzial von KI im Gesundheitswesen.
Gleichwohl zeigt die teils bestehende Skepsis seitens der Patienten die Notwendigkeit begleitender, vertrauensbildender Maßnahmen seitens der Unternehmen.
Zum Report →13 Prozent Bürokratieanteil sind das realistischste KI-Potenzial der Pflege: Entlastung bei Dokumentation, nicht Ersatz von Zuwendung. Träger sollten genau dort beginnen, weil Nutzen messbar, Risiko beherrschbar und Akzeptanz hoch ist.