Ausgabe 5/2025
Kurzmeldungen
In der zweiten Augustwoche hat der Digitalverband Bitkom die aktualisierte Version seines Praxisleitfadens Künstliche Intelligenz und Datenschutz veröffentlicht. Dieser, von Experten aus der Praxis entwickelte Leitfaden zeigt Problemstellungen im Konfliktfeld KI und Datenschutz auf und kann als Anhaltspunkt für Unternehmen dienen. Natürlich ersetzt er keine fundierte rechtliche Prüfung im Einzelfall.
Zum Leitfaden →Am 07. August 2025 hat OpenAI mit GPT-5 sein nunmehr neuestes Sprachmodell vorgestellt. Das neue Modell soll insbesondere weniger halluzinieren und sich besser an die Anweisungen der Nutzer halten. Außerdem kann GPT-5 bessere Antworten in den Bereichen Programmierung, Mathematik, Textverarbeitung und Gesundheit geben. Für Unternehmen wie die zeigen diese Fortschritte bei einem der führenden KI-Entwickler ggf. neue Nutzungspotentiale auf.
Zur Produktseite →Der aktualisierte Bitkom-Leitfaden ist eines der wenigen praxistauglichen Dokumente im Konfliktfeld KI und Datenschutz. Er ersetzt keine Einzelfallprüfung, taugt aber als gemeinsame Sprache zwischen Fachbereich, IT und Datenschutzbeauftragtem.
KI und Gesellschaft
Zwei Mitte Juli im Auftrag des Digitalverbandes Bitkom durchgeführte Umfragen zeigen ein hohes Vertrauen der Bürger in die Fähigkeiten von KI bei Alltagsaufgaben. So wurden rund 1.000 Personen zur Nutzung von KI bei der Urlaubsplanung befragt; weitere 1.000 Personen zur Nutzung beim Ausfüllen von Anträgen. Zentrale Ergebnisse: 47 % wünschen sich Unterstützung beim Ausfüllen von Versicherungsanträgen.
Allerdings würden nur 25 % eine KI nutzen, die aufgrund der eigenen Gesundheitsdaten eine passende Versicherung vorschlägt. 58 % der deutschen Urlauberinnen und Urlauber wären bereit, sich von einer KI den Urlaub planen zu lassen. 25 % würden dabei der KI auf jeden Fall vertrauen, weitere 33 % würden der KI eher vertrauen.
Bereits jetzt lassen sich 22 % der Urlauberinnen und Urlauber von einer KI Unterkünfte vorschlagen und 18 % lassen sich Reiseziele vorschlagen. Für Unternehmen wie die sind diese Ergebnisse insoweit interessant, als dass sich an ihnen eine allgemeine Akzeptanz von KI-Anwendungen ablesen lässt. Allerdings zeigt sich auch eine gewisse Zurückhaltung im Bereich der für die besonders relevanten Gesundheitsdaten.
Zur Meldung Versicherungen → Zur Meldung Urlaub →Eine im Auftrag des europäischen Zentrums für digitale Rechte NOYB durch das Gallup- Institut durchgeführte, am 07. August veröffentlichte Umfrage unter 1.000 Meta-Nutzern hat ergeben, dass die Bereitschaft, Daten für das KI-Training bereitzustellen, gering ist. Zentrale Ergebnisse: Nur 7 % der Befragten sind demnach bereit, ihre Daten für des Training der Meta-KI bereitzustellen.
Dabei sind Männer mit 10 % eher bereit als Frauen (4 %). Das zeigt auf, dass, obwohl die Nutzung von KI bereits in der Breite der Gesellschaft angekommen ist (s.o.), die Bereitschaft, diese Daten auch zu Trainingszwecken zur Verfügung zu stellen, äußerst gering ist.
Sofern etwaige KI-Anwendungen in der die Nutzerdaten auch zum Training verwenden sollen, ist daher Zurückhaltung geboten und eine rechtskonforme Nutzung sicherzustellen.
Zur Studie →Das hohe Alltagsvertrauen in KI ist zweischneidig: Es senkt die Hemmschwelle, erhöht aber die Fallhöhe bei Fehlern, gerade bei Anträgen mit rechtlicher Wirkung. Anbieter solcher Dienste sollten Kontrollmöglichkeiten sichtbar einbauen, bevor Vertrauen in Enttäuschung kippt.
KI und Arbeit
In dem im Juli 2025 durch die Plattform lernende Systeme veröffentlichten Impulspapier „KI im Unternehmen: Perspektiven auf den Kulturwandel“ werden Herausforderungen und Chancen für Unternehmen im Zuge der KI-Integration beleuchtet und dargestellt. Zentrale Punkte: Kommunikation: Das Papier stellt die Wichtigkeit von Kommunikation während der Integration dar.
Gemeint ist damit zum einen die Kommunikation mit den Mitarbeitenden, um etwaige Ängste und Skepsis zu überwinden, ein Austausch zwischen Praktikern und KI-Anwendern, sowie Transparenz zwischen den Mitarbeitern und der Führungsebene, um Potentiale zu erkennen und optimal zu nutzen.
Beteiligung und Evaluation: Erforderlich ist demnach eine Wissensvermittlung an den Anwender sowie eine Beteiligung der Anwender an der Entwicklung, um Potentiale bestmöglich zu nutzen. Zudem ist ein ständiger Diskurs mit dem Anwender bzw. eine ständige Evaluation der Anwendungsfälle erforderlich, um Chancen optimal zu nutzen.
Zeitintensiver Prozess: Der Einzug von KI muss als Prozess verstanden werden, der sowohl einer strategischen Planung, als auch ausreichend Zeit bedarf. Es muss dabei ausreichend Raum für Fehler und deren Korrektur verbleiben. Für Unternehmen, die einen solchen Prozess der KI-Integration starten wollen oder sich in einem solchen befinden, kann dieses Impulspapier Anhaltspunkte und eine Art Leitfaden geben.
Erfreulich ist, dass das Papier den bislang eingeschlagenen Weg der wissenschaftlich untermauert.
Zum Impulspapier →Eine im Juli 2025 veröffentlichte Studie von Microsoft bzw. Microsoft Research zeigt den Einfluss von KI auf verschiedene Berufsfelder auf. Zentrale Ergebnisse: Berufsfelder mit hoher Datenverarbeitung sind am stärksten betroffen. Genannt sind z.B. Übersetzer, Mitarbeiter im Kundenservice oder Verkauf und Autoren.
Die geringste Betroffenheit zeigt sich in Berufsfeldern mit hoher manueller Tätigkeit, z.B. in der Chirurgie, Straßenbau oder im Reinigungswesen. Für Unternehmen zeigt die Studie Potentiale auf, und kann als Basis für Investitionen dienen, etwa bei Entscheidungen zum Ausbau von KI-Integrationen oder der Einstellung sowie Fortbildung von Mitarbeitern.
Zur Studie →Das Impulspapier bestätigt unsere Projekterfahrung: KI-Integration scheitert selten an der Technik, fast immer an Kommunikation und Kultur. Ein Einführungsprozess mit echter Beteiligung ist deshalb kein weicher Faktor, sondern die halbe Wirtschaftlichkeitsrechnung.
KI und Healthcare
Mitte August haben die Autoren Wells, Nguyen, McWilliams, et al. in der Wissenschaftszeitschrift npj Digital Medicine einen Leitfaden veröffentlicht, der einen Vorschlag für die Herangehensweise und Prüfung von KI-Anwendungen im Healthcare-Sektor macht.
Zentrale Punkte: KI-Tools bergen Risiken, insbesondere z.B. durch Biases, die aus den Daten hervorgehen (zur Problematik bereits im Briefing 4/2025), oder auch aus ethischen oder Compliance-Gründen. Daher ist eine umfassende Risikoprüfung erforderlich, wobei das Tool in die Kategorien niedriges, mittleres und hohes Risiko eingestuft werden kann.
Aufgrund dieser Einstufung wird die Entscheidung über den Einsatz getroffen und ein detaillierter Plan zur Eindämmung der Risiken ausgearbeitet. Die Risiken und Anwendungs- bzw. Kontrollempfehlungen werden im Sinne einer Kennzeichnung mit dem Tool verbunden. Für Unternehmen wie die kann dieser Leitfaden als Anhaltspunkt für die Entwicklung eigener Abläufe und Risikobewertungsprozesse im Umgang mit KI-Tools dienen.
Zum Artikel →Eine am 17. Juli veröffentlichte Studie der Autoren Reis, Reis und Kunde, im Rahmen derer 1.276 Personen befragt wurden, offenbart einen potenziellen Imageschaden für Ärzte durch KI-Nutzung. Dies bestätigt die im Briefing 4/2025 angesprochene Vertrauensproblematik. Zentrale Ergebnisse: Die Befragten schätzten die Ärzte, die KI nutzen, als weniger kompetent und Vertrauenswürdig ein.
Gleichzeitig waren sie weniger gewillt, bei den betreffenden Ärzten einen Termin zu vereinbaren. Diese Ergebnisse beschränken sich nicht auf den Einsatz von KI im fachlichen Bereich. Die Effekte treten auch beim Einsatz von KI im rein administrativen Bereich auf. Für Unternehmen sind diese Ergebnisse beachtlich, da sie ein potenzielles Bedürfnis ihrer Kunden nach diskretem KI-Einsatz aufzeigen.
Zur Studie →Der npj-Leitfaden liefert, was vielen Kliniken fehlt: ein strukturiertes Prüfraster für KI-Anwendungen vor dem Einsatz. Wer es adaptiert, erfüllt zugleich einen Großteil der Sorgfalts- und Dokumentationsanforderungen, die KI-Verordnung und MDR ohnehin stellen.