KI sorgt für Chaos bei Schichtplänen von Krankenschwestern – ein Sicherheitsproblem?
wired ·
Pflegekräfte bei HCA Healthcare, der größten US-Krankenhauskette, berichten von erheblichen Sicherheits- und Betriebsproblemen mit Timpani, einem gemeinsam mit Palantir entwickelten KI-Planungstool. Seit seiner Einführung im Jahr 2023 werfen Mitarbeiter vor, dass die Software häufig Schichtpräferenzen ignoriert, aufeinanderfolgende Schichten zuweist und insbesondere sonntags unterbesetzte Teams bildet. Diese Fehler haben Berichten zufolge zu erhöhtem Burnout, höheren Fehlzeiten und Bedenken geführt, dass die Patientenversorgung aufgrund unerfahrener Personalverhältnisse beeinträchtigt wird. Während HCA-Führungskräfte betonen, dass menschliche Manager die letzte Aufsicht behalten und das Tool die Effizienz verbessert, beschreiben Pflegekräfte ein System, das klinische Urteile außer Kraft setzt und wenig Möglichkeiten für Schichtbeschwerden bietet. Die Kontroverse geht über HCA hinaus, da Rayus Radiology ebenfalls Beschwerden über ähnliche, auf Palantir basierende Software erhalten hat, die zu Fehlern in Patientendaten führte. Kritiker argumentieren, dass die mangelnde Transparenz und Überprüfbarkeit dieser KI-Systeme Risiken für das Wohlbefinden der Beschäftigten und die Patientensicherheit darstellen.
wired