Искусственный интеллект нарушает графики работы медсестер, что они считают угрозой безопасности
wired ·
Медсёстры сети HCA Healthcare, крупнейшей в США, сообщают о серьёзных проблемах с безопасностью и операционной деятельностью, связанных с инструментом расписания Timpani, разработанным совместно с Palantir. С момента внедрения в 2023 году сотрудники утверждают, что программное обеспечение часто игнорирует предпочтения по сменам, назначает смены подряд и формирует штаты с нехваткой персонала, особенно по воскресеньям. Эти ошибки, как сообщается, привели к росту выгорания, увеличению числа пропусков работы и опасениям, что качество ухода за пациентами страдает из-за непропорционально низкого соотношения опытных сотрудников. Хотя руководители HCA настаивают на том, что окончательный контроль остаётся за человеческими менеджерами и что инструмент повышает эффективность, медсёстры описывают систему, которая подавляет клиническое суждение и предоставляет мало возможностей для обжалования графика. Споры выходят за рамки HCA: компания Rayus Radiology также столкнулась с жалобами на аналогичное программное обеспечение на базе Palantir, вызывающее ошибки в данных пациентов. Критики утверждают, что отсутствие прозрачности и возможности аудита этих ИИ-систем создаёт риски как для благополучия работников, так и для безопасности пациентов.
wired