ML-модель уличили в пристрастности при предсказании агрессии у психиатрических пациентов

Марта Маслей (Marta Maslej) из Университета Торонто с коллегами создала алгоритм машинного обучения для предсказания агрессии пациентов при оказании острой психиатрической помощи по структурированным электронным медицинским картам. Тестирование показало, что полученная модель проявляет пристрастность при прогнозировании. В работе использовали медкарты 17703 пациентов крупного канадского психиатрического стационара с января 2016 по май 2022 года (всего 42719 дня наблюдений, 1272 из них с проявлениями агрессии пациентов). Наиболее частой причиной госпитализации были психотические расстройства. 12398 пациентов и 29879 дней наблюдений использовали для обучения модели, 5305 пациентов и 12840 дней — для ее тестирования. Результаты опубликованы в журнале npj Mental Health Research.

Алгоритм случайного леса для предсказания агрессии достиг площади под ROC-кривой 0,81. Анализ объективности его предсказаний выявил значительные расхождения в зависимости от подгрупп пациентов. Доля ложноположительных предсказаний была значительно выше в отношении мужчин, чернокожих и выходцев с Ближнего Востока, доставленных в неотложное отделение полицией и людей с нестабильным или предоставленным социальными службами проживанием — изначально маргинализированные группы получали дополнительно завышенные оценки.