Среди докладчиков на крупной конференции ACM сегодня выступает студент бакалавриата нашего департамента, который делится исследованием о путях устранения предвзятости и повышения точности в новых инструментах ИИ, разрабатываемых для оценки психического здоровья пациентов.

Том Бреннан в настоящее время является студентом второго этапа (Part II) обучения здесь. Сегодня (6 октября 2026 г.) на ACM International Conference On Multimodal Interaction он обсудит работу «FAIR_XAI: Improving Multimodal Foundation Model Fairness via Explainability for Wellbeing Assessment».

Это статья, которую он написал в соавторстве в начале этого года сокурсницей по специальности «Компьютерные науки» Софи Чан.

Их работа зарождалась как проект в рамках студенческого модуля прошлой осенью по дисциплине Affective AI. Это курс, посвященный ответвлению ИИ, нацеленному на создание искусственно интеллектуальных систем и машин, способных распознавать, интерпретировать, обрабатывать и имитировать человеческие социальные сигналы и поведение, выражения и эмоции.

В рамках проекта Том и Софи изучали «зрительно-языковые» модели ИИ, разработка которых стремительно продвигается вперед. Это многомодальные модели, способные анализировать и интерпретировать данные не только в текстовом формате, но также в аудио, статичных и движущихся изображениях.

Идея проекта была изначально предложена доктором Цзяи Чонг (Jiaee Cheong) и доктором Ирмак Доган (Irmak Dogan), постдокторантами, чья экспертиза охватывает справедливость, объяснимость и оценку психического благополучия.

Растет интерес к использованию таких зрительно-языковых моделей в качестве потенциальных инструментов, помогающих клиницистам оценивать психическое здоровье пациентов. «Однако их внедрение в клинических условиях вызывает опасения из-за их недостаточной прозрачности и потенциальной предвзятости», — отмечают двое студентов в своей статье.

Из-за природы «черного ящика» этих моделей, поясняют они, клиницистам может быть «сложно определить, основана ли классификация на достоверных клинических маркерах или является результатом предвзятости прогнозирования машинного обучения».

Тому и Софи было интересно выяснить, могут ли такие модели интерпретировать записи пациентов, проходящих оценку на депрессию, справедливо, точно и при этом объяснимо.

Поэтому они решили изучить, как обстоят дела с диагностической надежностью и демографической справедливостью двух моделей, когда применяются структуры для улучшения объяснимости принимаемых ими решений.

Они изучали наборы данных интервью с пациентами в двух разных условиях: в одном пациенты находились на индивидуальной сессии с коучем, в другом условия были более клиническими. И они обнаружили, что «производительность существенно различалась в зависимости от среды и архитектур».

Хотя предвзятость присутствовала в обеих моделях, одна из них, по их словам, проявляла больше гендерной предвзятости, тогда как другая — больше расовой предвзятости. Они добавили, что их результаты подчеркивают сохраняющийся разрыв между процедурной прозрачностью и справедливыми результатами.

Том и Софи отправили свой отчет по завершении модуля на оценку в январе прошлого года. В ответ они получили письмо с призывом подумать о расширении своей работы до формата конференции. Получив дополнительную поддержку и наставничество от членов департамента, они сделали это и подали работу на ACM International Conference On Multimodal Interaction.

В июне их статья была принята, и на этой неделе Том Бреннан находится в Неаполе, чтобы посетить конференцию и представить их выводы.

Эта новость привела в восторг их преподавателя по аффективному ИИ Хатидже Гюнеш, которая является профессором аффективного интеллекта и робототехники здесь и которая вместе с докторами Доган и Чонг поддерживала Тома и Софи и наставляла их при разработке проекта в полноценную конференц-статью.

«Это выдающееся достижение на данном этапе обучения Тома и Софи, — говорит она. — Уровень принятия полных статей на этой конференции в этом году обычно ниже 36%. Это подчеркивает высокое качество исследований, в которые могут внести свой вклад наши студенты даже на уровне бакалавриата».

Доктор Ирмак Доган добавляет: «Было очень приятно видеть, как Софи и Том погружались в исследовательские вопросы справедливости и объяснимости, усваивали новые концепции и эффективно учитывали обратную связь, что привело к принятию работы на крупную международную конференцию».

А доктор Цзяи Чонг говорит: «Я невероятно горжусь тем, чего они добились, а также их упорством, самоотдача и стойкостью, проявленными на протяжении всего процесса».

Оба студента говорят, что опыт участия в исследованиях разжег у них аппетит к большему.

Софи уже приступила к факультативному четвертому курсу по специальности «Компьютерные науки», который представляет собой интегрированную магистерскую программу, разработанную для поддержки студентов, рассматривающих карьеру в академических или промышленных исследованиях. Она подумывает о том, чтобы продолжить обучение в аспирантуре (PhD).

Что касается Тома, то «это определенно заставило меня захотеть больше участвовать в исследованиях и посмотреть, в чем еще я могу внести свой вклад, — говорит он. — Это был очень веселый и полезный опыт».