Чтобы медицинские организации могли максимально использовать GenAI, они должны обеспечивать соответствие нормативным требованиям в области данных, таким как HIPAA и GDPR.
Появление генеративного ИИ (GenAI) открывает беспрецедентные возможности в сфере здравоохранения, предлагая революционные достижения в уходе за пациентами, диагностике и лечении. Однако интеграция GenAI требует огромных объемов данных для эффективного обучения алгоритмов. Обеспечение ответственного сбора этих данных со строгим соблюдением таких нормативных требований, как Закон о переносимости и подотчетности медицинского страхования (HIPAA) и GDPR, имеет первостепенное значение для защиты конфиденциальности пациентов и поддержания этических стандартов.
Конфиденциальность и безопасность данных: краеугольный камень этичного сбора данных
Конфиденциальность и безопасность данных являются основополагающими при сборе медицинских данных для GenAI. HIPAA устанавливает стандарт защиты конфиденциальной информации о пациентах в Соединенных Штатах. Чтобы обеспечить соответствие требованиям HIPAA и других нормативных актов о конфиденциальности, медицинские организации должны внедрить надежные структуры управления данными, включающие следующие принципы:
Деидентификация данных
Деидентификация предполагает удаление личных идентификаторов из наборов данных, чтобы гарантировать, что отдельные лица не могут быть легко идентифицированы. В соответствии с HIPAA это может быть достигнуто двумя методами:
- Метод Safe Harbor: включает удаление 18 конкретных идентификаторов, таких как имена, номера социального страхования и фотографии лица в полный рост, чтобы сделать данные деидентифицированными.
- Метод экспертного заключения: эксперт применяет статистические или научные принципы для определения того, что риск повторной идентификации очень мал.
Шифрование данных
Шифрование данных необходимо для защиты конфиденциальной информации от несанкционированного доступа при передаче и хранении. HIPAA требует, чтобы медицинские организации внедряли механизмы шифрования для защиты электронной защищенной медицинской информации (ePHI).
Контроль доступа
Внедрение строгого контроля доступа гарантирует, что только авторизованный персонал может получить доступ к конфиденциальным данным пациентов. Управление доступом на основе ролей (RBAC) и многофакторная аутентификация (MFA) являются эффективными мерами для ограничения доступа к данным в зависимости от должностных обязанностей и добавления дополнительного уровня безопасности.
Устранение предвзятости при сборе данных
Системы ИИ настолько хороши, насколько хороши данные, на которых они обучаются. Для разработки объективных и точных моделей GenAI крайне важно собирать разнообразные и репрезентативные наборы данных. Это включает:
- Обеспечение разнообразия: сбор данных из широкого круга демографических групп, включая разные возрасты, полы, расы и социально-экономическое происхождение, для предотвращения предвзятости, которая может привести к неравенству в результатах медицинской помощи.
- Регулярные аудиты: проведение регулярных аудитов наборов данных для выявления и устранения любых существующих предвзятостей. Это помогает улучшить процесс сбора данных и повысить справедливость моделей ИИ.
Обеспечение прозрачности и информированного согласия
Прозрачность и информированное согласие являются критически важными компонентами ответственного сбора данных. Пациенты должны быть полностью проинформированы о том, как будут использоваться их данные, и должны дать явное согласие. Ключевые методы включают:
Четкая коммуникация
Организации должны предоставлять пациентам четкую и лаконичную информацию о целях сбора данных, типах собираемых данных, а также о том, как данные будут использоваться и защищаться. Эта информация должна быть представлена на легко понятном языке и в удобном формате.
Получение информированного согласия
Организации должны обеспечить получение информированного согласия пациентов до сбора их данных. Это включает получение явного разрешения от пациентов, когда они добровольно соглашаются на использование своих данных, будучи полностью проинформированными о процессе, рисках и преимуществах.
Ответственные данные для развития сотрудничества человека и ИИ
GenAI должен дополнять и расширять возможности медицинских работников, а не заменять их. Поощрение сотрудничества между людьми и системами ИИ гарантирует, что идеи, полученные с помощью ИИ, правильно интерпретируются и применяются. Одним из примеров может быть использование ИИ для диагностики. ИИ может предоставить первоначальную интерпретацию изображений КТ и МРТ (с замаскированной информацией о пациенте), которую радиолог может просмотреть и проверить перед постановкой окончательного диагноза. Достижение оптимального сотрудничества человека и ИИ включает:
Обучение и образование
Медицинские организации должны предоставлять медицинским работникам обучение тому, как эффективно собирать данные, необходимые для использования инструментов ИИ, и интерпретировать идеи, генерируемые ИИ. Если данные не защищены должным образом, они могут быть повреждены злоумышленниками, что приведет к серьезным последствиям для моделей ИИ, обученных на поврежденных данных.
Мультидисциплинарные команды
Формирование мультидисциплинарных команд, включающих специалистов по данным, этиков и медицинских работников, может обеспечить всесторонний контроль за разработкой и внедрением систем ИИ. Такой совместный подход гарантирует, что модели ИИ соответствуют клиническим потребностям и этическим стандартам.
Непрерывный мониторинг показателей и улучшение
Внедрение ИИ в здравоохранении — это непрерывный процесс, требующий постоянного мониторинга и улучшения для обеспечения адекватности сети, эффективности поставщиков, результативности, безопасности, низкого уровня повторных госпитализаций, сдерживания затрат и соответствия этическим стандартам. Ключевые методы включают:
Регулярные обновления и циклы обратной связи
Организации должны обновлять алгоритмы ИИ на основе новых данных, новых нормативных требований в области ИИ и развивающихся медицинских знаний. Медицинским работникам должны быть предоставлены циклы обратной связи для обмена идеями и предложениями по улучшению.
Заключение
Интеграция генеративного ИИ в здравоохранение таит в себе огромный потенциал для улучшения ухода за пациентами, операционной эффективности и общих результатов в отношении здоровья. Однако к этому технологическому прогрессу следует подходить с осторожностью и в рамках надежной этической структуры. Уделяя приоритетное внимание конфиденциальности данных, устраняя предвзятость, обеспечивая прозрачность и развивая сотрудничество человека и ИИ, мы можем использовать весь потенциал ИИ, гарантируя при этом, что он служит общему благу. Риски необходимо будет активно смягчать, что начинается с согласованного внимания к созданию процессов управления, структур и защитных механизмов для прогнозирования, выявления и управления рисками. Двигаясь вперед, ответственный ИИ, несомненно, сыграет ключевую роль в формировании будущего здравоохранения, стимулируя инновации и поддерживая высочайшие стандарты ухода за пациентами и этической целостности, не ставя под угрозу этику или безопасность.
Об авторе
Рагхувиран Сомьянараянан, глобальный руководитель направления искусственного интеллекта в Wipro Technologies
Рагхувиран Сомьянараянан лично руководил очень крупными и сложными внедрениями корпоративных озер данных (Enterprise Data Lake) и многими экспериментами и PoC в области генеративного ИИ. С ним можно связаться по адресу raghuveeran.sowmyanarayanan@wipro.com.
