Врачи США: ИИ-агенту в медицине можно доверять только то, что он доказал
· ИИ в медицине
ИИ-агенты в больницах уже сами записывают к врачу и сортируют пациентов: в опросе их используют около 28% руководителей медицины США. Американская медицинская ассоциация (AMA) выпустила правила: полномочия ИИ надо заслужить доказательствами. Для каждой системы — 4 вопроса: какая задача, чем доказано, что ей разрешено и кто отвечает за ошибку. Это рекомендация, а не закон, но хороший чек-лист и для Казахстана.
Проблема
В больницы приходят «ИИ-агенты» — программы, которые сами выполняют цепочку действий: записывают к врачу, оформляют назначения, сортируют пациентов. В опросе 250 руководителей медицины США около 28% уже используют такие системы, а 72% признали, что их иногда внедряют без одобрения IT-отдела. Ошибка такой программы бьёт прежде всего по тем, кто сам не может перепроверить, — например, людям с инвалидностью.
Решение
13 октября Американская медицинская ассоциация (AMA) выпустила правила для ИИ-агентов, которые берут на себя клинические задачи. Главная мысль: полномочия ИИ надо заслужить доказательствами и подтверждать результатами работы. Для каждой системы AMA задаёт 4 вопроса: какую медицинскую задачу она выполняет; что доказывает, что она справляется, и что будет при ошибке; что ей разрешено и при каких условиях; кто отвечает за риски и последствия.
Честно об ограничениях
Это рекомендация профессиональной ассоциации, а не закон и не требование FDA.
Кому и где это доступно
Больницы, разработчики медицинского ИИ, регуляторы. Хороший чек-лист для любой страны, включая Казахстан, где цифровые сервисы в медицине тоже быстро растут.
Источники
Это новость, а не медицинская рекомендация. Решение о лечении принимайте вместе с врачом.