Doximity запустила DoseCheck — проверку дозировок от ИИ по правилам, а не по второй модели
Doximity добавила в Doximity Ask слой проверки дозировок по базе FDA и клиническим рекомендациям. В тестах на девяти моделях минимум 2,3% утверждений о дозах были неверными, 43,8% найденных ошибок — серьёзные или потенциально смертельные.
30 октября 2026 года Doximity объявила о запуске DoseCheck — функции безопасности внутри Doximity Ask. Она проверяет рекомендации по дозировкам, которые генерирует ИИ (искусственный интеллект), и должна отлавливать небезопасные или неверные дозы.
Ключевое отличие — как устроена проверка. Doximity не поручает одной языковой модели (LLM, large language model — модель, обученная предсказывать текст) проверять другую. Вместо этого добавлен детерминированный слой правил: утверждение о дозе сверяется со структурированными данными, включая маркировку FDA (Управление по контролю за продуктами и питанием США) и профессиональные рекомендации. Детерминированный здесь значит, что при одинаковых входных данных ответ будет одинаковым, без вероятностного разброса.
Компания заявляет, что такая сверка поднимает точность выше 99%. Это цифра из пресс-релиза, независимой проверки в заметке нет.
Перед запуском Doximity прогнала девять распространённых ИИ-моделей через более чем 8 000 вопросов о дозировках, составленных по реальным запросам врачей. Минимум 2,3% утверждений о дозах оказались неверными. Из найденных ошибок 43,8% были серьёзными или потенциально смертельными. Частые источники ошибок: дозирование новых препаратов, игнорирование факторов пациента (функция почек, возраст, вес, история болезней) и путаница с единицами, десятичными точками или похожими названиями лекарств.
«ИИ вероятностный. Дозировка лекарств быть такой не может», — приводит компания слова Луи-Антуана Мюлли, главного исследователя ИИ в Doximity. По его формулировке, DoseCheck не просит языковую модель «проверить собственную домашнюю работу», а сверяет утверждения со структурированной базой, чтобы врач каждый раз получал один и тот же проверенный ответ.
На практике это ещё один слой между ответом модели и решением врача. Проверка не заменяет клиническое суждение: она сверяет текст с базой, а не оценивает пациента. Для новых препаратов и сложных случаев ценность зависит от того, насколько полно база покрывает конкретную ситуацию.
Что осталось неизвестным: полный список источников и частота обновления структурированной базы, а также как именно проверяется утверждение, если в рекомендации смешаны несколько препаратов. Данных о независимой валидации заявленных 99% в заметке нет.