Сотрудники FDA утверждают, что генеративный ИИ Elsa выдает вымышленные исследования.

Бывшие и действующие сотрудники Управления по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) сообщили телеканалу CNN о проблемах с генеративным ИИ-инструментом Elsa, представленным федеральным агентством в прошлом месяце. Трое сотрудников заявили, что на практике Elsa генерирует несуществующие исследования или искажает реальные научные данные.

"Любой информации, которую вы не успеваете перепроверить, нельзя доверять", – сообщил один из источников. "Инструмент уверенно выдает галлюцинации".

Это, мягко говоря, не идеально для инструмента, призванного ускорить процесс клинической экспертизы и помочь принимать эффективные и обоснованные решения в интересах пациентов.

Руководство FDA, похоже, не обеспокоено потенциальными проблемами, связанными с Elsa. Комиссар FDA Марти Макари (Marty Makary) заявил CNN, что не слышал о подобных проблемах. Он также подчеркнул, что использование Elsa и обучение работе с ней в настоящее время носит добровольный характер в агентстве.

Расследование CNN, выявившее эти недостатки в ИИ-инструменте FDA, совпало с представлением Белым домом "Плана действий в области ИИ". В рамках этой программы разработка ИИ представлена как технологическая гонка вооружений, в которой США должны победить любой ценой. В плане предусматривается устранение "бюрократических проволочек и обременительных правил" в этой сфере. Также требуется, чтобы ИИ был свободен от "идеологических предубеждений", то есть следовал лишь предубеждениям действующей администрации, путем исключения упоминаний об изменении климата, дезинформации и усилиях по обеспечению разнообразия, равенства и инклюзивности. Учитывая, что каждый из этих трех факторов оказывает документально подтвержденное влияние на общественное здравоохранение, способность таких инструментов, как Elsa, приносить реальную пользу как FDA, так и пациентам в США, вызывает все больше сомнений.