«Врача пока не заменить»: профессор Питерской Вышки рассказала, как использовать ИИ в вопросах о здоровье
Нейросеть за секунды объясняет результаты анализов и предлагает диагнозы, но всегда ли она права? Ученые НИУ ВШЭ — Санкт-Петербург выяснили: чат-бот проверяет факты точнее обычного пользователя, но тоже ошибается. Рассказываем, почему врач все еще незаменим и как задать вопрос ИИ-консультанту, чтобы получить достоверный ответ.
Прежде чем записаться к специалисту, многие пытаются разобраться в симптомах самостоятельно: ищут информацию в интернете, сравнивают описания болезней и нередко ставят себе диагноз. Однако не все сведения в сети достоверны. Иногда рекомендации из открытых источников могут наносить вред здоровью. Так, во время пандемии в Иране на уровне СМИ прошел слух, что от коронавируса помогает алкоголь, — в результате сотни людей погибли, отравившись контрафактным продуктом.
Заведующая Лабораторией социальной и когнитивной информатики Олеся Кольцова рассказала, что чаще всего медицинские фейки возникают вокруг самых обсуждаемых тем: здорового образа жизни, вакцинации, витаминов, альтернативной медицины и ГМО. Чем больше публикаций, тем выше вероятность встретить дезинформацию.
Но современные нейросети быстро развиваются и все чаще обращаются к проверенным источникам — в том числе к сайту ВОЗ и медицинским базам — поэтому все реже воспроизводят фейки. Например, о том, что прививка от кори приводит к аутизму. Эксперимент, проведенный командой Лаборатории, выявил преимущество ИИ: ученые сформулировали 108 утверждений о здоровье, правдивых и ложных, а потом попросили чат-ботов и обычных пользователей определить, какие из них верны. Нейросети оказались точнее. Олеся Кольцова отмечает, что искусственный собеседник тоже не застрахован от ошибок.
Олеся Кольцова
Заведующая Лабораторией социальной и когнитивной информатики
«Чтобы понять, помогает ли что-то от болезни, нужны многолетние исследования. При этом то, что сегодня мы считаем правдой, через некоторое время может оказаться заблуждением. В такой подвижной среде машинному интеллекту легко запутаться».
Профессор приводит в пример историю с язвой желудка. Долгое время считалось, что ее вызывает повышенная кислотность, поэтому пациентам удаляли часть органа. После этого желудочный сок выделялся в меньшем количестве, слизистая заживала, но истинной причины врачи не знали. Когда в 1980-е годы обнаружили бактерию Helicobacter pylori, которая и вызывает болезнь, от операций в большинстве случаев отказались — теперь достаточно планового курса лечения, назначенного врачом. Но если бы чат-боты существовали до открытия бактерии, они бы тоже рекомендовали хирургическое лечение — вслед за клиническими руководствами тех лет.
Другое уязвимое место нейросети — неточные пересказы исследований, которые алгоритмы пока не умеют фильтровать. Однако у искусственного интеллекта есть и сильные стороны.
«Нейросети обладают доступом к огромному массиву информации — по сути, к знанию всего человечества. Это преимущество даже перед врачом: медицина настолько сложна, что специалистов учат очень узко. Оториноларинголог ничего не скажет вам про почки, а модель соединяет сведения из разных областей», — рассказала Олеся Кольцова.
Несмотря на обширные знания, ИИ пока не способен заменить врача. Во-первых, чат-бот знает только то, что сообщил пользователь, и не видит всей картины. Специалист, напротив, проводит осмотр, задает дополнительные вопросы и замечает то, что пациент не догадался упомянуть. Во-вторых, у нейросетей есть сложности с извлечением информации из своей памяти: хотя объем хранимых данных у них больше, чем у человека, механизмы обращения к ней несовершенны. ИИ не может, как человек, просто перечитать заметки с врачебных приемов и припомнить, что на них происходило. Поэтому он не способен полноценно следить за состоянием человека от сессии к сессии и учитывать детали последних заключений.
По словам Олеси Кольцовой, ИИ все же может быть полезен, но в качестве дополнения, а не альтернативы приемам у специалиста. Например, машинные алгоритмы могут разобраться в результатах анализов и заключениях, которые врач не успел объяснить на приеме, или подсказать возможные диагнозы и варианты лечения, чтобы пациент обсудил их с врачом. Заведующая Лабораторией подчеркивает, что принимать препараты и назначать себе терапию только по совету нейросети нельзя.
Чтобы снизить вероятность ошибок при использовании ИИ, Олеся Кольцова предлагает простой алгоритм действий, способный исключить львиную долю неверной информации.
«Первый шаг — после получения ответа от модели попросите ее указать, на чем он основан, и дать ссылки на авторитетные медицинские источники. Шаг второй — пройдите по ссылкам, убедитесь, что в них написано именно то, что говорил вам ИИ, и попытайтесь оценить надежность источников самостоятельно. Иногда она очевидна: если это сайт ВОЗ, ему можно доверять. Но если самостоятельно оценить медицинский источник сложно — а с этим обычные пользователи сталкиваются часто — третьим шагом нужно запустить другую модель или независимый сеанс той же нейросети и попросить оценить авторитетность источников», — объяснила Олеся Кольцова.
Профессор уверена: еще часть ошибок можно предупредить, если составить запрос грамотно . Ситуацию нужно описывать подробно, но без повторов и долгих отступлений — они сбивают модель с толку. Для нейросети последние строки самые весомые, поэтому ключевую мысль лучше раскрыть в финале. Заканчивать сообщение следует четкой просьбой: «Найди информацию», «Объясни причины», «Опиши возможные сценарии». Если вопросов несколько, профессор советует задавать их по очереди: сначала лучше выяснить, что означает диагноз, и только затем уточнить, верно ли подобрано лечение.
Так как все загруженные данные остаются у компании-разработчика, Олеся Кольцова рекомендует убирать из анализов и заключений имена и фамилии, прежде чем загружать их в чат-бот. Для медицины уже разрабатывают модели, действующие в закрытом контуре — без выхода в интернет, в пределах больницы или системы здравоохранения. Однако на одной площади не разместить целый город серверов, необходимый крупным нейросетям, так что разработку приходится делать компактной, из-за чего она теряет в точности. На текущий момент команда Лаборатории социальной и когнитивной информатики занимается поиском возможных решений ситуации. Вместе с оториноларингологами ученые уже разработали локального ИИ-ассистента — теперь его тестируют в Санкт-Петербургском научно-исследовательском институте уха, горла, носа и речи (СПб НИИ ЛОР).
«Любой новый инструмент не только помогает, но и несет риски. Это вечная битва щита и меча: человек создает то, что расширяет его возможности, а потом учится справляться с новыми опасностями своего изобретения. То же самое происходит и будет происходить с нейросетями», — заключила Олеся Кольцова.
Ученые Лаборатории социальной и когнитивной информатики изучают поведение людей в интернете: как они ищут, воспринимают и проверяют информацию, в том числе о здоровье. Подробнее об исследованиях — на сайте.
