Фатальный ошибочный диагноз Уотсона

Мнение Все началось с опасности и закончилось поражением. Флагман IBM AI Watson Health был продан венчурным капиталистам за нераскрытую сумму, которая, как считается, составляет около миллиарда долларов, или четверть того, что подразделение стоило IBM только в результате приобретений с момента его выделения в 2015 году.

Не первая и не последняя махинация с дорогостоящим технологическим бизнесом, но разве будущее не за ИИ? Разве IBM не должна быть хороша в этом?

Все так хорошо начиналось. Одной из первых задач Уотсона было изучение сложного набора симптомов и нахождение наиболее вероятного диагноза на основе энциклопедических знаний о редких заболеваниях. Другая проблема ознаменовала его кончину. Подобно трупу со сломанной шеей, 15 пулевыми отверстиями и сильным запахом цианида, он поднимал вопрос: какая массовая неудача на самом деле его прикончила?

Хороший врач собирает исчерпывающий анамнез, так что давайте начнем с рождения. Впервые большинство людей узнали об IBM Watson в 2011 году, когда она использовала свою обработку естественного языка и емкие модели знаний для победы. Опасностьамериканское телешоу.

Благодаря пиару и маркетингу IBM, не теряя времени, запустила Watson Health. Компания пообещала, что с такой автоматической аналитикой врачи смогут диагностировать точнее, быстрее и с меньшими затратами. Лечение будет более точно нацелено на большее количество пациентов. Произошла революция в здравоохранении.

Многое можно было обещать на игровой выставке, но IBM была настроена оптимистично. Была открыта блестящая новая штаб-квартира на Манхэттене с «комнатой для погружения», которая помещала игроков и журналистов в купол, похожий на планетарий, где Watson мог продемонстрировать свои невероятные таланты. Институциональные и коммерческие партнеры подписались на совместную разработку, и началось волшебство превращения шумихи в реальность.

IBM пыталась обойти это, покупая другие компании с успешными медицинскими продуктами ИИ, чтобы поглотить их достоинства, но Watson последовательно отвергала трансплантаты.

В 2019 году IEEE Spectrum, журнал американской профессиональной организации по электронной инженерии, сообщил, что с момента запуска было объявлено о 50 партнерствах между IBM Watson и организациями здравоохранения.

В нем перечислены 20 самых авторитетных учреждений, в том числе такие авторитетные организации, как клиника Майо, американские национальные организации по изучению рака, кардиологии и онкологических исследований, а также многочисленные больницы и компании. Ни один из них не создал пригодные для использования инструменты или приложения.

В то время (мы не можем говорить о сегодняшнем дне) казалось, что Watson Health не работает. Обычно такое несчастье в бизнес-технологиях можно сфабриковать, потому что статистику можно приукрасить, окупаемость инвестиций оставить приятно размытой, а ИТ-директора сорвать и надеть достаточное количество фиговых листьев, чтобы без стыда перейти к следующему провалу. Медицина использует реальную статистику. Он публикует. Он проверяет результаты, потому что он не продает виджеты, он пытается уберечь людей от смерти, в идеале счастливо.

Когда клинические испытания были опубликованы, Уотсон каждый раз терпел неудачу. Неважно, в какой области он работал, он неизменно набирал меньше очков, чем врачи-клиницисты — иногда менее 50 процентов — и демонстрировал некоторые тревожные слепые пятна в предлагаемых методах лечения. У медицинских работников было достаточно забот, чтобы не присматривать за сломанным ИИ: его уронили.

Вы можете ознакомиться с правилами Опасность в минуту. Чтобы стать врачом, нужно 10 лет. Чтобы стать лучшим врачом, вы можете быть на всю жизнь. Медицинские данные, будь то в литературе или в результатах тестов, бессмысленны или вводят в заблуждение без большого количества подразумеваемого контекста. Watson Health не могла работать во многих областях одновременно; для этого нужен общий интеллект, которого у ИИ в настоящее время нет. Он должен был развиваться с нуля с экспертами в каждой специализации, позволяя им устанавливать правила, способы работы, какие знания важны и почему. Вы не можете сделать это с иммерсионной комнатой. Если вы пообещаете и не выполните, вы не получите помощи, необходимой для улучшения ситуации. Как только вы взорвали доверие, вы поджарены.

IBM пыталась обойти это, покупая другие компании с успешными медицинскими продуктами ИИ, чтобы поглотить их достоинства, но Watson Health постоянно отказывалась от трансплантатов. Компании, которые могли процветать сами по себе, несмотря на небольшую, ловкую, целенаправленную конкуренцию, не могли процветать, будучи вшитыми в маркетинговую систему Уотсона. Клиенты ушли, а новоприобретенные сотрудники ушли, когда номера развалились.

Watson Health от IBM в то время потерпел неудачу, как и многие другие AL/ML, потому что не знал, в чем заключается вопрос — ирония судьбы, поскольку игра в Опасность в чем он преуспел, так это в выводе вопросов из данных. Он хотел автоматизировать самые высококвалифицированные аспекты здравоохранения, диагностики и лечения, но проблема заключалась не в том, чтобы получить как можно больше данных и лучший алгоритм. Скорее, проблема заключалась в значении.

Хороший врач видит пациента, а не симптомы. Уотсон увидел симптомы неэффективности и отсутствия возможностей. Он не видел процесса ухода и восстановления, где нужно было понять врачей, а не данные.

К счастью, этот печальный случай не означает, что инструменты на основе ИИ не могут работать в медицине, и даже не означает, что Watson Health не будет этого делать, или что оценка и внедрение ИИ замедлились. Задавайте правильные вопросы, например, «почему некоторых пациентов госпитализируют повторно» и можете ли вы обнаружить их на ранней стадии?, и вы получите правильные ответы. ИИ в здравоохранении внедряется, и он демонстрирует все признаки того, что заслуживает своего места.

Он выигрывает это место только тогда, когда придерживается тех же стандартов, что и любой другой аспект здравоохранения. ИИ/МО в целом добьются успеха только тогда, когда мы научимся замечать Уотсонов. Установите ранние тесты с четкими целями и четкими результатами. Установите временные рамки — Watson Health умирала через много лет, но через три она вышла из строя. Если вы не можете предоставить доказательство концепции, остановитесь. Если вы даже не можете определиться с доказательством концепции, даже не начинайте.

Возможно, лучшее наследие, которое Watson Health оставило после своего короткого беспокойного времени с нами, — это игра в духе Опасность. Назовем это Гиперпространством. Просто введите «IBM Watson» и год между 2011 и 2021 в поисковую систему по вашему выбору, и посмотрите, сможете ли вы понять, насколько плохо дела обстояли за этот год, из смеси шумихи под руководством IBM и реальных новостей. отчеты. Там есть шаблон. Этому стоит научиться – в конце концов, оно стоит достаточно дорого. ®