IBM Watson выдавал «небезопасные и неправильные» рекомендации по лечению рака

26 Июля 2018, Илья Хель 8

Внутренние документы компании IBM показывают, что эксперты-медики, работающие с суперкомпьютером Watson, обнаружили «многочисленные примеры небезопасных и неправильных рекомендаций по лечению», используя программное обеспечение, сообщает Stat News. Из документов стало понятно, что продукт выдает «зачастую неточные» предположения, что вызывает «серьезные вопросы к процессу создания содержимого и к технологиям в его основе».


Одним из примеров в документах стал случай 65-летнего старика, которому поставили диагноз рака легких и у которого обнаружили мощное кровотечение. Watson предложил назначить мужчине химиотерапию и препарат «Бевакизумаб». Но этот препарат может привести к «мощному или смертельному кровотечению», а значит его нельзя прописывать людям с сильным кровотечением. Впрочем, эту рекомендацию не давали пациенту, поэтому она могла быть частью испытания системы.

В документах обвиняют обучение, предоставленное инженерами IBM и врачами из MSK, которые заключили партнерство с IBM в 2012 году, чтобы научить Watson «думать» как врач. Из документов следует, что вместо того, чтобы скармливать ИИ данные реальных пациентов, врачи кормили его данными гипотетических пациентов или данные «искусственных» случаев.

Результаты врачам не понравились.

«Этот продукт — дерьмо собачье», сказал IBM врачи из Jupiter Hospital во Флориде. «Мы купили его [под влиянием маркетинга] и с надеждой, что вам удастся добиться своего. Мы не можем использовать его в большинстве случаев».

И это лишь одна из жалоб врачей, которые включили в документы.

Неизвестно, что будет с IBM Watson дальше, потому что врачи не могут разглашать секретную информацию ни о IBM, ни о работе с ИИ, ни о пациентах, но многие из них уже не работают с чудо-компьютером.

IBM Watson выдавал «небезопасные и неправильные» рекомендации по лечению рака
Метки: , .

8 комментариев Оставить свой

  1. MASking

    чудо-компьютером - с 2012 года (6 лет) выдавал «небезопасные и неправильные» рекомендации по лечению рака - и какой то процент пациентов использовал эти рекомендации, может даже и умер во время лечения. Представляю с какими "неточностями" будет работать в США мощный военный ИИ - или всем раздаст по чупачупсу и заставит сосать, или признает всех людей врагами и уничтожит мир одним махом

    • karambas

      MASking, предполагаю неправильных решений и от реальных людей немало.. особенно отучившихся на родительские деньги

  2. Andros2011

    Так в чем вина IBM? Как я понял, они заключили договор с врачами, чтобы последние предоставили данные по реальным пациентам, а те им скормили данные выдуманных, что и могло породить неточности. А теперь сами врачи жалуются мол что вы нам подсунули.

  3. Spirius

    Это говорит лишь о том что ИИ нет. Насколько я могу любительски судить,в текущих компьютерах любых с двоичным примитивным кодом ИИ в принципе не возможен. Мне кажется нужно изобретать принципиально иной способ работы компа

    • velzevul88

      Spirius, Причём тут двоичный код. Ты используешь примитивную десятичную систему счисления, используй шестнадцатеричную систему.

    • Gold Billion

      Spirius, Двоичный ход)

  4. Zamza

    Ну, ИИ только начинается, и его ещё надо много загружать информацией. Что его сравниватьс врачами, которые по 30-40 лет "собирали" информацию? За 30-40 лет сбора информации и загрузки её в обработку, ИИ , пардон, "раком поставит" всех врачей.....

  5. freawertyhn

    Ватсон, элементарно! Нет человека - нет проблемы! И не требуются деньги на лекартсво..

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.