Прогнозирующий преступления ИИ «уволили»

18 Января 2018 в 20:30, Вячеслав Ларионов 7 689 просмотров 20

Алгоритм Compas, работавший на американскую полицию с 1998 года, занимался анализом данных подсудимых, а затем на основе полученной информации помогал решить, например, стоит ли отпускать преступника под залог или же лучше оставить под стражей. Выбирая меру пресечения, система учитывала возраст, пол и послужной список на криминальном поприще. За 20 лет «службы» алгоритм оценил более миллиона человек, но недавно его признали некомпетентным, после чего он немедленно был отозван.

​​Ученые из Дартмутского колледжа проверили, насколько точна система и можно ли ей доверять. Для этого они набрали фрилансеров, обычных людей без юридического образования, вынести собственные решения на основе коротких справок о людях, выдав испытуемым информацию о поле, возрасте, уголовном прошлом и ещё нескольких параметрах.

Точность прогноза располагавших небольшим досье фрилансеров составила почти 70 процентов, программа же отстала от людей на пять процентов, при этом опираясь на 137 пунктов биографии. Анализ суждений алгоритма показал, что чернокожие заключённые чаще находятся у программы под подозрением.

«Ошибки в таких случаях могут очень дорого стоить, поэтому стоит задуматься, а нужно ли вообще применять этот алгоритм для вынесения судебных вердиктов», — говорит один из авторов исследования.

Изучив принцип работы алгоритма, исследователи пришли к выводу, что чем младше подсудимый и чем больше арестов у него за плечами, тем выше вероятность рецидива, поэтому специалисты в области ИИ признали технологию неблагонадёжной.

Прогнозирующий преступления ИИ "уволили"

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

20 комментариев

  1. AMDRYZEN

    ИИ неподкупен и непредвзят в отличие от людей (отправлено из приложения Hi-News.ru)

  2. wowiliamus

    Ему оставалась неделя до пенсии ))

  3. GlobalElite

    Точность какого прогноза составила 70 процентов? Прогноза «вроде норм»/«вроде не норм»? Вот им бы только от РОСЕЗМА открестится. Потом удевляютя что, по слухам, 4 из 5 преступлений в Норвегии — изнасилования.

    • HeavenSky

      Мы удивляемся тому, что человек не выучил родной язык как следует, а всё туда же - поучает. Поучайте пожалуйста своих паучат, выучите для начала русский. Достали.

      • GlobalElite

        Подумаешь, опечатка :(

        • vectorN

          Почему Вы свою безграмотность оправдываете якобы опечаткой? Буква "е" от буквы "и" на клавиатуре находятся через один ряд по вертикали, и опечаткой это никак не могло быть.

          • amd212

            иногда люди, долго живущие в англоговорящей стране, приобретают тенденцию использовать "е" вместо "и" поскольку английское "е" звучит как русское "и"

        • vectorN

          И кстати если Вы и в правду представляете нашу элиту, то не удивительно почему Россия в жoпe.

        • rainbringer

          "откреститься" без мягкого знака - тоже опечатка? (отправлено из приложения Hi-News.ru)

  4. vectorN

    За правду всегда страдают.

    • Spirius

      ИИ в нынешнем виде не является таковым. Лет через 20-30 возможно что похожее появится (отправлено из приложения Hi-News.ru)

      • Doka

        Если для ИИ логику прописывают программисты (люди), то и через 20-30 не появиться. Надейся на ИИ, но сам не плошай!

  5. triodpentod

    просто американские программисты решили посмотреть что там
    за листинги были написаны в старой компьютерной экспертной
    программе Compas на основе байесовской теоремы, которая тогда
    в прошлом веке считалась панацеей, когда надо было замутить
    такие штуки, как вероятностные события с неявным окончанием.
    вот вероятно решили выпустить новую версию, с улучшенными
    ярлыками и нескучными обоями, для прецедентного права это
    самое оно, то что доктор прописал.)

  6. 0.5l

    написано-же. уволен из-за склонности к рассовой дискриминации

    • RikasEpta

      Так он статист, а по статистике чернокожие в США совершают больше преступлений, по-моему абсолютная логика машины, но там даже за то что косо посмотрел на них можно иск получить, куда уж машине. (отправлено из приложения Hi-News.ru)

  7. rahimbekzoda97

    Ну чем то он прав (отправлено из приложения Hi-News.ru)

  8. Olins

    Мясные сво... нехорошие люди. (отправлено из приложения Hi-News.ru)

  9. Ce3apyc

    1/2 ИИ должны представлять чернокожие ИИ, из них половина должна быть женского пола;)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.