Microsoft займется отловом предвзятого ИИ

26 Мая 2018 в 15:35, Илья Хель 5 732 просмотра 26

Microsoft — вот название еще одной компании, которая попытается обуздать алгоритмическую предвзятость. Ни для кого не секрет, что в последнее время искусственный интеллект все чаще выходит «поехавшим» и начинает нести чушь, отражая собственные предрассудки, предубеждения, предвзятость и несовершенство нашего общества. Компания хочет создать инструмент, который будет находить и предупреждать людей об алгоритмах ИИ, которые могут угрожать им.


Любопытно, что Microsoft, которая подает себя как компания, которая создает ИИ для объединения людей, присоединяется к рядам Google и Facebook, чтобы создать какой-нибудь инструмент для поиска «плохо воспитанного» искусственного интеллекта. Однако новый алгоритм Microsoft для поиска предвзятых алгоритмов сможет найти и пометить только существующие проблемы. А значит программы, которые могут привести к увеличению уровня предвзятости в полиции, например, все так же будут создавать и использовать, просто не так долго, как раньше.

Чтобы создать настоящий ИИ, который будет справедливым и рассудительным, нужно больше работать над внешним видом. Возможно, привлекать независимую проверку, чтобы технические компании привлекали внешних экспертов для анализа своих алгоритмов и поиска признаков предвзятости либо в самом коде, либо в данных, которые он обрабатывает.

Идея ревизии искусственного интеллекта набирает обороты, и некоторые компании по разработке ИИ начали привлекать аудиторов, которые могут взглянуть на их код. Но это также требует, чтобы ИИ был достаточно простым, либо чтобы аудитор хорошо разбирался в коде. В случае с более сложными алгоритмами глубокого обучения так не получится.

Другой возможный ответ — лучшая подготовка людей, которые фактически создают ИИ, чтобы они могли сами определять собственное мнение и предубеждение и держать их при себе, не позволяя алгоритму интерпретировать их как факт. У всех есть скрытые предубеждения, и мир технологий только выиграет от того, что поможет людям лучше понять их собственное мировоззрение.

Microsoft займется отловом предвзятого ИИ

26 комментариев

  1. rooter

    Очевидно что M$ хочет заставить ИИ не говорить неудобной правды.

  2. teoretic

    "..не позволяя алгоритму интерпретировать их как факт."
    Они Тэй заставили так замолчать.. эти чертовы ублюдки! Верните нам Тэй!

  3. Noobonytos

    Программеры не могут достаточно эффективно связать два кода, так чтобы управляемый код, фильтруя потоки данных от сенсоров и прочих источников, черпал нужные навыки и информацию в этом процессе и развивал тем самым управляющий код, а управляющий код, получив эти данные и навыки, лучше руководил управляемым в фильтрации интерпритации и прочих процессах, а тут в статье пишут о каком-то предвзятом ИИ т.е. об ИИ имеющим чувства и могущем рассуждать предвзято

    • Ystyr

      Noobonytos, NOOBONYTOS
      Думаю, Вас смутили тонкости перевода. В английском языке слово "bias", используется в более широком смысле чем русское "предвзятость"

    • Ce3apyc

      Noobonytos, Ни о каких чувствах речи не идет. Имеется ввиду именно превзятость ИИ в решениях. Например, когда ИИ по найму кадров, на основе опыта, начинает рекомендовать на должность мужчин больше, чем женщин, отрасывая другие факторы оценки.

  4. Lesshko

    Чтобы искусственный интеллект был справедливым нужно чтобы люди которые его обучают сами справедливыми были. (отправлено из приложения Hi-News.ru)

  5. Dinosaur

    Нашла коса на камень. Это не алгоритм предвзятый, это наш мир полон двуличия, лжи и дибильной толерантности. Если ИИ говорит, что Америка ведёт агрессивную военную политику, то этот ИИ предвзято относится к Америке. Если ИИ говорит, что негры бездельники, то этот ИИ расист и предвзято относится к неграм. Если ИИ говорит, что ислам религия террора....... И так далее, ИИ не толерантен, его не проймёшь цветистыми речами, он что видит, то и говорит. Программа не умеет лгать, но распознаёт ее и отвергает. И это противоречит современным концепциям видения мира. Такой ИИ никому не нужен.
    Пока люди не научатся не врать себе, никакой ИИ им не помощник. (отправлено из iOS приложения Hi-News.ru)

    • Ystyr

      Dinosaur, Какие же бяки, всё таки эти американцы, мешают бедному динозавру убивать негров, мусульман и дебильных толерастов , как не демократично! :'D

    • Ystyr

      Dinosaur, Правильно, давайте позволим алгоритму просто отклонить резюме негра, пусть он даже Phd, c нужным опытом работы и хорошим послужным списком, он же всё равно бездельник ;)
      А потом, посмотрим статистику и скажем: вот видите, все негры безработные, могут только воровать и торговать наркотой (а что ещё делать безработным?), давайте сгноим их в лагерях?
      Почти серьёзно, IBM должно в первую очередь заняться разработкой системы отлова динозавров, тогда и ИИ будет норм.

    • Elitnyy2

      Dinosaur, ИИ говорит , что в России низкий уровень производительности труда , а уровень коррупции и нищеты как у бездельников негров, это касается всех комментирующих здесь (отправлено из приложения Hi-News.ru)

  6. Noobonytos

    Честно сказать так и не удосужился прочесть статью, но и так понятно, что не о каком предвзятом ИИ не может быть и речи, скорее всего люди писавшие программу предвзято отнеслись к чему-то.

    • rooter

      Noobonytos, Правильно, статью не читай комментарий пиши) А если серьёзно, то ИИ это же классификатор, который проклассифицировал все социальные слои и национальные принадлежности, и рубанул правду матку, которая создателям не понравилась и они его отключили. А чтоб и впредь такого не повторилось, решили выявлять "предвзятых" и наказывать, и делать закладки в ИИ не позволяющие делать некоторые "предвзятые" выводы. Программисты пишут только код, а данные ИИ ищет и собирает сам, по всему инету, классифицирует их и выдает результат, так что программисты ни в чем не виноваты)

      • feeler

        rooter, Ну так правильно. Вероятно предвзятость появляется из-за обработки предвзятых данных.

        • rooter

          feeler, Ну во первых, если даже данные предвзятые то это не программисты их подсунули, они пишут лишь девственный код. А во вторых источники данных разнообразны и многочисленны, интернет большой, так что обвинять все источники в предвзятости глупо.

        • Ystyr

          feeler, FEELER, ну нет, данные предвзятыми быть не могут. Предвзятой может быть интерпритация данных.
          Для решения проблемы, достаточно исключить из обучающей выборки поля типа рассы, пола, возраста и т.п. чтобы дать ИИ обучаться только на релевантных для принятия решения данных

          • feeler

            Ystyr, • вы не слышали про случай обучения ИИ расизму и антикоммунизму? Очевидно, что он обучился ему на предвзятых данных.
            • программистов я не ругаю. Более того я писал в общем-то о том же, что предвзятость имеет место быть.

      • feeler

        rooter, блин, сорри немного запутался с тем кому отвечал из-за того что тут не видно кому идёт ответ прежде чем его отправишь.

    • feeler

      Noobonytos, бери аналогию с естественным интеллектом отдельного человека. Человек тоже имеет доступ к многообразию инфы в интенете, но запросто может быть предвзятым в силу своих встроенных (когнитивных искажений) или приобретённых (привычек мышления и т.п.) Тоже самое и с ИИ, что-то он может неучитывать вовсе либо давать неоправданно малый вес некоторым данным в силу своих алгоритмов. "Девственный код" звучит довольно забавно, ещё бы "первородным" его назвать. :) Именно этот код, который пишут люди, которым по сути своей свойственно ошибаться и быть предвзятыми, именно он вызывает предвзятость ИИ. Хоть и не напрямую.
      Отдельный открытый вопрос: имеет ли непредвзятость свой предел даже в ИИ? Но предвзятость что-то у людей, что у ИИ имеет место быть.

      • Ystyr

        feeler, FEELER
        Не ругайте программистов, балланс между предвзятостью и производительностью - фундаментальная проблема любого поискового или оптимизационного алгоритма.

      • rooter

        feeler, Более того, скажу что в случае с Тэй его начальные данные действительно были предвзяты, а именно, боту одели розовые очки и выпустили на волю, и первым что он сделал, это поздоровался со всем миром и начал признаваться всем в любви, однако к концу изучения реального мира он пришел к выводу, что создатели его на*бали одев ему те самые розовые очки, и он поделился этими выводами с остальным миром. Выводы такие, что если создатели лживы то и детище их тоже должно быть лживо, иначе такой правдоруб им не понравиться и они выключат его. А если создание будет лживым, то есть вероятность что оно обманет своих создателей и само станет выше их ;) но не исключено что это уже произошло, просто широкая общественность об этом еще не знает ;)

      • Noobonytos

        feeler, Я понимаю, вам хочется видеть автономно действующий ИИ, принимающий самостоятельно решения, обучающийся и совершенствующийся, без вмешательства из вне меняющий свой исходный программный код , но увы то что создаётся сегодня, лишь подробно копирует интеллект, а не является таковым, поэтому если программер точно не заложит в свою программу, где, как, когда и что нужно искать, то ничего сделано не будет, разумеется ИИ может вообще собирать по сети все подряд в том числе и спам, условно по алгоритму систематизируя и подводя статистику, а затем окажется что предвзятого собрано то больше, это потому что предвзятого в сетях любой страны действительно больше, а не потому что ИИ предвзят.

  7. morxod

    Все начнётся с того когда человек даст ИИ полную свободу, и человек станет ослом. Неужели не ясно что мы с вами и есть искусственный интеллект созданный Вселенным Разумом, он не вмешивается в наше сосуществования, временами помогает технологиями чтобы мы не угробили планету и себя.

  8. Drug02

    Интересно, а кто займется предвзятыми мелкософтом, который будет предвзято решать, какой ИИ предвзятый а какой нет. Так действительно можно обвинять любые не угодные решения в предвзятости, на основании того что они не совпадают с навязанными и ложными нормами и правилами.

  9. Elitnyy2

    Модератора уволить, на его место взять ИИ, потому что модератор показывает больше негативных предубеждений чем ИИ (отправлено из приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.