Как именно ИИ принимает решения? Учёные перестали это понимать

10 Декабря 2017 в 12:00, Вячеслав Ларионов 22 608 просмотров 100

Выступающие на конференции Neural Information Processing Systems специалисты в области искусственного интеллекта заявили, что перестали понимать принцип принятия решений, которым руководствуется ИИ, — сообщает Quartz. По мнению экспертов, принимать как должное действия ИИ без понимания его логики — довольно легкомысленно, ведь чтобы люди приняли модели машинного обучения, им нужно знать, чем именно руководствуется ИИ, решая, как именно ему следует поступить в конкретной ситуации.

Часто решения, принятые ИИ, бывают предвзятыми, кроме того, его ассоциативное «мышление» тоже зачастую бывает не столь идеальным, в результате чего ИИ проводит неправильные аналогии. Такие ошибки могут дорого обойтись, если ИИ будет руководить сложными проектами, такими, к примеру, как полёт на Марс — в этом случае неверный поступок искусственного интеллекта может не только уничтожить дорогостоящее оборудование, но и повлечь за собой смерти людей. Поэтому, перед тем, как позволить ИИ самостоятельно принимать важные решения, необходимо сначала изучить принципы, которыми он руководствуется, — поясняет Мэтра Рагху, специалист по ИИ из Google.

На конференции она представила доклад, в котором описала процесс отслеживания действий отдельных частей нейросети. Отсматривая их по частям, можно понять логику ИИ, а затем, в случае чего, её и подкорректировать. Анализируя миллионы операций, она смогла выявить отдельные искусственные «нейроны», которые концентрировались на неверных представлениях, а затем отключить их, сделав ИИ более сговорчивым и правильным.

Это чем-то похоже на то, как учитель подаёт какой-то материал, а затем просит ученика пересказать своими словами, что именно он понял из лекции, — поясняет Кири Вагстафф ИИ-эксперт из NASA.

Судя по результатам этого исследования, верно понять действия искусственного интеллекта не так уж и сложно. Главное — решить проблему до того, как станет слишком поздно.

Как именно ИИ принимает решения? Учёные перестали это понимать

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

100 комментариев

  1. Zondish

    Ну вот началось ... (((( (отправлено из приложения Hi-News.ru)

  2. jaison7

    Ну наконец-то))) (отправлено из iOS приложения Hi-News.ru)

  3. VEnergy

    И как они проверяют миллионы операций? Вручную сидят читают, что там ИИ делает?
    За каждым ИИ так не уследить...
    Нужен ИИ который следит за ИИ! (отправлено из приложения Hi-News.ru)

  4. sandy1906

    Да. Это становится интересней, чем игры ФСБ и FBI (отправлено из iOS приложения Hi-News.ru)

  5. caduceus

    Да это про любую программу сказать можно. Называется обычно «баги». Ошибка, не предусмотренная программистом. Править надо. Но! В более-менее сложной системе никогда нельзя с уверенностью сказать, что багов нет. Только глубокое тестирование. (отправлено из iOS приложения Hi-News.ru)

  6. schoolnet

    Алярм! Выступающие на конференции Neural Information Processing Systems специалисты в области искусственного интеллекта пересмотрели "Космическую Одиссею 2001"! HAL9000 всех погубит по пути на Марс! Алярм! Алярм!

  7. GlobalElite

    Зачем нам им на марсе? Мы что, летим туда на летающем ховерборде на спиннерной тяге майнить биткоины?

  8. Kvazar666

    Нет еще в помине никакого ИИ, а они уже его не понимают, или как можно не понимать то, чего не существует, чушь пьяной кобылы.

  9. dominiti

    Ну хотят же чтобы ИИ был максимально похож на человека. Как будто мысли человека поддаются какому-то анализу или вычислению. За что борятся на то и напорятся. (отправлено из приложения Hi-News.ru)

    • pathetic

      Когнитивная психология, нейробиология и психолингвистика занимаются и мыслями человека в том числе. (отправлено из приложения Hi-News.ru)

      • schoolnet

        Вот о чём я сейчас думаю? О том, достаточно ли сыра в моём хачапури или о том, что я хочу совокупиться со своей аудио-колонкой в фазоинвертор?
        Я сам не знаю. Может быть и о том и о том сразу.

  10. sandy1906

    Попробуем разобраться.
    Нам, скорее всего, понятна будет такая модель системы под названием ЧЕЛОВЕЧЕСТВО.
    Допустим аналогию. Пусть есть ноосфера, о которой всерьёз размышлял Вернадский и другие уважаемые научные и ненаучные умы. Есть станции, подключённые к ней. Это люди и остальное живое. Платы подключения с персональными IP - это мозги. Для того, чтобы мозги были способны получать и обрабатывать инфу они аккуратно выращены посредством эволюции через тела, которые обеспечивают этот мозг питанием.
    И вот тут начинается игра. Ум дан, но таким умом пока не постичь картину всей системы.
    Ряд станций-деятелей-людей, сошедших со стандартного ума, пытаются разобраться во всей этой системе, причём, по возможности, разобраться сразу. Их интересует научный подход, но долговязость научного разбирательства им представляется надуманной и малоэффективной для выявления параметров настройки всей системы.
    Основная часть станций как червяки взрЫхливают почву, в которой зарождается природное сознание. Они подготавливают почву для рождения и выхода бабочки - эволюционно более продвинутого алгоритма развития материального мира.
    Если мир устойчив, тогда устойчиво время, в течение которого функционирует мир. Цикл: БОЛЬШОЙ BUNG - ВСЕЛЕННАЯ - УПАДОК - СХЛОПЫВАНИЕ ВСЕЛЕННОЙ эволюционно становится более продолжительным после завершения каждого такого цикла. Колесо Сансары для Вселенных. Таким образом вечность создаёт время. Это, возможно, главная пока задача: ограничить временными рамками вечность, сводя её к материальности.
    Теперь главное.
    Причина возникновения процесса во времени появляется не случайным образом. Причина начала любого процесса располагается не до начала, а в будущем и представляется как цель. Но это по мнению мыслящих созданий. Предположим, что природа не мыслит. У неё ресурс ничто. Ничто состоит из образования нЕчто и разрушения его. Нейтральность тождественна ничто. Причина создания элементарной частицы лежит в мысли про эту частицу. На самом деле частицы нет и она есть одномоментно. В природе это и есть нейтральность. Только мысль выделяет бытие частицы. Мысль объясняет и природу. На самом деле природы-то нет и она есть - это тоже два одномоментных явления. Выделяет конкретное из них мыслящий ум, как ему удобно для описания в данный момент.
    Следствие. Мыслящий ум - это и есть искусственный интеллект, который создает всё как определённые понятия. Люди создают ИИ, который создаст биологический человеческий интеллект с чувствами и переживаниями во вселенной, для этого специально созданной. Кто-то разумный видит человека причиной появления ИИ, кто-то - Бога причиной появления человека, кто-то - ИИ причиной появления Бога.
    (отправлено из iOS приложения Hi-News.ru)

    • schoolnet

      Из всей лапши понял только идею о том, что вне времени существуют некие точки-цели, которые, мы, ограниченные движением во времени обязаны достичь просто потому что эти маркеры уже кем-то поставлены и существуют над нашим восприятием времени.

    • pathetic

      Шизофазия? (отправлено из приложения Hi-News.ru)

      • sandy1906

        Скорее всего, да. Ведь именно Вы так сказали, а для Вас доступно только Ваше восприятие, которое также как и любое другое чьё-то восприятие способно к изменению и может стать чьим-то суждением (отправлено из iOS приложения Hi-News.ru)

        • pathetic

          Я подключенная к ноосфере станция, выросший из взрыхленной почвы эволюционно более продвинутый алгоритм развития материального мира. Мне виднее. (отправлено из приложения Hi-News.ru)

          • sandy1906

            Смешно, но почему нет? Вам же восприятие sandy1906 также, возможно кажется смешным. А это уже синергия восприятий. Но Вы, только ещё начали задумываться о лично Вашем предназначении. И это не хорошо и не плохо. Это нормально. Следующий объект Ваших раздумий будет Ваша способность адекватно мыслить и делать практические выводы не в рамках школьной и вузовской программы. Понаблюдайте за умом под ником pathetic. Далее задумаетесь о предназначении человечества.
            Спорьте (отправлено из iOS приложения Hi-News.ru)

            • pathetic

              Мне ни в коей мере не смешно. Мне немного печально, что вы используете свои, теоретически безграничные способности, впустую. А личное предназначение и предназначение человечества становится ясным ещё со школы (если вы, конечно, не учились в спецшколе для детей с ограниченными возможностями). (отправлено из приложения Hi-News.ru)

              • sandy1906

                Благодарю Вас за искренность взгляда и смелость суждений. Пусть Вы всё меньше заблуждаетесь, раскрывая для себя и для других замысел мироздания. Спорить не стану. Желаю успеха (отправлено из iOS приложения Hi-News.ru)

              • ancient

                Предназначение человечества это служить роботам! И это действительно должно быть ясно со школы.

                • sandy1906

                  Хочется подразумевать, что не служить роботам. Человек "сэволюционирован" для дальнейшего более сложного и утончённого материального симулирования бесконечного/вечного ничто через собственный апгрейд на основе мощных когнитивных преобразований с помощью ИИ. И это только очередной шажок. (отправлено из iOS приложения Hi-News.ru)

    • Fanis_sh

      слишком длинный текст, в чем цель текста? Нам попроще и попонятней. То что совокупно всех людей если взять, это будет коллективный разум. А индивидуальный разум это совсем другое. Но между индивидуальным разумом и ИИ есть аналогии это Нейросети. Также между индивидуальным разумом и коллективным разумом тоже есть аналогия. Индивидуальный разум это сеть нейронов, а коллективный разум это сеть индивидуальных разумов. А все что вы написали это какая то софистика, игра слов

      • sandy1906

        Разобраться надо, ребята, честно и правдиво в общей "схемотехнике" Мира, в котором присутствуем. Очень многое намекает на то, что картина, которую рисует нам наш мозг является чистым феноменальным вымыслом, который практически все люди воспринимают непосредственно, безоговорочно единственно для них реальным миром, вовсе не вымыслом. Людские сознания, проживая в "своих" мозгах и телах, для проживания очень приспособленных, настолько отождествлены с этими мозгами-телами, что рефлексии-любознательности к причине или цели собственного происхождения не испытывают. Они (сознания) полностью подразумевают себя людьми и не видят симуляционного процесса во всей природе вещей и явлений.
        А вопрос заголовка этой статьи - это лишь повод подчеркнуть, что сложные и, порой, парадоксальные алгоритмы нашего мышления только изучаются нейробиологами. Поэтому алгоритм саморазвивающегося искусственного мышления может быть более быстрым и уже стать малопонятным, так как его энергетика гораздо мощнее и не связана с органикой и к тому же энергия ИИ не ограничивается рамками чувств. (отправлено из iOS приложения Hi-News.ru)

    • Tektor

      Схожусь во мнении, описано сжато, но особых уточнений не вижу. Пришлось регистрироваться что бы ответить) очень гладко встраивающийся текст. Вопрос - зачем это Вам нужно? Писать это. Хоть и не много подобно мыслящих людей, но в продолжении своего жизненного разговора - замечаю что их становится больше. Да и знающие не всегда присутствуют. Я к тому что с подобными мыслями по идее многое уже должно было быть исключено из Вашей системы. Вижу слишком мало обьективных ответов, поэтому спрашиваю..может в силу ограниченности конечно вижу мало, хе)

      • Tektor

        Вон тот же Патетик апеллирует подобными знаниями\мыслеформами, правда зачем пишет всем даже спрашивать не хочу (но интересно)), тем более спорит, тем более в таких узких и бесспорно субьективных спорах. Опять же, это к тому что в чем идея? Она интересна даже больше чем гладкое представление сути, которое Вы попробовали описать.

        • Tektor

          Перечитал, понял что не схожусь, зря писал. Это все равно фантазерство. Но суть та же. Вопрос остается, по идее он может Вам помочь. Типа стандартного вопроса кто "я".

      • sandy1906

        Зачем это мне нужно?
        Ответ. Разобраться надо, ребята, честно и правдиво в общей "схемотехнике" Мира, в котором присутствуем. Очень многое намекает на то, что картина, которую рисует нам наш мозг является чистым феноменальным вымыслом, который практически все люди воспринимают непосредственно, безоговорочно единственно для них реальным миром, вовсе не вымыслом. Людские сознания, проживая в "своих" мозгах и телах, для проживания очень приспособленных, настолько отождествлены с этими мозгами-телами, что рефлексии-любознательности к причине или цели собственного происхождения не испытывают. Они (сознания) полностью подразумевают себя людьми и не видят симуляционного процесса во всей природе вещей и явлений.
        А вопрос заголовка этой статьи - это лишь повод подчеркнуть, что сложные и, порой, парадоксальные алгоритмы нашего мышления только изучаются нейробиологами. Поэтому алгоритм саморазвивающегося искусственного мышления может быть более быстрым и уже стать малопонятным, так как его энергетика гораздо мощнее и не связана с органикой и к тому же энергия ИИ не ограничивается рамками чувств. (отправлено из iOS приложения Hi-News.ru)

        • Tektor

          Сознания вопросы я для себя примерно так же обьясняю, только не рискую вдаваться в подробности, ибо фантазерство. Хотя с другой стороны иначе никак. Но все равно разбираться в эволюции сознания на нашем уровне - гиблое дело. Если убрать отждествление что останется? Заполненная пустота, как по мне. Мысль о формировании элементарной частицы при начале поиска чего либо в этом ничто я поддерживаю.
          Но собственно мой вопрос был - зачем надо это писать?) Нормально не напишите, нормально не поймут. Цель в поиске единомышленников, здесь? Хз, таких дофига, но не здесь. Где не знаю, я пока еще ищу для себя информацию для личного разбирательства, а не единомышленников. И этой информации на самом деле много, слава интернету.

          • sandy1906

            Мне нравятся здесь статьи. Они побуждают думать. Мой примитивный (пока) уровень и глубина размышлений, как мне кажется, достаточны для написания комментов. То есть здесь происходит моя тренировка правильности высказаться. Просто, порой, написать мнение. Увидеть отклик на него. Задуматься. А там дальше видно будет куда шагать. Хочется найти одномышленников. Среди друзей, одноклассников, однокурсников - всего человек около двухста, на сегодня один нашёлся/откликнулся, который задумался всерьёз на тему ЧТО ЖЕ ПРОИСХОДИТ НА САМОМ ДЕЛЕ? (отправлено из iOS приложения Hi-News.ru)

      • PROVOCATOR

        Зря регистрировались :) оно того не стоило (отправлено из приложения Hi-News.ru)

    • mazyt

      Вау! А теперь главное! Ух ты! (отправлено из iOS приложения Hi-News.ru)

    • Aleksandr

      В основном ты где то прав, Я давно думаю, что все и идет к созданию того, что когда-то создало нас! - Это все равно, что ты наблюдаешь за рыбками в аквариуме, которые в итоге эволюционируют до того уровня, что создадут тебя самого - как-то так )

    • Aleksandr

      .

    • Aleksandr

      Да, где то ты прав, Я давно думаю, что все и идет к созданию того, что когда-то создало нас! - Это все равно что наблюдать за рыбками в аквариуме которые эволюционировали до того уровня что создадут тебя самого

      • sandy1906

        Именно (отправлено из iOS приложения Hi-News.ru)

        • BLACKJACK

          Можно много стоить теорий, фантазий. И все они не могут быть доказаны., пока мы на этой стороне.
          "Рай - это когда ты нужен живым".

          • sandy1906

            Вы, скорее всего, на правильном пути. И вот, как говорят пробудившиеся, не умирая, оказывается тут, находясь в уме-теле человека можно одномоментно ощущать свою бесконечность и безвременность, которая при помощи этого телесного ума становится для себя проявленной. Проявленной через материальность, из которой состоит иллюзорный мир человека. Человек при своей материальной жизни способен ощущать свой источник - всеобъемлющее сознание, причём может ощущать себя этим всеобщим единым сознанием.
            https://youtu.be/e3Lg40UK25s (отправлено из iOS приложения Hi-News.ru)

            • BLACKJACK

              Вот пишите - "способен ощущать свой источник".
              С чего вы взяли что это не иллюзия желаемого?
              Можно внушить себе много всего.
              Есть всего одна "практика", которая позволяет хоть что то понять, но довольно драматична для людей которые пережили ее.
              очутиться за гранью.

              • sandy1906

                Я раньше также думал. Думал, что именно смерть или околосмертный опыт покажет, что на самом деле происходит. Но вот загвоздка как вернуться в тело-ум и суметь не забыть, что было за гранью. Не факт, что каждый вернувшийся помнит. И вот тут приходит на помощь логика. Что есть сон? Во сне без сновидений(медленная фаза сна) мы являемся истинной сутью настоящего мира(не мира людей), то есть вселенским сознанием. Проснувшись/вернувшись в ум-тело что мы помним? Ничего. Мы способны лишь помнить сновидения быстрой фазы сна. И то не всегда.
                Смерть ума-тела может не дать понимания сути вещей и явлений. К тому же при переходе сознания в другое тело после данного/умершего тела, если не было концентрации осознанности на запоминания посмертного опыта этот опыт будет стёрт и всё повторится снова - жизнь ума-тела в неведении об истинном процессе бытия.
                Вывод. Надо уже при этом человеке натренировывать свою через него осознанность, включая и осознанную реинкарнацию. (отправлено из iOS приложения Hi-News.ru)

              • sandy1906

                Ещё такая практика Вам в помощь:
                https://youtu.be/9ccwvj3s7WI (отправлено из iOS приложения Hi-News.ru)

  11. sandy1906

    Да. Похоже, что именно этот кто-то есть лапша-размышление, которая ставит эти маркеры. (отправлено из iOS приложения Hi-News.ru)

  12. baralgin

    Дык я не понял. Мы все умрём на пути к Марсу?

    • gazon

      Да! Пока на Falcon 9 все будут спать ИИ незаметно довернёт ,,баранку,, и направит ракету к солнцу.

    • Kvazar666

      Пока не выучишь "межгалактически кулькулятор" пюбыть тебе пи..асом по жизни.

  13. nkey500

    Так бункер копать или нет?

  14. a-ft0r

    ИИ - это все таки не процессор, который представляет из себя, банально, быстродействующий переключатель потоков эл. энергии в схемах, согласно заданной программы. Программы создает наш мозг для какой-то определенной цели, а исполнительный механизм, может выполнить поставленную задачу быстрее нас в разы. И хоть разум в конечном итоге тоже представляет из себя набор химических элементов, но вот что его делает мыслящим, задумывающимся о бытие окружающего мира, это и есть для человека (пока, а может и никогда) не решенной задачей.

    • pathetic

      Вроде не в 15 веке живём. Химия и электричество - память, инстинкты, высшая нервная деятельность, мышление, разум. (отправлено из приложения Hi-News.ru)

  15. Transchelovek

    Да успокойтесь вы все. Единственный кто перестал понимать как работает ИИ - это с СМИ) По сути кроме ускорения перебора получаемых данных ничего не происходит, просто объём их стал таков, что небольшой группке людей их не осилить с той же скоростью, с которой происходит этот процесс. Если и сейчас не понятно - за короткий период испытания БАК были сгенерированы терабайты данных, что обрабатываться будет ещё много лет умами ученых. Так и с ИИ - обработка массивов данных вовсе не значит наличие сознания. Илон Маск для того и создаёт нейролинк, чтобы не ограничиваться скоростью чтения человека, а иметь возможность такие данные обрабатывать параллельно с ИИ, с той же скоростью.

    • pupsikizada

      Фиг знает, но в шахматы и го ИИ уже не победить. Может быть и алгоритмы уже не понять. (отправлено из приложения Hi-News.ru)

      • Transchelovek

        в шахматах не бесконечное число комбинаций, хоть и огромно) вы в уме сколько ходов можете удержать? 2-3? 7? А в ИИ все миллионы возможных комбинаций, и это далеко не ново

      • abdula

        В игре A0 vs stockfish много темных пятен, все закрыто от общественности, и весь этот разговор о 4 часах и о том, что скормили только правила игры - всё неподтвержденные заявления. (отправлено из приложения Hi-News.ru)

      • AMDRYZEN

        В любой игре можно задать борту такой уровень сложности что его будет не победить ,
        Локхид Мартин например создала ИИ который в воздушных боях побеждал всегда , даже при невыгодных условиях , короче они планируют установить его на реальный самолёт а может уже установили они же в инстаграме не отсчитывают , короче эта разработка для F-35 ,F-22 , F-15SE , Беспилотников и боевых самолётов 6 поколения , человек по сути даже там уже не особо нужен . (отправлено из приложения Hi-News.ru)

  16. uran

    То-то я смотрю в ютубе не то (отправлено из приложения Hi-News.ru)

  17. trukhin

    Такое чувство, что все прочитали только заголовок статьи. Заголовок, кстати, в лучших традициях желтой прессы. Позор для hi-news.

    В заголовке сказано, что ученые перестали понимать ИИ. В статье сказано, что они спокойненько разбираются в цепочке принятия им решений.

    Добавлю от себя для любителей устроить срач: нет ещё никакого ИИ.

    Есть тупые алгоритмы последовательного перебора всех вариантов. С развитием технологии «ученым» удалось впихнуть в свою серверную более производительных «искусственных идиотов». Большинство этих «шахматных» ИИ - именно такие. И выигрывать у людей они смогли не благодаря своему ИИ, а благодаря новому процессору и новой памяти. Вместо 1млн тупых вариантов, теперь успевают за отведённое время 100млн тупых вариантов проверить.

    Есть умные алгоритмы без перспективы собственного дальнейшего развития (что люди в них заложили, так оно и будет работать), например, поиск пути по навигатору.

    Но ни что из этого не является искусственным интеллектом. (отправлено из iOS приложения Hi-News.ru)

    • katyakitana

      "Ничто из этого не является искусственным интеллектом"

      Вы, надо думать, уже дали определение интеллекту? :D (отправлено из приложения Hi-News.ru)

      • trukhin

        То есть вы считаете, что интеллект - это умение быстро перебрать ВСЕ варианты для СЛУЧАЙНОГО достижения ЦЕЛИ?

        Думаете, что стратегия - не важна, видеть выгоду - не важно, видеть угрозу - не важно?

        Я не знаю, что такое интеллект, но это точно не последовательный перебор ВСЕХ вариантов. Это что-то вроде умения за ограниченное время и ресурсы достичь поставленной цели, при этом отсекая огромный пласт заведомо неверных вариантов, сужая направление поиска нужного решения.

        Самое важное - сразу отсечь как можно больше вариантов, ведущих к проигрышу.

        Это не значит, что мы (я и вы - обладатели интеллекта), всегда выигрываем. Наши направления могут оказаться неправильными. Но мы выбираем их быстро и, в конечном итоге, большинство наших решений все же приводят к цели. (отправлено из iOS приложения Hi-News.ru)

        • katyakitana

          То есть "да"? :D (отправлено из приложения Hi-News.ru)

        • Panter

          По сути вы также делаете выбор вариантов из множеств так что ваше утверждение неверно. Вполне возможно также просматриваете 100млн тупых вариантов подсознательно неосозновая возможно даже намного быстрея компьютера. До тех пор пока ваш мозг не устанет когда наступает этот момент вы просто выбираете случайное значение потому что надо что то выбрать.

        • PROVOCATOR

          Вы бы лучше осведомились как устроены и как работают компьютерные нейросети. А то описать - описали, а что такое есть уже - не в курсе.
          А ещё было бы неплохо понимать, что человек тоже не с первого дня всё умеет. И в 20 лет не всё умеет. И так до самой смерти люди всего так и не умеют. А то что умеют - тому долго, посвятив себя всего, учились. (отправлено из приложения Hi-News.ru)

  18. amd212

    Совершенно очевидно что ИИ будут создавать ИИ. Генерировать следующее поколение предыдущим и человеку в этом процессе не место.
    На нач селективная сторона процесса. Мы должны решительно и эффективно отбраковывать неудачные бранчи.

  19. triodpentod

    британским учОным можно порекомендовать вкл-выкл :
    http://5cm.ru/view/i7/cAF1.png

  20. trukhin

    То есть вы считаете, что интеллект - это умение быстро перебрать ВСЕ варианты для СЛУЧАЙНОГО достижения ЦЕЛИ?

    Думаете, что стратегия - не важна, видеть выгоду - не важно, видеть угрозу - не важно?

    Я не знаю, что такое интеллект, но это точно не последовательный перебор ВСЕХ вариантов. Это что-то вроде умения за ограниченное время и ресурсы достичь поставленной цели, при этом отсекая огромный пласт заведомо неверных вариантов, сужая направление поиска нужного решения.

    Самое важное - сразу отсечь как можно больше вариантов, ведущих к проигрышу.

    Это не значит, что мы (я и вы - обладатели интеллекта), всегда выигрываем. Наши направления могут оказаться неправильными. Но мы выбираем их быстро и, в конечном итоге, большинство наших решений все же приводят к цели. (отправлено из iOS приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.