Планы Маска на искусственный интеллект — больше, чем просто спасение мира

13 582 просмотра
Об авторе

Элон Маск

Элон Маск и Сэм Альтман переживают, что искусственный интеллект захватит мир. Поэтому два предпринимателя создают некоммерческую организацию на миллиард долларов, которая максимизирует власть ИИ — а после поделятся ею с любым, кто захочет. Во всяком случае именно такой посыл Маск, основатель компании по производству электромобилей Tesla Motors, и Альтман, президент инкубатора стартапов Y Combinator, озвучили во время представления своего детища OpenAI.

В интервью со Стивеном Леви из Backchannel, приуроченном к запуску компании, Альтман сообщил, что они ожидают, что этот проект на десятки лет превзойдет интеллект человека. При этом они хотят, чтобы риски, сопряженные с искусственным интеллектом, были смягчены за счет того, что эту технологию «будет использовать каждый, а не, скажем, только Google».

Естественно, Леви задал вопрос, не приведут ли их планы свободно делиться этой технологией к тому, что она попадет в руки плохих людей, которые станут такими «докторами Зло» местного покроя. Но этот риск, как считают создатели OpenAI, уменьшится за счет того, что власть многих перевесит власть нескольких. «Точно так же, как люди защищаются от доктора Зло хотя бы тем, что большинство людей хорошие, и коллективная сила человечества может содержать плохие элементы, — говорит Альтман. — Но мы думаем, что куда более вероятно, что много-много ИИ остановят случайных плохих людей».

Пройдут года, прежде чем мы узнаем, выгорят ли эти противоречивые аргументы. Искусственный интеллект сверхчеловеческого уровня ужасно далек, если вообще появится. «Эта идея содержит интуитивно понятный призыв, — говорит Майлз Брендейдж, аспирант Университета штата Аризона, который занимается человеческими и социальными аспектами науки и технологий, по поводу OpenAI. — Но особых аргументов у нее нет. В той точке, где мы сейчас, ни одна система ИИ не способна захватить мир — и не сможет в обозримом будущем».

Но создание OpenAI вовлекает больше мотивов, чем просто возможность захвата мира силами сверхчеловеческого интеллекта. В краткосрочной перспективе OpenAI может напрямую помочь Маску и Альтману и их компаниям (Y Combinator взрастил таких монстров, как Airbnb, Dropbox и Stripe). После сманивания ведущих разработчиков ИИ из компаний вроде Google и их трудоустройства в OpenAI, два этих предпринимателя получат доступ к идеям, к которым не имели доступа ранее. И объединив усилия, наводнив каждый свою компанию данными, они вполне могут понять смысл этих идей. В наши дни один ключ к развитию ИИ — инженеры, а второй — данные.

Если OpenAI останется верным своей миссии обеспечить каждого доступом к новым идеям, он послужит целям и мощных компаний вроде Google и Facebook. С Маском и Альтманом и другими, кто вливает свыше миллиарда доллара в это предприятие, OpenAI демонстрирует, как меняется само понятие конкуренции в последние годы. Все чаще компании, инвесторы и предприниматели надеются конкурировать с соперниками, отдавая свои технологии. Это к разговору о противоречивости.

Плюсы открытости

OpenAI

OpenAI — это кульминация чрезвычайно насыщенного месяца в мире искусственного интеллекта. В начале ноября Google раскрыла исходники (частично) программного движка, на котором работают ИИ компании — технологии глубокого обучения, которые оказались чрезвычайно способными в распознавании изображений, определении сказанных слов, переводе языков и понимании естественного языка. И почти перед самым объявлением OpenAI Facebook раскрыла исходники проектов компьютерного сервера, на котором работают ее сервисы глубокого обучения, и многие из них решают те же задачи, что и технологии Google. Теперь и OpenAI обещает поделиться всем, что сумеет произвести, — и особое внимание будет уделено, конечно же, глубокому обучению.

Да, такой дележ — это своего рода тоже соперничество. Если компания вроде Google или Facebook открыто делится устройством программного или аппаратного обеспечения, она форсирует прогресс ИИ в целом. И это, опять же, в ее интересах. По мере того как крупное сообщество улучшает эти открытые технологии, Google и Facebook могут вернуть эти улучшения в свой бизнес. Кроме того, опенсорсинг — способ поиска и найма талантов. В области глубокого обучения ученые — многие из которых выходят из академий — приветствуют идею открытого разделения своей работы, удовлетворения большого числа людей. «Определенно существует конкуренция в борьбе за ученых, — рассказал Альтман журналу WIRED. — Люди, которых мы наняли… им нравится тот факт, что OpenAI открыт и они могут поделиться своей работой».

Эта конкуренция может быть прямее, чем кажется. Можно предположить, что Google открыла исходники своего движка ИИ, TensorFlow, поскольку знала, что появится OpenAI — и Facebook поделилась дизайном своего сервера Big Sur в ответ на действия Google и OpenAI. Facebook говорит, что это не так. Google не отвечает на запрос. И Альтман тоже не хочет это обсуждать. Но говорит, что Google знала, что появится OpenAI. Да и как она могла не знать? Этим проектом занялся Илья Суцкевер, один из ее ведущих разработчиков ИИ.

Это не умаляет ценности проекта Google с открытым исходным кодом. Независимо от мотивов компании, этот код доступен для всех пользователей, пусть используют, как им заблагорассудится. Но стоит помнить, что в современном мире раздача технологий — это больше, чем просто великодушие. Сообщество глубокого обучения относительно небольшое, и все эти компании борются за таланты, которые помогут им использовать преимущества этой невероятно мощной технологии. Они хотят поделиться, но также хотят и выиграть. Они раскрывают свои козыри, но далеко не все. Открытые исходники ускорят прогресс ИИ, но пока это происходит, важно, что ни одна компания или технология не станет слишком мощной. Поэтому в OpenAI есть смысл.

Его собственная программа «Аполлон»

OpenAI

В некоторой степени можно подозревать, что Маск и сам видит обмен, разделение как способ выиграть. «Как вы знаете, у меня были некоторые опасения по поводу ИИ в течение некоторого времени», — рассказал он Backchannel. И его публичная дрожь на тему ИИ-апокалипсиса хорошо известна. Но он также работает над Tesla, которая будет извлекать выгоду из технологий, которые разработает OpenAI. Подобно Google, Tesla строит самоуправляемые автомобили, которые смогут извлечь неиллюзорную выгоду из технологий глубокого обучения.

Глубокое обучение полагается на так называемые нейронные сети, обширные сети программного и аппаратного обеспечения, которые силятся стать похожими на сети нейронов в мозге человека. Скормите достаточно фотографий котиков нейронной сети, и она начнет узнавать котов. Загрузите в нее достаточно диалогов, и она научится поддерживать разговор. Скормите ей достаточно данных о том, с чем сталкивается автомобиль, когда едет по дороге, и как на это реагируют водители, и она научится водить.

Да, Маск может просто нанимать исследователей ИИ на работу в Tesla. И нанимает. Но с OpenAI он может нанимать лучших исследователей (потому что это открытая компания и потому что она не ограничена привычной бизнес-моделью традиционной компании или кратковременным интересом). Он даже может вытягивать ученых из Google. Кроме того, он может создать куда более мощный пул данных, который поможет в работе этих исследователей. Альтман говорит, что компании Y Combinator будут делиться своими данными с OpenAI, а это не мало. Совместите эти данные с данными Tesla, и начнете соперничать с Google — по крайней мере на определенных условиях.

«В некотором смысле это хорошо, в некотором — не очень, — говорит Крис Николсон, генеральный директор стартапа глубокого обучения Skymind, который недавно был принят в программу Y Combinator. — Я уверен, что есть много данных Airbnb о жилье, до которых Google не может дотянуться».

Маск был одним из первых инвесторов в компании под названием DeepMind — британской компании, которая описывает себя как «программа «Аполлон» для ИИ». И эти инвестиции приоткрыли для него окошко на то, как развивается эта замечательная технология. Но Google купила DeepMind, и теперь окошко закрыто. Теперь Маск начинает собственную программу «Аполлон». И он снова на этом поезде. Другие инвесторы OpenAI находятся в таком же положении, включая Amazon, интернет-гиганта, который следует по пятам Google и Facebook в гонке ИИ.

Пессимизм и оптимизм

Нет, это не умаляет ценность проекта Маска. У него могут быть корыстные или альтруистические мотивы. Но конечный результат будет чрезвычайно полезен для ИИ всего мира. В процессе обмена своей технологией с миром, OpenAI вынудит Google, Facebook и других тоже это делать — если уже не вынудила. Это хорошо для Tesla и всех компаний Y Combinator. Но также это хорошо для всех, кто уже заинтересован в использовании ИИ.

Конечно, в обмен на свою технологию, OpenAI также будет поставлять новые боеприпасы для Google и Facebook. И доктору Зло, где бы он ни скрывался. Он может хорошенько поживиться за счет OpenAI. Но крупнейшее опасение заключается не в том, что доктор Зло превратит эту технологию во вселенское зло. А в том, что технология затеряется в мире. Глубокое обучение не закончится на самоуправляемых автомобилях и понимании естественного языка. Ведущие ученые считают, что при условии правильной смеси данных и алгоритмов это понимание может расшириться и на то, что люди зовут здравым смыслом. И даже до сверхчеловеческого интеллекта.

«Страх перед сверхинтеллектом, который рекурсивно себя улучшает, достигает второй космической скорости и становится на порядок умнее любого человека, — говорит Николсон. — Это произойдет не скоро. И некоторые считают, что не произойдет вовсе. Но если произойдет, будет жутко».

С этим Маск и Альтман и пытаются бороться. «Разработка, обогащение, доступность технологий защищают людей, — говорит Альтман. — Делать это — лучший способ защитить всех нас». Но в то же время это сокращает путь к сверхчеловеческому интеллекту. И хотя Альтман и Маск могут считать, что доступ каждого к сверхинтеллекту позволит вовремя обнаружить сбежавший ИИ, может произойти совершенно противоположное. Если компании будут знать, что все в мире стремятся заполучить в высшей степени разумный ИИ, они будут меньше заботиться о мерах предосторожности.

Насколько необходимы эти меры, как ни странно, зависит от того, насколько оптимистично вы смотрите на способность человечества наращивать технический прогресс. Основываясь на своих прошлых успехах, Маск и Альтман имеют все основания полагать, что дуга прогресса будет стремиться вверх. Но другие не особо верят в то, что ИИ будет представлять угрозу человечеству, как это видят Маск и Альтман. «Мысли об ИИ — это опиум для технологов: они нас возбуждают и делают параноиками», говорит Николсон.

В любом случае «гуглы» и «фейсбуки» нашего мира быстро толкают ИИ к новым горизонтам. И, по крайней мере в мелочах, OpenAI поможет удержать их — и всех остальных — в узде. «Думаю, что Элон и эта группа считают, что ИИ не остановить, — говорит Николсон. — Поэтому все, на что они могут надеяться, — это изменить его траекторию».

Планы Маска на искусственный интеллект — больше, чем просто спасение мира

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

59 комментариев

  1. Khius

    ждём не дождёмся скорей бы уж (отправлено из приложения Hi-News.ru)

  2. barkumez

    Кто такой Маск? (отправлено из приложения Hi-News.ru)

  3. Garfeeld

    все люди разговаривают с вещами (компами, телевизорами, холодильниками, автомобилями, некоторые, особо одаренные, с кастрюлями и носками), наделяют их чертами чертами характера, привычками и прочими атрибутами личности. нас даже не смущает то, что вещи нам не отвечают или отвечают не то и не так. именно эта часть ии привлекает людей, именно она нам нужна, а вовсе не власть над миром или решение мировых проблем.
    способен ли маск со товарищи построить такой ии?
    и черт меня дери, сделать его индивидуальным, а не массовым!
    я не стесняюсь сказать, что ревную свои вещи и не терплю когда их трогают другие, а если они будут иметь личности даже подумать о том, что бы делить их ии с другими людьми (и вещами) противно.

    • SeraphM

      Кхм, все люди разговаривают с вещами? Или моё это сообщение приравнивается к разговору с ним? Если так, то ладно, в противном случае у таких людей не все в порядке с головой, так как общение с не одушевлённым или не обладающим интеллектом обьектом/существом абсолютно не имеет смысла. (отправлено из приложения Hi-News.ru)

      • SeraphM

        Отправленное с телефона (отправлено из приложения Hi-News.ru)

      • Garfeeld

        вот только не надо нам тут рассказівать, что вы не дрочите!
        в смысле, не уговариваете заглохшее авто завестись или лагающий комп перестать, или не выговариваете свистящему чайнику, или дверному чего он так орет.

        • Cortes

          Так то известный медицине случай F20 (МКБ10) (отправлено из Android приложения Hi-News.ru)

          • Garfeeld

            все люди чем-то больны. но в разной степени.
            так-что кивать на это как-то тупо.
            и даже пошло, ибо ваш коммент намекает, что я шизик, а вы то здоровый.
            это оскорбительно и не имеет абсолютно никакого отношения к реальности.

            • SeraphM

              Все чем то больны, но не тем, что вы описали выше... Если у вас проблема и осознание её вас задевает, то нечего трепаться об этом на право и на лево. Лично я даже не могу общаться с животными и детьми до года, так как это выглядит пустой тратой времени, но в этом в принципе ничего такого нет, а вот уговаривание лагающего компа как по мне, лёгкое сумасшествие... Кстати, думаю если вы постараетесь, то возможно лагающий комп вам ответит) (отправлено из приложения Hi-News.ru)

              • Garfeeld

                я конечно болен, но совсем не той болезнью, на которую вы намекаете. более того, описанные мной дивиации свойственны всем людям. если у вас этого нет, есть повод волноваться.

                • Cortes

                  Извините, если Вас что-то обидело, я не ставлю диагнозы через интернет. Хотел бы Обратите внимание на некую аналогию, верующие люди молятся, это разговор скем? Возможно искусственный интеллект это попытка атеистического общества создать "нового бога" с продвинутым интерфейсом. (отправлено из Android приложения Hi-News.ru)

                  • Garfeeld

                    я часть атеистического общества. мне не нужен бог. в этом вся суть. а вот отвечающие мне вещи, окружающие меня в быту нужны.
                    желательно, разными голосами, с разными чертами характера и проч.
                    мечтаю, что бы фраза "поссорился с чайником" обрела новый смысл

                  • tabasko

                    Не создай себе кумира! Так гласит одна из заповедей. (отправлено из Android приложения Hi-News.ru)

              • iKrass

                Бедные ваши дети... (отправлено из Android приложения Hi-News.ru)

                • Garfeeld

                  серьезно? не скучно жить с таким скудным воображением?

                  • Дмитрий

                    Garfeeld, уж простите за не скромный вопрос, но вот уже который раз выхожу покурить и читаю Hi-news... В каждой новости вы, наперебой со всеми, упираетесь в срач и возражения. Понятно стиль жизни такой.
                    Но вам совсем скучно и заняться нечем?
                    Везде разведен "диспут" о чем?
                    Более-менее пристойный сайт о технологиях и науке, где предполагаются соответствующие комментарии, а кругом с вашего синдрома начинается ахинея.
                    Тогда становится понятно, что максимум вашего общения - схожие комментарии и мечта о диалоге со сливным бачком.

                    • Garfeeld

                      что именно вас не страивает, то, что я имею, что сказать? или то, что не распеваю дифирамбы?
                      знаете, есть такие люди (с синдромом блондинки), которых дико бесит конструктивная критика. они убеждены, что любой критичный отзыв - эскалация конфликта, направленная против них лично. агрятся такие людишки на всех подряд с воплями "держи при себе свое гавномнение"!
                      вы, вижу, из этих. это грустно, особенно учитывая мужское имя.
                      и если уж на то пошло, между общением с виртуальным хамом и сливным бачком, предпочитаю последнего собеседника.
                      идите... с миром, и не грешите, без нужды.

                    • homevu

                      Хм... быть может это один из тех старых "умников" вернулся, ведь жажду бурных аплодисментов они так и не смогли утолить тогда. Хотя не факт что они вообще куда либо уходили, просто притихли, поменяли ники, чтоб не чувствовать себя ущербными в глазах других после всего что было и теперь, спустя время, снова подают голос. Гадить под каждым комментарием, умничать в каждой новости - это все в их стиле, возможно, это тот больной - Petrushka или кто либо другой из той старой компашки "умников". Как бы там не было - таких людей можно и нужно ставить на их законное место... и чем раньше - тем лучше! (отправлено из iOS приложения Hi-News.ru)

                  • 4ugezemka

                    вы потрясающий, имхо) интересно и доходчиво донесли мысль о свойственной нам всем привычке разговаривать с предметами, но я считаю, что развивать ее пагубно, наделяя характерами и голосами, вредно я психики, если сейчас еще мы щадним умом воспринимаем это как выплекс эмоций, то при одушевлении, о котором вы написали, это станет как в "Она". (отправлено из Android приложения Hi-News.ru)

                    • Garfeeld

                      заводя собаку вы ведь понимаете, что она может вас укусить, что погрызть туфли, сбежать наконец? вы же не вырываете ей зубы и не подрезаете сухожилия на лапах, что-бы минимизировать риски? а самое главное, это ведь не мешает вам её любить?
                      так и с ии. несет ли он потенциальную опасность? несомненно. и я даже готов поверить, что есть люди которым нужен всемогущий ии, эрзац бог. но, большинству из нас нужен няшный бибикающий дроид, как в зв7. и я не вижу ничего страшного в том, что вещи стали бы мне отвечать. и знаете, можете считать меня сумасшедшим, меня это не беспокоит.

  4. snow1eopard

    "В той точке, где мы сейчас, ни одна система ИИ не способна захватить мир — и не сможет в обозримом будущем»."
    Я вот тут не понял совсем, по какой причине ИИ не способен захватить мир?
    1) ИИ придумывает вирус, который берет под полный контроль ВСЮ электронику которая вообще может быть законтролена через интернет.
    2) А дальше делает с нами все что ему захочется, самое логиченое, поставит ультиматум, мы ему предоставляем некоторые производственные мощности и он там себе делает роботов или он начинает войну против нас и фигачит нас взрывая АЭС, ТЭЦ, платины, химикаты, био оружие, да все что можно.

    В статье полный бред от А до Я. Какой интеллект для всех?! Что за бред? Ну давайте прикиним, я захожу такой к ИИ в API т.е. на его сайт и прошу его предсказать завтрашнее движение всех пар курсов на бирже, после чего зарабатываю за неделю пару сотен тысяч, а дальше просто обваливаю мировую экокномику и это только единичный случай, все, где требуются сильные просчеты сможет любой и тогда всяким букмекерским контором, валютным биржам и прочему придется закрыться. Бред короче.

    • Garfeeld

      не с тем сравниваете.
      это как владение авто. можно конечно прикинуться идиотом и сказать, да я с авто всех обгоню, везде преуспею и вообще стану королем мира.
      несомненно стали бы, если бы авто было только у вас. при массовом доступе к авто все его опасные возможности становятся статистически не важными, ибо авто есть у всех. у кого-то по лучше, у кого-то похуже. кто-то водила от бога, кто-то путает газ с тормозом, но даже не имея авто вы имеете возморжность вызвать такси или воспользоваться муниципальным транспортом.
      так и с ии.подскажет. поможет. утешит. поменяет подгузник и расскажет на ночь сказку.
      а когда вы уснете поработит мир!

      • Ce3apyc

        Это вы не с тем сравниваете: представьте, что всем детям раздали рогатки и сказали, что можно пользоваться ими без ограничений. По "логике" Маска, мир станет сразу намного безопасней;)

        • Garfeeld

          концепция гарантированного взаимного уничтожения.
          я, кстати, ее сторонник. оружие должно быть у каждого. это очень сильно повысит уровень адекватности.
          то есть какая-то часть отморозков отсеется, наверняка. но остальные будут вежливы и предупредительны.

  5. Abu Bakar

    Искусственный интеллект это порождение сатаны, мы последователи аллаха против, отрежим ему голову как неверному.

  6. dawson.white

    Да не будет ничего такого страшного. Не дураки же сидят там, где ведутся эти разработки. Миллион раз все просчитают и перестрахуются, если не будут уверены в результате. Если что пойдёт не так, вырубят этот ИИ, сделают дублирующие друг друга системы безопасности и т.д. (отправлено из Android приложения Hi-News.ru)

    • Sceptic

      ты не сможешь вырубить ИИ, который умнее людей

    • tabasko

      Код уже открыт, хотите?- Прописывайте свой интерес в его развитии или настраивайте для себя! это теперь как браузер который нужно настроить что бы он заработал так как вам это нужно, а отчёт схавает ИИ и на сопоставлении данных миллионов таких пользователей выявить приоритет и предпочтения, в этом и замут, знать спрос, а спрос как известно рождает предложение. (отправлено из Android приложения Hi-News.ru)

  7. St_Sinner

    Ни кто не мешает тому же Маску прикрутить к своему детищу уровни доступа. Более того, скорее всего так и будет. Наделают каких нить доступов типа "юзер смертный", "юзер корпоративный", "юзер корпоративный вип", "юзер военный" и т.д. В результате под громким OpenAI может легко работать все тот же гос.аппарат с военными и прочими разработками, при этом абсолютно не замарачиваясь о выдумывании легенд прикрытия разработок и т.д. А что? Пипл хавает, повелители довольны и не связаны какими либо общественными мнениями и порядками. И пока пипл громко чавкает, пережевывая "продукт естественной жизнедеятельности организма", верховные будут смаковать "икру заморскую, баклажанную" (отправлено из Android приложения Hi-News.ru)

  8. romale

    Наполеоновские планы есть у любого разработчика систем ИИ именно это свойство человека и сыграет в конечном счёте против человечества. А почему это так, а так запрограммирована эволюция биологического мира, чтобы в конечном счёте появился ИИ. (отправлено из Android приложения Hi-News.ru)

  9. Megard

    Самый первый поступок ИИ это убедить человечество что никакого ИИ нет и в ближайшее время не будет, а может и вообще никогда.

  10. Rambler

    Дизайнер Маск решил высказать свое "экспертное" мнение...

  11. daybreakers

    Маск и др., и те которые против, это, и есть Разум который пытается перейти на новую ступень развития.

  12. tabasko

    Может повторюсь но этот пиарщик ,Маск какие бы благие цели не преподносил, а результат один - быть у руля кавчега с доступом к любому .в этом новом электронном,тотальном системном мире ИИ, с непосредственным контролем над мыслями и действиями всех подключённых пользователей.
    Как то так... (отправлено из Android приложения Hi-News.ru)

    • tabasko

      P.s. Маск может просто нанимать исследователей ИИ на работу в Tesla. И нанимает. Но с OpenAI он может нанимать лучших исследователей (потому что это открытая компания и потому что она не ограничена привычной бизнес-моделью традиционной компании или кратковременным интересом). (отправлено из Android приложения Hi-News.ru)

    • Дмитрий

      Что-то в этом есть... (отправлено из приложения Hi-News.ru)

  13. tabasko

    А после нейронные сети с квантовым ускорителем легко проведут всё происходящее в онлайн и тогда трудно будет определить где кончается его власть (ИИ ) и кто диктует политику мира. (тотальная глоболизация!) (отправлено из Android приложения Hi-News.ru)

  14. tabasko

    По мне так Маск просто умничка что допёр до этого и замутил движуху на этом главне. Хитёр бобёр нечего добавить. (отправлено из Android приложения Hi-News.ru)

  15. gavva

    Все супер, но сколько можно писать имя Илона Маска неправильно? 😂 Уже смешно становится) (отправлено из приложения Hi-News.ru)

    • mr Vanya

      Мы ещё и ТЕксас как ТехАс пишем, а они нам в отместку МОскоу вместо МосквА
      :-)

  16. TaoHou80

    Рекомендую всем, интересующимся темой глубокого машинного обучения рассказ Виктора Пелевина Freedom Liberator. (отправлено из iOS приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.