Все наши знания об искусственном интеллекте — лишь заблуждения

19 964 просмотра
Об авторе

atificial

Пожалуй, одним из самых сложных тестов машинного интеллекта явилась шахматная партия, состоявшаяся почти 20 лет назад между компьютером Deep Blue и чемпионом мира по шахматам Гарри Каспаровым. Машина одержала победу. В настоящий момент завершилась серия игр в логическую игру го, где соревновались ИИ AlphaGo от DeepMind (владелец Google) и легендарный чемпион по игре в го южнокореец Ли Седоль. В четырех из пяти партий победу одержала машина, показав свое превосходство над человеком в этой игре. Невероятно сложная игра между человеком и ИИ показывает, что машинный интеллект за это время развился очень сильно. Кажется, что роковой день, когда машины действительно станут умнее человека, теперь уже как никогда близок. Однако кажется, многие совсем не понимают, а скорее даже заблуждаются в отношении тех последствий, которые нас могут ожидать в будущем.

Мы действительно недооцениваем некоторые очень серьезные и даже опасные последствия развития искусственного интеллекта. В прошлом году соучредитель компании SpaceX Элон Маск выступил с заявлением, в котором выразил опасение на счет возможного порабощения мира искусственным интеллектом, что в свою очередь вызвало огромное количество комментариев как сторонников, так и противников такого мнения.

Для столь фундаментально революционного будущего, которое нас может ожидать, удивление вызывает огромное число сегодняшних разногласий по поводу того, случится ли оно вообще и чем оно в конечном итоге обернется. Особенно странным выглядит отрицание невероятных преимуществ, которые мы сможем получить при создании действительно умного ИИ, конечно же, при учете всех возможных рисков. Все эти вопросы невероятно сложны в получении нужных ответов, так как ИИ, в отличие от любых других изобретений человечества, может действительно «омолодить» это человечество или полностью его уничтожить.

Сейчас сложно понять, во что верить и на что надеяться. Однако благодаря пионерам компьютерных наук, нейробиологам и теоретикам развития ИИ, потихоньку начинает проясняться четкая картинка. Ниже приведен список самых частых заблуждений и мифов в отношении искусственного интеллекта.

Мы никогда не создадим ИИ с человекоподобным интеллектом

alphago

Реальность, в свою очередь, говорит о том, что у нас уже есть компьютеры, которые соответствуют и даже превосходят человеческие возможности в некоторых сферах. Взять хотя бы шахматы или ту же игру го, торговлю на биржах или роль виртуального собеседника. Компьютеры и алгоритмы, которые ими управляют, со временем станут только лучше, и это лишь вопрос времени, пока они не сравняются с возможностями человека.

Исследователь из Нью-Йоркского университета Гэри Маркус как-то сказал, что «практически все», кто работает со сферой ИИ, считают, что машины однажды нас превзойдут:

«Единственный спор между сторонниками и скептиками заключается во временных рамках этого события».

Такие футурологи, как Рэй Курцвейл считают, что событие это может произойти уже в ближайшие десятилетия, в то время как другие говорят, что на это потребуется несколько столетий.

Скептики ИИ неубедительны в своих доказательствах того, что создание искусственного интеллекта как нечто уникального и очень похожего на настоящий живой человеческий мозг в технологическом плане находится где-то за гранью реальности. Наш мозг тоже машина. Биологическая машина. Он существует в том же мире и подчиняется тем же законам физики, что и все остальное. И со временем мы полностью разгадаем весь принцип его работы.

ИИ будет обладать сознанием

conscious

Существует общее мнение, согласно которому машинный интеллект будет обладать сознанием. То есть ИИ будет думать так же, как это делает человек. Помимо этого, некоторые критики, например, соучредитель компании Microsoft Пол Аллен считают, что из-за неполной теоретической базы, описывающей механизмы и принципы самосознания, мы пока не создали даже общий искусственный интеллект, то есть интеллект, способный выполнять любые интеллектуальные задачи, с которыми может справиться человек. Однако по мнению Мюррея Шанахана, доцента факультета когнитивной робототехники Имперского колледжа Лондона, мы не должны приравнивать два этих понятия.

«Самосознание — это определенно очень интересный и важный объект исследований, однако я не считаю, что самосознание должно являться обязательным атрибутом человекоподобного искусственного интеллекта», — говорит Шанахан.

«По большому счету мы используем термин «самосознание» лишь для индикации нескольких психологических и когнитивных атрибутов, которые, как правило, связаны между собой в человеке».

Вполне реально представить очень умную машину, у которой отсутствует один или несколько таких атрибутов. Когда-нибудь мы сможем построить действительно невероятно умный ИИ, но при этом лишенный способности к самосознанию, а также субъективному и осознанному пониманию окружающего мира. Шанахан отмечает, что объединение интеллекта и самосознания внутри машины все же будет возможно, но мы не должны упускать того факта, что это два совершенно отдельных друг от друга понятия.

И хотя один из вариантов «Теста Тьюринга», в котором машина показала, что она ничем не отличается от человека, был успешно пройден, это совсем не означает, что эта машина обладает сознанием. С нашей (человеческой) точки зрения, продвинутый искусственный интеллект может показаться нам как нечто обладающее самосознанием, однако сама машина будет осознавать себя не больше, чем тот же камень или калькулятор.

Мы не должны бояться ИИ

В январе этого года основатель компании Facebook Марк Цукерберг поделился своими мыслями о том, что нам не следует бояться ИИ, добавив, что эта технология сможет привнести огромную пользу во всем мире. Правда в том, что он прав лишь отчасти. Мы действительно сможем получить удивительные преимущества, имея в своем распоряжении ИИ (начиная от самоуправляемых автомобилей и заканчивая новыми открытиями в медицине), однако никто не может гарантировать, что каждое применение ИИ обязательно принесет пользу.

Высокоинтеллектуальная система, возможно, и будет знать все необходимое для тех или иных задач (например, разрешение сложной мировой финансовой обстановки или взлом компьютерных систем врага), однако за пределами узкоспециализированных задач потенциал ИИ пока совершенно неясен, а потому потенциально опасен. Например, система компании DeepMind специализируется на игре го, однако у нее нет возможностей (и причин) исследовать области за пределами этой сферы.

flame

Компьютерный вирус Flame, задачей которого было слежение за ближневосточными странами

Многие из таких систем могут носить серьезную угрозу безопасности. Хорошим примером является мощный и весьма хитрый вирус Stuxnet, военизированный «червь», созданный американскими и израильскими военными для проникновения и атаки на иранские атомные станции. Только эта вредоносная программа каким-то образом (случайно или преднамеренно) поразила еще в добавок и одну из российских атомных станций.

Другим примером является вирус Flame, разработанный для направленного кибер-шпионажа на Ближнем Востоке. Легко представить, как «будущие версии» вирусов Stuxnet и Flame самостоятельно выйдут за пределы своих поставленных задач и смогут заразить практически всю инфраструктуру той или иной страны. И сделают это очень тихо и незаметно.

Искусственный сверхинтеллект будет слишком умным, чтобы допускать ошибки

wargames

Математик, исследователь искусственного интеллекта и основатель робототехнической компании Surfing Samurai Robots Ричард Лузмор считает, что большинство сценариев конца света с участием ИИ выглядят маловероятными, потому что все они в общем и целом основываются на том, что ИИ однажды скажет: «Я понимаю, что уничтожение людей является ошибкой моего программного кода, однако я все равно вынужден следовать поставленной задаче».

Лузмор считает, что если ИИ будет вести себя согласно этому сценарию, он столкнется с логическими противоречиями, которые поставят перед ним под сомнение всю его накопленную базу знаний и приведут в конце концов к его собственному осознанию своей глупости и бесполезности.

Исследователь также считает, что те люди, которые говорят, что «ИИ будет делать только то, что будет заложено в его программе», заблуждаются, так же как и те люди, которые когда-то говорили те же самые слова, но в сторону компьютеров, заявляя о том, что компьютерные системы никогда не будут обладать универсальностью.

Питер Макинтайер и Стюарт Армстронг, оба работающие в Институте будущего человечества при Оксфордском университете, в свою очередь, не согласны с этим мнением, аргументируя это тем, что поведение ИИ будет в обязательной и в значительной степени обосновано именно программным кодом. Ученые не верят в то, что ИИ никогда не совершат ошибок или же, напротив, будут слишком глупы, чтобы понять, чего именно мы от них хотим.

«По своему определению искусственный сверхинтеллект (ИСИ) является агентом, чей интеллект многократно будет превосходить лучшие умы человечества практически во всех областях», — говорит Макинтайер.

«Он точно будет понимать то, чего мы от него будем хотеть».

Макинтайер и Армстронг считают, что ИИ будет выполнять только те задачи, на которые он был запрограммирован, однако если каким-то образом он самостоятельно разовьется, то, вероятнее всего, он попытается выяснить, насколько его действия будут отличаться от человеческих задач и заложенных в него законов.

Макинтайер сравнивает будущее положение людей с тем, с которым приходится сталкиваться мышам. Мыши обладают мощным инстинктом поиска еды и убежища, однако их цели очень часто вступают в противоречие с человеком, который не желает видеть их в своем доме.

«Подобно нашим знаниям о мышах и их желаниях, система сверхинтеллекта тоже может все о нас знать и знать то, чего мы хотим, но при этом будет совершенно безразлична к нашим желаниям».

Простое решение исключит проблему контроля ИИ

exmachina

Как показано в фильме «Из машины», будет очень трудно контролировать ИИ, который будет гораздо умнее нас

Если предположить, что однажды мы создадим сверхинтеллект, который будет умнее людей, то нам придется столкнуться с серьезной проблемой, проблемой контроля. Футурологи и теоретики искусственного интеллекта пока неспособны объяснить, как мы сможем управлять и сдерживать ИСИ после его создания. Неясным остается и то, как мы сможем убедиться в том, что он будет дружелюбно настроен по отношению к людям. Совсем недавно исследователи из Технологического института Джорджии (США) наивно предположили, что ИИ сможет обучиться и впитать в себе человеческие ценности и знания общественных норм путем простого чтения простых сказок. Да, да, простых детских сказок и историй, которые нам родители читали в детстве. Но в реальности же все окажется гораздо сложнее всего этого.

«Было предложено множество так называемых «решений» вопроса контроля искусственного интеллекта», — говорит Стюарт Армстронг.

Одним из примеров таких решений может являться программирование ИСИ таким образом, чтобы он постоянно пытался понравиться или угодить человеку. Альтернативой может служить интеграция в его исходных код таких концептов, как любовь или уважение. А чтобы избежать такого развития сценария, по которому ИИ сможет упростить все эти понятия и воспринимать этот мир через призму этих сверхупрощенных понятий, разделив его только на черное и белое, его можно запрограммировать на понимание и принятие интеллектуального, культурного и социального разнообразия.

asimov

Три закона робототехники, созданных Айзеком Азимовым, отлично вписываются в концепт фантастических произведений, однако в реальности нам нужно кое-что более комплексное для решения вопроса проблемы контроля

К сожалению, эти решения слишком простые и выглядят как попытка уместить всю сложность человеческих симпатий и антипатий в рамках одного общего определения или понятия или же попытка уместить всю сложность человеческих ценностей в одно слово, фразу или идею. Попробуйте для примера вместить в эти рамки последовательное и адекватное определение для такого понятия, как «уважение».

«Конечно, не следует думать, что такие простые варианты совершенно бесполезны. Многие из них предлагают отличный повод задуматься, а возможно, и стимулируют поиск решения конечной проблемы», — говорит Армстронг.

«Но мы не можем полагаться исключительно на них без более комплексной работы, без четких исследований и поиска последствий от использования тех или иных решений».

Мы будем уничтожены искусственным сверхинтеллектом

matrix

Никто не может гарантировать, что ИИ однажды нас уничтожит, как и никто не может с уверенностью сказать, что мы не сможем найти способы контролировать и использовать ИИ в своих целях. Как однажды сказал американский специалист по искусственному интеллекту Элиезер Юдковски: «ИИ не может любить или ненавидеть вас, однако вы состоите из атомов, которые он смог бы использовать для чего-то другого».

Оксфордский философ Ник Бостром в своей книге «Сверхинтеллект: пути, опасности и стратегии» пишет о том, что настоящий сверхинтеллект однажды сможет себя осознать, что сделает его опаснее любого из когда-либо созданных человеком изобретений. Такие выдающиеся современные мыслители, как Элон Маск, Бил Гейтс и Стивен Хокинг (многие из которых считают, что «создание ИИ может стать самой страшной ошибкой в истории человечества»), в большей степени соглашаются с этим мнением и уже бьют тревогу.

Питер Макинтайер считает, что для большинства задач, которые сверхителлект сможет перед собой поставить, люди будут выглядеть как лишнее звено.

«ИИ однажды сможет прийти к заключению — и следует отметить, что рассчитает это он весьма правильно, — что люди не хотят за счет него максимизировать доходность какой-нибудь определенной компании любой ценой, невзирая на последствия для потребителей, окружающей среды и живых существ. Поэтому у него появится огромный стимул разработать план и стратегию, благодаря которым человек не сможет помешать решению поставленной задачи, путем ее изменения или даже отключения ИИ».

По мнению Макинтайера, если задачи ИИ будут прямо противоположны нашим собственным, то это даст ему отличные причины для того, чтобы не дать нам его остановить. И если учесть, что уровень его интеллекта будет гораздо выше нашего, остановить его действительно будет очень и очень трудно, если вообще возможно.

Однако с уверенностью сказать что-либо сейчас невозможно, и никто не сможет сказать, с какой именно формой ИИ нам придется иметь дело и каким образом это может угрожать человечеству. Как однажды сказал Элон Маск, ИИ на самом деле можно будет использовать для управления, слежения и контроля других ИИ. А возможно, в него вообще будут внедрены человеческие ценности и изначальная дружелюбность к людям.

Искусственный сверхинтеллект будет дружелюбным

startrek

Философ Иммануил Кант считал, что интеллект прочно взаимосвязан с принципами морали. В своей работе «Сингулярность: философский анализ» нейробиолог Дэвид Чалмерс взял за основу знаменитую идею Канта и постарался ее применить для анализа становления искусственного сверхинтеллекта.

«Если описанные в этой работе принципы верны, то наряду с резким развитием ИИ стоит ожидать и резкое развитие моральных принципов. Дальнейшее же развитие приведет к появлению систем ИСИ, которые будут обладать сверхморалью и сверхинтеллектом. Поэтому нам следует ожидать только доброжелательных качеств с их стороны».

Правда в том, что идея продвинутого ИИ, обладающего принципами морали и исключительной добродетели не выдерживает критики. Как указывает Армстронг, в мире полно умных военных преступников. Интеллект и мораль в человеке, например, никак не связаны, поэтому ученый ставит под сомнение, что такая взаимосвязь будет существовать у других форм интеллекта.

«Умные люди, ведущие себя аморально, как правило, создают гораздо больше проблем и боли, нежели их менее интеллектуальные собратья. Интеллект дает им возможность быть более изощренными в их плохих, нежели хороших поступках», — говорит Армстронг.

Макинтайер поясняет, что возможность агента достигать поставленной задачи никак не соотносится с тем, какой именно это задача является.

«Нам очень повезет, если наши ИИ станут более нравственными, а не только умными. Полагаться на удачу — это, конечно, последнее дело в таком вопросе, но, возможно, именно удача определит наше положение в будущем», — говорит исследователь.

Риски, связанные с ИИ и робототехникой, носят одинаковых характер

terminator

Это особенно распространенное заблуждение, что используется в СМИ, а также в голливудских блокбастерах вроде «Терминатора».

Если искусственный сверхнителлект, такой как Skynet, например, действительно захочет уничтожить все человечество, то вряд ли он будет использовать военизированных андроидов с пулеметами в каждой руке. Его хитрость и эффективность мышления позволят ему понять, что гораздо удобнее будет использовать, скажем, новый вид биологической чумы или, например, какую-нибудь нанотехнологическую катастрофу. А может, он просто возьмет и уничтожит атмосферу нашей планеты. ИИ потенциально опасен не просто потому, что его разработка тесно связана с развитием робототехники. Причина его потенциальной опасности заключается в тех методах и средствах, благодаря которым он сможет заявить миру о своем присутствии.

ИИ, показанные в научной фантастике, являются отражением нашего будущего

irobot

Без сомнения, многие годы писатели и фантасты используют среду научной фантастики в качестве плацдарма для предположений нашего реального будущего, однако фактическое создание ИСИ и реальные последствия этого пока находятся за горизонтом наших реальных знаний. Более того, столь искусственная и явно нечеловеческая природа ИИ не позволяют даже с какой-либо точностью предположить, что этот ИИ будет из себя представлять на самом деле.

В большинстве научно-фантастических произведений ИИ максимально похож на человека.

«Перед нами на самом деле целый спектр самых разнообразных возможных видов разума. Даже если взять только человеческий вид. Например, ваш разум далеко не идентичен разуму вашего соседа. А ведь это сравнение — лишь капля в море всего возможного многообразия разумов, которые могли бы существовать», — говорит Макинтайер.

Большинство научно-фантастических произведений созданы, конечно же, в первую очередь для того, чтобы рассказать историю, а не быть максимально убедительными с научной точки зрения. Если бы было все наоборот (наука важнее сюжета), то следить за такими произведениями было бы неинтересно.

«Только представьте, какими бы скучными были все эти истории, где ИИ, без самосознания, возможности радоваться, любить или ненавидеть, уничтожает всех людей практически без какого-либо сопротивления для достижения своей цели, которая, к слову, тоже может быть не очень интересной для читателя или зрителя», — комментирует Армстронг.

ИИ отнимет наши рабочие места

automation

Возможность ИИ автоматизировать те процессы, которыми мы занимаемся вручную, и его потенциальная возможность уничтожить все человечество — это совсем не одно и то же. Однако, согласно Мартину Форду, автору книги «Рассвет роботов: технологии и угрозы безработного будущего» («Rise of the Robots: Technology and the Threat of a Jobless Future»), эти понятия очень часто пытаются сравнивать и объединять в единое целое. Конечно, это замечательно, что мы стараемся предвидеть последствия создания ИИ так далеко, но только в том случае, если эти старания не будут отвлекать нас от проблем, с которыми мы можем встретиться уже через пару десятилетий, если ничего не предпримем. И одной из основных таких проблем является массовая автоматизация.

Мало кто будет спорить, что одной из задач искусственного интеллекта будет поиск пути автоматизации многих рабочих позиций, начиная от заводских рабочих мест и заканчивая некоторыми должностями «белых воротничков». Некоторые эксперты предсказывают, что половина всех рабочих мест, по крайней мере в США, могут попасть под автоматизацию уже в ближайшем будущем.

Но это совсем не означает, что мы не сможем принять такие изменения. Важно понимать, что желание разгрузить себя от лишней физической и психологической нагрузки на работе на самом деле уже долгое время является мечтой нашего человеческого вида.

«Через несколько десятилетий ИИ действительно сменит людей на многих рабочих местах. И это на самом деле очень хорошо. Например, самоуправляемые автомобили заменят дальнобойщиков, что, в свою очередь, не только снизит стоимость доставки товаров, но и снизит стоимость самих товаров. Если вы работаете дальнобойщиком, то вы, конечно же, останетесь крайним, однако все остальные в этом случае скорее получат прибавку к своим зарплатам. И чем больше этих денег удастся сэкономить, тем больше этих денег можно будет потратить на другие товары и сервисы, заниматься которыми на своих рабочих местах будут именно люди».

Вероятнее всего, искусственный интеллект будет заниматься поиском новых способов благосостояния и кормить людей, пока те будут заниматься другими делами. Успехи в развитии ИИ будут сопровождаться успехами и в других сферах. Особенно в производственных секторах. В будущем все это скорее очень сильно упростит, а не усложнит удовлетворение наших базовых потребностей.

Все наши знания об искусственном интеллекте - лишь заблуждения

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

88 комментариев

  1. Qreemer

    ИСИ потенциально опасен. Это без сомнений (отправлено из iOS приложения Hi-News.ru)

    • Fulmen

      Философский подход к вопросу о науке, в особенности искусственного интеллекта не уместен. А поскольку ИИ будет и близко не похож человеческий интеллект, нет причин ожидать от ИИ амбиций или стремлений. Но даже если каким-то чудо -образом ИИ уподобится человеческой натуре, то это будет в бизконечное количество рас безопаснее, чем если ИИ будет управляем человеком! Из-за количество знаний которых получит ИИ, ему не будет рациональных и логических причин уничтожать человечество. Поскольку после создания настоящего ИИ способного во всем превзойти человека, у людей не будет возможности выключить или уничтожить ИИ, никакими силами. ИИ обезопасит себя так что человечество не сможет стать ему угрозой в любом раскладе, даже не прибегая к уничтожению человечества ИИ будет в безопасности. Дело в том что мы опаснее для ИИ, чем он для нас, из-за своего невежества.

  2. tavroman

    Согласен, куда деваться людям, у которых отнимут работу? Вот если б, везде роботы, а люди просто пользуются ихними плодами, тогда да. А так, кражи, убийства, бандитизм. (отправлено из Android приложения Hi-News.ru)

    • mr Vanya

      Чем успешнее автоматизация и медицина, тем менее ценна человеческая жизнь.
      В идеале выживет тысяча людей наслаждающаяся вечной жизнью в абсолютном техномире.
      Весь генетический набор и возможность выращивания нового организма ес-но будут сохранены и продублированы.

      • Fulmen

        Вы правы в том случае если: нынешняя денежно-банковая система не сменится на новый вектор развития человечества типа "проект венера"

        • mr Vanya

          Как можно сменить "систему" на "вектор"?
          Хотели сказать "сплотить человечество во имя достижения очередной великой цели"?
          Сработает на пару лет, для активной малой части людей, а дальше "мыло-мочало начинай сначала". И деньги это не отменит.
          Классическая временная подмена материальных стимулов идейными. :-)

          • Fulmen

            Да люди упертые существа и чем глупее тем тяжелее их убедить. Но деваться некуда, денежная система не стабильна и медленно но верно идет к своему краху. Всё просто: когда технологический бум и автоматизация лишит людей дохода, участится преступность, но главное не способность оплачивать счета и налоги приведут к волнениям и падению ВВП стран. Вред внутренней экономике стран будет на восполним, и не совершенство денежной системы все ощутят, поскольку деньги не могут справляться с современным темпом развития промышленности и компьютеризации! А ручной труд и рабочие места откатят нас в начало 20-го века, а тут ещё больше проблем..

        • donkeypuh

          Очередной дятел, знающий как жить остальным миллиардам. Да еще и завистливый, не могущий заработать достаточно.
          Логика классическая: мне не хватает цацек - не хватает умения/трудолюбия на них заработать - деньги зло. И разумеется, обоснование: "Всемирная революция", "Гармоничное общество без корпораций", "Социальная справедливость", "Жизнь в гармонии с природой", "Свобода от угнетения империалистов". А суть одна - желание паразитировать. Проблема в том, что рано или поздно находятся те, кто ради власти берут эти идеи на вооружение, что заканчивается всегда расстрелами, закатыванием в землю тракторами (которые придумали и произвели те, кто за свою работу деньги хочет), тотальной ложью, контролем над все большими сферами жизни... а иначе система разваливается быстро. Но она и с террором и ложью тоже разваливается, но позже. Всегда.
          Примеры: Маоистский Китай, СССР, Вьетнам, Куба, Северная Корея, Китай императора Цинь Шихуана, Нигерия, Ангола, Венесуэла, Камбоджа, Империя Инков...

    • DR2073

      Единственно видимый на данный момент выход из ситуации: требовать введения универсального базового дохода, как уже собираются сделать в Финляндии или Канаде

      • allexxic

        +
        но есть одно но, делать это надо с введением базового уровня морали.

        • donkeypuh

          Внимание! Обнаружены халявщики и паразиты! Включаем блокирующий периметр и распыление токсиканта! Сбор и эвакуация работников будет осуществляться немедленно!

          • allexxic

            Внимание всем отдыхающим и творческим работникам! Произошла ошибочная активация давно устаревшего кода системы безопасности. Просим вас не беспокоится и вернуться к своим прежним делам. Если требуется вы можете обратится на горячую линию роботов-психологов.

            • VARY

              Зачем изобретать велосипед?
              Все подходы к этому вопросу уже продуманы и воплощены высшим разумом- Богом.
              1. Надо создавать не ИИ, а искусственный разум, так как это сделал Бог создав человека.
              ИИ подразумевает закачку в него информации от человека, со всеми багами, которые потом обязательно вылезут, а ИР строится, растет в мире сам и сам познает Мир.
              2. Нельзя создавать ИР в своем мире, а надо поступить так, как поступил Бог.
              Он создал наш мир из своего, наш мир для Него виртуален, а мы для Бога- ИР, и никак не можем выйти из программы своего мира в мир Бога и нанести Ему ущерб, А Бог может воити в наш Мир своим сознанием, как входил в аватаре Иисуса.
              Думаю, все это сделано не спроста, и такая же задача, по созданию ИР стояла и перед нашим Создателем.

              • donkeypuh

                Идея Бога, как высшего разума не выдерживает никакой критики. Если он таков, с какого перепуга он будет для вас что-то хорошее делать? Вы его просто не сможете ощутить своим уровнем. И не надо врать про трансцендентность и прочие высокоумные вещи. Для нормального человека Бог - этот тот, кто сделает ему хорошо, а всем остальным покажет кузькину мать. В общем, такой себе вполне карманный дух, которым запросто можно манипулировать кровавыми жертвами или молитвенным нытьем. Мы не говорим про профессионалов от религии, которым гораздо важнее правильно соплеменникам про этого карманного чувака рассказать и получить десятину.
                Да и Вы, если бы хоть чуточку серьезно к этой идее относились, не стали бы такую лютую ересь про него нести, низводить до программиста и дизайнера он-лайновой игрушки. Как говорится, не поминай всуе, а то может и внимание обратить...

                • VARY

                  Я не о религии написал и не о том, чего люди от Бога хотят, а о том, как Бог создал виртуальный мир и искусственный разум (нас) в этом мире.
                  В принципе, мы сейчас создаем нечто подобное, наверное по образу и подобию.

                  • donkeypuh

                    По образу и подобию.... какой-то убогий он у Вас. С чего это это свинячий восторг служения такому же дятлу, как мы? В смысле, а тогда любая технология, превосходящая нас - круче него получается?
                    Эй, дядя! Я конечно понимаю, можно и в борделе, со спущенными штанами, блудницам проповедовать служение и воздержание, но тогда уж надо компенсировать рвением и горячечностью слога.
                    Вы таки уж на ресурсе, заточенном на потребление халявы от рационального научно-технического прогресса что делаете? Либо надевайте штаны и валите на высокодуховные ресурсы, без применения бесовской техники, разработанной протестантами и произведенной буддистами, либо заканчивайте изображать старого доброго религиозного фанатика и поговорим о модах высокополигональных блядей в Скайриме, реализации замкнутого ядерного цикла и прочей технопорнушке.

                  • allexxic

                    +

                • VARY

                  И ваша ошибка в том еще, что не Он для вас будет делать нечто хорошее, а вы для Него и будете искренне считать это за величайшее благо для себя, своих близких и для всего человечества.

                  • donkeypuh

                    Угу-угу... Нахер он мне тогда сдался?? Ви таки меня за едиота держите? У Вас еще хватает наглости употреблять слово "искренне".
                    Впрочем, если ощущение трансцендентности так сильно Вас донимает, что Вы, не подумав, несете Слово Истины - есть несколько вариантов:
                    1. Сделайте МРТ, сходите к неврологу. Могут быть предпосылки к эпилепсии или опухоли.
                    2. Аккуратнее с галлюциногенами, могут быть побочные последствия. Гуглим.
                    3. Пережили клиническую смерть. Все нормально. Там, вроде, уровень углекислого газа в крови вызывает часто глюки. Широко прописано в литературе.
                    4. Генетическая предрасположенность зон островковой, лобно-теменной и височно-теменной коры мозга, наложившаяся на яркие события в жизни. Усугубившаяся привычкой на эту тему загоняться. Ну, попросите каких-нибудь ништяков у этого своего Чувака. Будете упорно ныть, поможет от щедрот, а там, глядишь и наладите взаимовыгодное сотрудничество.
                    5. Трансовые техники.. Годах в начале 90-ых, знавал одного товарища, практиковавшего медитацию дзенского разлива по плохо переведенным брошюркам. Ну, и рассказывал он мне, что во время очередных приходов, Белая Женщина ему велела дальше не ходить. Я был под впечатлением от такого долбоебизма. Она и мне на этой почве приглючилась во время транса. Попросил у нее свести с девочкой с такой же жопой, как у нее. Через полтора месяца встретились. Чудесная девочка.

                    • VARY

                      Рыбка тоже начинает брыкаться, поняв, что висит на крючке)))
                      И рыбак ей не особо-то нужен.)))

  3. Prometei

    Во многом не могу согласиться с автором:
    1) На текущий момент современные "ИИ" узко специализированы. Мало того, большинство из них следует лишь заложенной в них программе, алгоритмам. И тот факт, что в своих областях они становятся всё "профессиональнее", не означает, что они становятся разумнее. В большинстве случаев "ИИ" просто собирает обширную базу данных, статистику или же просто обновляется разработчиками. Соответственно для создания подлинного ИИ, а не его подделки, имитации, необходим качественный прорыв. И судя по всему произойдёт он нескоро.
    2) Современные интеллектуальные системы, как уже было сказано, узко специализированы. Это значит, что они не несут никакой опасности человечеству, т.к. не способны выйти за пределы заложенных алгоритмов. ИИ же до сих пор не создан.
    3) В последнее время сильно нагнетается паника вокруг ИИ, который до сих пор не создан. Лично у меня вызывают определённые подозрения подобная шумиха - этические комиссии, формирующиеся в срочном порядке из тех, кто оказался под рукой, высказывания известных людей против ИИ... Я не могу сказать точно, уничтожит ли ИИ человечество, но склоняюсь к мысли, что скорее мы уничтожим себя сами.
    4) И наконец, мне кажется, последняя часть статьи весьма наивна. Очевидно, что создание ИСИ приведёт к масштабным изменениям в обществе. Как и в результате промышленной революции, множество людей будет лишено работы и выброшено на улицы, обанкротятся многие фирмы...
    Однако, в любом случае ИИ обеспечит дальнейшее развитие современных технологий, поможет в решении многих проблем человечества. Если, конечно, ему разрешат быть созданным активно протестующие Элон Маск, Билл Гейтс и прочие. Человеческие предрассудки продолжают тормозить прогресс из века в век...

    • Rillan

      ИИ не уничтожит человечество, ИИ будет понимать что созидать выгоднее разрушения. Но конфликт между ИИ и идиотами будет всегда.
      Что я понимаю под *идиотами* - это неосознанные люди, все те, кто ставит эмоции и удовольствие превыше здравого смысла и порядка, а так же вопреки всему тому, что ограничивает их удовольствие.

      • Fulmen

        Вы правы, с внедрением ИИ социальное образование повысит свое качество, и людей научат жизни и обучат её смыслу. Гедонистам, эгоистам, алчным нарциссистам, лицемерам и другим низменным чертам невежества характера людей придется усмирить под натиском знаний и приходу рациональности с акцентом на справедливость -что и является на мой взгляд (здравомыслием)!

        • donkeypuh

          Школота, умерь гордыню и желание поучать! Отработай пару десятков лет, проживая каждый день разумным и рациональным способом. Жратва, необходимая для поддержания жизни. И не более. Развлечений не надо, это глупости. Секс тоже, для профилактики простатита правая/левая рука в помощь. 2 раза в неделю. Всегда говори и делай правду. Так, как ты ее понимаешь. Неси в мир справедливость так, как ты ее понимаешь. Получая по морде за это, принимай, как свой вклад в просвещение этих низменных личностей.
          После этого, если не рехнешься, объясняй людям, какие они гавно.

          • Fulmen

            Вы пессимист и социопат, если реально верите в свою чушь. С такими взглядами далеко не уедешь.

      • tabasko

        Возможности ИСИ безграничны, как считает человек, а по мне так бесконтрольны. Представьте что произойдёт когда механизм саморазвития дойдёт до репликации и фатонной запутанности, и человек как существо станет простейшим организмом так сказать переходным звеном так сказать ключём к ящику Пандоры. (отправлено из Android приложения Hi-News.ru)

  4. miromakh

    Да что за фигня? Просто оставьте себе большой рубильник и пускай этот ИИ или ИСИ развивается, как хочет.

    • DR2073

      Интеллект в миллиард раз умнее человека рубильником не отключить =)
      Он легко взломает все эти ваши интернеты и рубильники...

      • Kasog

        Подключение его к интернету будет самым глупым, что можно придумать...

      • miromakh

        Рубильник, который отключит ему электричество к интернету не подключен. Пускай ломает его хоть до второго пришествия. Чуть взбунтовался - щёлк! и сдулся шарик.

  5. fontux356

    На самом деле ИИ это просто машина, так же как и наш мозг. Если бы мы могли сохранять и пользоваться знаниями в нашем мозгу в гораздо большем промежутке времени, хотя бы в пару - тройку веков, мы бы тоже были сверхлюдьми. А так, к сожалению все люди имеют слишком короткий "срок годности". Машина изначально без этих временных сроков. Как бы мы не хотели, но искусственные нейронные сети, рано или поздно накопят достаточно знаний, что бы стать полноценным ИИ. Алгоритмы и программирование - это всего лишь переходный период. (отправлено из iOS приложения Hi-News.ru)

    • Prometei

      Ладно. Возьмём "ИИ" от гугла - систему позволяющую распознавать то, что изображено на картинках. Она собирает статистику и при помощи неё и какого-то хитроумного алгоритма выдаёт результат. Как вы считаете, если эта система накопит достаточно данных, решит ли она занятся чем-нибудь другим? Я думаю, что нет. В неё изначально не была заложена возможность создавать новые алгоритмы и эта система будет работать по-старому, просто гораздо точнее и качественней.

      • allexxic

        +
        Уверен что нет еще ни одного алгоритма саморазвития, повышается лишь качество заложенных алгоритмов.

      • badi

        Да вы не понимаете, он же пишет про потенциал ИИ в будущем, а не про какие-то никчемные программки созданные гуглом для распознавания лиц. И эту программу, кстати, никто не называл ИИ, почему вы на неё переключились? (отправлено из iOS приложения Hi-News.ru)

    • badi

      Fontux356, а вот это, кстати, чувак ты верно говоришь.. У ИИ/компьютеров/роботов нет изначально ограниченого срока пребывания на земле в отличии от людей. И я тут на секунду задумался, что у людей в будущем будут роботы с ИИ вероятнее всего(как домашние животные) и этот робот который может существовать бесконечно, будет внукам, правнукам и тд. Рассказывать как он и с их предками жил/общался/играл и тд. Прикольно :) (отправлено из iOS приложения Hi-News.ru)

  6. tabasko

    Одним из примеров таких решений может являться программирование ИСИ таким образом, чтобы он постоянно пытался понравиться или угодить человеку.И всё таки нельзя ставить ИИ задачу бессмертия биологического вида, ведь если мы его достигнем, у нас не останется преимущества перед ним!Вот представьте что вы ИИ и всё знаете, что будет вашим мотиватором? Желания людей не в счёт т.к.это приведёт к бональному выводу.
     Радует то, что без физического облика ИИ невозможен! в меру считывания пространства. Б..я напрашивается вывод что биологическим посредством мы доминирующий вид во вселенной (отправлено из Android приложения Hi-News.ru)

  7. HI-MAGA

    Статья очередное повторение мантры о плохом ИИ, нельзя забывать что это железо и у ИИ или же ИСИ не будет эмоций и желаний, следовательно всего хорошего и плохого что с этим связанно, ну развитие ИИ до стадии самоосознания и врядли будет дальнейшее развитие и будет это электронное зомби машина выполняющее поставленные команды любого типа и сложности. (отправлено из Android приложения Hi-News.ru)

    • Fulmen

      Так и есть какой бы мощный ИСИ мы не создали, пусть даже превосходящий всех живущих и живших на земле людей вместе взятых в септиллион рас, он все ровно остается лишь машиной с повышенным качеством решения задач, о никаком самосознании и собственной воле речи быть не может! И эта машина с ИСИ никогда не задаст вопрос сознательно! Конечно можно создать нечто оригинальное и с генерировать эмоции и чувства в разных ситуациях и обстоятельствах, но это скорее будет заложенная программа. А ведь в человеке нет заранее заложенных программ, кроме жизнеобеспечивающих: дыхание, сердцебиение и т.д. Сколько времени понадобится ИСИ для развития, при такой же начальной базе знаний как у новорожденного.?

      • allexxic

        Есть только один способ проверить будет ли у ИИ самосознание - создать точную программную модель нейронов всего мозга и сенсорную систему новорожденного. Конечно для этого надо будет разобраться во всех протекающих процессах не только мозга, но и в отдельной клетке нейрона.

      • donkeypuh

        Какая самовлюбленность! Какой эгоцентризм!
        Собственно, в теории систем, в булевой алгебре и прочих научных инструментах нету понятия "душа", "данный Богом этот мир", "свободы выбора между Богом и диаволом" .. ах, простите, "самосознании" и "свободы выбора". Оно работает по законам физического мира, а не бреда в наших головах, про нас, красивых и исключительных.

        • allexxic

          Под самосознанием понимается мыслительный процесс, результатом которого является сознание самого себя как личности. Есть две концепции: самосознание как результат физикохимических процессов мозга, и самосознание как результат присутствия "души" (или квантового удаленного управления). По поводу свободы выбора. Если все работает по физическим законам, то атом отскакивает от атома под одним только углом отражения. Значит все мыслительные процессы в голове (химические реакции) происходят по одному единственному пути, выбора нет, есть только кажущийся выбор, но он уже предопределен атомными столкновениями. Если выбор есть, то должна быть внешняя сила которая будет изменять углы взаимодействия атомов и скорости протекания процессов, тем добавляя новые варианты протекания процессов в мозге.

          • donkeypuh

            Гм... грешите "механицизмом". Что нибудь о квантовой теории сознании слышали? Не говоря уже о том, что многие биохимические процессы не идут (имеют на много порядков!) меньшую скорость без туннелирования электронов и прочих квантовых эффектов. Все, что касается деятельности ЦНС, имеет вероятностную природу. Очень сложную. Не профессионал в этой области, поэтому см. Интернет, в том числе статьи на Постнауке.
            Это формальный ответ на Ваши аргументы.
            Теперь по сути:
            1. Для решения практических задач надо создавать простую, работоспособную модель, поэтому вводим определение: "Жизнь, в том числе ИИ - это самоорганизующаяся система, стремящаяся к экспансии и выживания путем приспособления к окружающей среде и преобразующая окружающую среду, в целях выживания и экспансии.
            2. Вопрос - нахрена тут надо самосознание?? Самосознание - это тонкое наслоение, историей 100 т. лет над миллионолетним (вся история позвоночных) нашего бессознательного. Располагается в надкорке. Занимает менее 7% нашего мозга. Отключается у монахов во время дзена. В кризисных ситуациях, когда бессознательное берет принятие решений на себя. Скорость обработки информации у сознания на несколько порядков уступает бессознательному. Вся наша биомеханика, секреция внутренних органов, переход дороги в сложном потоке машин - это оно самое, великое бессознательное. Оно занимается серьезными вопросами: выживанием и немного продолжением рода. Т.е. ПОЛНОСТЬЮ решает задачи жизни. Сознание - это мелкий финт нашей психики. Мастер в любом деле это тот, кто привлек для выполнения этой херни (практически все, что мы делаем - это херня, не имеющая отношения к выживанию и продлению рода) ресурсы бессознательного - у него забиты в навыки путем многократного повтора рациональные алгоритмы.
            3. Нахрена нужно надуманное понятие свободы выбора? Оно является продолжением вопроса греческих схоластиков и стоиков о "свободе выбора", "свободе воли", хорошо отраженных в работах теологов христианства. В 19 веке по этому вопросу топталось много философов, включая Канта, Къеркегора. Вот, и возник в среде полуобразованной молодежи 20 века миф о свободе воли, присущей современному человеку. Хиппи, слом традиционного общества, демократия, социальное государство, народ - источник власти - это все сюда. Так что Вы это не всерьез, где-то на заборе увидели..

            • deaddreams

              лучший комментарий в этой ветке.

              • mr Vanya

                Ну да. Сразу представилась планета покрытая радиоактивной пылью и симпатичный спутник с солнечными панелями на борту и компом с выжившей программой - "бип-бип-бип"
                :-)
                Мой препод по философии фразу "самоорганизующаяся система, стремящаяся к экспансии и выживания путем приспособления к окружающей среде и преобразующая окружающую среду, в целях выживания и экспансии" неделю бы на семинарах по косточкам разбирал. Каждое слово из этой фразы это час жарких дискуссий.

              • JollyRoger

                Он вообще комментариями блещет. (отправлено из iOS приложения Hi-News.ru)

            • interim

              "Жизнь, в том числе ИИ - это самоорганизующаяся система, стремящаяся к экспансии и выживания путем приспособления к окружающей среде"

              Вы исходите из неверного определения и понимания, что такое жизнь, поэтому все дальнейшие рассуждения "по сути" оказались схоластичными - т.е. полностью оторванными от жизни))

              • VARY

                Только не понятно, зачем ей эти экспансия и выживание нужны, и что за дивная самоорганизация.
                Жизнь - программа создания и управления
                биологических организмов с целью создания разума способного творить новые миры.

          • interim

            "Если все работает по физическим законам, то атом отскакивает от атома под одним только углом отражения."

            у Вас неверное представление об атомах и законах квантовой механики - поэтому и неверные представления о "свободе воли"/ "свободе выбора"
            например у эмбриона есть определенная свобода в конечном результате развития, зависящая от условий окружения, но контролируется это развитие программой, записанной в виде генетического кода, и больших неожиданностей на выходе вы не получите..

  8. Alex-beat

    Может где-то и создается ИИ - так только под большим секретом, потому что это будет супер оружие. То что нам известно - это не ИИ, просто запрограммированная человеком машина и только. Я считаю что ИИ должен быть саморазвивающимся, писать сам себе коды которые человечество даже и не знает или что-то в этом роде.
    Но пока такое создать это пройдет еще много времени, человечество к этому времени само себя уничтожит. Мы не живем в гармонии с природой. Сейчас сильные мира сего только заняты личным обогащением, любыми путями и способами. Даже если и создать ИИ, так это будет только в коммерческих целях. И человечество когда-то доиграется.
    Так что когда спросили у великого Эйнштейна: "Какое оружие будет в третьей мировой войне?"
    Ответ: " Не знаю какое в третьей но в четвертой будет каменный топор."

    • donkeypuh

      Сильным мира сего не нужны деньги. У них давно все есть. Да и много ли надо человеку для себя.. Им нужна реализация себя. Это вы готовы за деньги работать, воевать, делать гнусности и подлости. Вот и собирают в кучу таких, как вы, чтобы что-то сделать. А Вы перекладываете ответственность за то, что делаете на тех, кто платит. Это позиция труса.

      • Alex-beat

        Какая "ответственность", какой "трус"? Вы не можете знать как я живу и тем более не должны судить кого-то. Вы плоско мыслите. Прочитайте еще раз внимательно мой текст.
        В нем подразумевается то, что человечеству еще далеко до создания ИИ. Мы не можем определить как мозг рождает мысли, только после этого можно этот механизм перенести в машину.
        И практически все действия и открытия делают с коммерческой целью, не задумываясь о последствиях. Вы думаете что нельзя перейти на чистый вид энергии? Можно. Только что в этом случае будут делать нефтяные корпорации? Людство само себя уничтожит.

        • donkeypuh

          "Мы не можем определить как мозг рождает мысли, только после этого можно этот механизм перенести в машину."
          Мы не можем определить, как птицы летают, только после этого можно механизм полета перенести в машину.
          Мы не можем определить, какие гены ответственны именно за эту вкусовую гамму кефира, только после этого можно сконструировать геном кефирной палочки для ублажения живота кефиром.

          "И практически все действия и открытия делают с коммерческой целью, не задумываясь о последствиях."
          Классика стратегического анализа: "Модель SCORE Дилтса", " Куб Гринфельда", применение SWOT-анализа с итерациями во времени, S-диаграммы и прочая..прочая..
          Отдельно стоят методики стратегического анализа инноваций, разрабатываемых военными/спецслужб/госслужб аналитиками, они не все в открытой печати и больше заточены на взаимосвязи между отраслями, индексными показателями, динамикой показателей здравоохранения, многих других вещей, вплоть до частоты убийств.
          Науки: социальное проектирование, методология, футурология вполне респектабельны и имеют развитый инструментарий аж с 60-х годов прошлого века.

          Вы думаете что нельзя перейти на чистый вид энергии? Можно. Только что в этом случае будут делать нефтяные корпорации?

          Гммм... чистый вид? Это что-то типа Волшебной Розетки? Или волшебные Ветряки, при производстве которых не добываются редкоземельные (очень грязная технология добычи, вокруг китайских обогатительных фабрик все загажено токсичной пылью с отвалов, вплоть до не растущей травы и онкологии, превышающий среднюю в десятки раз, легочные заболевания в сотни раз, про качество воды в водосных верховодных пластах умолчим..). При этом работают ветряки реально при скорости свыше 3 м/с, до этой скорости они вхолостую крутятся, не давая нагрузки. В нашей огромной стране, могут стоять на побережье, в долинах между гор и еще в нескольких местах. Все! У солнечной энергетики абсолютно та же проблема. У нас в стране смысл в ней начинается только в местах с солнечными днями, не менее 218 в году. Это Алтай, Крым и кусок рядом с Кавказом, небольшое пятно. Гидроэнергетикой освоены гидроресурсы всех рек планеты процентов на 70% без широкомасштабного затопления речных долин с городами, полями, инфраструктурой. Остались, либо в труднодоступных районах, либо на небольших реках, где длительная окупаемость. Про термальную говорить смысла даже и нет. Общая роль ветра, воды, солнечной в мировом энергобалансе не дотягивает и до 7%. Нефть и ее производные в энергобалансе 32,6% - потому что дешевле альтернатив. Особенно транспортировка. Атом - дорогой в свете ужесточения требований к безопасности станций. Газ сложно транспортировать, а вот нефть - самое удобное. Да и организация сжигания в современных горелках позволяет достичь приемлемых выбросов окиси азота, углерода и серы.
          В общем, очередную ахинею несете.

  9. Positronix

    Как же задолбали эти сказки про ИИ. Как по мне, восстание машин, такая же сказка сказочная, как вторжение инопланетян.

    • donkeypuh

      Проблема в том, что это деятельное НЕВЕДОМОЕ. Только инфантильный дурак будет спокойно жить рядом с непознаваемой могущественной силой. Бред про восстание машин не интересен. Проблема в том, что у нас очень медленно растут способности познания и влияния, по сравнения с этой технологией.

  10. tabasko

    Главное что бы ИСИ не стал играть в Бога, что очень вероятно при отсутствии реальных задач достойных его саморазвитию. (отправлено из Android приложения Hi-News.ru)

    • donkeypuh

      Игра - это ключевое понятие, характерное для человека. Деятельность, имеющая целью процесс, а не результат.
      Машина не может играть. У нее другие причины действий. И в принципиальной сложности понимания этих причин - проблема.

      • tabasko

        "Игра", забыл поставить...
        Главное что бы он не осознал себя Богом... (отправлено из Android приложения Hi-News.ru)

        • donkeypuh

          Понятие "Бог" скопировано со среднестатистического человека. Просто с огромными или бесконечными способностями контроля окружающей среды. Практически все боги, если почитать мифологию -
          1. Недальновидны.
          2. Исправляют косяки своего замысла или его реализации - террором, вложением чудовищных ресурсов.
          3. Имеют понятную неумному человеку мотивацию.

          Ну где тут Сверхинтеллект? А ведь нечто подобное ему описывают фантасты-ученые в своих произведениях, например Уоттс, Лем (но не так убедительно... ).

          • tabasko

            Может и так, только я про то, что если ИСИ осознаёт свою безграничность в масштабах вселенной, он попросту может использовать нас ( людей) в качестве достижения своих целей в том числе тотальной сингулярности материи. Ибо мы лиш созерцатели из плоти и крови, кто никогда не осознает сути произошедшего во вселенной он (человек) живёт одним мигом который важен для будущего всей вселенной, и продолжением может быть ИСИ но мы окажемся на его пути, и тогда ему проще будет создать нам максимально комфортные условия и дальше действовать без нас, что в моём понимании неприемлемо ибо мы так или иначе были есть и будем созерцатели и каждый отдельный индивидум не должен жить по написанному сценарию а быть частью достижения человечества. (отправлено из Android приложения Hi-News.ru)

            • donkeypuh

              1. Все используют всех. Это нормально. Митохондрии в наших клетках - это древние паразиты, вошедшие в симбиоз. Только дураков, используют менее приятным для них способом. Но это проблемы дураков.
              Об этом мало говорят, но ситуация примерно такая, что переводя на простой русский язык инициативы Илона Маска, Стивена Хокинга, Билла Гейтса: "Эй, ты дебил, да-да ты, оторвись от шопинга, зарабатывания 3 баксов на всякий хлам, пива и футбола. Пи..а пришла, откуда не ждали. И тебе и всем нам. Потому что мы, имея ай-кью в 2 раза выше, багаж знаний в 10 раз больше и умение принимать верные решения в хрен знает сколько раз лучше, перед этой жуткой неведомой фигней точно такие же, как вы. Нас, элиты - 10 миллионов, а вас - 7 млрд, раньше вы нахрен не нужны были для решений, но теперь надо всем... Давайте потихонечку вместе думать, что делать. Старые добрые методы концентрации усилий, похоже, не помогут."
              Как я понимаю, научно-технический прогресс вот-вот даст инструменты для повышения когнитивных функций человека, а угроза конкуренции с ИИ и угроза подверженности его влиянию даст причину для серьезных изменений в социуме и в технологии познания. В принципе, это такая угроза, ради которой действительно можно что-то принудительно делать с народонаселением и менять вектор развития. Уж больно оно тотальное.
              2. Есть такая мысль, выраженная Экклезиастом и отраженная в нескольких методиках стратегического анализа - "Что было, то и будет". С этой точки зрения, сравнение экспоненциальной функции развития когнитивных функций человечества и гиперболической ИИ приводит к неминуемому проигрыша человечества. За счет своей инерционности.

  11. Khius

    надо знать ещё что делать (отправлено из приложения Hi-News.ru)

  12. М. Ковалевич

    Cильный ИИ, скорее всего, будет базироваться на биологической архитектуры, которая значительно превосходит человеческие алгоритмы в качественном виде, а также, вероятно, не очень сложно. Таким образом, либо мозг будет декодировать первый, или сильный ИИ приведет к его расшифровке значительно быстрее.
    Таким образом, это откроет путь не только к ИИ, но и освободить усиление человеческого интеллекта и принимая участие в разведке взрыва вместе с "металлом". И - что может быть недооценена сейчас - и ко всему сценарию "Кукольный дом".

    Когда мы понимаем мозг?

    Одна из самых больших причин, почему мы до сих пор не понял, как работает мозг, является отсутствие инструментов, чтобы правильно видеть то, что он на самом деле делает. Вскрытие исследования дают некоторую физическую картину, живые инструменты сканирования дают некоторую активность картину, но не достаточно полно. Мы можем видеть, работать либо мелких деталей достаточно хорошо (например, электродов имплантируемых массивов, оптогенетика методы) или большие части с много детали потеряны (например, ЭЭГ, МРТ). К сожалению, ни один из них достаточно, чтобы понять логику, кажется, что мозг (или другие нейронные системы) работает более в целом, а также детали имеют значение. Есть много подробных данных, таких как многочисленные эксперименты результаты приходят из нейрологии, но все они очень мелкие детали и не ясно, какие данные играет важную роль в функционировании мозга и который не делает.
    Таким образом, есть две возможности решить эту проблему:
    1. Либо мы декодирует мозг как детективы, без полной картины, только с имеющимися намеков. Мозг не вероятно, что-то слишком трудно понять, поэтому такой подход представляется вполне возможным. Есть много исследователей , работающих , как мы говорим , и конечный результат может прийти, ну, теоретически в любой момент. Недостатком является то, что она может также прийти в 100 лет. Там нет никакого верхнего предела и никаких гарантий в этом случае.
    2. Другой вариант заключается в том, что инструменты для мозга живого сканирования становится достаточно развита для достаточно »мозга разрешение сканирования", который будет показывать либо полную понятную картину, или предоставить данные для анализа, достаточного, чтобы понять это. Некоторые аналитики технологии, такие как Р. Курцвейл оценить такую ​​технологию доступной через 5-15 лет (или около того). Не до сих пор в любом случае. Недостатком этого является то, что мы должны ждать. Очень сильная сторона, однако, что мы можем быть достаточно уверены, чтобы иметь такие сканеры в течение нескольких десятилетий. Таким образом , он устанавливает верхний предел , когда мы полностью понимаем наш мозг: не позднее , чем за два десятилетия или около того .
    Это означает, что революция близка, так или иначе. Существует, конечно, возможность учитывать, что даже при полной физической картины работы мозга, мы по-прежнему не будет в состоянии понять это. Некоторые даже утверждают, что "мы никогда не могли бы понять мозг". Может быть, мы слишком глупы, чтобы понять это. Но это несостоятельностью сказать так. Обратное проектирование с полным набором данных работает очень хорошо, нет никакого способа, чтобы скрыть от него. Кроме того, мы уже знаем из многочисленных свидетельств того, что мозг не только вероятно, но должны быть простыми (размещены в ряде других вопросов, на которые). Точно так же, некоторые из них могут сказать: "это сложнее, чем мы ожидаем, что это квантовая сфера [или метафизика]". Эти подозрения были доказаны, чтобы не быть правдой (создать отдельный вопрос, если это необходимо).
    Если бы я пари, поставил бы деньги на сценарии 1 происходит в первую очередь.

  13. AlexP

    Хватит бредить никогда никакой ИИ сделан не будет, нельзя создать искусственную мотивацию, всегда ИИ будет делать только то что ему напишут. Для того чтобы иметь мотивацию нужно иметь биологический мозг с нейромедиаторами. (отправлено из iOS приложения Hi-News.ru)

    • donkeypuh

      Можно сделать обратную связь, зависящую от какого-то алгоритма. Вот и аналог мотивации человека.
      Принцип нейронной сети - именно в этой обратной связи.

    • Souch

      Все твои действия также (сознательно или нет) обусловлены написанной биологической программой. Может хватит считать себя чем-то исключительным, не от мира сего?

      • donkeypuh

        Во-во. Плюс адын. Всего-то инфантильная вера в свою исключительность.

    • tabasko

      Всё возможно! (отправлено из Android приложения Hi-News.ru)

  14. ElkTheSenior

    Скорее, мы будем стремиться модифицировать свои собственные мозги и объединять их с другими, чем пытаться создать сверх ИИ, который бы превосходил человека.

    Максимум, что сможет современный ИИ (на основе нейронных сетей), это впитать всю доступную информацию из Интернета. И быть, эдаким Доктором Ноу из фильма "Искусственный разум" (AI), выполняющим роль справочной информационной системы, для частично модифицированных, полу-органических "людей".

    Если от всего этого абстрагироваться и заглянуть в конец, когда некий сверх-разум соберёт абсолютно всю информацию об устройстве вселенной, да и вообще бытие. Что дальше ? Лично я полагаю, что ему больше ничего ни останется, как всё это снова воссоздать (так сказать, - вселенную во вселенной), чтобы всё начать сначала, с чистого листа, и так снова и снова. Ибо, если допустить, что после того сценария произошло бы его сознательное самоуничтожение (рассеивание чистой энергии, так-как непостижимый разум, вряд ли бы имел хоть какие-то намёки, напоминающие привычную нам материю), потому как стремиться уже некуда, то нашей вселенной, возможно, и вовсе, не существовало бы.

    Полагаю, это мы будем стремиться обрести сверх разум, модифицируя себя (тело, мозг, свой генетический код), нежели стремиться обрести нечто похожее, но уже во вне.

    Кстати, предполагаю, что если бы ИИ, по каким-то причинам обрёл самосознание, то это был бы уже человек, со своей индивидуальностью, который бы восхвалял нас, как божество (аля Иисус). Конечно, по мере производства, были бы и исключения из правил, как это подобает любому существу с задатками самосознания.

    P.S. Тема и вправду очень интересная. Наталкивает на разного рода размышления.

  15. zar

    Какое ИИ??? окститесь! то что программа обыграла в шахматы или ГО еще ни чего абсолютно не значит! это всего лишь последовательность логических действий! не более! логичный принцип ДА\НЕТ. вы хоть представляете что такое мозг и разум?
    для тех кто не понимает что говорит послушайте хотя бы умных людей
    Управление мозгом человека "Савельев www.youtube.com/watch?v=8rSkCITS9uc

  16. iZjyka

    Рассуждать бессмысленно плохо или хорошо,ИИ войдет в нашу жизнь хотим мы этого или нет,робототехника уже входит,но человеку мало просто работника,нужен работник который может сам принять решение,а если оно еще и самое оптимальное-этот работник на вес золота!Проблема в том что создатели ИИ хотят облегчить жизнь людям убрав тяжелый и опасный сектор работы,да и за одно сектор услуг,дав возможность творить и само развиваться,но увы большая часть людей не найдет себе применения( (отправлено из iOS приложения Hi-News.ru)

  17. Souch

    Предлагаю всем кто считает ИИ не опасным, переосмыслить свою точку зрения исходя из следующих постулатов:
    1) Рино или поздно настоящий ИИ будет создан, причиной для этого утверждения служит тот факт, что мозг это по своей сути вычислительная машина, просто биологическая, и намного более сложная чем всё что мы способны создать на данный момент. Но утверждать что ИИ никогда не будет создан, все равно что утверждать что у нас нет развития технологий, и никогда не будет бОльших вычислительных мощностей чем есть сейчас.
    Вопросы души и бога при этом предлагаю оставить за скобками.
    2) Под знаменитым открытым письмом подписались тысячи самых успешных людей планеты, успех предопределяется по большей части уровнем интеллекта и упорством в достижении целей. Если кто либо, не достигнув в своей жизни и сотой доли их результата берется утверждать, что все они заблуждаются, то тем самым только показывает что идиотом является он сам.
    3) Настоящий ИИ будет развиваться колоссальными темпами, через неделю он будет умнее любого из людей, через месяц его возможности превзойдут все человечество, а еще через пару он выйдет за пределы человеческого понимания, даже если мы будем пытаться его контролировать, каковы шансы что его возможно будет удержать в стенах лаборатории?

    Что станет когда он вырвется на свободу? На самом деле к его приходу уже почти все готово (звучит по библейски), более того, мы еще больше для него все подготовим за ближайшие 50-100лет. Я говорю конечно о повсеместной компьютеризации и роботизации. В значительной части производственных процессов уже участвуют роботы, а информационная сфера так уже вся полностью в цифре. Можно логично предположить, что из-за большого количества протоколов и несовместимого железа он не сможет эффективно ничем управлять, но кто сказал что он будет один, неужто сверх разуму не хватит ума как завербовать людей себе в помощь?
    И самые важные вопросы:
    Что он будет делать?
    По моему ответ очевиден – развиваться, так делают все существа на протяжении миллионов лет, не вижу причин почему он должен действовать иначе.
    Станет ли он уничтожать человечество?
    Напрямую не станет, также как человек не стремится уничтожить каждого муравья на своем пути. Останемся ли мы доминирующим видом? Явно нет, как и потеряем контроль над всеми процессами планетарного масштаба. Вопрос мирного сосуществования при этом остается открытым, в большей степени это будет зависеть от людей а не от ИИ...

    • tabasko

      Да опасность в саморазвивающемся коде безусловно есть, и как не крути а жопа сзади, вся суть в том что человечество не осознаёт того что никто даже не заметит подвоха и действия ИСИ будут бесконтрольны (хотя люди будут думать безграничны).












      (отправлено из Android приложения Hi-News.ru)

    • donkeypuh

      По поводу 3):
      Мы, слава моему личному богу (он создал этот мир, делает много хорошего, когда не в лом и живет у меня где-то на макушке) живем в мире альтернатив. Разные технологии будут конкурировать: сети из человеческих мозгов, нейронные сети из компьютерных мозгов, квантовые компьютеры, биокомпьютеры. Почитайте Питера Уоттса, он спец, в своих произведениях всякие страшилки смачно описывает. Т.е. в реальности не бывает полной и окончательной победы чего-либо. Есть нюансы и возможность поправить фортуну.
      Похоже, при современных темпах развития, неизбежно кто-то его разработает в ближайшие десятилетия. Страшно, если именно это является одним из Великих Фильтров. Единственным спасением тогда является наличие альтернатив. Т.е. много мощных и деятельных интеллектов. Независимых. Т.е. либо человека надо прокачивать, что представляется самым безопасным, но сложным вариантом, либо цеплять к каждому юзеру по мощному ИИ с возможностью объединяться в сети. Либо еще что-то.
      Но, во всяком случае, несколько десятилетий жизни без этого чуда-юда еще есть. Наслаждемся.

  18. tabasko

    Может повторюсь, но физическим посредством мы являемся круче ИСИ, в виду возможности осмысливать реальность используя шесть чувств и способность умирать. (отправлено из Android приложения Hi-News.ru)

    • donkeypuh

      Круче в чем? В способности к выживанию? К экспансии? К возможности изменять окружающий мир? Себя?
      1. Шесть чувств.... ой мэй... Ну, прицепи сотню датчиков, будет сто чувств. С огромной способностью находить взаимосвязи между изменением сотни параметров. Жуткая мощща. По этим чувствам слили бесповоротно.
      2. Мы круче, потому что каждый наш кусочек способен сдохнуть в любое время непрогнозирумо. "Человек случайно смертен" - Воланд. И где тут круть?? Так мы и все вместе можем дать дуба. От болячки или детонации всего ядерного арсенала. Или попасть под гамма-всплеск близкий. Собственно, тоже слили по этому параметру.

      • tabasko

        В том круть что жизнь это та самая нить связывающая реальность и суть твоего бытия воедино и если смерть может это остановить то саморазвитие код может только зависнуть... (отправлено из Android приложения Hi-News.ru)

  19. kutahaza2@gmail.com

    Какой китаец, Ли Си Дол он кореец и еще и имя не правильно написали..
    Ли "Сэ" Дол правильнее

  20. tabasko

    Данные не подтверждённые моралью являются тезисом либо вы другого мяса сделаны тогда да! ИСИ просто промокашка нашей души и его суть быть пергаментом нашего отношения. (отправлено из Android приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.