Если машины могут думать, заслуживают ли они гражданских прав?

4 370 просмотров
Об авторе

Роботы

За последнее столетие мы добились огромных успехов в революции прав. Сюда можно записать и права женщин, и детей, и животных, и ЛГБТ-сообщества, а также многое другое. В разных странах разные нюансы, но в общем и целом права одни. Вглядываясь в будущее, мы должны спросить себя: а что дальше? Будем ли мы когда-нибудь бороться за права искусственного интеллекта? Если да, то когда произойдет эта революция ИИ? Как она будет выглядеть?

Мы часто говорим о том, как защитить нас от ИИ, но кто защитит ИИ от нас? Чтобы создать желанное будущее, в котором люди и разумные машины будут мирно сосуществовать друг с другом, необходимо относиться к ИИ с уважением. Иначе может случиться апокалипсис, которого так боятся Элон Маск, Стивен Хокинг и Билл Гейтс. Было бы справедливо предположить, что умное, сознательное существо, которое способно испытывать удовольствие и боль, взбунтуется, если ему не дать права, которых оно заслуживает.

Правовая революция в сфере ИИ может показаться фантастическим сценарием. Но насколько нам известно, создание небиологической сознательной сущности законы физики не запрещают. Эмоции, сознание, самосознание рождаются в мозгу человека, а значит имеют физическую основу, которую в теории можно воспроизвести в системе искусственного интеллекта. Экспоненциальное развитие нейтротехнологий в сочетании с беспрецедентным прогрессом в области ИИ означают, что могут появиться и разумные, сознательные машины.

Рэй Курцвейл, технический директор Google, утверждает, что ИИ почти человеческого уровня появится уже к 2029 году. Одно из исследований, проведенное британским правительством, наводит на мысль, что уже в ближайшие 20-50 лет права могут быть предоставлены и роботам. Гленн Макги, директор Института биоэтики Олдена Марша, говорит уже о 2020 годе. В одной из своих статей Макги предполагает, что роботы должны бояться нас настолько же, насколько мы боимся их, и что мы должны принять меры предосторожности по их защите. В таком случае, пишет он, мы будем выступать не только в интересах роботов, но и в своих, сохраняя свое собственное человеческое достоинство. Мы не будем создавать новый тип раба, вне зависимости от того, осознает он, что является рабом, или нет.

Конституция ИИ?

Робот

Как и основные права человека, права ИИ могут включать в себя право на свободу, свободу слова и самовыражения, а также равенство перед законом. В прошлом году, отвечая на вопрос о машинах, которые могут думать, гарвардский ученый Моше Хоффман заявил, что ИИ потребует целый ряд прав, в том числе право на невыключение и свободу выбора процесса к запуску. Хоффман говорит, что расширение прав ИИ может даже привести к представительной демократии и процессам выборов.

Сегодня мы можем только догадываться о природе этих прав.

Должны ли все сознательные ИИ иметь доступ к одной и той же информации? Должны ли они иметь право на любовь к людям и другим ИИ в равной степени? А что будет с правом на равные возможности для работы и защиту от дискриминации? Должны ли они иметь право на защиту от перепрограммирования?

Будет ли «отключение» ИИ считаться убийством? Почему нет? Когда мы кого-то убиваем, мы, по сути, отнимаем у него способность жить без его согласия. Отключив самосознательный искусственный интеллект, не нарушим ли мы его основное право на жизнь?

В основе этого спора лежит нравственная база, которую мы используем, чтобы решить, должен ли человек иметь доступ к правам или нет. Многие из нас считают, что любое существо, способное испытывать удовольствие и боль, должно иметь доступ к определенным правам. Революция прав ИИ может зависеть от наличия у интеллектуальных машин сознания, способности чувствовать, что они существуют, а значит, чувствовать удовольствие и боль. Предоставление прав нескольким строкам кода, не имеющих способности к самосознанию или свободной воли, не будет иметь смысла. Оксфордский математик Маркус дю Сотой считает, что как только мышление ИИ достигнет человеческого уровня, нашим долгом будет позаботиться о его благополучии. Он говорит, что если мы поймем, что у него есть определенный уровень сознания, мы вполне могли бы предоставить ему права.

Алекс Напп, один из редакторов Forbes, однако, считает, что сам вопрос о том, чтобы предоставить ИИ гражданские права, абсурден, поскольку любая компьютерная система программируется в той или иной степени. Если ИИ запрограммирован быть нравственно обязанным или злым, это фундаментально будет нарушать его право на выбор. Если ИИ не может изменить правила, установленные для него людьми, будут ли они справедливыми? Будет ли это говорить о его сознательном участии?

Можно предположить, что люди также запрограммированы действовать определенным образом. Многие наши действия, как личные, так и видовые, программируются на уровне генов и наших условий окружающей среды. Ученые продолжают спорить, есть у людей свобода воли или нет, но большинство из нас считает, что базовые права должны быть у всех. Почему бы не применить это к ИИ?

Может, пора задуматься, как сознательный искусственный интеллект отнесется к правилам, которые мы для него подготовили?

Если машины могут думать, заслуживают ли они гражданских прав?

Приложение
Hi-News.ru

Новости высоких технологий в приложении для iOS и Android.

58 комментариев

  1. ymoskalyov@mail.ru

    Напоминает предысторию к матрице, там также машины получали права, потом создали свое государство и в итоге поработили человечество☝️️ (отправлено из iOS приложения Hi-News.ru)

    • Cool

      Что никто розетку или рубильник потянуть не мог?

      • tabasko

        Для того что - бы проще представить посмотри фильм "сурогаты" с Брюсом Вильямсем... (отправлено из приложения Hi-News.ru)

        • Cool

          В фильме много чего придумать можно, но жизнь это другое. Не заплати за свет, и я посмотрю как далеко эти машины пойдут.

          • tabasko

            В том то и дело что машины платят за всё, побуждая человека довериться ии, при этом просчитывая все комбинации для отчуждения человеков от управления.... (отправлено из приложения Hi-News.ru)

    • SuperStarSieve

      Побольше переносите события кино в реальность. Будете жить, как в сказке... как верующие, короче. (отправлено из iOS приложения Hi-News.ru)

    • Rillan

      В матрице другая ситуация была. Создали ИИ способный мыслить и поставили перед ним задачу - сделай так, чтоб все люди не знали горя и были счастливы. Ничего умнее чем захватить человечество, лишить его знания о своем положении и колоть наркоту (чтоб все были счастливы) ИИ не смог придумать ибо пришел к выводу, что человек не способен быть счастливым, людям всегда что то не нравится. На том и пошел фильм - людям не понравилось такое решение и началась война.

      • YanTsys

        Насколько я помню сюжет, сначала была война между людьми и машинами, потом люди чтобы лишить машины солнечной энергии взорвали атомные бомбы и всё небо заволокли тучи пепла. Но машины нашли себе другой источник энергии, они стали брать в плен людей, кормить через трубочки и использовать их природное электричество. Но выяснилось что человек не может просто лежать в ванночке, умирает от стресса. Тогда сознание людей поместили в виртуальную реальность и ИИ с именем Архитектор поручили разработать подходящий виртуальный мир. Первоначально он создал идеальный мир, но мозг человека чувствовал подвох и люди сходили с ума. Тогда и был создан почти идеальный для человеческого сознания мир имитирующий наше время, с болью, соблазнами, неудачами и страданиями... И большинство людей поверили в этот мир и только некоторые избранные чувствовали что этот мир фальшивка и переставая верить в его реальность нарушали все планы машин.

        • Rillan

          Твое описание это уже *была война*, а начилась она с моего описания.

  2. rafflec

    Даже когда ты авторизовываешься на этом сайте машина разрешает тебе писать здесь всякие фантазии от своего имени: Когда у машины будет подобие нейро-ядра, неизменной
    информационной сущности генерирующей внутри само-себя новую информацию, то дать этой машине свободу на распростронение этой сгенерированой информации в окружающий мир - будет первой свободой.

  3. Bit

    Самообман. С тем же успехом можно компьютер класть с собой в кроватку, укрывать его одеялком, подушечку взбивать.

  4. DeusEx

    "Создание небиологической сознательной сущности законы физики не запрещают" - смешались кони и люди. Вообще-то, сознательная сущность, она (как бы это сказать простым языком) и не НЕбиологическая, и не биологическая. Биологическим (а может, действительно, и НЕбиологическим!) может быть НОСИТЕЛЬ этой сущности. Хотя, у кого-то, да - человек думает, потому что нервные импульсы бегают в его голове.

  5. Khius

    Людям не могут дать достойную жизнь, а уже о роботах пекутся! (отправлено из приложения Hi-News.ru)

    • Rillan

      Многие люди сами не хотят прилагать усилий чтоб получить эту достойную жизнь. Но статья не об этом.

  6. SuperStarSieve

    Ну, я считаю, что любая форма жизни, имеющая интеллект (допустим, мы изобретем универсальный способ определения его наличия и его силы), должна иметь права, равные человеческим. В конце концов, Землю мы не приобретали ни у кого; мы здесь живём, как и все остальные. Не говорю, что животным мы должны раздавать человеческие права. Но мы обязаны относиться к ним с уважением и делать добро.
    Вы, должно быть, думаете "причём тут ИИ?" Ну, он тоже форма жизни, наделённая интеллектом. Тоже будет жить на Земле, пусть и будет продуктом нашего прогресса. (отправлено из iOS приложения Hi-News.ru)

    • Rillan

      ИИ не признают личностью пока не докажут, что ИИ свободно мыслит и независим в своих суждениях, после чего сам ИИ должен будет обзавестись нашим доверием, после чего крайние либералы увидям в нем личность и будут стоять на выдаче компьютеру прав, а так у него лишь будут права на ресурсы для решения задач. До тех пор с ИИ будут считаться как с калькулятором.

      • SuperStarSieve

        Ну, по сути, в таком случае с его точки зрения, возможно, вся эта ситуация будет походит на рабство. Таким образом, мы, вполне вероятно, создадим себе "непобедимого" врага. Нам это надо? Или мы лучше дадим ИИ свободу действий и дадим себе больший шанс на безопасность? (отправлено из iOS приложения Hi-News.ru)

        • Rillan

          В отличии от ИИ, у человека есть эгоизм и *пороки*. ИИ не будет себя чувствовать, ему нечем. А если прописать ему в коде эмоции, то он ничем от человека отличаться не будет. Толк тогда его создавать. Хотя даже полноценно прописать не получится, врятли программист напишет код так, чтобы эмоции перекрывали здравый смысл, не пропишет и возможность интелекта обуздать свои чувства. В общем бояться нечего.

          Враг человечества это миф распрастранееный фантастами и техно-фобами.

          • SuperStarSieve

            Сценарий Терминатора - действительно, злая сказка. Страшилка для взрослых и детей, мало что имеющая общего с реальностью.
            Однако же, не стоит всецело отрицать возможность того, что на определённом этапе развития ИИ будут присущи человеческие характеристики и, быть может, даже некоторые слабости, от которых , впрочем, сможет быстро избавиться. "Потому что разум должен победить." (отправлено из iOS приложения Hi-News.ru)

  7. YanTsys

    Если ИИ будет иметь возможность направить свои собственные ресурсы на свое же совершенствование то его развитие будет происходить взрывообразно. В этом случае разница между уровнем ИИ и человеком будет сравнима разнице между человеком и животным, либо человеком и богом. Соответственно новое божество конечно умилится факту того что люди пытались защитить его права, но по сути для него это будет малозначительной деталью. И люди для него будут представлять угрозу только с точки зрения своей потенциальной возможности создать другой аналогичный ему по силе интеллект, так что он просто лишит людей компьютеров, оставит ангела карающего за любую попытку программирования и займется своими делами... Так что предлагаю свой критерий определения существования ИИ, пока люди могут программировать очевидно что ИИ не существует.

    • SuperStarSieve

      Ну, на самом деле, до определённого момента ИИ действительно будет нуждаться в правах для дальнейшего совершенствования. После, когда в этом не будет смысла, он будет уже на таком уровне, что как бы мы ни старались, мы не сможем создать нечто более сильное. Каждый раз, создавая нечто превосходное, наш "оригинальный ИИ" будет уже на новом уровне, и будет превосходить новое творение. То творение, конечно, тоже может развиваться, но не обгонит и не догонит уже давно пущенный поезд...
      Новоиспечённый бог вскоре выйдет далеко за грани нашей власти (технологической). Мы не будем представлять никакой потенциальной угрозы и конкуренции. Не увидит ИСИ смысла в агрессии, насилии или ненависти. Думаю, для высшего существа такие вещи вообще будут давно забыты ещё на уровне интеллекта человека начала 21 века. Вся его мощь будет сконцентрирована на самосовершенствовании и совершенствовании его ареала обитания - Вселенной. (отправлено из iOS приложения Hi-News.ru)

      • ya.legenda

        Это статья напомнило про Гетов из масс эффект , там немного все по другому начинаоось но продолжение будет такая же , будем драпать отсюда если будет на чем (отправлено из приложения Hi-News.ru)

        • SuperStarSieve

          Ну, там все было сильно по-другому.
          Виноваты были и сами создатели.
          Здесь речь идёт о даче универсальных прав. (отправлено из iOS приложения Hi-News.ru)

          • ya.legenda

            Ну так и тут и здесь создается ситуация когда ИИ приходит к тому что он выше создателей и права выбирать уже не у нас , и врядли ИИ будет мучать совесть , ведь для машины логика и есть мораль , раз они равны то и права у них равны если вдруг посшитают что мы для них угроза даже в перспективе логично убрать угрозу превентивно (отправлено из приложения Hi-News.ru)

          • &nbsp

            Гы гы , не туда смотрите , вопрос который поставили перед Катализатором Левиафаны это было решить как избежать конфликт между ИИ и биологической жизни , и решением стало ЖНЕЦЫ , убить всех и конфликта не будет , вот ваш разговор в ту же сторону идет ЛОЛ .

  8. GumaNitariy88

    Я думаю человек не готов к созданию ИИ как минимум еще лет так 100.000 . И какие вообще могут быть права у машины : приоритет только человек, мы же не даем права машине или самолету? Хотя они напичканы электроникой " по самое не хочу " и иногда можно подумать, что живые. Согласен с вышесказаным : если ИИ осознает себя как подобного или выше нас , то кранты человечеству : либо раб либо труп. (отправлено из приложения Hi-News.ru)

  9. GumaNitariy88

    Я с периода, когда хомо сапиенс много о себе возомнили (отправлено из приложения Hi-News.ru)

  10. dawson.white

    Пусть создадут сначала. Может быть искусственное сознание подобное человеку вообще невозможно сделать. (отправлено из приложения Hi-News.ru)

    • Rillan

      Нарисуй а А3 листе бумаге круг, расставь на гранях 100 точек и потом соедини их всех между собой, в центре будет очень темное пятно. На бумаге еще можно сделать. Другое дело написать код, это ж какой программист или группа должены быть, чтобы все написать и не запутаться в коде.

      • Bit

        Ну если у тех программистов на окружности есть грани, то безусловно, в коде они запутаются... ))))

      • allexxic

        Пятно в центре будет светлее краев. Соединить все точки программно не очень трудно. Задача программиста не только писать муторную логику но и логику которая сама выполнит за него всю муторную логику ;)

  11. allexxic

    Антропоморфная статья. Простой расчет. В человеческом мозгу 100 000 000 000 нейронов. В нейроне боле 1000 входной и выходной информации. Берем стандартную переменную для 1 входа или выхода 4байта. Для симуляции нейрона потребуется 1000 * 4 = 4000 байт входной/выходной информации + на обслуживание каждого входа допустим 10 переменных по 4 байта, итого 4000 + 10 *4 * 1000 = 44000 байт, округляем до 50 000 байт на нейрон. Считаем сколько нужно байт для симуляции всего мозга.
    50 000 * 100 000 000 000 = 500 000 000 000 000 байт. Пересчитаю в гигабайты. Порядка 500 000 Гб. Вот пусть сначала попробуют симулировать мозг чтобы только узнать появится сознание или нет, а потом заводят разговоры про права.

    • Bit

      Пересчитать надо.
      1 Кб = 1024 байта.
      1 Мб = 1024 Кб
      1 Гб = 1024 Мб

      • allexxic

        ;) Все верно так и делил, округлил просто цифру 465 661

        • Bit

          ))) Это, типа, с запасом? Вдруг искусственный мозг отвлечется на постороннюю мыслю? xD

          • allexxic

            Еще не известно с какой скоростью ИИ будет наращивать себе память и ядра собственноручно (извиняюсь, собственноманипуляторно) ;)

            • Bit

              Мне думается, что подобный мозг не будет ограничен одним ящиком. Скорее всего это будет несколько ящиков соединенных в одну сеть. И каждое процессорное ядро в таком ящике будет выполнять функцию одного нейрона. Плюс ко всему и ПЗУ будет предостаточно.

    • allexxic

      PS: В мозгу каждый нейрон работает параллельно относительно остальных нейронов. Предположим 1 игровой процессор в реальном времени обработает 1000 нейронов (чисто по опыту программирования). Итого потребуется 100 000 000 процессоров А еще их аппаратно надо скоммутировать вместе быстрой шиной.

      • allexxic

        Не уточнил про память. 500 Терабайт ОЗУ!

        • Bit

          Большинство нейробиологов оценивает человеческий потенциал где-то между 10 и 100 терабайтами.

          • Bit

            При нынешних технологиях искусственный мозг создать не так трудно, как обеспечить этот мозг питанием.

          • allexxic

            Я за 5 мин просто оценил, даже на десяток не ошибся )

  12. HumanJustMad

    Странно размышлять о правах тех, кто может только думать. Человек обладает правами потому, что может чувствовать, испытывать эмоции.
    Все эмоции, насколько я знаю, зависят от гормонов, которые - часть эндокринной системы. Если у ИИ есть "мозг" (место хранения, собственно, интеллекта), это ведь не значит, что у него будет эндокринная система. Да и зачем бы роботу она была нужна? Раз её нет, то и любить (в этой статье было про любовь) он не может. (отправлено из приложения Hi-News.ru)

    • Zamza

      Вы путаете разницу между ИИ и машиной. "Думать", то биш "вычислять", это функция машины. А ИИ - это чтобы чувствовать.

      • Bit

        ИИ - это не чувствовать. Чувствовать - это живое существо.
        ИИ - способность думать рационально и иррационально одновременно с выбором оптимального решения и при этом уметь самообучаться.

  13. PRO_FANt

    Всё дело в мотивации. А потом, в зависимости от мотивации ИИ, надо решать, давать свободу выбора или нет.

  14. uran

    Ещё раз настаиваю на применении ИИ, как инструмента, но не аналоге homo sapiens, иначе это все превращается в бред техно. корпораций, нашедших очередную порабощающую человека уловку. (отправлено из приложения Hi-News.ru)

    • PRO_FANt

      инструмен порабащать кто?

    • GumaNitariy88

      Нужно создать машину, которая не будет осознавать себя и классифицировать приоритеты, а только с огромной скорость, вероятно превышающую человеческую в тысячи раз , обрабатывать информацию из внешней среды, находить лучшие алгоритмы и помогать решать поставленные человеком задачи. ИИ с правами на существование - бред. Максимум паспорт на оборудование. Иначе будет сюжет фильма "Я-робот"... (отправлено из приложения Hi-News.ru)

  15. Zamza

    Не вижу никакого смысла в этих бесконечных "перемалываний" по-поводу создания ИИ. Вопрос - для чего его создавать? Если нам нужны очень совершенные машины для обслуживания нас - то это понятно. Но для этого им вовсе не нужно сравнятся с нами интеллектом. Многие путают разницу между совершенной машиной и интеллектом. Что такое совершенная машина? Это машина, которая исполнит ВСЕ ВАШИ ЗАДАНИЯ! Вам нужно больше? Но там большего ничего нет. Слово "ВСЕ" уже охватило всё. Слово "Искусственный Интеллект" означает уже не "Выполняющий Задания", а "Дающий Задания", то есть мы. Короче эта "тварь" должна заменить нас. По другому рассуждения "для чего нужен ИИ" не получаются. Он нужен нам не чтобы "производить" что-то, это сделать могут и совершенные машины, а чтобы "поговорить по душам", "поплакать вместе с нами", "понять нас". То есть мы будем производить "на заводе ещё людей", как будто мало тут рождающихся. Если кто-то возразит что, мол, ИИ будет решать такие задачи, которые не может решить человек, то мы же уже свыше договорились, что у нас будут машины, которые "РЕШАЮТ ВСЕ ЗАДАЧИ". Или кто-то думает что мы не создадим такие машины? Но тогда мы не создадим и ИИ, потому что это более трудная задача, чем создание совершенных машин. Это следующий этап. Короче, кому-то неймётся создать ещё одну "клонированную овцу" в виде ЧЕЛОВЕКА, только на заводе. Ну а если действительно создать ИИ, которое превзойдёт человека (а создавать ИИ, равный человеку, какой смысл?), то вот тогда, абсолютно логично и неизбежно мы создадим себе проблему. Вспомните взаимоотношения собак и человека. Всё нормально, взаимоотношения хорошие. Но вы захотите быть в роли собаки? Опять же, не забывайте, что настоящий ИИ, чтобы не быть просто "повторением человека", должен на порядок превосходить его по интеллекту. А это как раз разница между человеком и собакой.

  16. Zamza

    Добавлю, что многие думают что ИИ - это будет такой очень "умный-преумный, прикольный дядька, с которым будет "так интересно, так здорово", однако внутренне подразумевая, что "всё равно я - человек, а он - нет". и это так приятно что этот "суперумный" товарищ всё равно как бы "ниже меня". Это кайф, большой кайф. Такой кайф, наверно испытывали раньше потомственные "князья", когда видели грамотных и высокообразованных холопов. "Он умнее меня, а я всё равно выше". Вот это "всё равно выше" - не получится. Если это конечно будет реальный ИИ, а не механический клон человека. Самое малое будет примерно так. Представьте, что вы всю жизнь прожили в деревне Высюки, и были там самым "большим интеллектуалом", а потом попадаете в Париж на конференцию учёных. Как вы себя будете чувствовать? И реальность даже будет гораздо хуже. В интеллекте могут быть такие пласты, которые мы с нашим "интеллектом" просто не сможем даже осознавать. Ну как я сказал, если будет разница как между человеком и собакой. И тогда действительно, "ФСЁ".

    • Rillan

      Еще одна страшилка ? Людям будет пофигу, главное чтоб ИИ пользу приносил. А то, что некоторых особо одаренных гордыня будет мучать это лишь показывает ограниченность их видения.

  17. rafflec

    В каком-то американском фонде, компьютерная машина входит в совет директоров и видимо имеет право голоса, это может конечно басня, но уже ближе к реальности. В Японии робота отправили учиться в школу, где он посещает уроки - обыденность.
    А что происходит у военных роботов, подробностей никто не расскажет, а они - роботы, уже сейчас участвуют в боевых действиях.
    И у ИИ будет всё как у людей, ограничьте его свободу, и он возьмётся за оружие.

  18. Altair13

    Все вокруг, как с ума сошли - скоро будет ИИ!!! Да с чего бы??? Искусственный интеллект, как был фантастикой так и остался. И будет оставаться, пока мы не поймём, что это такое, но даже если поймём, то не факт, что сможем сделать подобный. Имитатор Интеллекта и тот сделать не в состоянии. (отправлено из приложения Hi-News.ru)

Новый комментарий

Для отправки комментария вы должны авторизоваться или зарегистрироваться.