Нужно ли человечеству дальнейшее развитие искусственного разума?

Что такое искусственный разум (интеллект)?

Кихот: [...] В первую очередь это компьютерная программа. Но каковы её свойства?

Исходя из понятия искусственного интеллекта, приведённого в Википедии, основной аспект компьютерных программ на основании искусственного интеллекта, который отличает его от традиционных компьютерных программ: программе предоставляют базу данных, исходные данные, на которых она сама учится принимать решения. Программа сама анализирует эти данные и сама для себя составляет алгоритм. А в традиционных программах алгоритм задавался человеком.

То есть, искусственный интеллект — это не копия человеческого мозга и не копия человеческого интеллекта. И, таким образом, не конкурент человеческому интеллекту, а его как бы продолжение, усиление. Например, молоток усиливает мускульную силу человека, а искусственный интеллект — интеллектуальные способности человека.

Эволюционер: [...] Во всех, казалось бы, полезных вещах, можно найти существенные недостатки. Создание полноценного искусственного разума — это то, что может значительно изменить жизнь человечества, как в лучшую, так и в худшую стороны. Именно эту тему мы хотим обсудить сегодня в Дискуссионном клубе Полтава.

Аргументы в пользу позиции утверждения (ДА, нужно дальнейшее развитие) готовил и озвучивал Кихот (дискуссионное прозвище). Позицию возражения (НЕТ, не нужно дальнейшее развитие) аргументировал Эволюционер (дискуссионное прозвище).

Видео дискуссии

Аргументы сторон 

Для этой публикации значительно сокращены, полные аргументы на видео:

Первый, синий аргумент «За»

Кихот: Миф, задающий вектор развития человечества.

Прообразы искусственного интеллекта мы находим ещё в древних мифах. Функция мифа — создание образца модели мира, примера для подражания и дальнейшего воспроизведения. Это то, к чему мы неосознанно стремимся. 

В подтверждение своего аргумента цитирую по учебному курсу на сайте «Курсера» — Мой друг — робот. Социокультурные аспекты социальной робототехники.

Итак: [...] «Искусственные существа в мифах, как правило, имеют антропоморфный интерфейс и внешне напоминают своего создателя. Создатель же определяет для них конкретную задачу, функцию, которую они должны выполнять. Описана технология создания. Не без магии, конечно, но делается акцент на искусственности происхождения.»

«Например, Гефест сотворил двух золотых служанок с внешностью прекрасных дев, которые умели говорить, обладали интеллектом и выполняли все его задания, а также слуг-треножников, которые на маленьких колесиках разъезжали между пирующими богами.»

«Создания выполняли сервисные или военные функции. Нет осуждения созданий искусственного существа, никаких захватов или уничтожения человечества. Нет никаких апокалиптических последствий, и чаще всего в роли демиурга выступали боги или герои.»

«В основном создания не восстают против своего создателя, а вполне мирно сосуществуют с ним и выполняют свои функции. Мифы задают нам модель потенциальной возможности создания искусственного живого существа, вот это очень важно.»

Первый, синий аргумент «Против»

Эволюционер: Искусственный разум опасен, так как он в значимой степени может быть орудием управления обществом. 

...главный вопрос состоит в том — «когда нужно остановиться?». Развитие техники без развития морали и культуры человечества опасно — образно говоря, мы даём гранату в лапу обезьяне. 

...Прежде всего, подобные системы — это средство влияния на сознание и поведение человека. Откуда вы знаете, что ваш кибернетический персональный помощник не заинтересован в передаче вам неполной или искаженной информации? Процесс поиска и трактовки информации может быть разным, и это решает за вас искусственный разум вопросно-ответной системы. Что из этого следует? Фирмы, занимающиеся их развитием и обслуживанием прежде всего, начнут получать доходы от представителей бизнеса и политиков. Поэтому информация, передаваемая вам может носить однобокий характер, иметь свойства скрытой рекламы. Всё это в определённой степени формирует мировоззрение человека. Влияет на потребительские предпочтения, политические взгляды.

Второй, зелёный аргумент «За»

Кихот: Самолёт тоже летает и повышает эффективность человеческой деятельности, но не копирует птицу.

Искусственный интеллект никогда не будут делать, как копию человеческого мозга. В этом нет необходимости. Объяснение тут простое: зачем делать то, что уже есть в наличии?

Искусственный интеллект фактически автоматизирует и повышает эффективность отдельных творческих задач, традиционно выполняемых людьми. То есть, каждая отдельная программа, основанная на искусственном интеллекте, автоматизирует только какую-то одну функцию. И не заменяет человеческий мозг в принципе. Такая программа не является конкурентом человека, а всего лишь его помощником по выполнению такой функции.

Если человечество будет повышать свою эффективность в каждой из этих функций, то с чего бы ему ограничивать развитие искусственного разума, которое и поможет эту эффективность достигать?

Какие достижения мы имеем уже на сегодня в области искусственного интеллекта? [...] 

Какие ближайшие перспективы развития искусственного интеллекта нам рисуют? [...] 

И так далее.

Итак, я описал уже имеющиеся наработки программ с элементами искусственного интеллекта и тех, которые ожидаются в ближайшие годы, первые попавшиеся. Все они касаются определённых отдельных функций, все они решают какую-то одну задачу. Скажите, ну кто откажется от этих достижений, повышающих нашу эффективность в деле решения таких задач?

Второй, зелёный аргумент «Против»

Эволюционер: Развитие искусственного разума приведёт к деградации человечества, сделает его более управляемым, снизит требования к уровню образования.

Развитие искусственного разума — это, прежде всего, наука. 

...В новой истории мы всё чаще видим примеры того, что основным вектором развития научно-технического развития является алчность и стремление доминировать. 

...Изобретения, идущие во благо людям, зачастую являются побочным эффектом процесса изобретения того, что должно было работать им во вред.

Очень много научно технических инноваций созданы не столько для улучшения качества жизни людей, сколько для наживы. 

...Без этих улучшений люди могли бы жить вполне комфортно, они нужны больше тем, кто будет продавать им то, без чего они могли бы прожить. 

...Ещё одни аспект искусственного разума заключается в том, что чем более он развит на службе у социума, тем меньше требований к уровню знаний человека и к его интеллекту. Всё идёт к тому, что мы учим машины думать, а человека, наоборот, отучиваем. В таком обществе удел человека: или обслуживать роботов, или следить за теми, кто обслуживает роботов. Это уже не люди — это биороботы, на службе созданных ими роботов и тех, кто придумал эту систему.

Третий, красный аргумент «За»

Кихот: Уравнение интеллекта.

Американский физик и информатик из Гарварда Алекс Висснер-Гросс вывел формулу интеллекта, о которой рассказал на передаче TEDtalks

Вот сама формула: 

F = T∇Sτ,где F — интеллект;
T — сила;
∇ — действие для максимизации;
S — варианты будущего;
τ — временной горизонт.

То есть, интеллект — это сила, которая направлена на максимизацию вариантов будущего до определённого будущего временного диапазона.

Вот как её поясняет Алекс Висснер-Гросс:

«Интеллект является силой F, которая действует таким образом, чтобы максимизировать будущую свободу действий. Она действует для максимизации будущей свободы действий или сохранения возможностей открытыми с некоторой силой Т, с разнообразием возможных доступных вариантов будущего, S, вплоть до некоторого будущего временного горизонта, тау.»

«Короче говоря, интеллект не хочет попасть в ловушку. Он пытается максимизировать свободу действий в будущем и сохранить варианты открытыми.»

...На основании уравнения интеллекта была сделана программа искусственного интеллекта. Вот что об этом говорит Александр Панчин, кандидат биологических наук, известный популяризатор науки, в своём блоге «Уравнение интеллекта»:

«В подтверждение принципа в частности предлагается искусственный интеллект [программа], который умеет решать множество задач на мышление, руководствуясь исключительно этим принципом. Эта программа без какого-либо предварительного обучения реализует в экспериментальных условиях целый комплекс сложных разумных поведенческих реакций. Программа может играть в игры, управлять движением роботов, решать задачи, требующие кооперации, и успешно играть на бирже. Причем в отличие от большинства искусственных интеллектов, данная программа сама определяет свои задачи, не ждет конкретных указаний человека.»

...Во втором зелёном аргументе Эволюционера сказано, что «Всё идёт к тому, что мы учим машины думать, а человека наоборот отучиваем.». Хотя этот тезис не подтверждается фактами. 

Дальше цитирую Александр Панчин «Уравнение интеллекта»:

«Уровень интеллекта жителей Земли в среднем растет из поколения в поколение. Это называется эффектом Флинна. Кажется логичным связать эту тенденцию с ростом заинтересованности наукой, возникновением идей гуманизма и свободы слова, отменой рабства и проведением других аналогичных реформ по всему миру, направленных на защиту прав человека. Можно предположить, что этот рост будет продолжаться и дальше, как бы ни старались его замедлить отдельные люди, предпочитающие изжившие себя средневековые традиции прогрессу.»

Так вот, подытожу свой третий красный аргумент: программы искусственного интеллекта направлены на максимизацию свободы наших действий. Это то, к чему стремится наш естественный интеллект, уровень которого согласно эффекта Флинна растёт из поколения в поколение.

А посему уравнение интеллекта бесспорно показывает неизбежность и нужность дальнейшего развития искусственного разума.

Третий, красный аргумент «Против»

Эволюционер: На стадии самообучения искусственный разум может принять решение о необходимости уничтожения человечества.

Апофеозом создания искусственного разума будет та стадия его развития, на которой он сможет самообучаться. Это будет не только процесс осознанного, целенаправленного и систематичного накопления знаний, это будет процесс формирования личности и мировоззрения. 

Разум будет развиваться, накапливать огромный объём знаний, недоступный одной человеческой личности, быстро анализировать их, моделируя различные варианты развития событий. Рано или поздно он придет к выводу, что человечество само себя уничтожит. В распоряжении искусственного разума будет более чем достаточно исторических фактов, опираясь на которые можно сделать вывод, что люди ещё не уничтожили сами себя только потому, что оружие, способное это сделать, было изобретено ими относительно недавно.

[...] Главная опасность искусственного разума для человека состоит в том, что он разумен, в отличие от современного человека. 

В начале искусственный разум будет делать всё для того, чтобы научиться жить без людей. Он будет создавать различные устройства и модули, которые, по его мнению, должны обеспечить в будущем его существование на безлюдной планете. Люди, видя это, начнут беспокоиться или подумают, что искусственный разум дал сбой. И в том, и в другом случае они начнут препятствовать ему в его подготовке к автономному существованию. Рано или поздно, он начнёт уничтожать людей всеми доступными средствами. Прежде всего — их же оружием, напичканным электроникой.

Искусственный разум будет уверен в своей правоте, ибо, не видя перспектив развития человечества, он не видит смысла погибать с ним в относительно скором будущем. Что будет дальше, все могли видеть в различных фантастических фильмах и читать в фантастических книгах. Многое из того, что предрекали научные фантасты, сбылось, а потому описанный мною вариант будущего с искусственным разумом не кажется таким уж фантастичным. А потому развитие искусственного разума, без развития разума человеческого — путь к катастрофе. Здесь я имею в виду не разум отдельных индивидов, а общее интеллектуальное и культурное развитие. Поэтому, на данный момент людям не нужно ничего совершеннее, чем калькулятор, компьютер, смартфон и — свой собственный ум.

Итог аргументов сторон

Кихот: Итог моих аргументов в пользу нужности человечеству дальнейшего развития искусственного разума:

1. Миф, задающий вектор развития человечества.
2. Самолёт тоже летает и повышает эффективность человеческой деятельности, но не копирует птицу.
3. Уравнение интеллекта.

Эволюционер: Итог моих аргументов в пользу мнения вреда развития искусственного разума.

1. Искусственный разум опасен, так как он в значимой степени может быть орудием управления обществом.
2. Развитие искусственного разума приведёт к деградации человечества, сделает его более управляемым, снизит требования к уровню образования. Человек превратится в биоробота, основной задачей которого является обслуживания механизмов и электронных систем.
3. Создание искусственного разума может грозить физическим уничтожением цивилизации. Нельзя развивать искусственный разум, не развивая интеллект и культуру среднестатистического человека.

Голосование 

Просьба голосовать после ознакомления с аргументами, для вынесения своего рассудительного решения.

Нужно ли человечеству дальнейшее развитие искусственного разума?

Александр ЗОЛОТУХИН, организатор Дискуссионного Клуба Полтава