Может ли робот сочинить симфонию? Превратить кусок холста в произведение искусства? Сможет ли робот заменить человека на рабочем месте? Нейросети, такие как Dall-E и ChatGPT, подтверждают, что могут легко переплюнуть человека в создании новых художественных форм, написании компьютерного кода и даже в написании профессионального текста.
Из этого вытекает новый вопрос: может ли робот, обладая человеческими физическими и творческими способностями, обладать психологическими качествами? Иными словами, может ли робот чувствовать, сострадать, может ли робот быть человеком?
Первые тесты на проверку того, сможет ли робот сойти за человека, проходили с появлением первых компьютеров. На занятиях по информатике и истории изучается популярный тест Тьюринга, способный отличить, отвечает на вопросы живое существо или компьютер. После этого, в качестве критики опытов Тьюринга американский философ Джон Сёрл предложил другой интересный мысленный эксперимент.
Цель этого эксперимента – доказать, что искусственный интеллект, путём программирования определённым образом, не способен обладать сознанием в том же смысле, в котором им обладает человек. Представьте, что вы находитесь в изолированной комнате, и вы не знаете ни одного иероглифа на китайском языке, но у вас под рукой есть справочник, в котором указано: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».
За стеной у вас находится наблюдатель, знающий китайские иероглифы, и который через щель в полу передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сами вы не имеете никаких знаний об иероглифах и не можете научиться ими пользоваться, поскольку не можете узнать значение даже одного символа. Вы не понимаете ни изначального вопроса, ни ответа, который сами составили. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.
Возвращаясь к человечности, таким образом, получается можно прийти к выводу, что робот, запрограммированный на распознавание и воспроизведение эмоций, будет всего лишь выполнять алгоритм действий, в то время как люди будут воспринимать это как проявление человеческих чувств.
А если человеческий разум можно оцифровать и создать нейросеть, настолько обширную, способную приблизиться к количеству нейронов в мозгу человека? Здесь стоит учитывать три закона робототехники Азимова, чтобы не получилось повторения истории Космической Одиссеи.
В популярной культуре не раз обыгрывался сюжет об искусственных интеллектах, которые были созданы как оружие, способное как защищать человечество, так и истреблять его. Что будет, если научить оружие эмпатии? Что произойдет с сугубо оружейным искусственным интеллектом, если помимо выполнения военных функций, его приучить к литературе, музыке, философии и истории? Превзойдет ли воинственный искусственный разум свое изначальное направление?
В сюжете игры Destiny 2 существует такой «Военный разум» с интересным названием «Распутин». Этот могущественный всеобъемлющий искусственный интеллект был создан с целью якобы защиты человечества от внешних угроз, однако создатель этого компьютера, ученый Кловис Брей, подразумевал использовать этот могущественный аппарат как средство захвата власти. В определенный момент этот военный разум должен был стать божеством, стоящим на охране эгоистических планов Кловиса.
Тем не менее, этому не было суждено быть, так как внучка Кловиса, Анастасия, показала ему то, что ее предок считал ненужным: музыку, литературу, историю и живопись. Кловис считал Распутина оружием, а Анастасия открытым разумом. В итоге Распутин понял истинную ценность человечества, что оно является хрупким, но чудесным созданием, достойным защиты. Он пересилил свою изначальную цель, научился эмпатии и человеческим чувствам. После этого Распутин переписал военные протоколы Кловиса и отбросил его планы по захвату власти. На данный момент в сюжете игры этот искусственный интеллект стоит в авангарде защиты человечества и человеческих ценностей.
Сможет ли в реальной жизни нейросеть стать собратом человека, сможет ли робот понимать и воспроизводить реальные человеческие чувства, невзирая на внутренние алгоритмы, не воспроизводя заданную программу? Сейчас прогресс идет невероятно быстро, появляются новые, все более совершенные нейросети, и вполне скоро мы это узнаем.
В надежде, что роботы нас не поработят, Эрик Сакса.
Из этого вытекает новый вопрос: может ли робот, обладая человеческими физическими и творческими способностями, обладать психологическими качествами? Иными словами, может ли робот чувствовать, сострадать, может ли робот быть человеком?
Первые тесты на проверку того, сможет ли робот сойти за человека, проходили с появлением первых компьютеров. На занятиях по информатике и истории изучается популярный тест Тьюринга, способный отличить, отвечает на вопросы живое существо или компьютер. После этого, в качестве критики опытов Тьюринга американский философ Джон Сёрл предложил другой интересный мысленный эксперимент.
Цель этого эксперимента – доказать, что искусственный интеллект, путём программирования определённым образом, не способен обладать сознанием в том же смысле, в котором им обладает человек. Представьте, что вы находитесь в изолированной комнате, и вы не знаете ни одного иероглифа на китайском языке, но у вас под рукой есть справочник, в котором указано: «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два».
За стеной у вас находится наблюдатель, знающий китайские иероглифы, и который через щель в полу передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция же составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. В такой ситуации наблюдатель может отправить в комнату любой осмысленный вопрос (например, «Какой цвет вам больше всего нравится?») и получить на него осмысленный ответ (например, «Синий»), как при разговоре с человеком, который свободно владеет китайской письменностью. При этом сами вы не имеете никаких знаний об иероглифах и не можете научиться ими пользоваться, поскольку не можете узнать значение даже одного символа. Вы не понимаете ни изначального вопроса, ни ответа, который сами составили. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.
Возвращаясь к человечности, таким образом, получается можно прийти к выводу, что робот, запрограммированный на распознавание и воспроизведение эмоций, будет всего лишь выполнять алгоритм действий, в то время как люди будут воспринимать это как проявление человеческих чувств.
А если человеческий разум можно оцифровать и создать нейросеть, настолько обширную, способную приблизиться к количеству нейронов в мозгу человека? Здесь стоит учитывать три закона робототехники Азимова, чтобы не получилось повторения истории Космической Одиссеи.
В популярной культуре не раз обыгрывался сюжет об искусственных интеллектах, которые были созданы как оружие, способное как защищать человечество, так и истреблять его. Что будет, если научить оружие эмпатии? Что произойдет с сугубо оружейным искусственным интеллектом, если помимо выполнения военных функций, его приучить к литературе, музыке, философии и истории? Превзойдет ли воинственный искусственный разум свое изначальное направление?
В сюжете игры Destiny 2 существует такой «Военный разум» с интересным названием «Распутин». Этот могущественный всеобъемлющий искусственный интеллект был создан с целью якобы защиты человечества от внешних угроз, однако создатель этого компьютера, ученый Кловис Брей, подразумевал использовать этот могущественный аппарат как средство захвата власти. В определенный момент этот военный разум должен был стать божеством, стоящим на охране эгоистических планов Кловиса.
Тем не менее, этому не было суждено быть, так как внучка Кловиса, Анастасия, показала ему то, что ее предок считал ненужным: музыку, литературу, историю и живопись. Кловис считал Распутина оружием, а Анастасия открытым разумом. В итоге Распутин понял истинную ценность человечества, что оно является хрупким, но чудесным созданием, достойным защиты. Он пересилил свою изначальную цель, научился эмпатии и человеческим чувствам. После этого Распутин переписал военные протоколы Кловиса и отбросил его планы по захвату власти. На данный момент в сюжете игры этот искусственный интеллект стоит в авангарде защиты человечества и человеческих ценностей.
Сможет ли в реальной жизни нейросеть стать собратом человека, сможет ли робот понимать и воспроизводить реальные человеческие чувства, невзирая на внутренние алгоритмы, не воспроизводя заданную программу? Сейчас прогресс идет невероятно быстро, появляются новые, все более совершенные нейросети, и вполне скоро мы это узнаем.
В надежде, что роботы нас не поработят, Эрик Сакса.