Источник: depositphotos.com

Искусственный интеллект по правилам и без: нужно ли регулировать отношения роботов и людей

В Европарламенте начались обсуждения правил общения человека и искусственного интеллекта. Законодатели должны решить, стоит ли наделять роботов статусом «электронная личность». Эти меры должны обезопасить людей от психологического или физического вреда от внедрения искусственного интеллекта в бытовую жизнь. Мы спросили у экспертов Университета ИТМО, действительно ли уже пора создавать «робоэтику», так ли уж опасен искусственный интеллект для человека и насколько целесообразно сравнивать его с человеческим.

Актуальность проблемы

В Европарламенте полагают, что роботы станут причиной новой промышленно-технологической революции, которая затронет все слои общества, сообщает BBC.com. На первое место в этом случае ставятся вопросы безопасности людей и их экономического благосостояния. Ведь если роботы будут делать часть работы за нас, упадут ли наши заработные платы? Кроме того, сообщается, что внедрение роботов может угрожать человеку как виду. Поэтому именно сейчас так важно начать регулировать разработку искусственного интеллекта (ИИ) и его отношения с людьми.

«Сложно комментировать обсуждения в Европарламенте, особенно их актуальность. В Евросоюзе есть объективно более важные проблемы, и мне кажется, что в таком ключе проблема является надуманной и ее следует отнести к жанру фантастики. Как отвечать на такие вопросы, когда до сих пор нет нормального регулирования отношений людей и людей?! Зачем необходим этот отчет? Могут быть разные версии: отвлечение внимания от реальных проблем, замер настроений в обществе, попытка угадать будущие рынки, а также попытаться управлять ими», — прокомментировал декан факультета систем управления и робототехники Антон Пыркин.

Заместитель директора мегафакультета компьютерных технологий и управления Сергей Колюбин, напротив, считает, что, помимо технологических вызовов, развитие робототехники ставит перед человечеством ряд непростых вопросов этического, социального и легального характера. Он подчеркивает, что Европарламент идет по правильному пути, предпринимая превентивные меры и устанавливая ориентиры для разработчиков и игроков на рынке высоких технологий. При этом для Европарламента экономические интересы не должны быть определяющими, их главная задача, скорее, благополучие общества.

Источник: http://cinematix.org/
Источник: http://cinematix.org/

«На базе законов Азимова (Айзек Азимов — американский писатель фантаст, популяризатор науки, биохимик — прим. ред.) стоит выработать свод правил, которые будут регламентировать деятельность разработчиков и являться обязательными. Уже есть прецеденты, когда мы сталкивались с подобными проблемами и оказывались на распутье, потому что ни четких законов, ни общественных норм на этот счет еще нет. Взять, к примеру, применение боевых роботов или аварии автономных автомобилей. Есть и ряд еще не реализовавшихся, но прогнозируемых сценариев. Например, принцип безусловной помощи не требует от человека „вести себя правильно“, чтобы поддерживать хорошие отношения с роботом-ассистентом. Получается, что взаимоуважение и многие важные моральные принципы становятся рудиментами?» — рассуждает Сергей Колюбин.

Реальные угрозы

Когда читаешь или смотришь популярные материалы об ИИ, часто встречаешь фразы по типу «машины захватят мир». Эта проблема кажется надуманной: как программа может принимать самостоятельные решения, если это всего лишь программа?

«В самом деле, поведение робота определяется предустановленной программой либо с помощью передаваемых дистанционно задающих воздействий. Актуальны вопросы кибербезопасности. Ведь в руках преступников любая полезная вещь или устройство может оказаться реальным оружием. Банкомат — тоже робот, и он тоже может причинить существенный вред, если управление над ним окажется в руках злоумышленников. Не говоря уже о мобильных роботах, которые могут намеренно наносить физический ущерб. И не по своему желанию (захватить мир), а по программе автора», — отметил Антон Пыркин.

Любой робот сегодня — это большой подвижный электромеханический объект, действующий по некоторой инструкции, добавляет он. С ним соглашается ассистент кафедры систем управления и информатики Александр Капитонов. Устройства не могут быть полностью автономными даже с экономической точки зрения: ведь они кому-то принадлежат. Таким образом, роботы всегда являются закрытой системой, которая ограничена собственными ресурсами и функционалом.

«Возможно, в будущем будут инициативы по созданию „открытых“ роботов, которые смогут самостоятельно принимать решения. В любом случае, ответственность за ИИ, который сможет уничижать человеческое достоинство или быть угрозой безопасности людей, должны нести разработчики. Поэтому для них стоит ввести какие-либо ограничения, чтобы ИИ корректно взаимодействовал с людьми», — отметил Александр Капитонов.

Сериал "Черное зеркало". Источник: http://video.fraia-kino.ru/
Сериал "Черное зеркало". Источник: http://video.fraia-kino.ru/

Сложно представить, как робот может унизить человека или ограничить его волю. Однако сценаристы уже дали нам почувствовать будущее в сериале «Черное зеркало». Во второй серии зритель видит мир будущего, в котором большинство людей живет в закрытых помещениях, стены которых — цифровые экраны. И в жизнь людей постоянно вмешивается рекламный или развлекательный контент, хотят они того или нет. За спокойную жизнь без таких помех надо платить. Конечно, это, в первую очередь, гиперболизированная аллюзия на современных Интернет-пользователей. Однако это и условный пример того, как ИИ может навязывать ту или иную продукцию и ломать волю человека.

Таким образом, создавая высокофункциональный ИИ, необходимо помнить и о вопросах этики. И здесь научные принципы не должны подтасовываться или подвергаться сомнению, которые заключаются, в первую очередь, в достоверности и оригинальности исследований. Скорее, здесь более важны моральные принципы, которыми должны руководствоваться разработчики. Общение с роботами не должно вредить психологическому здоровью человека. Таким образом, перед законодателями возникает очень деликатная задача: не остановить прогресс и в то же время гуманизировать его. Однако возможно ли сделать это с помощью законов? Скорее всего, да. Ведь пока поведение роботов программируемо.

Например, в Стэнфорде разрабатывают «вежливого» робота-ассистента, который сможет работать в местах скопления людей и соблюдать этические и традиционные нормы поведения. Для этого программисты и робототехники проанализировали множество видео того, как люди ведут себя на улицах или в других общественных местах, и на основе эти данных написали специальные алгоритмы поведения робота. Устройство оснащено сенсорами, которые регистрируют нахождение рядом людей, вычисляют их физические особенности, а также определяют окружающий ландшафт. ИИ анализирует эти сведения и на основе их строит модели поведения робота.

Насколько логично сравнивать человеческий интеллект и искусственный?

Фанаты Айзека Азимова помнят фильм «Я, робот» и философский диалог между главными героями киноленты, человеком и роботом, об истоках и подлинности творчества. «Может ли машина создать симфонию? Нет. Написать шедевр?» — спрашивает человек. «А вы можете?» — интересуется ИИ. Нет, не может. Так в чем же разница?

В связи с этим возникает множество вопросов. Логично ли сравнивать искусственный интеллект и человеческий? На первый взгляд взгляд, это все равно, что сравнивать функции Windows с функциями человеческого мозга, но никто этого не делает. Интеллект — это, в первую очередь, способность обучаться через мышление, память, физические ощущения и воображение. Можно ли наделить этим всем робота? Можно ли написать алгоритм для воображения? Да и нужно ли, вообще, воображение роботу, если он — это помощник человека для определенных операций?

Робот-художник. Источник: thietkewebsitedep.com
Робот-художник. Источник: thietkewebsitedep.com

«Есть понятие сильного и слабого искусственного интеллекта. Конечно, между интеллектом человека и машины пока пропасть. Нейросети, являющиеся современной технической базой ИИ, имеют общее с принципами устройства и работы живого мозга только в названии. Тем не менее, по делегируемым роботам-программам функциям (анализ, принятие решений) машинный интеллект все больше замещает, а местами и превосходит естественный. В этом контексте, сравнение ИИ и человеческого интеллекта уместно», — прокомментировал Сергей Колюбин.

К числу выдающихся научно-технических прорывов 2016 года многие авторитетные международные издания отнесли победу программы AlphaGo, созданной на платформе DeepMind, над чемпионом по игре Го. Теперь человек уступает машине не только в шахматах, но и в значительно менее алгоритмизируемых играх. То же глубокое обучение используется разными стартапами, которые разрабатывают роботов-художников и роботов-композиторов, генерирующих музыку в духе Баха или Deep Purple или стилизующих фото под Ван Гога или Мунка. Кто-то трактует это как способности к творчеству, подчеркивает заместитель директора мегафакультета КТУ.

В то же время алгоритмы ИИ могут помогать человеку делать творчество более популярным. Александр Капитонов привел пример с производством телесериала «Карточный домик» компанией по трансляции видеоконтента Netflix. Netflix имеет доступ к огромной базе данных по предпочтениям зрителей, в том числе, с какими актерами они любят смотреть фильмы, в какое время они смотрят киноленты того или иного жанра, какие режиссеры собирают большие аудитории и так далее. С помощью этих данных можно заранее смоделировать «идеальную киноленту» и снять ее по заданным параметрам, что сделали в Netflix с сериалом «Карточный домик», который уже долгое время получает высочайшие рейтинги. К слову, сервис по прогнозированию популярности фильмов разработал и студент Университета ИТМО.

Станет ли ИИ лучше людей во всех смыслах?

«Пока ИИ не настолько развит, чтобы конкурировать с человеком в глобальном масштабе. Конечно, в скорости расчетов робот уже давно лучше людей. А вот сможет ли робот принимать решения более хитрые, чем решения человека, — здесь у меня очень большие сомнения. В первую очередь, я бы заострил внимание на устойчивом и повторяемом процессе принятия решений, а не на некоторых успешных, хорошо подготовленных и поставленных (человеком) экспериментов», — уверен Антон Пыркин.

Источник: http://www.k-solutions.ru/
Источник: http://www.k-solutions.ru/

Нейросети, как основной инструмент для создания ИИ, должны обучаться (подробнее о нейросетях здесь). Пока без человека даже самые современные и мощные алгоритмы не могут принимать самостоятельных решений и познавать новое в том смысле, в котором мы привыкли это понимать. По мнению Сергея Колюбина, настоящим прорывом в разработке ИИ станет тот момент, когда машина действительно сможет генерировать новые знания на основе имеющихся и, например, открыть физическое явление, придумать лекарство от рака или вывести рабочую экономическую теорию, гарантирующую мир и всеобщее благо.

«На мой взгляд, современная история об успехах ИИ про то, как „ученик превзошел своего учителя“. Мне гораздо интереснее, сможет ли искусственный интеллект стать „учителем“ для естественного. Вот это будет событие, а пока мы наблюдем generation, а не creation», — подчеркнул он.

Также в будущем особо важно будет заново переосмысливать экономику. Впереди новый виток промышленного роста, новые способы разделения труда с привлечением роботов, отметил Антон Пыркин. С точки зрения новых прорывных технологий у нашей страны больше шансов стать лидером, так как мы всегда были сильны в решении сверхзадач, а с точки зрения серийного производства того или иного продукта мы часто отстаем, уверен он.

Кроме того, актуальным будет вопрос психологического принятия того, что какую-то работу за человека будет выполнять машина. И чем раньше люди узнают об этом, тем лучше. Здесь уже ответственность ложится на плечи популяризаторов науки и журналистов, которые должны доходчиво представлять общественности современную ситуацию с внедрением ИИ. Как минимум, люди должны понимать, куда уходят их налоги на содержание научно-исследовательских учреждений и программы технологического развития, привел пример Сергей Колюбин.

«Захочет ли условный слесарь Иванов про это знать — другой вопрос. Но лучше бы захотел, хотя бы потому, что лет через пять рядом или вместо него может оказаться робот», — заключил он.

Редакция новостного портала
Персоны
  • Антон Пыркин

    Декан факультета систем управления и робототехники

  • Александр Капитонов

    Ассистент кафедры систем управления и информатики факультета систем управления и робототехники Университет ИТМО

  • Сергей Колюбин

    Заместитель директора по научно-технологическому форсайту мегафакультета компьютерных технологий и управления

Архив по годам:
Пресс-служба