Как на AI Journey 2019 разрушали стену Тьюринга

Представители бизнеса, профессионалы в области технологий, ИИ и анализа данных, представители академического сообщества собрались для обмена практиками в области применения искусственного интеллекта. 8 и 9 ноября в Москве состоялась конференция Artificial Intelligence Journey 2019. На секции «Философия и методология искусственного интеллекта» ученые попытались ответить на вопросы, интересен ли философии искусственный интеллект, может ли последний обладать сознанием и превзойти естественный интеллект и чем ему полезна философия.

Он вспомнил тест, который в 1950 году предложил математик Алан Тьюринг. «Разрушая стену Тьюринга» — такой девиз выбрал выбрал для своей секции ее модератор, Альберт Ефимов, руководитель лаборатории робототехники Сбербанка. Задача ИИ – ввести собеседника в заблуждение. Тест определяет возможности искусственного мышления, предоставляя человеку угадать на основании ответов на вопросы, с кем он общается – с другим человеком или компьютером. Ефимов считает, что сейчас наступила посттьюринговая эпоха – время, когда человек знает, что общается с компьютером, и последний ему интереснее, чем другой человек. Никто из участников эксперимента, разумеется, не видит друг друга. Компьютер пока не может заставлять людей делать то, чего они не хотят. Вместе с тем есть еще области, в которой ИИ пока не в состоянии заменить людей, — те, где требуется принуждение.

Источник: AI Journey

Интерес философии к искусственному интеллекту

Интеллект – способность решать мыслительные задачи, философия изучает мышление на протяжении тысяч лет, поэтому, по словам спикера, конечно же, ИИ интересен философии. Предварил дискуссию главный научный сотрудник института философии РАН Владислав Лекторский, который в своем выступлении ответил на вопрос, интересуется ли философия ИИ. При этом философия не указывает, как развивать ИИ (это не ее задача), она пытается понять его.

Впрочем, можно сказать, что и человек мыслит, познает мир так же, как искусственный интеллект. Искусственный интеллект имитирует человеческую деятельность, но решает задачи иным путем, некоторые даже быстрее, чем человек. Эта компьютерная метафора легла в свое время в основу когнитивной науки.

Однако изучить его настолько, чтобы ответить на вопрос, что такое интеллект и сознание, у них пока не получилось. Мозг – способ взаимодействия с миром, считают приверженцы когнитивной нейропсихологии. Первая – природа сознания. Разбираясь с этими вопросами, ученые столкнулись с двумя интересными проблемами. И может ли ИИ обладать сознанием? Можно ли мыслить, не сознавая, например, находясь в гипнотическом или сомнамбулическом состоянии? Вторая проблема – свобода воли. Философия сознания – сейчас одно из самых актуальных направлений науки. Существует ли она вообще, или все в этом мире детерминировано? Что это такое? Так, возникает вопрос, не угрожает ли ИИ, который может просчитать поведение человека, презумпции невиновности? И без того сложная сама по себе дискуссия усложняется, если переносить ее на цифровую среду. Будет ли правильным арестовать ее за то, что она достаточно достоверно может совершить, но пока еще не совершила? Допустим, компьютер спрогнозировал, что такая-то личность сможет совершить преступление. Третья проблема – творчество. И может ли сам ИИ обладать свободой воли? В этой связи интересна одна человеческая особенность – мы всегда больше ценим копию, чем оригинал, как бы ни была хороша копия, отметил Лекторский. Можно ли назвать настоящим то, что создает ИИ, иногда даже не отличимое от произведений человека?

Интеллектуальные системы будут развиваться, вопрос их взаимодействия с человеком остается, им и занимается в том числе и философия. Подобные вопросы ранее интересовали только философов, однако пропущенные через призму цифровой трансформации они стали жизненно важными. Ведь если человека заменит суперинтеллект, то и вопросов таких не будет. Она ищет ответ на вопрос, как жить в цифровом мире, оставаясь человеком. Другие называют это антропологической катастрофой. «Иногда одни говорят об антропологической революции, смысл которой в том, что человек должен стать другим (если он вообще останется). А третьи полагают, что это одно и то же – революция в виде катастрофы», — заключил Лекторский.

Искусственный интеллект против естественного

Декан философского факультета МГУ Владимир Миронов вспомнил теорию конфликтующих структур, согласно которой естественный интеллект может чувствовать, осознавать, что чувствует, и осознавать, что он это осознаем. Профессор института проблем управления РАН Станислав Васильев акцентировал внимание на том, что искусственный интеллект преуспел в решении задач мышления, но он хуже человека справляется с простыми эмпирическими задачами, связанными со зрением, восприятием и т.п. И если рефлексия в обучении ИИ – первый шаг в сознанию ИИ. Последнее отличает человека от ИИ. Это обязывает говорить не просто о человеке и ИИ, а о гибридном интеллекте, сочетающем в себе ИИ и естественный интеллект в человеке. Профессор института философии РАН Давид Дубровский продолжил тему сознания размышлениями об антропотехнологической эволюции, «которая меняет нашу телесность, сознание и все наши коммуникативные системы». Поэтому в будущем людям, возможно, понадобится что-то другое, не то, о чем думаем сейчас. Гибридный интеллект смещает, таким образом, понятия естественного и искусственного интеллекта и изменяет экзистенциальные смыслы (наши цели, подлинную деятельность и пр.). По его словам, разработчики ИИ иногда забывают, что они обладают искусственным интеллектом. Развитие ИИ влияет на естественный интеллект и наоборот, поэтому нужно думать и о развитии естественного интеллекта, подытожил выступающий. Мы с вами и есть тот самый большой искусственный интеллект». Лекторский также высказал нестандартную точку зрения: «На самом деле никакого естественного интеллекта нет. Сегодня этот большой искусственный интеллект (человечество) начинает себя осознавать и пытается воспроизвести себя. По его словам, «когнитивные карты новорожденного» выстраиваются в искусственной среде культуры. Лекторский, отметив сложность вопроса, все же склоняется к мысли, что человеческое сознание предполагает симбиоз естественного интеллекта и культуры. Он хочет «уйти с белка на песок» (с белковых носителей информации на кремниевые). Но пока я не вижу такой возможности». «Если бы мы научились создавать живых существ и культуру, которая, пусть и не относится к природе, но тоже возникает как будто сама по себе, то можно было бы говорить об искусственном сознании.

Источник: AI Journey

Трудная проблема сознания

«Если я буду определять сознание как возможность смоделировать обстановку и определить свое место в этой обстановке и научу робота сознавать себя, то это уже здорово, это появление искусственного сознания». Станислав Васильев считает, что естественный интеллект и ИИ различает самосознание первого. Сознание – функция мозга. Давид Дубровский полагает, что искусственное сознание возможно в силу принципа изофункционализма систем, предполагающего, что одна и та же функция может быть воспроизведена на разных по своим физическим свойствам субстратах. Если принять эту точку зрения, то можно предположить создание самоорганизующейся системы на других субстратах, которая обладает этой же функцией.

Суть заключается в том, что если сознанию нельзя приписать физические свойства (массу, пространственные характеристики), то как объяснить его связь с мозговыми процессами? Но для этого надо знать, что такое сознание, то есть решить трудную проблему сознания, без осмысления которой, по мнению Дубровского, нельзя думать о прорыве в области ИИ. Как объяснить феномен свободы воли и детерминизм мозговых процессов? Как объяснить причинную функцию сознания (подумал – взял предмет)? Эти знания давно предоставляет эпистемология. Для того чтобы развивать ИИ интеллект, нужно понимать естественный интеллект, а для этого – знать, как он устроен. «Чем больше мы знаем, тем больше мы не знаем». Она может помочь осознать ограниченность собственного мышления, что есть условие для расширения его горизонта. Но именно это впоследствии и помогает нам сделать новый шаг вперед. Также есть допроблемная ситуация, когда мы не знаем, чего не знаем.

ИИ можно даже научить внезапно бросаться спасать утопающих людей. Главный научный сотрудник NNAISENSE Юрген Шмидхубер, что сознание переоценено и вообще давно уже есть в искусственных системах. То есть алгоритм развития искусственных и естественных систем одинаков. Альтруизм можно представить в виде логической последовательности эгоизма людей, которые с течением времени пришли к мысли, что общество успешнее при взаимодействии, чем конфликтах. Однако уже через 30 лет разрыв сократится, а в следующем столетии и вовсе может быть создан крохотный девайс с вычислительной мощностью интеллекта 10 млн человек. Сейчас человеческий мозг в миллионы раз превосходит ИИ из-за большого количества нейросетей. И он либо ничего хорошо не делает, либо хорошо, но одну задачу, чаще всего профессиональную. Интересно, что, по мнению Юргена, мужчину легче заменить искусственным интеллектом, чем женщину, поскольку большинство мужчин может выполнять в единицу времени одну задачу. И легче создать ИИ для одной задачи, чем для нескольких. В то же время женщины многозадачны.

Роль философии в исследовании искусственного интеллекта

Спикер считает, что тем и другим. Владимир Миронов ответил на вопрос, чем является философия для ИИ, — наукой, смотрящей вперед или зеркалом, рефлексирующим уже созданное? Эта недостаточность знаний приводит к непредвиденным ситуациям и ошибкам, что, по мнению декана, является центральной проблемой во взаимоотношении философии и ИИ. ИИ – система алгоритмов, но у человека нет знаний для прогнозирования всех возможных алгоритмов (иное свидетельствовало бы о создании совершенного ИИ). Она предлагает задуматься, все ли, что нас ожидает, «может быть хорошо». Философия – наука, которая смотрит вперед, но видит, что было и выступает предупреждением. «Мы никогда не задумывались, что, например, метафорически одной из первых форм цифровизации были концлагеря: каждому человеку присваивали номер, система стала легкоуправляемой». Готовы ли мы согласиться со всеми алгоритмами, понимая, что это может привести к проблемам? Ефимов добавил, что в то же время, возможно, стоит прогнозировать и то, чего мы лишимся, если не будем развивать ИИ. Таким образом, философы должны смотреть вперед и предупреждать о том, что может быть, повторил выступающий.

Базовым элементом здесь является проблема общего искусственного интеллекта. Говоря о влиянии ИИ на современную философию, директор центра философских исследований МГУ Андрей Алексеев выделил четыре области для рассмотрения: искусственные жизнь, мозг, личность и общество. Развитие ИИ обостряет, таким образом, философский вопросы, что такое мысль, жизнь, личность, общество. Концепция общего ИИ ставит вопросы, может ли машина, жить, сознавать себя, быть личностью и образовать общество.

По его мнению, этот термин точнее выражает суть явления, обозначая технологи, которая может заниматься вычислениями, но еще не является интеллектом в полном смысле этого слова. В самом конце Алексеев предложил заменить термин «искусственный интеллект» на «интеллектную систему».