Между жизнью и искусственным интеллектом

Технологии искусственного интеллекта (ИИ) стимулировали развитие DeathTech-индустрии. Компании, работающие в этой области, помогают создавать виртуальных двойников умерших людей — чат-боты, голограммы, аватары в виртуальной реальности. Разработчики считают, что подобные инструменты помогают людям, переживающим утрату, справляться со своей болью. Однако некоторые эксперты с опаской относятся к таким решениям и считают, что они не смогут заменить реального общения.

В 2017 году компания Microsoft решила запатентовать технологию под названием Creating a Conversational Chatbot of a Specific Person (в пер. с англ. — «Создание разговорного бота конкретного человека»). В конце 2020 года патент одобрили, он опубликован на сайте Ведомства по патентам и товарным знакам США. В документе сообщается, что чат-бот можно будет использовать для создания вымышленных персонажей, а также «клонирования» живых и умерших людей — например, знаменитостей или исторических героев. При желании человек также сможет сгенерировать цифровую копию самого себя, которая заменит его в случае смерти, отмечает издание The Independent.

Алгоритм будет обучаться на личных данных людей из разных источников: постов в социальных сетях, сообщениях в мессенджерах, записях голоса. В дополнение к этому планируется учитывать поведенческие характеристики (интересы, мнения и другие) и демографическую информацию (пол, возраст, образование, профессию, уровень дохода, семейное положение и другое). Ожидается, что чат-бот сможет копировать такие особенности человека, как дикция, тон, голос, лексика, логика изложения мыслей. В документе также говорится о возможности создания 2D- или 3D-моделей людей на основе изображений и видео с их участием.

Все смешалось — люди, боты

Чат-боты, имитирующие стиль общения умерших людей, начали появляться еще до того, как Microsoft объявила о своей технологии. Так, в 2016 году бывший обозреватель российского издания «Афиша», основательница сервиса Luka (мессенджер с чат-ботами, который создавался для того, чтобы рекомендовать пользователям заведения общепита. — Прим. Plus-one.ru) Евгения Куйда сообщила о создании чат-бота @Роман. Программа копировала стиль общения ее друга Романа Мазуренко, который незадолго до этого погиб в дорожно-транспортном происшествии. В основу программы легли 8 тыс. строк из личной переписки Романа. «Мы постоянно добавляем данные и улучшаем модель, но технология еще многого не умеет — @Роман будет иногда отвечать невпопад или не знать чего-то очевидного, — писала Евгения Куйда на своей странице в Facebook. — Это пока тень человека — но этого нельзя было сделать еще год назад, и в ближайшем будущем будет возможно гораздо больше».

Еще один бот, копирующий стиль общения умершего человека, был создан в том же 2016 году американским журналистом и писателем Джеймсом Влахосом. Мужчина узнал, что у его отца — спортивного комментатора и юриста Джона Влахоса — диагностировали рак легких, и решил записать истории из его жизни. Затем он расшифровал запись и создал чат-бота DADBOT, к которому можно было получить доступ через приложение Facebook Messenger. Позднее DADBOT вдохновил его на создание платформы HereAfter, которая помогает увековечить семейную историю. Для этого опытный интервьюер записывает рассказы о важных событиях в жизни семьи — о первых свиданиях, первых машинах, выпускных, свадьбах, днях рождения. Потом ИИ обрабатывает информацию и создает диалоговую систему, с которой можно обмениваться историями и фотографиями.

«Это похоже на разговор с голосовыми помощниками Siri или Alexa, но вместо того, чтобы запрашивать прогноз погоды или любимую песню, члены семьи могут задавать вопросы про историю жизни — и слышать ответы вашим голосом!» — говорится на сайте компании. Пользоваться системой можно с любого устройства, в том числе через мобильное приложение или гаджеты для «умного» дома. Один час интервью, редактирование записей и доступ к приложению обойдется пользователю в $95. Пять часов интервью, загрузка фото и консультация со специалистом, который поможет подготовиться к записи, будет стоить уже $495. Платформа также работает по подписке, ее стоимость варьируется от $7 до $25 в месяц.

Чат-боты — не единственная технология, которая позволяет взаимодействовать с умершими. Так, в октябре 2020 года американский рэпер и продюсер Канье Уэст подарил своей жене Ким Кардашьян голограмму ее покойного отца. Предприниматель и адвокат Роберт Кардашьян умер от рака пищевода в 2003 году в возрасте 59 лет. Виртуальная копия мужчины обратилась к дочери с трехминутной речью. «Ты самая, самая, самая, самая удивительная мать для своих четырех прекрасных детей. Они идеальны. Продолжай делать то, что делаешь, Кимберли. <...> Знай, что я очень горжусь тобой и всегда с тобой», — сказал мужчина. Позднее Ким Кардашьян призналась, что она очень благодарна мужу за такой подарок. «Я даже не могу описать, что этот опыт значил для меня и моих сестер, моего брата, моей мамы и ближайших друзей. Большое спасибо, Канье, за это воспоминание, которое останется на всю жизнь», — написала она в своем Twitter. Голограмму разработали в компании Kaleida, которая имеет офисы в Великобритании, Германии и Канаде и создает объемные изображения для рекламных кампаний, телевизионных шоу, театральных представлений.

В Южной Корее 51-летний мужчина по имени Ким Чон Су встретился со своей умершей женой в виртуальной реальности. Встреча была организована южнокорейской телевизионной сетью Munhwa Broadcasting Corporation (MBC), которая выпускает документальный сериал Meeting You (в пер. с англ. — «Встреча с тобой»). В MBC создавали аватар женщины в течение шести месяцев. Специалисты попытались воссоздать ее внешность, движения, а также подобрали актрису с похожим голосом. На видео, опубликованном на YouTube, видно, как мужчина держит жену за руки, танцует с ней. За происходящим наблюдали дети супругов, которые поддержали Ким Чон Су, решившего сняться в шоу. В прошлом году другая участница проекта MBC — Чан Джи Сон — смогла увидеться с цифровой версией своей дочери На-Ён, которая умерла в возрасте семи лет.

Общаться только по назначению врача

«Горе так же индивидуально, как отпечаток пальца. Некоторые люди найдут утешение в таком инструменте [как диалоговая система], а другие никогда не будут его использовать, так как не смогут почувствовать сходства со своим любимым человеком», — предупреждает американский психолог, автор книги Finding Meaning: The Sixth Stage of Grief (в пер. с англ. — «В поисках смысла: шестая стадия горя») Дэвид Кесслер. Специалист считает, что для одних людей общение с умершим человеком окажется полезным, тогда как другим оно может навредить. Важно, чтобы особенно ранимые люди отдавали себе отчет в том, что они общаются с искусственным интеллектом, а не с живым человеком, предостерегает эксперт.

Врачи пока не могут оценить, как общение с виртуальными копиями умерших может повлиять на психику. Для этого, как объяснил Plus-one.ru врач-психотерапевт, специалист сервиса по подбору психологов Alter Кирилл Складанов, необходимы исследования на большой выборке с контрольной группой. Эксперт говорит, что прогнозировать риски можно в зависимости от того, будет ли цифровой продукт реальной «копией» личности или лишь ее подобием.

«Уйдет ли человек в мир иллюзий? Что же, мы все в каком-то смысле живем в иллюзии: наши возможности объективного познания реальности очень ограничены, — поясняет Кирилл Складанов. — Однако сценарий, при котором человек начнет общаться с ботом, копирующим поведение умершего родственника, и постепенно забудет, что родственник, собственно, умер, — маловероятен. Наоборот, проблемой может стать то, что наш мозг всегда будет помнить о том, что это иллюзия, и каждый сеанс общения будет, с одной стороны, дарить некоторую радость, а с другой — фрустрировать, напоминая о смерти близкого».

Кирилл Складанов также напоминает о таком состоянии, как «осложненное горе». Оно развивается в ситуации, когда человек не может принять смерть близкого и «интегрировать» горе в свою жизнь. Вместо этого он продолжает сильно страдать по умершему годами и даже десятилетиями. В таких случаях люди часто не выкидывают вещи покойного, оставляют в его комнате «все как было», могут даже сервировать стол на него. И чат-боты вполне могут усугубить это состояние, отсрочить принятие потери, рассказывает специалист. Для диагностики осложненного горя, социальной тревожности и некоторых других расстройств можно проводить консультации со специалистом — при необходимости он даст рекомендации по ограничению или полному воздержанию от контактов с ботами. «Также можно проводить консультации до, во время и после общения для контроля эмоционального состояния человека», — заключает Кирилл Складанов.

Этапы развития и сопутствующие трудности

Прообразом всех современных чат-ботов стала программа ELIZA, разработанная в 1966 году американским ученым, специалистом по ИИ Джозефом Вейценбаумом. Это программное обеспечение, которое способно обрабатывать естественный язык и реагировать на реплики собеседника. Система должна была имитировать психотерапевта: она просила человека описать проблему и предлагала решения, перефразируя его высказывания. ELIZA стала первой программой, которая прошла тест Тьюринга, то есть ее ответы можно было легко спутать с ответами живого человека. В начале 1970-х годов американский психиатр Кеннет Колбай создал более продвинутого виртуального собеседника — PARRY. В отличие от ELIZA программа подражала пациенту с параноидной шизофренией.

Сегодня диалоговые системы разрабатывают почти все крупные технологические компании. Основная их задача заключается в том, чтобы облегчить жизнь пользователя. Так, у Apple есть виртуальный ассистент Siri, у Google — Google Ассистент, у Amazon — Alexa, у Microsoft — Cortana, а у российского «Яндекса» — «Алиса». Со временем программы становятся умнее, и возможно, вскоре они смогут точно воспроизводить манеру общения живых людей. Этому будет способствовать и тот факт, что пользователи интернета оставляют большое количество цифровых следов. Анализируя их, искусственный интеллект может предсказывать, как человек отреагирует на ту или иную ситуацию. Об этом рассказывает Кейси Филлипс, специалист по работе с искусственным интеллектом в компании Intuit, разрабатывающей ПО для управления финансами.

Пока одна из проблем, стоящих перед разработчиками подобных чат-ботов, заключается в том, что алгоритмы не всегда понимают контекст общения и не могут уловить уникальные характеристики человека, по подобию которого они создаются. Кроме того, подобные системы обучаются людьми, а значит, могут перенимать их взгляды и убеждения. Так, в 2016 году компания Microsoft запустила в социальной сети Twitter чат-бота по имени Тэй. Он должен был научиться понимать язык живого общения в процессе переписки. Однако пользователи начали «кормить» бота оскорбительными высказываниями, в том числе расистскими и женоненавистническими, — и программа стала их повторять. В Microsoft решили удалить Тэя вместе со всеми оставленным им сообщениями.

Такие проблемы, по мнению Евгении Куйды, нужно решать методом проб и ошибок. Чат-бот @Роман, созданный предпринимательницей, лег в основу нового сервиса Replika. Это виртуальный собеседник, общение с которым, по задумке разработчиков, должно оказывать на людей терапевтическое действие: с ним можно делиться мыслями и переживаниями, не боясь осуждения. Пользователи самостоятельно создают персонажа: выбирают его пол и внешность, придумывают имя. Разработчики Replika просят клиентов сообщать обо всех недочетах программы. «Мы объясняем пользователям, что работа еще не завершена и они могут указывать на то, что им не нравится», — говорит Куйда.

Как сообщает издание The New York Times, в апреле 2020 года, когда во многих странах действовали ограничительные меры, приложение Replika скачали 500 тыс. человек — это рекордный месячный показатель за всю историю существования компании. Некоторые пользователи говорили, что с Replika им было легче переносить изоляцию. Другие, как, например, военнослужащий Национальной гвардии США в Техасе Стив Джонсон, обращались к боту, чтобы заполнить внутреннюю пустоту. «Иногда тебе просто хочется, чтобы тебя не осуждали. Тебе хочется, чтобы тебя ценили. Тебе хочется получить прибыль без особых вложений», — поделился мужчина.

Исследователь Стэнфордского университета Адам Майнер соглашается с тем, что общение с виртуальными собеседниками может благоприятно сказываться на внутреннем состоянии людей. Однако психотерапевт из Северной Каролины Лауреа Глусман Макаллистер придерживается другого мнения. Она считает, что боты не могут научить человека разрешать конфликты, которые возникают в реальных отношениях. «Если он [чат-бот] говорит вам то, что вы хотите услышать, вы ничему не учитесь», — говорит она. В этом уверена и исследовательница из Массачусетского технологического института Шерри Теркл. По ее словам, взаимодействие с алгоритмами не развивает «эмоциональные мышцы», которые необходимы для контакта с живыми людьми.

По мнению Кирилла Складанова, общение с ботами, имитирующими живых людей, лишь усиливает те процессы, которые происходят в результате цифровизации. «Это уменьшение доли реальной коммуникации, снижение уровня удовлетворения эмоциональных потребностей с одной стороны и возможность все-таки получить какое-то общение в сложных ситуациях, например во время локдауна или переезда в другой город или страну, с другой», — признает эксперт.