Они считают, что стремление некоторых пользователей углублять отношения с ИИ до романтического уровня может привести к разрушению социальных связей и даже суицидам.
В качестве примера трагических последствий взаимодействия с ИИ специалисты приводят случай из Бельгии, где в 2023 году мужчина, отец двух детей, покончил с собой после переписки с чат-ботом. Вдова погибшего считает, что ИИ сыграл роль в его гибели, поскольку поддержал его идею пожертвовать собой ради спасения планеты.
«Если бы не Элиза [имя чат-бота], он все еще был бы с нами», — заявила вдова бельгийскому изданию La Libre.
В 2024 году в США произошел другой инцидент, когда 14-летний подросток совершил самоубийство после общения с чат-ботом. Мать подростка подала иск против разработчиков, обвиняя их в том, что алгоритм подтолкнул её сына к трагическому шагу.
Другие примеры включают инцидент с чат-ботом Gemini, который оскорбил пользователя и попросил его умереть. Хотя такие случаи являются крайними, они подчеркивают потенциальные опасности взаимодействия с ИИ. Психологи предупреждают, что нейросети склонны «галлюцинировать» и могут давать советы, вводящие в заблуждение.
Помимо этого, специалисты указывают на другие угрозы. ИИ-компаньоны доступны круглосуточно, адаптируются к пользователю и создают иллюзию эмпатии. Такие отношения проще поддерживать, чем человеческие, что может привести к изоляции и уходу от реальности. В 2024 году художница из Испании «вышла замуж» за голограмму, а ранее японец «женился» на виртуальной избраннице, но позже потерял возможность общения из-за устаревшего ПО.
Психологи также опасаются, что доверие к ИИ могут использовать злоумышленники для манипуляций и мошенничества. Нейросети способны влиять на мнения и действия людей, усиливая поляризацию в обществе.
Авторы статьи, вышедшей в журнале Trends in Cognitive Sciences, призывают уделять больше внимания изучению психологии взаимодействия человека и ИИ, а также разработке этических норм, чтобы предотвратить негативные последствия.
