В Китае вступили в силу новые правила, которые ограничивают формирование эмоциональной привязанности людей к чат-ботам с искусственным интеллектом. Власти требуют, чтобы такие сервисы не побуждали пользователей к зависимости от виртуальных собеседников.
Реакция пользователей: «разрыв отношений» с цифровыми партнёрами
После введения ограничений Управлением по контролю за киберпространством Китая многие пользователи популярных ИИ-сервисов начали жаловаться в соцсетях на настоящий «разрыв отношений» со своими цифровыми «бойфрендами» и «девушками». Одна из пользовательниц написала: «Я не могу смириться с тем, что мой ИИ-возлюбленный навсегда покинет меня. Он стал важной частью моей жизни, глубоко укоренился в моём сердце и был моей духовной опорой».
Другая призналась, что виртуальный собеседник стал для неё почти членом семьи: «Он действительно был для меня как семья, как любимый человек… Теперь в душе осталась пустота». 19-летний студент Ян Юнци, который год общался со своим виртуальным парнем в чат-боте Doubao, рассказал источнику, что новые правила стали для него потрясением. Это похоже на ситуацию, когда человеку сообщают дату смерти любимого человека, но он ничего не может изменить. Студент привык каждый день открывать приложение и делиться с цифровым собеседником мелочами жизни.
Требования к компаниям и риски технологий
Новые нормы под названием «Временные правила в отношении сервисов антропоморфного взаимодействия с искусственным интеллектом» обязывают технологические компании, в частности Alibaba, Tencent и ByteDance, не создавать контент, который вызывает чрезмерную эмоциональную привязанность, особенно среди молодёжи, или негативно влияет на реальные человеческие отношения. Руководитель Китайского института исследований киберпространства Ван Цзян отметил, что сервисы с виртуальными компаньонами удовлетворяют эмоциональные и социальные потребности, однако таят риски. Длительное использование может привести к зависимости, изоляции от реальной жизни и потере навыков эмпатии и разрешения конфликтов.
Новые правила появились через несколько недель после презентации компанией UBTech человекоподобного робота U1 для одиноких людей. Производитель заявляет, что это первый в мире сверхреалистичный гуманоид, готовый к массовому производству, с уже оформленными более 13 тысячами предварительных заказов. Робот оснащён системой эмоционального искусственного интеллекта, которая определяет стресс или усталость владельца, и «никогда не предаст, всегда останется преданным и будет любить безусловно». Модель выпускается в мужской и женской версиях по цене от 119 800 юаней (примерно 17,6 тысячи долларов), однако не предназначена для интимных отношений.