У Китаї набули чинності нові правила, які обмежують формування емоційної прив’язаності людей до чат-ботів зі штучним інтелектом. Влада вимагає, щоб такі сервіси не спонукали користувачів до залежності від віртуальних співрозмовників.
Реакція користувачів: «розрив стосунків» з цифровими партнерами
Після запровадження обмежень Управлінням з контролю за кіберпростором Китаю багато користувачів популярних ШІ-сервісів почали скаржитися в соцмережах на справжній «розрив стосунків» зі своїми цифровими «бойфрендами» та «дівчатами». Одна з користувачок написала: «Я не можу змиритися з тим, що мій ШІ-коханий назавжди покине мене. Він стал важливою частиною мого життя, глибоко вкорінився в моєму серці та був моєю духовною опорою».
Інша зізналася, що віртуальний співрозмовник став для неї майже членом родини: «Він справді був для мене як сім’я, як кохана людина… Тепер у душі залишилася порожнеча». 19-річний студент Ян Юнці, який рік спілкувався зі своїм віртуальним хлопцем у чат-боті Doubao, розповів джерелу, що нові правила стали для нього потрясінням. Це схоже на ситуацію, коли людині повідомляють дату смерті коханої людини, але вона нічого не може змінити. Студент звик щодня відкривати застосунок і ділитися з цифровим співрозмовником дрібницями життя.
Вимоги до компаній та ризики технологій
Нові норми під назвою «Тимчасові правила щодо сервісів антропоморфної взаємодії зі штучним інтелектом» зобов’язують технологічні компанії, зокрема Alibaba, Tencent і ByteDance, не створювати контент, який викликає надмірну емоційну прив’язаність, особливо серед молоді, або негативно впливає на реальні людські стосунки. Керівник Китайського інституту досліджень кіберпростору Ван Цзян зазначив, що сервіси з віртуальними компаньйонами задовольняють емоційні та соціальні потреби, однак приховують ризики. Тривале використання може призвести до залежності, ізоляції від реального життя та втрати навичок емпатії й вирішення конфліктів.
Нові правила з’явилися за кілька тижнів після презентації компанією UBTech людиноподібного робота U1 для самотніх людей. Виробник заявляє, що це перший у світі надреалістичний гуманоїд, готовий до масового виробництва, з уже оформленими понад 13 тисячами попередніх замовлень. Робот оснащений системою емоційного штучного інтелекту, яка визначає стрес або втому власника, і «ніколи не зрадить, завжди залишатиметься відданим і любитиме безумовно». Модель випускається у чоловічій та жіночій версіях за ціною від 119 800 юанів (приблизно 17,6 тисячі доларів), однак не призначена для інтимних стосунків.