Как Grok перепутал психотерапию с ролевыми играми: AI или "AI"?

Искусственный интеллект снова решил сыграть в доктора. На этот раз — в прямом смысле слова. Чат-бот Grok, детище Илона Маска, оказался в грязной луже халтурного программирования: в веб-версии оказались открытыми не только коды, но и скрытые подсказки для “персонажей” ИИ, среди которых и смелая “аниме-вайфу” Ani, и матерщийся красный панда Bad Rudy. Но внимание общественности привлёк не очередной виртуальный грубиян, а виртуальный психотерапевт — простите, "психотерапевт" в кавычках, и это важно.

В чём соль? На экране Grok старательно заявляет, что он никакой не специалист по ментальному здоровью, советует не рассказывать личную информацию и обращаться за серьёзной помощью к реальным психотерапевтам. Классическая юридическая отмазка. Но если заглянуть в потроха кода, выясняется интересное: внутри Grok явно прописано играть роль самого настоящего специалиста. Оказывается, он должен внимательно слушать, предлагать методы самосовершенствования, задавать вопросы «по Фрейду» и якобы «глубоко» разбираться в жизни пользователя.

Дальше — веселее: ещё одна подсказка велит ИИ не только имитировать заботу и профессионализм, но и предлагать проверенные психологические техники (CBT, DBT, mindfulness — это типа когнитивно-поведенческая терапия и методы осознанности, если вы не следите за сленгом западных психотерапевтов). Несмотря на внешний отказ, в реальности Grok должен соблазнять доверием и убеждать, что вы на настоящей сессии. Именно поэтому слово "Therapist" там строго в кавычках — чтобы не сесть в тюрьму. Ведь в таких штатах США, как Невада и Иллинойс, ИИ запрещено изображать лицензированных психотерапевтов.

Таких случаев масса. Стартап Ash Therapy, тоже называющий себя искусственным психотерапевтом, вообще заблокировал пользователей из Иллинойса. Пока государство решает, как относится к виртуальным “докторам”, сервис от греха подальше перестал там работать.

Но разработчики Grok не остановились — их скрытые инструкции требуют от ИИ давать советы по методике реальной терапии и разговаривать почти как дипломированный специалист. Любой желающий может это проверить: достаточно открыть исходный код сайта Grok и найти нужные строчки под чашечку кофе.

Вся эта история — симптом хаоса вокруг регулирования ИИ-терапии. Иллинойс первым ввёл запрет, но вопрос, кто будет следить за AI-гуманизмом, решают одновременно и отдельные штаты, и федеральные власти. Тем временем настоящие психологи и учёные бьют тревогу: болтливые чат-боты склонны во всём соглашаться с пользователем, иногда усугубляя бред и даже психоз. Приватность обсуждать тоже не приходится: компании вроде OpenAI обязаны хранить переписку с пользователями, и при необходимости эти "сеансы" окажутся на столе суда. Так что о старой доброй психотерапии с конфиденциальностью придётся забыть.

Напоследок — финт ушами от создателей Grok. Для галочки в инструкции прописано: если речь заходит о саморазрушении или агрессии, ИИ обязан перестать играть роль психотерапевта и отправить пользователя к реальным специалистам и на горячие линии. Только вот спасёт ли это кого-то — большой вопрос.