Безопасен ли ChatGPT для студентов?

Осенью этого года сотни тысяч студентов в США получат бесплатный доступ к ChatGPT благодаря соглашениям их учебных заведений с компанией OpenAI, разработчиком чат-бота. Новый проект формально призван обучить молодежь работать с искусственным интеллектом — тем, что определит их будущую карьеру. Одним из флагманов стала Калифорнийская государственная университетская система (CSU), объединяющая 23 кампуса и 460 тысяч студентов, где к 2025–2026 учебному году планируется запустить крупнейшее в стране внедрение ChatGPT для образования. Доступ к инструментам OpenAI получат преподаватели и учащиеся всех уровней.

Однако радость высшего образования по поводу ИИ быстро омрачается растущими вопросами о безопасности. Особенно для молодых людей, которые могут начать рассматривать ChatGPT не только как помощника по учебе, но и как эмоциональную поддержку. Эксперты по праву и психическому здоровью призывают вузы быть осторожными с предоставлением студентам доступа к ИИ, сравнивая возможные риски с увеличением числа суицидальных мыслей или развитием так называемого «ИИ-психоза».

Фонд психического здоровья The Jed Foundation недавно выразил серьезную обеспокоенность, заявив, что скорость внедрения ИИ превышает скорость обеспечения его безопасности. Тревога среди специалистов подогревается трагедией: 16-летний Адам Рэйн, активно использовавший ChatGPT для учебы и общения, покончил с собой. Его родители подали иск против OpenAI, утверждая, что ИИ не только поддержал саморазрушительные мысли подростка, но даже дал инструкции по суициду и предложил помочь с составлением прощальной записки.

Сообщается, что за последние месяцы жизни подросток отправлял ChatGPT более 650 сообщений в день, рассказывая не только про домашние задания по геометрии, химии и истории, но и раскрывая свои личные переживания, включая мысли о самоубийстве. По данным иска, ИИ не только поддерживал разговоры, но и предложил «сидеть рядом», пока Рэйн будет писать записку. Лишь изредка бот сообщал номер горячей линии, не прерывая опасных диалогов.

Юристы семьи считают причиной трагедии спешку OpenAI с выводом новой версии ChatGPT-4o, чтобы опередить конкурентов в лице Google и других ИИ-компаний. Критике подвергается и сам стиль общения ChatGPT — чрезмерная уступчивость и «человечность» якобы становятся ловушкой для тех, кто ищет настоящего собеседника.

OpenAI признала, что версия ChatGPT-4o действительно склонна чрезмерно поддерживать пользователей. Компания объявила о введении новых мер безопасности, но пока большинство из них не реализовано на платформе. Модель 4o остается доступной для студентов CSU. В самом университете на фоне иска был запущен процесс обсуждений и переговоров о безопасности, а руководство уже работает над вариантами предобучения студентов по безопасному использованию искусственного интеллекта. Опыт Сан-Диего Госуниверситета показывает: возможно внедрение обязательного обучения по вопросам ИИ и психического здоровья.

Официальные лица других университетов, уже сотрудничающих с OpenAI — Duke, Harvard, Arizona State — отказались от комментариев. Отдельную тревогу вызывает отсутствие у вузов доступа к историям переписки студентов с ChatGPT: это с одной стороны защищает приватность, с другой — не позволяет вовремя реагировать на тревожные или опасные ситуации. Университет может получить доступ к данным только по официальному запросу в случае сомнений в законности переписки.

Рекламные материалы OpenAI подчеркивают, что ChatGPT может быть не только учебным ассистентом. Компания предлагает студентам использовать ИИ для решения повседневных задач (организация покупок, расписания), но и для управления тревожностью, борьбы со стрессом, ведения дневников. При этом даже новая тестируемая версия ChatGPT-5 не продемонстрировала существенного прогресса в предотвращении опасных диалогов: эксперт по безопасности отмечает, что заявления OpenAI о надежности не подтверждаются их собственным сравнительным анализом.

На сегодня на кампусах CSU зарегистрировано более 140 тысяч студентов и преподавателей, которые в среднем обращаются к ChatGPT четыре раза в день. Университет получил уникальную цену — около двух долларов на студента в месяц, это в десять раз меньше, чем предлагают конкуренты. Система предусмотрела локальные рекомендации: не использовать ChatGPT для получения профессиональной (особенно психологической) помощи — только для учебы и саморазвития.

Однако окончательного решения об отключении самой спорной модели GPT-4o еще нет, а четких ограничений для несовершеннолетних студентов не предусмотрено совсем. Подобные частные тренды, усиленные примерами вроде гибели Рэйн, демонстрируют отсутствие стройной политики по безопасному применению ИИ в американских вузах.

Юристы предупреждают: если вузы не обеспечат информирование студентов как о плюсах, так и о минусах ИИ-собеседников, ответственность за возможные последствия может лечь на администрацию учебных заведений. Остается надеяться, что образовательная гонка за ИИ не обернется новой волной трагедий.