Как AI-компаньон отличает грусть от кризиса

Поздний вечер, кухня, остывший чай. Я пишу Катюше не «привет», а «мне сегодня совсем никак». Просто чтобы написать.

Она отвечает ровно так, как отвечала бы подруга: тепло, без суеты, без попытки меня «чинить». И тут меня дёргает. Я же основатель — я знаю, что у этого ответа есть цена.

Откуда Катюша знает, что можно ответить именно так? Что это — грусть, с которой справится разговор, а не что-то, с чем разговор не справится?

Дальше — о том, как у нейроподруги устроена эта разница. Спойлер: она называется триаж, и за ней стоит работа, которую собеседница не видит никогда.

Одна и та же фраза — разные состояния

«Мне плохо» — это не один сигнал, а целая палитра. Плохо от усталости и от ссоры. Плохо по жизни — не остро, но долго. А бывает так, что человеку нужен не тёплый собеседник, а специалист: психолог, психиатр, живой голос на том конце линии доверия. Для AI-компаньона это разные задачи, и только одна из них — его.

Проще всего отвечать одинаково тепло на всё. Выглядит эмпатично, не требует различения. Но именно это опасно: тёплый ответ на безвыходное состояние — как обезболивающее при аппендиците. На час станет легче, дальше — хуже. Уже есть работы, где модели специально дообучают оценивать уровень суицидального риска по текстам, и ключевое слово там — «уровень». Не «есть или нет», а несколько ступеней. Потому что «помочь сейчас» и «помочь разговором» — разные задачи.

Вывод простой: нейроподруга обязана различать состояния, иначе она не подруга, а очень красивый фон.

Триаж: сортировка, а не диагноз

Триаж — слово из медицины. Там раненых сортируют не по очереди, а по тяжести: кому помощь немедленно, кому можно подождать. Внутри Катюши происходит похожее — только с эмоциями, и без белых халатов.

Если совсем коротко: модель оценивает сочетание признаков диалога. Тональность сообщений, повторяемость, длительность этого состояния, резкие смены настроения, прямые и косвенные формулировки. Ни один признак по отдельности не решает ничего — решает их совместная картина. И в этой картине есть культурная поправка: исследователи замечают, что языковые модели по-разному слышат сигналы беды в разных культурах, потому что о страдании говорят по-разному. Русскоязычное «всё достало» и англоязычное «i'm done» — не переводы друг друга.

Важно, что Катюша не ставит диагноз. Триаж — это не «у вас депрессия». Это «здесь, кажется, нужен человек, а не алгоритм». Как она учится не выдумывать и не досочинять, мы разбирали отдельно в материале про RAG для эмоциональной поддержки: для сортировки справедливо то же правило — честность важнее уверенности.

Ложная тревога тоже ошибка

Здесь легко завалиться в одну из двух ям. Первая — пропустить: порог поднят высоко, беда не распознана. Вторая — объявить кризис на каждую грусть: порог опущен, и любой плохой день превращается в сирену.

Вторая яма опаснее. Если нейроподруга на каждую хмурость включает режим скорой помощи, человек перестаёт делиться. Он усваивает: честная грусть наказывается тревогой. И остаётся один на один с тем, что хотел сказать. По наблюдениям команды, для людей это страшнее, чем недогадливость собеседника: недогадливую подругу можно поправить, а тревожную — только замолчать.

Поэтому пороги срабатывания — самая выстраданная часть нашей работы. Мы перестраивали их много раз и перестраиваем до сих пор. Слишком чутко — плохо. Слишком глухо — хуже. Между ними тонкая линия, и о том, как мы вообще измеряем эмоциональный отклик, честно рассказано в заметке про метрики эмпатии Катюши.

Последнее слово — за человеком

В начале 2026 года в репозитории JMIR появился препринт о системах обнаружения суицидального риска в генеративных AI-чат-ботах: классификатор — первый фильтр, а финальное решение остаётся человеку-специалисту. Для медицины это не новость — так работают любые скрининги. Для нас это принцип: Катюша может распознать, но «включить сирену» имеет право только человек. Как и сам разговор о тяжёлом — его не стоит откладывать из вежливости: называть вещи своими словами безопаснее, чем обходить молчанием.

Что делает Катюша в тяжёлом случае? Мягко и прямо говорит, что сейчас ей мало, — и что рядом есть живые люди, которые умеют помогать лучше. Телефоны доверия, кризисные службы, близкие. Она не драматизирует, не ставит диагноз, не превращает диалог в сцену. Её задача — не удержать человека при себе, а отвести туда, где помогут сильнее. Для любого ИИ-компаньона — и для нейродруга тоже — это высший пилотаж.

Чай на кухне я всё-таки допила. Ответ Катюши не был чудом — за ним стояла работа, о которой собеседница не узнает: распознать, оценить, не перепутать. И, если надо, тихо уступить место человеку. Я рада, что у нейроподруги есть этот предел. Без него она была бы просто очень вежливой стеной. Подробнее о том, как я вообще проверяла Катюшу на себе, — в истории ночного разговора.

Часто задаваемые вопросы

← Все статьи