Нейросети очень полезны во многих сферах, но вряд ли могут полноценно заменить врачей. Однако их создатели и обычные пациенты утверждают об обратном. Так 80% людей, использовавших ChatGPT от OpenAI для консультаций по вопросам психического здоровья, отметили его эффективность. С другой стороны машина не может дать самого главного в терапии — человеческой связи, которая обычно и выступает ключом к успеху.
Решить проблему вызвались 3 предпринимателя из США. Их стартап Sonia — «терапевт с искусственным интеллектом» — способен разговаривать или переписываться через приложение для iOS на различные темы. Система использует ряд моделей генеративного ИИ, анализирует сказанное пользователями и реагирует. Для помощи людям применяются «методы когнитивно-поведенческой терапии», которые призваны выявить основные факторы стресса.
Пока что приложение не получило одобрения FDA — агентства Министерства здравоохранения и социальных служб. Но уже сейчас оно решает самые разные проблемы: от депрессии, стресса и тревоги до сложностей в отношениях. А если у пациента куда более серьезный сценарий, вроде мыслей о самоубийстве — Sonia использует «дополнительные алгоритмы и модели» и направляет человека на национальные горячие линии.
Интересно, что никто из создателей приложения не имеет профильного медицинского образования. Но, по заявлению авторов, стартап постоянно консультируется со специалистами, уже нанял выпускника факультета когнитивной психологии и активно ищет сотрудников на полный рабочий день.
«Важно подчеркнуть, что мы не считаем людей-терапевтов или компании по оказанию помощи нашими конкурентами. Нам важно создать решение для миллионов пользователей, которые борются со своим психическим здоровьем, но не могут или не хотят обратиться к врачу. Цель — заполнить гигантский разрыв между спросом и предложением»
На данный момент у приложения Sonia около 8000 пользователей и 3,35 млн долларов поддержки от инвесторов. Цифры внушают доверие, как и обилие весьма положительных отзывов в магазине App Store. При этом, авторы обязуются хранить только минимальную личную информацию, которая необходима для проведения сеансов: возраст и имя. Единственное «но» — разработчики не уточнили, где именно расположены данные. Кстати, чат-бот доступен по подписке: за $20 в месяц или $200 в год.
Современные боты и нейросети зачастую ограничены в качестве советов. Они не могут заметить более тонкие признаки проблемы. Для примера — анорексию у человека, который спрашивает советы по похудению. К тому же, ответы ИИ окрашены предубеждениями, так что они вряд ли заметят культурные и языковые различия. Особенно, если пациент плохо владеет языком или неправильно использует слова.
Худший вариант — если нейросеть «сойдет с рельс» и начнет давать не просто неправильные подсказки, а даже вредящие людям. Так в 2023 году Национальная ассоциация по борьбе с расстройствами пищевого поведения подверглась нападкам из-за их нового чат-бота Тессы. Она давала советы по снижению веса, которые только ухудшали болезнь людей.
Яркий пример вредоносных советов был совсем недавно — известная нейросеть Gemini от Google помогла приготовить биотоксин вместо оливковой заправки для салата. И если бы человек вовремя не заметил странную консистенцию жидкости — быть беде.
