Казалось бы, зачем машине мудрость? Дело в том, что нынешние ИИ-системы отлично справляются с четко определенными задачами, но пасуют, когда проблема размыта, неоднозначна или требует учета множества точек зрения — то есть в ситуациях, с которыми люди сталкиваются ежедневно. Причина проста: у ИИ нет того набора стратегий, который помогает нам ориентироваться в неопределенности. Международная группа ученых впервые предложила конкретные способы интегрировать мудрость в ИИ, чтобы сделать его более надежным, прозрачным и безопасным.
«Мудрость — это не просто знания или интеллект. Это набор ментальных навыков, необходимых для решения жизненных задач: принятия трудных решений, ориентации в непредсказуемых социальных ситуациях», — поясняет один из руководителей исследования, профессор психологии Университета Ватерлоо Сэм Джонсон.
Ключевая идея ученых — научить ИИ метакогниции, то есть способности «думать о собственном мышлении». На практике это означает, что система должна уметь распознавать границы своих знаний, адаптироваться к контексту, учитывать разные точки зрения и сохранять гибкость в оценке того, как может развиваться ситуация. Специалисты предлагают конкретные пути: от специальных методов обучения больших языковых моделей до новых архитектур и тестов для измерения «мудрости» ИИ.
«Мудрость долгое время казалась нам слишком философским, слишком человеческим понятием, чтобы формализовать ее для машин, — говорит профессор психологии Университета Ватерлоо Игорь Гроссман. — Но если разложить ее на конкретные стратегии — интеллектуальную скромность, поиск альтернативных точек зрения, адаптацию к контексту, — можно создать реальную дорожную карту для ИИ, который в результате будет не просто вычисляет, а рассуждает мудро».
По мнению авторов, «мудрый» ИИ сможет лучше справляться с незнакомыми задачами, эффективнее сотрудничать с людьми, быть понятнее для пользователей и безопаснее за счет более точного согласования своих целей с человеческими. Вопрос актуален как никогда: возможности ИИ стремительно растут, а вот мудрость за ними не поспевает, и это порождает серьезные риски.
«Если бы самый умный человек в мире был малышом, мы все равно не доверили бы ему ядерные коды, — образно замечает Джонсон. — ИИ все больше напоминает ребенка-гения, которому по-прежнему нужна здоровая доза мудрости от людей, которые его создали».
Ранее ученые сравнили ИИ-терапевтов и живых психологов, выяснив, кому люди доверяют больше и почему
