Единственная функция нейросети — рассматривать пятна Роршаха и выдавать результаты, а сам проект разработан с целью показать, как обучающая выборка может повлиять на искусственный интеллект. Ознакомиться с Norman можно на официальном сайте университета.
Тест Роршаха был разработан в начале 20-х годов прошлого века швейцарским психиатром Германом Роршахом. Проходящему тест пациенту показывают десять изображений с симметричными кляксами краски, и просят интерпретировать каждую из них: рассказать о первой пришедшей в голову ассоциации.
Сам Роршах, а также все его последователи, полагали, что люди с разным психическим состоянием по-разному реагируют на формы и цвета и видят в них совершенно различные фигуры и образы. Несмотря на то, что валидность данного метода до сих пор не подтверждена, его используют в психиатрической практике по всему миру.
Тест Роршаха послужил основой и для новой нейросети, разработанной исследователями под руководством Пинар Янардаг (Pinar Yanardag) из MIT. Norman разработан с помощью методов глубокого обучения. В качестве обучающей выборки авторы использовали описания изображений из тематического сообщества c Reddit, посвященного разговорам о смерти: из этических соображений разработчики не называют его.
На основе собранного датасета нейросеть научили интерпретировать пятна Роршаха. Ответы нейросети затем сравнили с ответами, выданными нейросетью, обученной на датасете MsCOCO, собранном для распознавания изображений. Результаты оказались очень разными: нейросеть, обученная на стандартном датасете, видела в пятнах «вазу с цветами», а Norman — «застреленного мужчину».
Нейросеть достаточно простая и функций у нее немного: единственным практическим применением подобной системы может быть компьютерная диагностика ответов реальных людей на тест Роршаха. На деле же разработчики хотели показать, насколько искусственный интеллект может быть предвзятым в зависимости от обучающей выборки.
Несмотря на то, что предвзятость датасетов может сильно сказаться на работе алгоритма, основанного на методах машинного обучения, ее можно использовать и во благо. Например, с помощью векторного представления слов и анализа множества текстов, написанных в течение ста лет, разработчики смогли изучить, как менялось отношение общества к женщинам и азиатам.
Елизавета Ивтушок.
Подробнее о фильме Альфреда Хичкока "Психо" (1960)
Это тоже интересно: