Нейросети воруют у журналистов и лечат рак. Что произошло с ИИ за неделю

Воровство у журналистов уничтожит ChatGPT, говорящая на 100 языках нейросеть делает токсичные переводы, музыкальный ИИ-инкубатор спасет певцов. Самое интересное, что произошло с искусственным интеллектом за неделю, по мнению Hi-Tech Mail.ru.

ChatGPT попробовал лечить рак

Врачи Brigham and Women’s Hospital решили проверить, поможет ли ИИ в лечении рака. В рамках исследования GPT 3.5 попросили составить график лечения онкологических больных. Результат оказался провальным — нейросеть смешивала верные рекомендации с неправильными, но писала она их таким образом, что невозможно было отличить ложь от правды.

«ChatGPT часто “говорит” уверенно и его ответы кажутся очень логичными, но то, что он может смешивать правду и ложь, несет в себе потенциальную опасность. Даже эксперту трудно различить, какая рекомендация является верной, а какая — нет», — рассказал Даниэль Биттерман, онколог и соавтор исследования.

Почти все ответы ChatGPT содержали хотя бы одну верную рекомендацию, соответствующую стандартам американской Национальной всеобъемлющей онкологической сети (National Comprehensive Cancer Network). Но все равно около трети ответов также содержали неверные предложения. Около 12% ответов содержали так называемые «галлюцинации» — рекомендации, которых нет ни в одном медицинском руководстве, отметили исследователи.

Разговаривает на 100 языках

Компания Meta (признана в России экстремистской и запрещена) разработала модель искусственного интеллекта SeamlessM4T, которая способна переводить и транскрибировать около 100 языков в текстовом и речевом формате. В компании утверждают, что технология поможет разрушить языковой барьер между различными странами и народами.

При этом отмечается, что модель не лишена токсичности. ​​Несмотря на то, что нейросеть показывает многообещающие результаты в области перевода, она «может содержать предвзятости, особенно в переводах, связанных с гендерной принадлежностью». Meta признает проблемы, связанные «с токсичным контентом и потерей лексического богатства в системах автоматического перевода с использованием искусственного интеллекта».

Демо-версия нейросети SeamlessM4
Демо-версия нейросети SeamlessM4Источник: Seamless

Мегаприбыль на нейросетях

Выручка компании Nvidea превысила $13,5 млрд, а чистая прибыль — $6,18 млрд. Это значительно превышает показатели предыдущего года. Причиной этому стал бум нейросетей. Дело в том, что компания производит графические процессоры, которые в том числе используются для глубокого обучения ИИ. Поэтому новый флагманский процессор компании H100 Tensor Core привлек инвестиции от крупных разработчиков, например, от Microsoft Azure.

Примечательно, что в предыдущие годы рост прибыли компании обеспечивали геймеры и майнеры криптовалют. Ведь графические процессоры являются составной частью видеокарт, которые важны для гейминга и майнинга.

Графический процессор H100 Tensor Core
Графический процессор H100 Tensor CoreИсточник: Nvidia

ChatGPT ворует у журналистов

Также эта неделя ознаменовалась скандалом, связанными с ChatGPT. Газета The New York Times собирается подать в суд на компанию OpenAI, которая разработала чат-бота. В издании полагают, что для обучения модели без разрешения были использованы их статьи, в том числе эксклюзивные. Газета рассматривает это как нарушение авторских прав. Правда, информация эта все еще не официальная — об этом рассказал анонимный источник изданию NPR.

Чуть позже стало известно, что The New York Times заблокировала на своем сайте веб-краулер OpenAI. Веб-краулер — это программа, которая перебирает страницы в интернете для архивации и занесения данных в специальную базу. Часто их используют для расширения базы данных поисковиков. С помощью блокировки веб-краулера издание попыталось защитить себя от использования их контента для обучения ChatGPT.

Масло подлило еще и опубликованное на днях исследование аналитического агентства NewsGuard. Оно специализируется на фактчекинге информации в СМИ и поиском первоисточников. Согласно отчету агентства, 37 англоязычных сайтов используют ботов для переписывания статей и новостей из крупных изданий без указания ссылки на них. Среди них The New York Times, Reuters и CNN. Как отмечает Bloomberg, перечисленные издания за счет таких статей увеличивают поток пользователей и больше зарабатывают на рекламе, отбирая таким образом доход у журналистов.

Многие издания замечают, что если иск газеты The New York Times к OpenAL пойдет в производство, то это полностью поменяет законы об авторском праве в США. Разработчиков чат-ботов просто завалят исками. Кроме того, это может полностью уничтожить ChatGPT. Из нейросети просто нельзя удалить информацию, на которой она обучалась — этот процесс невозможно откатить назад. Тогда ее придется полностью переделывать.

Инкубатор ИИ-музыки

Тем временем проблемой авторских прав уже решили заняться в YouTube. Компания запустила проект Music AI Incubator. Он займется защитой прав исполнителей и музыкальных продюсеров при использовании их материалов в музыке, созданной с помощью нейросетей. К участию приглашены Universal Studio и несколько крупных исполнителей. Music AI Incubator будет бороться с незаконным использованием музыки и голосов звезд на площадке. При этом YouTube хочет оставить место для творчества обычным пользователям.

Как ранее писал Hi-Tech Mail.ru, в начале 2023 года в интернете произошел всплеск популярности нейросетевых песен. Так, трек Gangsta’s Paradise американских рэперов Coolio и L.V. в «исполнении» Фрэнка Синатры набрал миллионы просмотров на YouTube. Недавно Universal Studio договорилась с Google о создании сервиса, на котором можно будет купить голоса звезд.