Новые вирусы
Бывший топ-менеджер Google Мустафа Сулейман опасается, что из-за развития нейросетей может появиться новая более смертельная пандемия. Сулейман считается одним из самых уважаемых экспертов в сфере ИИ в мире. Он основал компанию DeepMind, в которую инвестировал в том числе Илон Маск, и которую в дальнейшем купил Google. Именно поэтому слова Мустафы Сулеймана по-настоящему пугают.
Он выразил опасения, что новые эксперименты с использованием нейросетей в биологии, в частности в работе с патогенами, могут случайно или намеренно привести к появлению более передаваемых и смертельно опасных заболеваний. Это в свою очередь приведет к возникновению более опасных пандемий. Он призывает к более строгому регулированию и мерам сдерживания подобных разработок, чтобы предотвратить нецелевое использование технологий ИИ и доступ к опасным биологическим материалам.
Соперник ChatGPT
Компания Anthropic, созданная бывшими сотрудниками OpenAI, выпустила собственный чат-бот Claude Pro. Разработчики уверяют, что по своим характеристикам их новинка обгоняет ChatGPT. В первую очередь, чат-бот предлагает пользователям 100 тыс. токенов, в то время, как даже у платной версии ChatGPT их всего 32 тыс.
Для начала объясним, что такое токены в ИИ. На самом деле абсолютно каждый запрос пользователя имеет какую-то ценность и стоимость, допустим, это можно сравнить с ценами в магазинах. Эта ценность запроса рассчитывается в токенах. Токены в ChatGPT, например, — это специальные маркеры, которые используются для обозначения определенных элементов в тексте. Чем больше вы таких маркеров используете в запросе, тем лучше ответ нейросети. Соответственно, чем больше в нейросети токенов, тем более точные и разнообразные ответы она может дать.
Вернемся теперь Claude Pro. Также разработчики утверждают, что, в отличие от метода OpenAI, где для различных настроек необходим постоянный контроль и вмешательство человека, их инновационный «конституционный» метод обучения Anthropic позволяет ИИ самосовершенствоваться, самостоятельно выявлять ошибки и себя контролировать, а также корректировать свое «поведение».
Кстати, Anthropic недавно получила $400 млн инвестиций от Google, в то время как OpenAI в основном финансируется корпорацией Microsoft. Похоже, здесь намечается нехилое противостояние в сфере нейросетей. На чью победу поставили бы вы?
Машина пропаганды
Еще один пример, как нейросети могут быть использованы во зло. Анонимный разработчик создал сервис CounterCloud, в основе которого лежит ChatGPT. Но используется этот сервис для генерации новостных фейков, фальшивых историй и исторических событий. Сам создатель сознался, что понимает, насколько опасным может быть такой инструмент в руках человека.
Создание сервиса не заняло и двух месяцев, а на его поддержание нужно менее $400 в месяц.
Система способна автономно генерировать контент, который в 90% случаев будет звучать очень даже убедительно. Однако создатель не стал запускать ее в общий доступ, чтобы избежать активного распространения дезинформации. Разработчик сообщил, что сделал этот сервис, чтобы продемонстрировать, как легко могут быть использованы нейросети для распространения пропаганды или обмана людей.
Миллионы в день
Компания Apple тратит миллионы долларов в день на искусственный интеллект. В том числе деньги идут на развитие собственной языковой модели, используемой в настоящее время внутри компании, под названием Ajax.
Также бюджет тратится на небольшой отдел компании из 16 человек, который работает над развитием голосового помощника Siri. Например, Siri учат автоматизировать более сложные задачи, такие, как создание GIF-файлов из фотографий.
Наряду с Ajax корпорация Apple разрабатывает и другие продукты в области ИИ, включая мультимодальную нейросеть для преобразования текста в изображение и программное обеспечение для создания 3D-сцен.
Работу отобрали
Медиахолдинг G/O Media уволил весь испанский отдел новостного портала Gizmodo — сотрудников полностью заменили на нейросети. ИИ теперь будет переводить с английского на испанский вместо людей.
При этом тексты Gizmodo сразу ухудшились в качестве. Так, некоторые статьи теперь содержат заметные грамматические и стилистические ошибки, кроме того в них заметны в сбои в процессе перевода — иногда текст переключается то с английского на испанский, то обратно.
Профсоюз GMG, защищающий права журналистов и работников медиа, выразил свое разочарование в связи с увольнением сотрудников Gizmodo en Español. «К сожалению, этот шаг по ликвидации испаноязычной команды представляет собой очередное нарушение обещаний генерального директора G/O Media Джима Спанфеллера и редакционного директора Мерилла Брауна, которые неоднократно заявляли, что эксперименты компании с искусственным интеллектом призваны дополнить работу человека, а не заменить ее», — говорится в твите профсоюза.
Холдинг G/O Media начал размещать на сайте Gizmodo статьи, написанные искусственным интеллектом, в июле этого года. Однако первые версии текстов содержали фактические ошибки. Сотрудники утверждали, что им не сообщали о том, что нейросетевые статьи будут опубликованы на сайте вплоть до самого момента их публикации. Журналисты различных изданий, входящих в G/O Media, были недовольны этим фактом и выступали против использования нейросетей. Профсоюз GMG Union попросил читателей не кликать на новости, которые помечены, как «сгенерированные нейросетью».
Нейросеть-врач
Сбер создал медицинскую нейросеть «Аида», которая уже активно используется в московских поликлиниках. Этот ИИ-врач способен ставить диагнозы с уровнем точности до 97%.
Нейросеть помогает врачам устанавливать диагнозы, анализируя данные, введенные врачами в медицинские карточки пациентов. Это информация о возрасте, поле, жалобах, симптомах, результаты анализов и осмотров, а также и регулярность посещения поликлиники. «Аида» предоставляет свои выводы о диагнозе они сопоставляются с мнением врачей. Если мнение совпадает, «Аида» подтверждает врачебное решение или предлагает свой вариант. При этом окончательное решение всегда остается за врачом-человеком.
«Аиду» создала лаборатория Сбера в сотрудничестве с правительством Москвы и 38 московскими врачами. Нейросеть обучали на данных из 30 млн медицинских карточек пациентов, и в настоящее время она способна диагностировать 95 болезней. В будущем планируется расширение списка поддерживаемых диагнозов.
На данный момент «Аида» уже внедрена в 24 поликлиники Москвы, и до конца сентября этот нейросетовой доктор будет доступен во всех взрослых поликлиниках столицы.
