Генеральный директор OpenAI Сэм Альтман, стоящий за созданием самого популярного в мире ИИ-чат-бота ChatGPT, рассказал о своих опасениях относительно того, как будет развиваться контроль над искусственным интеллектом. Об этом сообщает Business Insider со ссылкой на подкаст Дэвида Сенры, выпуск которого вышел в воскресенье.
По словам Альтмана, его тревожит перспектива, при которой контроль над ИИ сосредоточится в руках небольшого числа компаний, моделей или людей — а подавляющее большинство пользователей окажется лишено возможности влиять на то, как технология меняет мир.
Мы хотим, чтобы люди по-настоящему сохраняли контроль над будущим. Общество и модели будут развиваться совместно.
Есть и второй сценарий, который беспокоит Альтмана, — выход ИИ из-под контроля людей. При этом, по его мнению, страх именно перед этим сценарием парадоксальным образом может привести к реализации первого: люди, обеспокоенные масштабом рисков, готовы пойти на то, чтобы «пожертвовать значительной долей свободы ради безопасности».
Business Insider отмечает, что, судя по всему, Альтман имел в виду главу Anthropic Дарио Амодеи, который неоднократно в подкастах, эссе и блоге компании предупреждал об опасностях, связанных со стремительным развитием ИИ. В частности, в июньском эссе Амодеи писал, что новые модели Anthropic представляют серьезные риски для кибербезопасности, финансового сектора, критической инфраструктуры и национальной безопасности. Именно такие заявления, как считает издание, Амодеи использует, чтобы добиваться усиления государственного регулирования отрасли — что, по мнению Альтмана, может обернуться тем самым компромиссом между свободой и безопасностью.
Business Insider также напоминает, что в прошлом месяце Anthropic оказалась единственной крупной ИИ-компанией, которая не подписала письмо в поддержку моделей с открытыми весами — то есть моделей, которые можно свободно распространять, загружать, изменять и разворачивать на собственной инфраструктуре. За расширение использования таких моделей выступают Nvidiaи Microsoft. По их мнению, США необходимо развивать открытые модели по примеру Китая, иначе страна рискует уступить лидерство в глобальной гонке ИИ.