Исследователь Anthropic Джейкоб Коксон решил покинуть индустрию искусственного интеллекта из-за опасений по поводу дальнейшего развития технологий. По его мнению, конкуренция между крупнейшими технологическими компаниями способна привести человечество к моменту, после которого остановить происходящие процессы будет уже невозможно. Об этом сообщает Wall Street Journal.
«Мы движемся к наиболее жестким из этих сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — сказал он.
По словам Коксона, специалисты, работающие над современными ИИ-системами, все чаще используют тревожные формулировки для описания перспектив отрасли. В частности, среди них звучат выражения «критическая точка» и «эндшпиль». Исследователь считает, что подобная риторика отражает растущую обеспокоенность специалистов темпами технологической гонки.
Предупреждения о возможном переходе искусственного интеллекта на новый этап звучат и от руководителей ведущих ИИ-компаний. Ранее генеральный директор OpenAI Сэм Альтман заявил, что человечество уже достигло «точки сингулярности» в развитии искусственного интеллекта.
Технологической сингулярностью называют гипотетический период, когда развитие технологий становится настолько быстрым, что его дальнейшее направление оказывается практически невозможно контролировать или предсказать. Такой сценарий может привести к масштабным изменениям в обществе и устройстве цивилизации.
Anthropic — американская технологическая компания, специализирующаяся на искусственном интеллекте. Она разработала семейство языковых моделей Claude.