Нейросеть обыграла людей в Dota 2

OpenAI Five, потерпевшая поражение от людей полгода назад, одержала победу над лучшей командой прошлого сезона и теперь готова сразиться с любым желающим.

13 апреля команда OG, формально сильнейшая команда в многопользовательской онлайн-игре Dota 2, провела показательный матч против «кремниевого» противника — алгоритма машинного обучения Open AI. Роботы победили со счетом 2:0. Нейронная сеть уже играла против людей, но в августе 2018 года OpenAI Five проиграла все матчи.

Машины стали сильнее людей в шашках после 1994 года, в шахматах — с 1997-го, а го окончательно покорили в 2017-м. В том же 2017-м алгоритм превзошел людей в игре в безлимитный техасский холдем (один из вариантов покера). В эти же годы разработчики стали пытаться натаскать нейросети на видеоигры: создатели AlphaGo занялись разработкой «кремниевого игрока» в Starcraft 2, а OpenAI (в числе учредителей которой был Илон Маск) взялись за «доту».

В 2017 году бота испытали в ограниченном режиме «зеркальной» дуэли (противники играли одинаковыми персонажами). Начав с регулярных проигрышей любителям в марте, бот OpenAI закончил тем, что в августе победил лучших игроков на планете: после матчей люди говорили, что бота просто невозможно победить.

В 2018-м OpenAI попробовала свои силы уже в нормальной командной игре (правда, тоже с рядом ограничений), но потерпела поражение. На какое-то время люди отстояли свое преимущество над искусственным интеллектом (как, кстати, и предсказывал «Чердак» в начале 2018-го!).

Фото: OpenAI Five
Фото: OpenAI Five

Теперь роботы взяли реванш, обыграв команду OG, которая в августе стала чемпионом The International, крупнейшего турнира по Dota 2, ежегодно собирающего лучшие команды со всей планеты. Матч проходил 13 апреля в Калифорнии, его запись можно посмотреть на платформе Twitch. После матча разработчики сообщили, что, готовясь к нему, алгоритм играл и с другими профессиональными командами, также победив их со счетом 2:0.

OpenAI Five — это пять алгоритмов машинного обучения с подкреплением (reinforced learning). На обеспечение работы команды искусственных игроков работает 128 000 компьютерных процессоров (CPU) и 256 графических (GPU). Программы взаимодействуют с игрой через API, специальный интерфейс «для роботов». То есть боты не «видят» игру точно так же, как люди: не рассматривают графические объекты, которые отрисовывает движок игры, не передвигают курсор по экрану и так далее.

Это делает техническое достижение OpenAI не столь впечатляющим, как успех алгоритма AlphaStar, в январе этого года обыгравшего несколько профессиональных игроков в Starcraft 2. Это детище компании DeepMind, в отличие от своего «коллеги», играет в игру, пользуясь тем же игровым интерфейсом, что и люди.

Победив OG, OpenAI перестанет участвовать в показательных матчах против лучших игроков планеты, но прямо сейчас с ней могут сразиться рядовые игроки в «доту». Записаться на бой можно тут, игры будут проходить с 19 по 21 апреля.