AutoDRIVE Cooperative MARL — это проект на GitHub, сочетающий симулятор городского вождения AutoDRIVE с адаптируемыми алгоритмами мультиагентного обучения с подкреплением. Включает скрипты обучения, оболочки среды, метрики оценки и инструменты визуализации для разработки и тестирования политик кооперативного вождения. Пользователи могут настраивать наблюдаемые пространства агентов, функции вознаграждения и гиперпараметры обучения. Репозиторий поддерживает модульные расширения, позволяющие определять индивидуальные задачи, использовать обучение по куррикулуму и отслеживать показатели эффективности для исследований по координации автономных транспортных средств.

DeepMind MAS Environment — это библиотека на Python, предоставляющая стандартизированный интерфейс для построения и моделирования задач обучения с множеством агентов. Позволяет настраивать число агентов, определять пространства наблюдений и действий, а также кастомизировать структуры наград. Фреймворк поддерживает каналы коммуникации между агентами, ведение логов производительности и функции отображения. Исследователи могут легко интегрировать DeepMind MAS Environment с популярными библиотеками RL, такими как TensorFlow и PyTorch, для бенчмаркинга новых алгоритмов, тестирования протоколов связи и анализа дискретных и непрерывных управляемых систем.

DEf-MARL (Фреймворк децентрализенного исполнения для многопользовательского обучения с подкреплением) обеспечивает надежную инфраструктуру для выполнения и обучения кооперативных агентов без централизованных контроллеров. Он использует протоколы связи peer-to-peer для обмена политиками и наблюдениями между агентами, обеспечивая координацию через локальные взаимодействия. Фреймворк бесшовно интегрируется с такими популярными инструментами RL, как PyTorch и TensorFlow, предлагая настраиваемые оболочки окружения, сборку распределенных запусков и модули синхронизации градиентов. Пользователи могут определять индивидуальные пространства наблюдения, функции награды и топологии связи. DEf-MARL поддерживает динамическое добавление и удаление агентов во время выполнения, отказоустойчивое выполнение за счет репликации критического состояния между узлами и адаптивное расписание связи для балансировки исследования и эксплуатации. Он ускоряет обучение за счет параллельного моделирования окружений и уменьшения центральных узких мест, что делает его подходящим для масштабных исследований MARL и промышленных симуляций.

MADDPG-Keras обеспечивает полный каркас для исследований в области обучения с подкреплением с несколькими агентами, реализуя алгоритм MADDPG в Keras. Поддерживаются непрерывные пространства действий, несколько агентов и стандартные среды OpenAI Gym. Исследователи и разработчики могут настраивать архитектуры нейронных сетей, гиперпараметры обучения и функции вознаграждения, после чего запускать эксперименты с встроенным логированием и контрольными точками для ускорения обучения политик и оценки производительности.

Patrolling-Zoo предлагает гибкую структуру, позволяющую пользователям создавать и экспериментировать с задачами многогерового патрулирования на Python. Библиотека включает разнообразные окружения на основе сеток и графов, моделирующие сценарии наблюдения, мониторинга и охвата. Пользователи могут конфигурировать количество агентов, размер карты, топологию, функции наград и наблюдаемые пространства. Благодаря совместимости с PettingZoo и API Gym, она обеспечивает беспрепятственную интеграцию с популярными алгоритмами RL. Эта среда облегчает бенчмаркинг и сравнение MARL-техник в условиях единых настроек. Предоставляя стандартные сценарии и инструменты для настройки новых, Patrolling-Zoo ускоряет исследования в автономной робототехнике, безопасности, поисково-спасательных операциях и эффективном покрытии территории с помощью стратегий многогерового координирования.

Среда совместного поиска обеспечивает гибкую, совместимую с gym многопользовательскую среду обучения с подкреплением, предназначенную для задач совместного поиска как на дискретных сетках, так и в непрерывных пространствах. Агентов можно управлять при частичном наблюдении и обмениваться информацией в соответствии с настраиваемыми топологиями связи. Фреймворк поддерживает предопределенные сценарии, такие как поиск и спасение, отслеживание целей в динамике и совместное картографирование, предлагает API для определения пользовательских сценариев и структур наград. Интегрируется с популярными RL-библиотеками, такими как Stable Baselines3 и Ray RLlib, включает средства журналирования для анализа производительности и встроенные инструменты визуализации для мониторинга в реальном времени. Исследователи могут изменять размеры сеток, число агентов, диапазон сенсоров и механизмы обмена наградами для оценки стратегий координации и эффективной проверки новых алгоритмов.

MARO (Multi-Agent Resource Optimization) — это фреймворк на Python, предназначенный для поддержки разработки и оценки агентов обучения с подкреплением с несколькими агентами в сценариях цепей поставок, логистики и управления ресурсами. Включает шаблоны для управления запасами, планирования грузовиков, кросс-докинга, аренды контейнеров и прочего. MARO предлагает унифицированный API агентов, встроенные трекеры для ведения экспериментов, возможности параллельного моделирования для масштабных тренировок и инструменты визуализации для анализа эффективности. Платформа модульная, расширяемая, интегрируется с популярными RL-библиотеками, обеспечивая воспроизводимость исследований и быструю прототипирование решений на базе ИИ.

Mava — это библиотека с открытым исходным кодом, основанная на JAX, для разработки, обучения и оценки систем обучения с подкреплением с несколькими агентами. Предлагает готовые реализации кооперативных и соревновательных алгоритмов, таких как MAPPO и MADDPG, а также настраиваемые циклы обучения, поддерживающие однопроходные и распределенные рабочие процессы. Исследователи могут импортировать окружения из PettingZoo или определять собственные окружения и использовать модульные компоненты Mava для оптимизации политики, управления буферами повторного воспроизведения и логирования метрик. Гибкая архитектура платформы позволяет легко интегрировать новые алгоритмы, собственные пространства наблюдений и структуры вознаграждений. Используя возможности автолевализации и аппаратного ускорения JAX, Mava обеспечивает эффективные крупномасштабные эксперименты и воспроизводимое сравнение в различных сценариях многопользовательской работы.

MGym — это специальная среда для создания и управления мультиагентными средами обучения с подкреплением (MARL) на Python. Она позволяет пользователям определять сложные сценарии с несколькими агентами, каждый из которых имеет настраиваемые наблюдения, действия, функции вознаграждения и правила взаимодействия. MGym поддерживает синхронный и асинхронный режимы выполнения, предоставляя моделирование агентов как в параллельном, так и в пошаговом режимах. Благодаря API, аналогичному Gym, MGym легко интегрируется с популярными библиотеками RL, такими как Stable Baselines, RLlib и PyTorch. Включает модули для оценки окружающей среды, визуализации результатов и анализа производительности, что способствует системной оценке алгоритмов MARL. Его модульная архитектура позволяет быстро прототипировать совместные, конкурирующие или смешанные задания, что помогает исследователям и разработчикам ускорить эксперименты и исследования в области MARL.

Multi-Agent Miners предоставляет среду мира в виде сетки, где несколько автономных минёров происходят навигацию, копают и собирают ресурсы, взаимодействуя друг с другом. Поддерживаются настраиваемые размеры карт, количество агентов и схемы награждения, что позволяет создавать как соревновательные, так и кооперативные сценарии. Интеграция с популярными библиотеками RL через PettingZoo обеспечивает стандартизированные API для функций сброса, шага и отображения. Режимы визуализации и журналирование помогают анализировать поведение и результаты, делая этот инструмент идеальным для исследований, обучения и бенчмаркинга алгоритмов в области мультиагентного обучения с усилением.

multiagent-env — это открытая библиотека на Python, предназначенная для упрощения создания и оценки сред обучения с несколькими агентами. Пользователи могут определять как кооперативные, так и враждебные сценарии, задавая количество агентов, пространства действий и наблюдений, функции наград и динамику окружающей среды. Она поддерживает визуализацию в реальном времени, настраиваемую визуализацию и легкую интеграцию с RL-фреймворками на базе Python, такими как Stable Baselines и RLlib. Модульный дизайн позволяет быстро прототипировать новые сценарии и легко сравнивать алгоритмы.

Этот репозиторий предоставляет полный набор алгоритмов обучения с усилением для многоагентных систем, включая MADDPG, DDPG, PPO и другие, интегрированные с стандартными тестовыми средами, такими как Multi-Agent Particle Environment и OpenAI Gym. Он включает настраиваемые оболочки окружений, конфигурируемые скрипты обучения, логирование в реальном времени и метрики оценки производительности. Пользователи могут легко расширять алгоритмы, адаптировать их под собственные задачи и сравнивать политики в условиях сотрудничества и конфликта с минимальной настройкой.

multiagent_envs — это модульный набор сред на Python, предназначенных для исследований и разработки в области обучения с подкреплением с несколькими агентами. Включает сценарии, такие как кооперативная навигация, хищник-жертва, социальные дилеммы и соревновательные арены. Каждая среда позволяет задавать число агентов, характеристики наблюдений, функции вознаграждения и динамику столкновений. Фреймворк легко интегрируется с популярными RL-библиотеками как Stable Baselines и RLlib, поддерживая векторизированное обучение, параллельное выполнение и легкое логирование. Пользователи могут расширять существующие сценарии или создавать новые с помощью простой API, ускоряя экспериментирование с алгоритмами MADDPG, QMIX, PPO в воспроизводимых условиях.