Новый фронт в войнах ИИ (AI): Протестующие нацелились на крупнейшие лаборатории в Сан-Франциско
В яркой демонстрации растущей напряженности вокруг стремительного развития искусственного интеллекта (Artificial Intelligence), около 200 протестующих прошли маршем по улицам Сан-Франциско в субботу. Демонстранты, организованные под лозунгом «Stop the AI Race» (Остановить гонку ИИ), собрались у штаб-квартир трех самых видных разработчиков отрасли: Anthropic, OpenAI и xAI.
Марш, начавшийся у офисов Anthropic, затем переместившийся к OpenAI и, в конечном итоге, к xAI, подчеркнул углубляющуюся пропасть между стремлением технологической индустрии к возможностям «передового ИИ» (frontier AI) и активной коалицией активистов, исследователей и ученых, которые опасаются, что нынешние темпы развития представляют экзистенциальные риски для человечества.
Аргументы в пользу скоординированной паузы
Основное требование демонстрантов было четким и бескомпромиссным: они призывают к условной, скоординированной паузе в разработке все более мощных моделей ИИ. Основатель движения «Stop the AI Race» и режиссер-документалист Майкл Трацци (Michael Trazzi), возглавивший мероприятие, подчеркнул, что протест был направлен не просто на остановку технологий, а на переориентацию внимания на безопасность.
Активисты утверждают, что глобальный ландшафт ИИ превратился в «гонку самоубийц», где компании и страны отдают приоритет скорости перед безопасностью, экономя на важном, чтобы заявить о себе как о создателях самой продвинутой системы. Они утверждают, что такая среда делает разработку неконтролируемых систем ИИ неизбежной.
Краткий обзор основных протестных организаций
| Организация | Основное направление | Роль в движении |
|---|---|---|
| Stop the AI Race | Организация демонстраций | Стратегия и координация |
| PauseAI | Политика и пропаганда | Информирование общественности и лоббирование |
| QuitGPT | Безопасность и надзор | Подотчетность отрасли |
| Machine Intelligence Research Institute | Исследования технической безопасности | Теоретическая база рисков |
| Evitable | Смягчение экзистенциальных рисков | Взаимодействие с общественностью и осведомленность |
«Гонка самоубийц» и поиск решений
В ходе демонстраций организаторы изложили конкретное видение того, как может быть достигнута эта общеотраслевая пауза. Трацци предположил, что ключ кроется в заключении международных договоров. Он высказал мнение, что если Соединенные Штаты и Китай — два основных конкурента в разработке передового ИИ — договорятся о моратории на создание более опасных и мощных моделей, глобальная структура стимулов изменится.
По словам протестующих, такая структура позволит лабораториям перенаправить свои огромные ресурсы на полезные приложения, такие как ИИ в медицине, вместо того чтобы конкурировать в выпуске следующей, потенциально более опасной итерации генеративного ИИ (Generative AI).
Когда его спросили о возможности обеспечения соблюдения такой паузы, Трацци указал на вычислительную мощность (computing power) как на наиболее жизнеспособный показатель для контроля. Вводя международные ограничения на вычислительные мощности, используемые для обучения крупномасштабных систем, регулирующие органы могли бы эффективно установить жесткий предел на разработку новых высокорискованных моделей.
Исторический контекст защиты интересов в сфере ИИ
Протест в Сан-Франциско в эти выходные — не изолированное событие, а скорее последнее обострение в серии усилий по нарушению статус-кво в развитии ИИ. Призыв к «паузе» стал повторяющейся темой в дискурсе о безопасности ИИ (AI safety), восходящей к марту 2023 года. В то время Future of Life Institute опубликовал открытое письмо с требованием моратория на усовершенствование ведущих инструментов ИИ, которое собрало более 33 000 подписей известных деятелей, включая соучредителя Apple Стива Возняка и основателя xAI Илона Маска.
Активизм также принимал более личные формы. Трацци ранее провел громкую многонедельную голодовку у лондонского офиса Google DeepMind. Аналогичным образом активист Гвидо Рейхштадтер (Guido Reichstadter) провел параллельную голодовку у штаб-квартиры Anthropic в Сан-Франциско. Эти действия, хотя и являются крайними в своих методах, отражают интенсивность философии «думеров» (doomers) — убежденности в том, что без вмешательства текущие траектории развития могут привести к катастрофическим последствиям.
Политический конфликт и нарратив о «победе»
В настоящее время протестующие сталкиваются с политической средой, которая диаметрально противоположна их целям. В то время как активисты призывают к замедлению, нынешний политический ландшафт США характеризуется сильным стремлением сохранить доминирующее положение в этом секторе.
Недавно опубликованная администрацией Трампа концепция ИИ подчеркивает национальную приверженность «победе в гонке ИИ». Это создает значительное препятствие для тех, кто выступает за паузы в целях безопасности, поскольку правительственные чиновники и отраслевые лоббисты часто утверждают, что замедление исследований в США даст решающее преимущество иностранным конкурентам, потенциально ставя под угрозу национальную безопасность.
Сравнение основных аргументов
| Перспектива | Позиция по развитию ИИ | Основная обеспокоенность |
|---|---|---|
| Активисты за безопасность ИИ | Немедленная, скоординированная пауза | Экзистенциальный риск и отсутствие контроля |
| Правительство/Индустрия | Продолжение, ускоренные исследования | Национальная безопасность и глобальная конкурентоспособность |
Взгляд в будущее: Внутренний фронт
Несмотря на отсутствие публичных заявлений со стороны OpenAI, Anthropic или xAI по итогам прошедших выходных, организаторы марша не планируют отступать. Трацци указал, что в будущем демонстрации, скорее всего, пройдут и в других местах, где работают эти крупные лаборатории.
Стратегический сдвиг очевиден: «Мы хотим появиться там, где находятся сотрудники», — заявил Трацци. Протестующие стремятся сократить разрыв между внешним давлением и внутренними изменениями, надеясь побудить сотрудников этих лабораторий бросить вызов своему руководству и стать информаторами (whistleblowers). Поскольку индустрия продолжает развиваться с бешеной скоростью, разрыв между теми, кто строит будущее, и теми, кто боится его прихода, скорее всего, будет только расти.
