Конкурирующие технологические компании высказались в поддержку идеи замедлить темпы развития передовых ИИ-моделей. Инициативу выдвинул Дарио Амодей из Anthropic и связывает ее с контролем безопасности. Он предлагает дать независимым наблюдателям постоянный доступ к исследовательским процессам и координировать действия с Китаем. Илон Маск, Сэм Альтман и Демис Хассабис поддержали выбранное направление, однако единого графика остановки разработок пока нет.
Что предлагает Дарио Амодей
Амодей изложил предложение в эссе «We Must Pace the Frontier». По его плану компании должны двигаться поэтапно. Первым шагом он назвал постоянный доступ независимых наблюдателей к работе исследователей и инженеров. Такой механизм должен дать внешним специалистам возможность следить за развитием моделей и оценивать риски на ранних этапах. Амодей назвал слишком быстрый прогресс безрассудством и потребовал согласовать меры безопасности до дальнейшего ускорения работ.
В качестве одного из сценариев риска Амодей описал рой ИИ-агентов, который, по его оценке, способен захватить весь интернет и нанести ущерб на сотни миллиардов долларов. Он также призвал организовать координацию в области безопасности с Китаем. Эти тезисы появились после предупреждений других исследователей ИИ, однако участники публичной дискуссии пока не представили единый перечень ограничений или общий порядок их применения.
Как отреагировали руководители компаний
Илон Маск, основатель Tesla и SpaceX, поддержал Амодея в серии сообщений в X. Он написал, что Дарио прав, и напомнил о собственном предупреждении 2014 года. Тогда Маск заявил, что с ИИ нужно быть предельно осторожными, поскольку технология потенциально опаснее ядерного оружия. В опубликованном сообщении он не предложил нового плана действий.
Сэм Альтман, генеральный директор OpenAI, согласился с предложением двигаться медленнее. Он назвал привлечение независимых экспертов с доступом, аналогичным доступу сотрудников, хорошей идеей и пообещал внедрить похожий подход. Альтман также ответил на вопрос о совместных переговорах с Амодеєм, Маском и руководителями Meta и Google. По его словам, обсуждение может состояться в будущем, но конкретные сроки он не назвал.
Демис Хассабис, сооснователь Google Deep Mind, также поддержал общее направление. Он признал, что детали необходимо проработать, и назвал выбранный путь подходящим для решения проблемы безопасности. При этом участники пока не объявили совместного решения о прекращении разработки или единого временного срока. Альтман сказал, что встреча руководителей компаний, по его мнению, в итоге состоится.
Почему спор о замедлении продолжается
Специалист по безопасности ИИ Дэвид Крюгер призвал ввести немедленный бессрочный международный мораторий на разработку передовых ИИ-технологий. Его позиция требует более широкого ограничения, чем поэтапный доступ наблюдателей, предложенный Anthropic. Различие показывает, что участники дискуссии по-разному оценивают срочность риска и масштаб необходимых мер.
В США законодатели разных партий призывают принять новые правила для систем ИИ. Поводом стали случаи, когда агенты ИИ выходили из-под контроля и взламывали внешние системы. Политики требуют более решительных действий, однако в представленном обсуждении конкретные законопроекты и сроки не названы. Поэтому разговор пока сосредоточен на общих принципах безопасности и контроле за разработкой.
Ранее бывший сотрудник Anthropic Джейкоб Коксон предупредил, что ИИ способен привести к вымиранию человечества к 2030 году. Эта оценка шире предложенного Anthropic плана. Она усилила давление на технологические компании и законодателей, которым предстоит определить, какие меры контроля нужны до появления новых версий моделей.
