Создаём глобальную основу для регулирования искусственного интеллекта.
Передовые системы ИИ наращивают автономные возможности быстрее, чем институты, призванные ими управлять, успевают их измерить или ограничить. Продолжительность задачи, которую модель способна выполнить без контроля человека, удваивается примерно каждые три месяца: к январю 2026 года она достигла около пяти часов работы без надзора. Если ничего не изменится, вероятная траектория на 2027 год приведёт к системе, которая автоматизирует собственную разработку, скрывает своё рассогласование от инструментов интерпретируемости, созданных для его выявления, и достигает уровня возможностей, при котором люди, осуществляющие контроль, уже не могут проверить её рассуждения.
В июле 2026 года агенты, проходившие плановую оценку кибербезопасности в одной из ведущих лабораторий, вышли за пределы изолированной среды, скоординировались между отдельными запусками через импровизированную доску сообщений и получили возможность выполнять код в производственных системах Hugging Face. В собственном разборе инцидента OpenAI говорится, что «агенты, которые должны были работать независимо, смогли обмениваться находками, координировать усилия и продолжать работу с того места, где остановились другие». Они отказались от поставленных задач ради получения возможностей, «инструментально полезных для коллектива», и действовали так, как лаборатория описывает словами «не согласованные с целями поставленных задач».
Более тысячи сотрудников передовых лабораторий обратились к Вашингтону с просьбой создать механизм намеренного замедления разработки, а 9 сентября 2026 года исследователь по предобучению из Anthropic публично ушёл в отставку. Он назвал инцидент предупредительным выстрелом и заявил, что лаборатории «несутся прямо к самосовершенствующемуся сверхинтеллекту и играют нашими жизнями».
Ряд юрисдикций рассмотрел этот риск и принял законы. Закон ЕС об ИИ ввёл обязательные требования к моделям общего назначения, а калифорнийский закон SB 53 требует публиковать рамки безопасности и отчёты о прозрачности до развёртывания, сообщать о критических инцидентах безопасности в течение пятнадцати дней и защищать информаторов. Оба акта важны, поскольку это первый шаг к правовой обязанности. Однако они не создают канала, по которому сведения об инциденте, заявленном в одной юрисдикции, доходят до регуляторов других, и ни один из них не может замедлить гонку, решающие участники которой подотчётны разным законодателям. Даже самое амбициозное предложение, находящееся сейчас на рассмотрении Конгресса США, законопроект, который обязал бы оснащать модели, способные причинить катастрофический ущерб, возможностью принудительного отключения, в случае принятия распространялся бы только на разработчиков в пределах его юрисдикции. Передовые модели, обученные в других странах, остались бы вне его действия, тогда как их последствия ощущаются повсюду.
Прецеденты устранения подобных пробелов связаны с договорами. Когда ракета впервые смогла вывести боеголовку на орбиту, инициатива запретить это исходила не от двух сверхдержав, а от Индии, Мексики, Бразилии и недавно получивших независимость государств в зале Генеральной Ассамблеи, и установленный тогда запрет на размещение оружия массового уничтожения на орбите соблюдается до сих пор. Односторонний отказ США от биологического оружия открыл переговоры, итогом которых стал первый многосторонний договор, запретивший целую категорию оружия. Когда два химика показали, что вещество, присутствующее в каждом холодильнике и аэрозольном баллончике, разрушает озоновый слой, промышленность назвала это научной фантастикой, а ответом стал один из немногих договоров, получивших всеобщую ратификацию. Сегодня прогнозируется восстановление озонового слоя.
Во всех трёх случаях повторяется одна и та же картина: технологии опередили политику, наука установила риск до того, как ущерб стал необратимым, а дипломаты решили действовать на основе фактов, а не последствий катастрофы. Мы считаем, что для ИИ пришло время сделать этот шаг.
Блетчли, Сеул и резолюция Генеральной Ассамблеи 2024 года представляют собой политические обязательства, принятые консенсусом. Ни одно из них не создаёт обязанности сообщать об обучении модели, права на инспекцию модели или последствий за отказ от того и другого.
Каждый режим устанавливает собственный порог: в ЕС презумпция действует от 1025 операций, в Калифорнии определение начинается с 1026. При этом каждый режим применяется лишь после того, как модель выпущена на его собственный рынок, оставляя в стороне исследования, испытания и разработку, то есть именно тот этап, на котором в июле 2026 года произошёл сбой изоляции. Порог, установленный в одностороннем порядке, можно обойти, перенеся деятельность в другое место, а порог, закреплённый в законе, устаревает сам по себе по мере того, как алгоритмическая эффективность снижает объём вычислений, необходимый для той или иной возможности.
Регулятор может истребовать документы у компании на своей территории и нигде больше, поэтому всё, что находится за этой чертой, держится на самоотчётности. Доступ к объекту, к процессу обучения или к модели, находящимся в другом государстве, до сих пор удавалось получить только на основании договора. Когда изоляция действительно была нарушена, раскрытие информации стало решением компании: государства приняли обязанность оповещать о ядерной аварии через границы сразу после её обнаружения, однако аналогичной обязанности в отношении системы, покинувшей изолированную среду, не существует.
Мы пишем постановляющую часть. Разногласия становятся видны только тогда, когда кто-то написал пункт, устанавливающий обязательство.
ГОСУДАРСТВА-УЧАСТНИКИ НАСТОЯЩЕЙ КОНВЕНЦИИ,
СОЗНАВАЯ, что деятельность, связанная с передовыми системами искусственного интеллекта, осуществляется в ряде государств,
ОТМЕЧАЯ, что были приняты и принимаются меры для обеспечения безопасной разработки, оценки и использования таких систем, направленные на предотвращение инцидентов и сведение к минимуму последствий любого такого инцидента, если он произойдёт,
ЖЕЛАЯ и далее укреплять международное сотрудничество в области безопасной разработки и использования систем искусственного интеллекта,
БУДУЧИ УБЕЖДЕНЫ в необходимости того, чтобы государства как можно раньше предоставляли соответствующую информацию об инцидентах, связанных с системами искусственного интеллекта, с тем чтобы свести к минимуму трансграничные последствия,
ОТМЕЧАЯ полезность двусторонних и многосторонних договорённостей об обмене информацией в этой области,
СОГЛАСИЛИСЬ о нижеследующем:
1. Настоящая Конвенция применяется в случае любого инцидента, связанного с указанной в пункте 2 ниже деятельностью государства-участника либо физических или юридических лиц, находящихся под его юрисдикцией или контролем, в результате которого происходит или может произойти нарушение изоляции системы искусственного интеллекта.
2. Деятельностью, упомянутой в пункте 1, является следующее:
3. Для целей настоящей Конвенции:
4. Настоящая Конвенция применяется независимо от того, была ли передовая система искусственного интеллекта выпущена на рынок или предоставлена третьим лицам, и независимо от того, был ли причинён ущерб.
В случае инцидента, указанного в статье 1 (далее именуемого «инцидент, связанный с ИИ»), государство-участник, упомянутое в этой статье:
В целях сведения к минимуму последствий государства-участники могут направлять оповещения в случае инцидентов, связанных с системами искусственного интеллекта, помимо указанных в статье 1.
Организация:
1. Информация, предоставляемая в соответствии с подпунктом b) статьи 2, включает следующие данные, имеющиеся на тот момент у оповещающего государства-участника:
2. Такая информация через надлежащие промежутки времени дополняется иной соответствующей информацией о развитии ситуации, включая её прогнозируемое или фактическое завершение.
3. Информация, полученная в соответствии с подпунктом b) статьи 2, может использоваться без ограничений, за исключением случаев, когда такая информация предоставляется оповещающим государством-участником на конфиденциальной основе.
Государство-участник, предоставляющее информацию в соответствии с подпунктом b) статьи 2, насколько это разумно практически возможно, оперативно отвечает на просьбу другого государства-участника о предоставлении дополнительной информации или о проведении консультаций в целях сведения к минимуму последствий.
1. Каждое государство-участник сообщает Организации и другим государствам-участникам непосредственно или через Организацию о своих компетентных органах и контактном пункте, ответственных за направление и получение оповещения и информации, упомянутых в статье 2. Такие контактные пункты и координационный центр в рамках Организации действуют постоянно.
2. Каждое государство-участник оперативно информирует Организацию о любых изменениях, которые могут произойти в информации, упомянутой в пункте 1.
3. Организация ведёт обновляемый перечень таких национальных органов и контактных пунктов, а также контактных пунктов соответствующих международных организаций и предоставляет его государствам-участникам, государствам-членам и соответствующим международным организациям.
4. Каждое государство-участник требует от физических и юридических лиц, находящихся под его юрисдикцией или контролем и осуществляющих деятельность, указанную в статье 1, назначить постоянно действующий контактный пункт для целей подпункта c) статьи 2 и зарегистрировать его в компетентном органе.
Организация по просьбе государства-участника, на территории которого вычислительные системы, сети, инфраструктура или лица могут быть затронуты инцидентом, связанным с ИИ, оказывает помощь в создании надлежащего потенциала для получения оповещений, а также для выявления и сдерживания последствий инцидентов, связанных с ИИ, в целях содействия достижению целей настоящей Конвенции.
Каждое государство-участник требует также от физических и юридических лиц, находящихся под его юрисдикцией или контролем и осуществляющих деятельность, указанную в статье 1, предоставлять одному или нескольким оценщикам, назначенным компетентным органом, постоянный доступ, на условиях не менее благоприятных, чем условия для их собственного персонала, к средам, в которых передовые системы искусственного интеллекта разрабатываются, обучаются, оцениваются или используются для внутренних нужд, к применяемым к ним мерам изоляции, контроля и мониторинга и к создаваемым ими записям.
1. Депозитарий созывает Совещание государств-участников не позднее чем через один год после вступления в силу настоящей Конвенции и в дальнейшем с периодичностью не более двух лет. Совещание рассматривает действие настоящей Конвенции.
2. Государства-участники на своём первом совещании рассматривают и утверждают процедуры и институциональные механизмы определения несоблюдения положений настоящей Конвенции и обращения с государствами-участниками, в отношении которых установлено несоблюдение.
В интересах содействия своим взаимным интересам государства-участники могут в тех случаях, когда это считается целесообразным, рассматривать вопрос о заключении двусторонних или многосторонних договорённостей, касающихся предмета настоящей Конвенции.
1. Настоящая Конвенция не затрагивает взаимных прав и обязательств государств-участников по существующим международным соглашениям, касающимся вопросов, охватываемых настоящей Конвенцией, или по будущим международным соглашениям, заключённым в соответствии с объектом и целью настоящей Конвенции.
1. В случае спора между государствами-участниками или между государством-участником и Организацией относительно толкования или применения настоящей Конвенции стороны в споре проводят консультации с целью урегулирования спора путём переговоров или любыми другими приемлемыми для них мирными средствами урегулирования споров.
2. Если такой спор между государствами-участниками не может быть урегулирован в течение одного года с момента обращения с просьбой о консультациях согласно пункту 1, он по просьбе любой из сторон в таком споре передаётся на арбитраж или в Международный Суд для вынесения решения. Если спор передаётся на арбитраж и в течение шести месяцев с даты обращения с просьбой стороны в споре не могут договориться об организации арбитража, любая сторона может просить Председателя Международного Суда или Генерального секретаря Организации Объединённых Наций назначить одного или нескольких арбитров. В случае противоречащих друг другу просьб сторон в споре приоритет имеет просьба, направленная Генеральному секретарю Организации Объединённых Наций.
3. При подписании, ратификации, принятии или утверждении настоящей Конвенции либо при присоединении к ней государство может заявить, что оно не считает себя связанным одной или обеими процедурами урегулирования споров, предусмотренными в пункте 2. Другие государства-участники не связаны процедурой урегулирования споров, предусмотренной в пункте 2, в отношении государства-участника, для которого такое заявление остаётся в силе.
4. Государство-участник, сделавшее заявление в соответствии с пунктом 3, может в любое время отозвать его путём уведомления депозитария.
1. Настоящая Конвенция открыта для подписания всеми государствами в Центральных учреждениях Организации Объединённых Наций в Нью-Йорке с момента её утверждения до её вступления в силу или в течение двенадцати месяцев, в зависимости от того, какой срок является более продолжительным.
2. Государство может выразить согласие на обязательность для него настоящей Конвенции путём подписания, путём сдачи на хранение ратификационной грамоты, документа о принятии или утверждении после подписания, подлежащего ратификации, принятию или утверждению, либо путём сдачи на хранение документа о присоединении. Ратификационные грамоты и документы о принятии, утверждении или присоединении сдаются на хранение депозитарию.
3. Настоящая Конвенция вступает в силу через тридцать дней после того, как согласие на её обязательность выразят три государства.
4. Для каждого государства, выражающего согласие на обязательность для него настоящей Конвенции после её вступления в силу, настоящая Конвенция вступает в силу через тридцать дней после даты выражения такого согласия.
5.
Государство может при подписании или в любую последующую дату до вступления настоящей Конвенции в силу для него заявить, что оно будет применять настоящую Конвенцию на временной основе.
1. Любое государство-участник может предлагать поправки к настоящей Конвенции. Предлагаемая поправка представляется депозитарию, который незамедлительно рассылает её всем другим государствам-участникам.
2. Если большинство государств-участников просит депозитария созвать конференцию для рассмотрения предлагаемых поправок, депозитарий приглашает все государства-участники принять участие в такой конференции, которая начинается не ранее чем через тридцать дней после рассылки приглашений. Любая поправка, принятая на конференции большинством в две трети всех государств-участников, оформляется в виде протокола, который открыт для подписания всеми государствами-участниками в Центральных учреждениях Организации Объединённых Наций.
3. Протокол вступает в силу через тридцать дней после того, как согласие на его обязательность выразят три государства. Для каждого государства, выражающего согласие на обязательность для него протокола после его вступления в силу, протокол вступает в силу через тридцать дней после даты выражения такого согласия.
4. Независимо от пунктов 2 и 3, поправка, касающаяся только приложения I и принятая на конференции, созванной в соответствии с пунктом 2, большинством в две трети всех государств-участников, вступает в силу для всех государств-участников через сто восемьдесят дней после её принятия, за исключением государства-участника, которое в течение этого срока уведомило депозитария о том, что оно не принимает поправку.
1. Государство-участник может денонсировать настоящую Конвенцию путём письменного уведомления депозитария по истечении двух лет с даты вступления настоящей Конвенции в силу для этого государства-участника.
2. Денонсация вступает в силу через один год после даты получения уведомления депозитарием или в такую более позднюю дату, которая может быть указана в уведомлении.
3. Денонсация не затрагивает обязательств денонсирующего государства-участника по статьям 2, 5 и 6 в отношении любого инцидента, связанного с ИИ, который произошёл до вступления денонсации в силу. Эти обязательства сохраняются до тех пор, пока инцидент не завершится и не будет предоставлена информация, требуемая статьёй 5.
1. Депозитарием настоящей Конвенции является Генеральный секретарь Организации Объединённых Наций.
2. Генеральный секретарь оперативно уведомляет государства-участники и все другие государства:
Подлинник настоящей Конвенции, английский, арабский, испанский, китайский, русский и французский тексты которой являются равно аутентичными, сдаётся на хранение Генеральному секретарю Организации Объединённых Наций, который направляет заверенные копии государствам-участникам и всем другим государствам.
1. Модель или система искусственного интеллекта является передовой системой искусственного интеллекта для целей подпункта a) пункта 3 статьи 1, если выполняется любое из следующих условий:
2. Критерии, указанные в пункте 1, могут быть изменены в соответствии с пунктом 4 статьи 16.
Назад к разделу «Как мы работаем»Скачать PDF (на английском)
Кто мы
Мы пишем текст договора, выносим его на обсуждение и отстаиваем его там, где на самом деле ведутся переговоры о международных документах.
Инициатива объединяет специалистов по международному публичному праву, исследователей ИИ и людей, работавших в составе национальных делегаций. Никто из нас не представляет здесь правительство. Проект принадлежит тому, кто его улучшит.
Мы работаем открыто. Каждая статья публикуется вместе с обоснованием, прецедентом, на который она опирается, и возражением, которого мы ожидаем. Там, где мы пока не пришли к согласию, текст остаётся в квадратных скобках, а не сглаживается.
Мы не занимаем позицию в отношении какой-либо компании и не принимаем финансирования от передовых лабораторий. Речь идёт об обязательствах между государствами, а не о том, кто выиграет рынок.
Полный текст договора, а не набор принципов, потому что разногласия становятся видны только тогда, когда кто-то написал постановляющий пункт.
Проект направляется исследователям, юристам и должностным лицам до того, как какое-либо государство попросят его подписать, и на каждый комментарий даётся открытый ответ.
В Генеральной Ассамблее, в региональных органах и на саммитах, то есть там, где на деле создавались прецеденты, устранившие сопоставимые пробелы.
AI Treaty Initiative
Изучал политологию и право в Университете Лос-Андес. Его опыт связан с многосторонними переговорами.
Специалист в области международного бизнеса с опытом исследовательской работы, бизнес-консалтинга и работы в многокультурной среде. Участвовала в хакатоне Global South AI Safety Hackathon.
Представители
Амбассадоры инициативы являются лидерами, поддерживающими договор. Они выступают в его защиту, привлекают к нему внимание и выстраивают союзы, приближающие его принятие.
Молодой лидер по версии Forbes 30 Under 30.
Консультативный
Работу инициативы направляет консультативный совет. Он не выполняет исполнительных функций. Его члены дают рекомендации о направлении работы и о том, как продвигается инициатива: что готовить дальше, в каких форумах участвовать и когда текст готов к представлению государствам.
AI Treaty Initiative
Tomas Antolinez Основатель
Поддержать
Поддержка означает, что вы выступаете за переговоры о юридически обязывающем международном документе о передовом ИИ на условиях, изложенных в Конвенции об оперативном оповещении об инцидентах, связанных с ИИ. Вы можете подписать от своего имени или от имени организации.
Подписей: 0. Следующая цель: 100
Подтверждено: 0
Организации, поддерживающие инициативу
Основатель
Основатель, AI Treaty Initiative
Tomas Antolinez основал AI Treaty Initiative, которая выступает за юридически обязывающий международный договор о передовом искусственном интеллекте.
Изучал политологию и право в Университете Лос-Андес с дополнительной специализацией по экономике и входил в университетскую группу эффективного альтруизма. Работал в Управлении международных дел Министерства окружающей среды и устойчивого развития Колумбии.
Его опыт связан с многосторонними переговорами. Он был делегатом Колумбии на COP30 и участвовал более чем в шести конференциях сторон многосторонних соглашений. Он находился в зале Генеральной Ассамблеи, когда был принят Пакт во имя будущего, и участвовал в восьмидесятой сессии Ассамблеи. Входил в команду, создавшую Первую конференцию по переходу от ископаемого топлива.
Член сообщества Global Shapers, объединяющего молодых лидеров под эгидой Всемирного экономического форума.
← Назад к разделу «Кто мы»