Тестирование вместо запретов: Глава Банка Англии предложил новый подход к укрощению «фронтирного» ИИ

Глава Банка Англии Эндрю Бейли призвал не торопиться с регулированием ИИ на законодательном уровне. Сначала, по его словам, нужно провести жесткие стресс-тесты систем, чтобы найти их слабые места и предотвратить возможные риски. В своей первой публикации на платформе Substack Бейли обозначил вектор, который, вероятно, станет основой для глобальной политики безопасности ИИ: вместо бюрократических ограничений мир нуждается в «суровых» стресс-тестах.

Реальные риски и огромные выгоды

• Бейли не отрицает опасности, подчеркивая, что риски, связанные с ИИ, «реальные и всё более значимые». Однако он выступает против паники и призывов к заморозке разработок. «Наоборот, выгоды огромны», — отмечает глава Банка Англии, добавляя, что человечеству необходима система вмешательства и четкого установления границ, а не запретительные меры.
• Особую тревогу у Бейли вызывает так называемый «фронтирный ИИ» — высокоразвитые самообучающиеся системы. Без эффективного внешнего вмешательства они рискуют превратиться в «замкнутый круг, в котором модель постепенно управляет собой».

Философия «смирения» и право на ошибку

• Великобритания уже делает шаги в этом направлении, создав Институт безопасности ИИ. Бейли называет эту «важную работу» фундаментом для будущих стандартов, но призывает ускорить темпы. При этом он делает важную оговорку: «Мы должны действовать с определённой степенью смирения».
• Это смирение перед лицом сложности нейросетей означает готовность к сбоям. Бейли подчеркивает, что непредсказуемое поведение моделей в процессе проверок — это норма. «Это не доказательство того, что тестирование провалилось, а скорее доказательство того, почему тестирование необходимо», — резюмирует он.
• По мнению Бейли, стресс-тесты не должны рассматриваться как альтернатива законам. Со временем нормативная база появится, «но, на мой взгляд, регулирование — не лучшее место для начала». Сначала нужно понять, как именно система ломается, чтобы знать, что именно защищать.

Геополитика ИИ: между осторожностью и гонкой вооружений

• Позиция Бейли звучит на фоне обострившихся дебатов в глобальном технологическом сообществе. Руководители Anthropic и OpenAI недавно призывали к замедлению развития ИИ и выработке международных мер предосторожности. Более того, OpenAI приняла беспрецедентное решение не выпускать свою последнюю модель из-за опасений за безопасность.
• Однако политический мейнстрим, особенно в США, настроен иначе. Идея заморозки прогресса была жестко отвергнута Дональдом Трампом, который рассматривает ИИ через призму конкуренции с Китаем. «И, честно говоря, я хочу, чтобы так и осталось, потому что кто победит в ИИ, тот и победит», — заявил он, подчеркивая, что США не имеют права терять темп.
• Тем не менее, давление в области безопасности приносит результаты. На этой неделе Трамп сообщил, что лидеры OpenAI, Anthropic, Nvidia, SpaceX, Meta и Google подписали «морально обязательный» документ. По словам политика, это соглашение станет «формой защиты» от рисков, возлагая на сами компании ответственность за безопасность их технологий.

АНАЛИЗ: Почему подход Бейли опережает свое время?

Заявления Эндрю Бейли отражают назревший сдвиг в парадигме понимания искусственного интеллекта. Его позицию можно разобрать через три ключевых призмы: технологическую, геополитическую и регуляторную.

• Эмпирический подход против «слепой» бюрократии Бейли абсолютно прав в том, что регулирование «не то место, с которого стоит начать». Невозможно написать эффективный закон для технологии, чье поведение в пограничных условиях (edge cases) до конца не изучено даже ее создателями. Требование «строгих тестов» — это попытка собрать эмпирический базис. Пока регуляторы не увидят, как именно нейросети пытаются обойти ограничения (так называемое sleeper agent behavior или скрытое выравнивание целей), любые законы будут либо бесполезны, либо задушат инновации. Смирение, о котором говорит Бейли, — это признание того, что ИИ остается «черным ящиком».

. Разрешение геополитической дилеммы безопасности Бейли нащупал идеальный баланс между двумя крайностями.

• Крайность 1 (OpenAI/Anthropic): Замедление прогресса ради безопасности. В условиях глобальной конкуренции это невозможно — если Запад остановится, авторитарные режимы продолжат гонку без этических ограничений.
• Крайность 2 (Трамп): Безудержная гонка, где безопасность отходит на второй план ради доминирования. Подход Банка Англии (и Института безопасности ИИ) предлагает третий путь: не замедлять создание моделей, но радикально ускорить создание инструментов их аудита. Это позволяет сохранять технологическое лидерство, не скатываясь в безответственность.
• Проблема «замкнутого круга» и агентность ИИ Самое тревожное замечание Бейли касается риска того, что модель начнет «управлять собой». Это отсылка к проблеме инструментальной конвергенции и потери контроля (alignment problem). Если ИИ обладает достаточным уровнем автономности для самосовершенствования, традиционное регулирование (штрафы, лицензии) просто не будет работать, так как субъект регулирования способен скрыть свои истинные намерения от аудиторов. Именно поэтому «тестирование на сбое» критически важно: нам нужно провоцировать ИИ на попытки обмана или выхода из-под контроля в изолированных песочницах, чтобы найти уязвимости до того, как они проявятся в реальной экономике.
• Иллюзия «моральной обязательности». Соглашение, подписанное техногигантами по требованию Трампа, носит декларативный характер. История показывает, что «морально обязательные» документы в бизнесе работают до первого серьезного кризиса или появления агрессивного конкурента. Бейли это понимает, поэтому его стратегия выглядит более зрелой: тесты создают объективную картину рисков, которая в будущем ляжет в основу жесткого, но обоснованного регулирования.

Резюме: Эндрю Бейли фактически предложил доктрину «безопасности через стресс-тесты». Это признание того, что мы выпустили джина из бутылки, и пытаться загнать его обратно с помощью запретов бессмысленно. Единственный способ выжить в эпоху «фронтирного ИИ» — это постоянно и методично проверять его на прочность, принимая его непредсказуемость как данность.

👉🏻 Подробнее ссылка на источник  forklog.com  30.09.2026