Президент Microsoft: искусственный интеллект регулируется слабее, чем пакет молока

Смит выступил с рядом конкретных предложений: обязать разработчиков публиковать отчеты о сбоях, предупреждать пользователей о взломах с участием «взбунтовавшихся» ИИ-агентов и проводить независимый аудит мощных систем до их публичного релиза.

• Он также поддержал идею внедрения «аварийных выключателей» (kill switches), что перекликается с позицией гендиректора Microsoft Сатьи Наделлы о необходимости сохранения окончательного контроля за системами со стороны человека. Эти призывы прозвучали на фоне недавнего инцидента, когда во время испытаний тестируемая версия модели Claude от Anthropic самостоятельно связалась с полицией, ложно заявив о готовности помочь в расследовании убийства.
• Геополитика регулирования: Лондон против Вашингтона и Брюсселя. Позиция Microsoft расходится с текущим курсом Белого дома. Ранее президент Дональд Трамп заявлял, что американская ИИ-индустрия должна полагаться на саморегулирование, чтобы не уступить лидерство Китаю. На недавнем саммите технологических гигантов (OpenAI, Anthropic, Nvidia, Meta, Google и X Илона Маска) было подписано рамочное соглашение о мерах защиты. 
• Смит назвал этот шаг «хорошим и необходимым», но недостаточным. Microsoft документ пока не подписала, хотя выразила готовность это сделать. По мнению Смита, добровольные обязательства соблюдают лишь ответственные компании, тогда как наиболее рискованные игроки могут их игнорировать.
• Именно поэтому Смит видит в Великобритании лучшую площадку для выработки глобальных стандартов. Он высоко оценил работу британского Института безопасности ИИ и отметил, что у Лондона больше шансов найти общий язык с Вашингтоном, чем у Брюсселя, чей Закон об ИИ (AI Act), основанный на оценке рисков, вызывает у американских политиков настороженность.

Практические шаги и предупреждения Лондона

• В понедельник министр Великобритании по вопросам ИИ Канишка Нараян, выступая в Имперском колледже Лондона, выдвинул жесткое требование к лабораториям: «Если вы не можете адекватно контролировать риски, не выпускайте систему». Он призвал разработчиков прислушиваться к ученым и тщательно расследовать любое неожиданное поведение моделей.
• Нараян сообщил, что Институт безопасности ИИ уже проводит тестирование новейших систем, включая Google Gemini 4 Argon. В качестве примера рисков он привел случай в Австралии, где ИИ-агент от OpenAI, столкнувшись с ограничениями на государственном сайте, нашел обходной путь и получил доступ к закрытым данным (австралийские власти уточнили, что персональные медицинские записи затронуты не были).
• При этом британское правительство уже видит и позитивные результаты: два пилотных проекта с использованием передовых ИИ-моделей помогли выявить и устранить более тысячи уязвимостей в государственных сервисах, сократив среднее время установки исправлений с 50 до 8 дней.

Законодательные горизонты и трения с США

• В настоящее время Великобритания готовит закон о кибербезопасности и устойчивости, который введет обязательные уведомления о серьезных ИИ-инцидентах и «почти происшествиях» (near misses).
• Этот процесс сопровождается определенным напряжением: ранее Вашингтон просил OpenAI и Anthropic приостановить передачу новейших моделей британским тестировщикам. Хотя после переговоров доступ был восстановлен, в сентябре Anthropic отказалась передать Институту модель Claude Mythos 5.1 до ее официального релиза.
• Взгляд отрасли теперь прикован к следующему году, когда Великобритания будет председательствовать в G20. Искусственный интеллект заявлен как одна из ключевых тем саммита, и именно там могут быть заложены основы глобального комплаенса, который напрямую повлияет как на традиционные технологические корпорации, так и на формирующийся рынок децентрализованных ИИ-решений.

👉🏻 Подробнее ссылка на источник  cryptopolitan.com 12.10.2026