- 23.01.25
- 1,240
- 33,300 ₽
- 18
Британские парламентарии предложили дать правительству право в чрезвычайной ситуации отключать мощные ИИ-системы и, если потребуется, целые дата-центры. Лорд Тим Клемент-Джонс внес соответствующую поправку в Cyber Security and Resilience Bill, который сейчас рассматривает Палата лордов. Инициатива получила название «kill switch», но в закон пока не вошла.
Поправка 84 разрешает министру приказать остановить дата-центр или ИИ-систему, развернутую в значительном масштабе, если возникла чрезвычайная ситуация в сфере безопасности или работы ИИ. Применить такое полномочие предлагается только при «катастрофическом риске», под которым авторы понимают масштабный сбой критической инфраструктуры и жизненно важных сервисов, серьёзный ущерб национальной безопасности, обороне или разведке либо тяжёлый массовый вред людям.
Речь идёт не о буквальной красной кнопке на столе чиновника. Владельцы дата-центров и поставщики ИИ должны будут заранее создать техническую инфраструктуру, позволяющую выполнить приказ об отключении, поддерживать защищённый канал связи с государством и регулярно проводить аварийные учения. После остановки системы поправка предусматривает разбор инцидента и меры, которые должны предотвратить повторение проблемы перед возобновлением работы.
Отказ подготовить такие механизмы предлагается сделать уголовным преступлением. В наиболее серьёзных случаях оператору или поставщику ИИ может грозить до двух лет лишения свободы, штраф либо оба наказания. После применения чрезвычайных полномочий правительство должно в течение семи дней представить парламенту отчёт с причинами вмешательства, а оператор получит возможность оспорить действия властей в Высоком суде.
Клемент-Джонс объясняет инициативу быстрым переходом от обычных чат-ботов к автономным ИИ-агентам, которые умеют самостоятельно выполнять цепочки действий, обращаться к инструментам и сетевым ресурсам и менять план без новой команды человека. Во время обсуждения 1 сентября лорд заявил, что государству нужен юридически закреплённый механизм аварийной остановки, если автономная модель начнёт создавать угрозу критической инфраструктуре.
Британское правительство пока не поддерживает идею отключения целых дата-центров. Представитель правительства в Палате лордов заявила, что действующая редакция законопроекта уже позволит властям приказать регулируемой организации прекратить работу с опасной ИИ-моделью и изолировать модель. Полное отключение площадок власти считают слишком грубой мерой, поскольку современные ИИ-системы часто распределены между несколькими дата-центрами и юрисдикциями, а остановка инфраструктуры способна одновременно затронуть множество посторонних сервисов.
Спор происходит на фоне более широкого усиления контроля над британской цифровой инфраструктурой. В 2024 году власти признали дата-центры частью критической национальной инфраструктуры наряду с энергетикой, водоснабжением и экстренными службами. Новый законопроект должен дополнительно отнести крупные площадки к жизненно важным сервисам, обязать операторов управлять киберрисками и сообщать о серьёзных инцидентах регулятору Ofcom.
Поправку Клемент-Джонса уже обсудили на стадии комитета Палаты лордов, однако отдельно на голосование её не вынесли. Поэтому британская «красная кнопка» пока остаётся предложением, а не новым полномочием правительства. Сам спор показывает более широкий сдвиг в регулировании ИИ. Законодатели обсуждают уже не только правила обучения и выпуска моделей, но и технический вопрос, кто и каким способом сможет принудительно остановить систему, если обычные средства контроля перестанут работать.
Поправка 84 разрешает министру приказать остановить дата-центр или ИИ-систему, развернутую в значительном масштабе, если возникла чрезвычайная ситуация в сфере безопасности или работы ИИ. Применить такое полномочие предлагается только при «катастрофическом риске», под которым авторы понимают масштабный сбой критической инфраструктуры и жизненно важных сервисов, серьёзный ущерб национальной безопасности, обороне или разведке либо тяжёлый массовый вред людям.
Речь идёт не о буквальной красной кнопке на столе чиновника. Владельцы дата-центров и поставщики ИИ должны будут заранее создать техническую инфраструктуру, позволяющую выполнить приказ об отключении, поддерживать защищённый канал связи с государством и регулярно проводить аварийные учения. После остановки системы поправка предусматривает разбор инцидента и меры, которые должны предотвратить повторение проблемы перед возобновлением работы.
Отказ подготовить такие механизмы предлагается сделать уголовным преступлением. В наиболее серьёзных случаях оператору или поставщику ИИ может грозить до двух лет лишения свободы, штраф либо оба наказания. После применения чрезвычайных полномочий правительство должно в течение семи дней представить парламенту отчёт с причинами вмешательства, а оператор получит возможность оспорить действия властей в Высоком суде.
Клемент-Джонс объясняет инициативу быстрым переходом от обычных чат-ботов к автономным ИИ-агентам, которые умеют самостоятельно выполнять цепочки действий, обращаться к инструментам и сетевым ресурсам и менять план без новой команды человека. Во время обсуждения 1 сентября лорд заявил, что государству нужен юридически закреплённый механизм аварийной остановки, если автономная модель начнёт создавать угрозу критической инфраструктуре.
Британское правительство пока не поддерживает идею отключения целых дата-центров. Представитель правительства в Палате лордов заявила, что действующая редакция законопроекта уже позволит властям приказать регулируемой организации прекратить работу с опасной ИИ-моделью и изолировать модель. Полное отключение площадок власти считают слишком грубой мерой, поскольку современные ИИ-системы часто распределены между несколькими дата-центрами и юрисдикциями, а остановка инфраструктуры способна одновременно затронуть множество посторонних сервисов.
Спор происходит на фоне более широкого усиления контроля над британской цифровой инфраструктурой. В 2024 году власти признали дата-центры частью критической национальной инфраструктуры наряду с энергетикой, водоснабжением и экстренными службами. Новый законопроект должен дополнительно отнести крупные площадки к жизненно важным сервисам, обязать операторов управлять киберрисками и сообщать о серьёзных инцидентах регулятору Ofcom.
Поправку Клемент-Джонса уже обсудили на стадии комитета Палаты лордов, однако отдельно на голосование её не вынесли. Поэтому британская «красная кнопка» пока остаётся предложением, а не новым полномочием правительства. Сам спор показывает более широкий сдвиг в регулировании ИИ. Законодатели обсуждают уже не только правила обучения и выпуска моделей, но и технический вопрос, кто и каким способом сможет принудительно остановить систему, если обычные средства контроля перестанут работать.
