«Обязательные правила для ИИ»: комиссар ЕС Магнус Брунер предупреждает о будущем, в котором ИИ может превзойти человека

ИИ больше не просто технологическая гонка — это задача управления: создать правильные правила, инструмент безопасности и, потенциально, экзистенциальный риск.

Выступая на сцене мероприятия HumanX в Сан-Франциско, европейский комиссар Магнус Бруннер изложил подход Европы к регулированию ИИ, защищая спорный ИИ Act, при этом признавая его ограничения — и предупреждая о будущем, где искусственный интеллект может превзойти человеческий контроль.

ИИ-акт Европы: «Нужны правила, чтобы игра работала»

Бруннер затронул одну из самых распространённых критик в адрес Европы: регулировать слишком рано и слишком сильно. Но для него регулирование — не ограничение — это инфраструктура.

«Футбол — отличная игра, но вам нужны правила. Нужны линии, ворота и судья. То же самое и с ИИ».

ИИ-акт ЕС призван создать единую рамочную систему в 27 государствах-членах и для 450 миллионов граждан, задав то, что Бруннер называет «ограничителями» для развития доверенного ИИ.

Хотя критики утверждают, что это замедляет инновации, Бруннер даёт отпор:

«Регулирование не враг инноваций… Если у вас есть эти ограничители, у вас есть понимание того, что происходит, а не жизнь в Диком Западе».

США против Европы: фрагментация против рамочного подхода

Один из самых заметных контрастов, подчеркнутых в ходе обсуждения, — регуляторный разрыв между Европой и Соединёнными Штатами.

Пока ЕС ввёл один всеобъемлющий закон, США остаются фрагментированными: регулирование ИИ возникает на уровне штатов.

«У нас была невыгодная сторона фрагментации… а теперь у нас один ИИ-акт. В США нет федерального регулирования, но у разных штатов есть свои правила. Это удивило нас».

Любопытно, что Бруннер отметил: некоторые штаты США — особенно California — движутся в сторону рамок, похожих на европейские.

«Нам немного польстили… сердце инноваций — это перенимать похожие правила».

Это сигнализирует о потенциальном сближении двух моделей, несмотря на философские различия.

ИИ и преступность: новая цифровая арена

Помимо регулирования, Бруннер подчеркнул менее обсуждаемое измерение: ИИ как инструмент в современной преступности — и в правоохранительной деятельности.

По его словам, преступные организации быстро внедряют ИИ:

«Преступники используют ИИ всё больше и больше… более продвинутый… более трансграничный… более международный».

В ответ европейские институты — в частности Europol — интегрируют ИИ в свою работу.

«ИИ можно использовать и во благо, и во зло… нам нужно успевать».

Один тревожный тренд — возраст рекрутирования:

«Им от 12 до 20 лет… и всё больше — в цифровой сфере».

Рост ИИ-ориентированного пограничного контроля

Один из самых конкретных примеров применения, о котором шла речь, — новая система въезда-выезда ЕС: масштабная инфраструктура, управляемая ИИ и предназначенная для мониторинга передвижений через границы.

Бруннер описал это как:

«Самейшая в мире система управления IT».

Всего за несколько месяцев:

– 45 million регистраций было обработано

– 24,000 въездов были отклонены из-за мошеннических документов

– 500–600 человек были идентифицированы как угрозы безопасности

Система объединяет биометрические данные и обмен данными в реальном времени между государствами-членами — то, что раньше было невозможно.

«Теперь они передают это в реальном времени, что помогает в вопросах безопасности».

Конфиденциальность против безопасности: «очень тонкая грань»

Возможно, самый чувствительный вопрос по-прежнему — баланс между гражданскими свободами и безопасностью.

Бруннер прямо признал наличие напряжения:

«Между приватностью и тем, чтобы идти за преступниками, — очень тонкая грань».

Дискуссия становится ещё более острой, когда речь заходит о таких областях, как защита детей:

«Если сравнить защиту данных и защиту детей… то это должна быть защита детей. Но это моё личное мнение».

Несмотря на такую позицию, он подтвердил, что фундаментальные права остаются недискутируемыми:

«Права человека должны быть защищены… но в итоге это всегда компромисс».

Главнейший страх: ИИ, превосходящий человеческий контроль

Заглядывая вперёд, Бруннер не стал уклоняться от экзистенциальных опасений.

Его главный страх — не злоупотребление, а потеря контроля:

«Искусственный интеллект обгоняет людей в знаниях… и люди больше не могут решать, что делает ИИ».

Он даже упомянул сценарии, при которых системы ИИ могут сопротивляться отключению:

«ИИ говорит нам, когда его нужно отключить — или не позволяет нам отключить его».

Хотя это пока гипотетично, он предупредил, что траектория уже указывает в этом направлении.

Глобальная гонка — но ключевое значение имеет сотрудничество

Несмотря на геополитическую напряжённость, Бруннер описал развитие ИИ как и конкуренцию, и сотрудничество.

«Это гонка… но США и Europe должны работать вместе».

Он предложил взаимный обмен: Европа даёт регуляторные рамки, а США — инновации и гибкость.

«Нам нужно учиться друг у друга».

В мире, всё больше формируемом ИИ — и конкурирующими моделями управления — это сотрудничество может оказаться решающим и для создания более правильных правил тоже.