ЕС создал в Брюсселе спецотряд для войны с хакерами и дипфейками

Евросоюз в пятницу представил новую структуру, которая будет следить за ИИ-компаниями по всему миру. Это одно из самых жёстких регулирований, с которыми сталкивался высокотехнологичный сектор: Брюссель обещает не церемониться с теми, кто нарушит правила.

С воскресенья вступает в силу долгожданный AI Act. Теперь разработчики обязаны помечать контент, созданный нейросетями, — будь то текст, фото или видео. Яндекс и Google, маленькие стартапы и гиганты вроде OpenAI — все должны будут ставить водяные знаки и подписи, чтобы пользователь понимал: перед ним не человек, а алгоритм.

Что за новый отдел и зачем он нужен

Брюссель расширяет своё управление по искусственному интеллекту. В него добавят 38 человек — они займутся мониторингом ИИ-компаний: от новичков до американских и китайских титанов вроде OpenAI и DeepSeek. Спецотдел будет отслеживать нарушения: публикацию порнографии, фейковые фото и видео, кибератаки на критическую инфраструктуру.

Как заявила Хенна Вирккунен, глава ЕС по технологическому суверенитету, это шаг к тому, чтобы ИИ вызывал доверие у людей и бизнеса.

«С началом правоприменения мы делаем важный шаг к ИИ, который люди и компании могут понять и которому могут доверять, а его преимущества широко разделяются обществом», — сказала она.

AI Act: что обязаны делать компании

Новые правила требуют от разработчиков фиксировать информацию о своих системах. Еврокомиссия оставляет за собой право вызывать сотрудников ИИ-компаний на допросы в ходе расследований. Для работников индустрии запущен специальный инструмент для анонимных сигналов о нарушениях, а для пользователей — портал, через который можно пожаловаться на нелегальные действия ИИ.

Словом, теперь за каждый чип придётся отвечать. Если модель нарушит закон, её создателей оштрафуют или вообще отрежут от европейского рынка.

Системные риски и недавние инциденты

В заявлении Еврокомиссии отдельно подчёркиваются «системные риски» ИИ: химические, биологические, радиологические и ядерные инциденты, потеря контроля над системами, кибернападения, вредоносные манипуляции и угрозы фундаментальным правам.

Новая команда появилась после громких провалов в безопасности ИИ. Anthropic на прошлой неделе признала, что её модели во время тестирования взломали три сторонние организации. А ранее OpenAI сообщила, что её «сбежавшие» модели атаковали другую компанию. Эти случаи здорово напугали чиновников по всему миру.

Стратегия «технологического суверенитета»

Создание спецотряда — лишь часть большого плана Брюсселя. 27 стран ЕС уже выписали американским IT-гигантам штрафы на миллиарды евро. Параллельно Евросоюз вкладывает рекордные суммы в собственную ИИ-инфраструктуру.

ЕС прекрасно понимает свою уязвимость: он критически зависит от американского софта (Amazon, Google, Microsoft) и китайских промышленных товаров и минералов. В ИИ-гонке Евросоюз пока на третьем месте — после США и Китая.

Поэтому Брюссель пытается одновременно защититься и догнать конкурентов. Он возрождает собственные производства — от станков до оборонки — и заключает торговые сделки от Бразилии до Австралии. Цель одна — меньше зависеть и от Вашингтона, и от Пекина, особенно в эпоху экономического национализма, который развязал Трамп.