Кто решает, что может говорить ИИ: разбор спора вокруг FTC

Федеральная торговая комиссия США (FTC) предложила политику, которая позволяет считать нарушением нераскрытую идеологическую предвзятость в ответах ИИ. Звучит абстрактно. На деле это рычаг, с помощью которого государство решает, какие мнения алгоритмы могут продвигать.

Суть предложения

Документ нацелен на ИИ-генерацию, «искажённую нераскрытыми идеологическими целями», и на «так называемую справедливость» (so-called “equity”). Собрано больше 300 публичных комментариев. Почти все они — по одну сторону баррикад: группы по всему идеологическому спектру разнесли проект.

Но самое интересное — не юридическая дуэль. В комментариях внезапно всплыл Китай.

Китай фигурирует в четырёх разных ипостасях: как угроза, как оправдание мягкого регулирования, как антипод американских ценностей и как обвинение в адрес самой администрации — дескать, она двигается к цензуре.

Китай как зеркало

Open Markets Institute сравнило проект с китайской цензурой ИИ-моделей, которые систематически отказываются обсуждать Тяньаньмэнь, Тайвань и критику Коммунистической партии. Фонд защиты демократий, наоборот, утверждает: контроль нужен, чтобы бороться с предвзятостью китайских моделей, которые уже используются и в США. А группа Innovation Council Action, связанная с технологическими советниками Трампа, видит в проекте способ опередить регулирование на уровне штатов и сохранить конкурентоспособность с Китаем.

Ирония в том, что все эти аргументы работают на удержание политики в силе. Страх перед Китаем, мировым лидером контроля контента, может закрепить документ, который критики называют угрозой Первой поправке.

Чем отличаются подходы США и Китая

В исходном документе FTC прямо написано: «геополитические конкуренты вкладывают серьёзные средства, надеясь внедрить свои компании и ценности на рынок». А в июльской речи на Всемирной конференции по ИИ в Шанхае Си Цзиньпин призвал к «безопасному и контролируемому ИИ», к тому, чтобы ИИ не подрывал «уникальность культур разных стран», и к предотвращению «злонамеренного использования». Всё это на практике означает поддержку политической цензуры.

Что делать компаниям

Главная проблема для разработчиков — неопределённость. Никто не знает, что именно FTC сочтёт «нераскрытой идеологической целью». Поэтому ждать, пока правила устаканятся, нельзя. Razумные шаги в нынешней ситуации:

• Следить за комментариями и дальнейшими действиями FTC: правило могут переписать, отозвать или утвердить в первоначальном виде.
• Готовиться к требованиям прозрачности: придётся раскрывать, если модель обучалась на политически окрашенных данных.
• Описывать ценностные установки явно, а не прятаться за «нейтральностью». Тогда никакая идеология не останется «нераскрытой».
• Документировать правила модерации: на какие темы модель не отвечает и почему. Это может стать ключевым доказательством добросовестности.
• Пересмотреть отношения с поставщиками моделей из Китая: если используете их API, возможно, потребуется отдельное раскрытие.

На одном этом списке не остановиться. Вопрос гораздо глубже: должен ли производитель ИИ быть в ответе за то, что его модель «думает»? FTC считает, что да. Противники считают, что нет. Китай здесь — лишь снаряд в этой битве.

Вывод

Содержание речи ИИ должно оставаться предметом выбора разработчиков и пользователей. Многообразие моделей с разными взглядами — это здорово. А вот угроза правоприменения со стороны FTC, направленная на то, чтобы заставить модели говорить «правильно», уводит в сторону. Особенно если при этом Китай становится то пугалом, то оправданием.