Депутаты требуют запретить часть ИИ: что попало в список на 100 страниц

Главное предложение — создать единый независимый надзорный орган по ИИ и закрепить его законом. Сейчас, по оценке комитета, регулирование раздроблено между разными ведомствами, в нём трудно ориентироваться, и из-за этого остаются незакрытые места в защите людей.

Второе предложение — привязать обязанности к уровню риска: чем выше риск системы или модели, тем строже требования, и действовать они должны на всех стадиях жизненного цикла, а не только в момент запуска.

Комитет считает, что часть применений ИИ несовместима с правами человека и должна быть запрещена полностью. В докладе названы подпороговые техники воздействия и неприемлемое использование профилирования и биометрических данных.

В качестве примеров уже случившихся нарушений комитет приводит создание сексуализированных изображений женщин и девочек с помощью ИИ и сканирование лиц без согласия людей.

Председатель комитета, депутат от лейбористов Алекс Собел, сформулировал претензию шире, чем к одной стране: по его словам, нигде в мире, включая Великобританию, нынешний подход к регулированию ИИ не отвечает задаче. Технология развивается так быстро и стала такой сложной, что её последствия трудно предсказать, а страна к ним не готова.

Обещание регулировать ИИ звучало в предвыборной программе лейбористов 2024 года: связывающие правила для небольшого числа компаний, которые разрабатывают самые мощные модели. В тронной речи июля 2024 года правительство обязалось внести соответствующий законопроект, но в тронной речи этого года отдельного закона об ИИ не оказалось.

Министр образования Джорджия Гулд в ответ говорит, что правительство уже регулирует отрасль: приняты меры против дипфейков сексуального характера без согласия, есть законопроект, связанный с кибербезопасностью, а AI Security Institute тестирует модели, приходящие в Великобританию, и разбирает будущие риски.

Доклад вышел в тот момент, когда тревога звучит и изнутри компаний. Исследователь Джейкоб Коксон, ушедший из Anthropic, сказал BBC, что сотрудники, разрабатывающие такие системы, по-настоящему напуганы за будущее человечества. В Anthropic в ответ заявили, что строят модели с одними из самых сильных в отрасли механизмов защиты.

Накануне глава Anthropic Дарио Амодеи представил собственный план регулирования: глобальные правила, отраслевые требования и независимый контроль моделей по мере их разработки, а также замедление темпа. Руководители двух конкурирующих компаний, Сэм Альтман из OpenAI и Илон Маск, сказали, что согласны с ним.

Отдельная претензия, которая повторяется в таких докладах не первый год: модель, обученная на больших массивах из интернета, наследует предвзятость этих данных и может воспроизводить расистские и сексистские шаблоны, а также помогать в производстве и распространении дезинформации.

Британский закон, если он появится, не будет действовать в России. Но направление у регуляторов общее, и подготовка к нему почти ничего не стоит, если делать её заранее.

• Разделите свои сценарии по риску. Подсказки в интерфейсе и черновики текстов — одно, автоматические решения о людях (найм, кредит, доступ) — совсем другое, и второму нужна проверка человеком.
• Записывайте, на каких данных работает модель и откуда они взялись. Вопрос о происхождении данных первым задают и регуляторы, и клиенты.
• Биометрию и профилирование трогайте в последнюю очередь и только с явным согласием: именно эти применения чаще всего попадают в списки запрещённых.
• Держите журнал решений: какая версия модели, какой промпт, какой результат. Без этого невозможно ни разобрать инцидент, ни доказать добросовестность.
• Назначьте человека, который отвечает за систему после запуска. Требование контроля на всём жизненном цикле — это в первую очередь про эксплуатацию, а не про релиз.

Комитет не принимает законы, он формулирует требование. Дальше решение за правительством, которое пока предпочитает точечные меры вместо общего закона. Компаниям же выгоднее не ждать: перечисленные шаги полезны сами по себе, независимо от того, какой текст в итоге примут.