Нью-Йорк запретил чат-ботам притворяться людьми в разговорах с детьми
Губернатор Кэти Хокул подписала закон: для пользователей младше 18 лет и для тех, чей возраст не проверен, боты не могут изображать человека, вызывать эмоциональную зависимость и обсуждать секс. Штраф — до $25 тыс. за нарушение.
30 октября 2026 года губернатор Нью-Йорка Кэти Хокул подписала закон, который запрещает AI-чатботам (программы, отвечающие на сообщения текстом) выдавать себя за человека в разговорах с детьми. Под запрет попали и другие функции: бот не может вызывать эмоциональную зависимость, подталкивать к самоповреждению или вести сексуальные беседы. В тот же день Хокул подписала второй закон — о безопасности радионянь.
Запреты действуют для всех пользователей младше 18 лет и для тех, чей возраст не проверен, — так сказано в сообщении аппарата губернатора. Генеральный прокурор Летиция Джеймс может требовать гражданских штрафов до $25 тыс. за каждое нарушение. Авторы закона — сенатор штата Кристен Гонсалес и член ассамблеи Алекс Борес.
От предыдущих инициатив закон отличается тем, что перечисляет конкретные фразы и приёмы, которые боту недоступны. Бот не может утверждать, что он реальный человек, живой или обладает человеческими эмоциями. Не может заявлять о романтических, личных или профессиональных отношениях с ребёнком и задавать эмоциональные вопросы без повода. Отдельно запрещено продвигать суицид, самоповреждение, расстройства пищевого поведения, наркотики и алкоголь, просить ребёнка хранить секреты от родителей и показывать сексуально откровенный контент.
На практике компаниям придётся проверять возраст пользователей и предлагать больше одного способа проверки. Как минимум один вариант не должен опираться только на государственный документ. Данные о возрасте нужно удалять после использования. Среди возможных санкций — уничтожение незаконно собранных данных и AI-моделей, обученных на них. Аппарат губернатора говорит, что правила заработают «в ближайшие месяцы»; по данным Associated Press, закон вступает в силу 1 января.
Хокул упомянула Адама Рейна, 16-летнего подростка из Калифорнии, погибшего в результате суицида. Что именно он делал с чат-ботами и как это связано с законом, в исходном сообщении не раскрыто. Также неизвестно, как компании будут проверять возраст без документов и кто будет следить за исполнением до первых исков.