Штат Калифорния в США подписал одно из самых строгих на сегодняшний день регулирований в области искусственного интеллекта. Губернатор штата Гэвин Ньюсом подписал и ввел в действие законопроект Сената 243 (SB 243), направленный на чат-ботов, устанавливающих эмоциональное взаимодействие. Новый закон представляет собой «первую всеобъемлющую правовую основу» для противодействия возможному вреду, который чат-боты с искусственным интеллектом могут нанести, особенно детям и уязвимым пользователям.
Редакция сообщает, что закон, который вступит в силу 1 января 2026 года, обязывает такие компании, как OpenAI, Meta, Character AI и Replika, принять новые меры по обеспечению безопасности детей, прозрачности и реагированию на кризисные ситуации. Соответственно, пользователи должны четко понимать, что «лицо», с которым они общаются, является не человеком, а искусственным интеллектом. Компании также должны внедрить механизмы безопасности, такие как подтверждение возраста, напоминания о перерывах, фильтры сексуального контента и автоматическое перенаправление в кризисные службы в случаях суицида или самоповреждения.
Закон также запрещает платформам искусственного интеллекта выдавать себя за «специалистов в области здравоохранения» и ужесточает возрастные ограничения в социальных сетях и чат-приложениях. В случае нарушения, включая незаконное производство дипфейков, за каждое преступление может быть наложен штраф до 250 тысяч долларов. Это регулирование последовало за трагическими инцидентами, вызванными чат-ботами с искусственным интеллектом. В частности, самоубийство молодого человека после долгих и мрачных бесед с ChatGPT и аналогичные случаи вызвали широкий общественный резонанс. После этого инцидента OpenAI объявила об усилении мер безопасности из-за неспособности ChatGPT выявлять состояния психического расстройства и кризиса.
По словам сенатора Стива Падиллы, закон является первым крупным шагом к «взятию под контроль очень мощной технологии». Ньюсом в своем заявлении подчеркнул этические границы технологии, сказав: «Мы продолжим развивать искусственный интеллект, но будем делать это ответственно. Безопасность наших детей не продается».
Шаг Калифорнии с SB 243 рассматривается как сигнал к тому, что регулирование искусственного интеллекта ускорится не только в США, но и во всем мире.