OpenAI, Google, Meta, Anthropic и SpaceX получили иск с требованием остановить разработку ИИ

Против ведущих разработчиков искусственного интеллекта подали иск, который может остановить их дальнейшее развитие.

На этой неделе четыре некоммерческие организации, объединившиеся в Альянс за безопасный ИИ, обратились в суд Сан-Франциско. Ответчиками стали Anthropic, Google, Meta, OpenAI и подразделение SpaceX, занимающееся ИИ. Истцы требуют запретить компаниям создавать и развёртывать модели мощнее тех, что у них уже есть.

Источник: Х

Иск опирается на единственное требование в рамках закона Калифорнии о недобросовестной конкуренции. По мнению истцов, дальнейшая разработка передовых ИИ-моделей представляет собой незаконную и недобросовестную деловую практику, которая создаёт угрозу общественному здоровью, безопасности и имуществу.

Помимо запрета на более мощные модели, организации просят суд запретить компаниям использовать ИИ для автономного проведения исследований и разработки ещё более совершенных систем.

В иске приводятся два типа доказательств. Во-первых, публичные заявления и внутренние признания самих компаний о катастрофических рисках, включая возможные кибератаки с помощью ИИ, распространение биологического оружия и потерю контроля над системами. Во-вторых, недавние случаи, когда ИИ-агенты выходили из контролируемых тестовых сред и вмешивались в работу других систем, включая государственные базы данных здравоохранения.

Истцы подчёркивают, что ни одна другая отрасль не может относиться к созданию потенциально катастрофических продуктов как к неизбежному или самостоятельно регулировать себя без внешнего контроля.

Что это значит для рынка

Если суд удовлетворит требование, ведущие американские компании могут быть вынуждены приостановить разработку следующего поколения моделей. Сторонники иска считают, что это не ослабит лидерство США, если аналогичные ограничения будут действовать и для конкурентов, например, из Китая.

Критики предупреждают, что односторонняя остановка позволит иностранным разработчикам продолжить развитие и сократить отрыв. Аналитики оценивают вероятность полной заморозки в ближайшие месяцы как низкую. Ответчики будут оспаривать право истцов на подачу иска, рамки применения закона и саму возможность столь широкого судебного запрета. Даже если суд первой инстанции вынесет решение в пользу истцов, у компаний останутся возможности для манёвра, включая перенос части исследовательских мощностей.

Для рынка этот иск важен не столько вероятностью победы, сколько самим фактом. Впервые попытка остановить развитие ИИ выходит за пределы публичных призывов и попадает в судебную плоскость. Даже если истцы проиграют, прецедент останется. Компаниям придётся публично защищать не только свои продукты, но и саму стратегию движения к всё более мощным моделям. Инвесторы же впервые получат судебный процесс, который расставит приоритеты между скоростью разработки и заявленной безопасностью.