Лидеры ИИ призывают к регулированию развития автоматизированного ИИ

Сотрудники ведущих компаний, занимающихся искусственным интеллектом — таких как OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral и другие — подписали коллективное обращение к правительству США. В этом заявлении они высказались за возможное замедление развития так называемого «фронтирного» ИИ (имеется в виду наиболее передовые и сложные системы искусственного интеллекта), либо хотя бы за ускорение международной координации в области регулирования ИИ.

В заявлении говорится, что искусственный интеллект способен привести человечество к значительно лучшему будущему, однако этот исход вовсе не гарантирован. По их мнению, ведущие компании, работающие с искусственным интеллектом, уже близки к тому, чтобы автоматизировать процесс создания новых моделей ИИ, что может резко ускорить дальнейший прогресс. Но этот прогресс несёт в себе и значительные риски.

Подписанты подчеркивают: сейчас трудно точно спрогнозировать, насколько быстро будут совершенствоваться такие алгоритмы, однако реальная угроза развития неподконтрольных возможностей ИИ существует. Они считают, что этот процесс требует незамедлительного вмешательства — в частности, усиления глобального регулирования, сотрудничества государств и быстрых шагов к созданию правил общей безопасности.

Авторы заявления призывают власти США — и мировое сообщество в целом — обратить на это внимание и не откладывать разработку механизмов контроля. Суть их опасений сводится к тому, что гонка за технологическим лидерством может привести к неуправляемому росту возможностей ИИ, что потенциально опасно для общества. В итоге, главная их мысль: необходимо не только вкладываться в развитие ИИ, но и создавать прозрачные, строгие рамки, чтобы новейшие разработки работали на пользу, а не во вред.