Anthropic предлагает замедлить развитие искусственного интеллекта

Американская компания Anthropic, занимающаяся разработкой искусственного интеллекта, выступила с предложением снизить скорость разработки и внедрения ИИ по всему миру. Anthropic считает, что такие меры необходимы для того, чтобы избежать возможных угроз и негативных последствий, связанных с быстрым развитием ИИ.

Компания утверждает: если ИИ продолжит развиваться столь же быстро, как сейчас, человечество просто не успеет продумать правила, которые помогут управлять этим процессом. Anthropic подчеркивает: уже сейчас разрабатываются настолько мощные алгоритмы, что последствия их применения могут быть непредсказуемы.

В заявлении Anthropic говорится, что мировое сообщество должно принять совместные меры — замедлить темпы исследований, создать международные нормативы и выработать общие стандарты регулирования для всех участников рынка ИИ. Только так, считают в компании, можно будет избежать глобальных проблем.

При этом представители Anthropic отмечают: они не призывают полностью отказаться от создания новых систем, а лишь предлагают идти более осторожными шагами, чтобы успеть как следует подготовиться к возможным рискам.

Компания обращается к правительствам и исследователям в разных странах с призывом обсудить возможность глобального соглашения о временном ограничении развития наиболее опасных технологий. Anthropic отмечает, что аналогичные меры уже применялись к другим опасным разработкам — как, например, к ядерной энергии. По мнению компании, в сфере ИИ должно быть нечто похожее.

Anthropic также напоминает, что принцип "осторожности прежде всего" может помочь не только защитить людей от потенциального вреда, но и выработать более разумные подходы к развитию новых технологий в интересах всего человечества.