AI leaders call for tougher protections against AI-aided bioweapons

Некоторые из самых известных фигур в индустрии искусственного интеллекта — соперники на рынке, но теперь они объединились ради общей задачи: противодействие использованию ИИ для создания биологического оружия. К таким мерам их подтолкнула обеспокоенность тем, как легко современные цифровые инструменты способны облегчить разработку опасных биоматериалов и потенциально привести к новой глобальной пандемии.

В своём открытом письме американским законодателям лидеры компаний, таких как Anthropic, OpenAI и Microsoft, просят Конгресс США принять срочные меры. Они настаивают на введении новых требований для всех компаний, которые продают синтетическую ДНК и РНК — генетические последовательности, заказать которые сейчас можно в интернете, а собрать — в обыкновенной лаборатории. Предлагается обязательная система проверки заказов для выявления подозрительных последовательностей, которые потенциально могут быть использованы для создания патогенов или новых видов биологического оружия.

Среди подписантов письма — Генеральный директор Anthropic Дарио Амодеи, глава OpenAI Сэм Альтман и представитель Microsoft Мустафа Сулейман. Они считают, что существующие в США правила не достаточны для защиты общества и требуют ликвидировать существующую «угрожающую брешь» в биозащите. Кроме того, в своём обращении они подчёркивают, что нынешние стандарты проверки не успевают за быстрым развитием технологий, что и создаёт опасность для всего человечества.