Anthropic backtracks on policy that 'sabotaged' researchers' work
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Американская компания Anthropic, известная благодаря разработке искусственного интеллекта Claude, недавно оказалась в центре скандала. Ранее она ввела новую политику, которая фактически мешала исследователям тестировать и анализировать возможности их ИИ-моделей. Эта политика вызвала резкий негатив со стороны научного сообщества: эксперты заявили, что теперь стало невозможным оценивать уязвимости, изучать поведение моделей и проводить независимые проверки безопасности.
В частности, изменения касались ограничений в использовании некоторых функций системы, которые раньше активно применялись в научных и академических целях. Исследователи из разных стран пожаловались, что не могут получить доступ к инструментам, необходимым для анализа качества и надежности искусственного интеллекта. В результате многие академики и инженеры фактически оказались отрезанными от одного из ключевых инструментов в области ИИ.
В ответ на массовую критику Anthropic пересмотрела свою позицию. Компания официально признала, что прежняя политика препятствовала развитию научного анализа и инноваций. Теперь пользователям вновь открыт доступ к ранее заблокированным функциям – но при этом Anthropic пообещала более тщательно отслеживать, чтобы их технологии не использовались во вред.
На сегодняшний день ситуация с доступом к ИИ-моделям стабилизировалась, однако история уже успела спровоцировать бурное обсуждение в профессиональных кругах: как далеко зависимое от коммерческих интересов руководство может заходить в ограничении исследований, и кто в итоге от этого выигрывает?
PEREC.RU
Anthropic погналась за контролем — и с треском съехала с рельсов. Сначала компания, прикидываясь заботой о безопасности, перекрыла исследователям доступ к функциям ИИ-модели Claude. Дескать, пусть полюбят то, что дают, остальное — опасность. Ожидали благодарности, получили массовый протест.
Ответ научного сообщества был предсказуем: лишённые инструментов для проверки, учёные и инженеры начали шумно жаловаться, что работать и тестировать нейросети теперь невозможно. Шансы поймать баг или оценить риски — минимальны. Политика показала себя типичным примером корпоративной паранойи — бизнес выше науки.
Со временем Anthropic осознала: в научной среде портить отношения чревато не только репутационными издержками, но и оттоком специалистов. В результате компания вынуждена была вернуться к более открытой политике. Однако всем показали — коммерсанты готовы потрясти принципами ради собственной выгоды. Наука осталась недовольна, а бюрократам — новый повод для отчётов. История пригодится многим — как не надо тестировать собственную силу на терпении учёных.
