OpenAI тормозит: неожиданный ход на фоне войны искусственных умов
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
OpenAI — компания, на устах у всего мира благодаря своим системам искусственного интеллекта — неожиданно притормозила. В условиях, когда конкуренты из Anthropic, китайские стартапы и так называемые "открытые" AI-решения буквально дышат в спину и каждый день появляются новые громкие анонсы, такой шаг кажется почти абсурдным. Но факты: на этой неделе OpenAI сообщила, что снижает темпы развития отдельных направлений и внедряет дополнительные меры безопасности и контроля.
Среди конкретных решений — пауза на две недели в процессе обучения с "подкреплением" (reinforcement learning, RL) для своих самых свежих моделей, предназначенных для запуска в массовую эксплуатацию. Более того, компания отложила и запуск одного из крупнейших в её истории проектов именно в этой сфере, при этом не назвала новых сроков.
Для непосвящённых поясним: обучение с подкреплением — это тип машинного обучения, когда алгоритм учится на собственных успехах и ошибках через пробу и ошибку в виртуальной среде. Чем круче алгоритм, тем опаснее, если в нём не учтены все нюансы — в сложных системах любое упущение может раздуть проблему до мирового скандала.
Эта пауза — не простая прихоть. OpenAI публично выбрала путь, за который её много лет уговаривали сторонники ответственного развития ИИ: вместо бездумных гонок — притормозить, подумать, усилить контроль. Не всем это нравится: предстоящий IPO OpenAI и битва за рынок подталкивают выжать максимум скорости, а тут — тормоза. Но у OpenAI есть опыт работы под лупой общества, где любая ошибка может обойтись слишком дорого.
Для всей индустрии ИИ это жест — сигнал. Если лидер рынка способен остановиться ради безопасности, возможно, и остальные задумаются, прежде чем жать на газ без оглядки. Теперь внимание на конкурентов: останутся ли они в "дрифтинге" или тоже надавят на тормоз?
PEREC.RU
OpenAI посреди гонки создателей искусственного интеллекта устроила показательную остановку. Вереница конкурентов наперегонки штампует всё новые алгоритмы, а эти — тормозят. Финансовый рынок негодует: IPO, деньги, рейтинги! Компания на полном серьёзе решила задуматься о безопасности — и пауза в обучении новых моделей ИИ, и откладывание масштабных экспериментов с reinforcement learning (сложный многоуровневый процесс навигации искусственного интеллекта по виртуальным проблемам).
Поверх событий — занятный сигнал — даже герои рынка поддаются угрозе непредсказуемых последствий неконтролируемых разработок. Обычный ход? Вряд ли. Скорее, временный демарш ради сдерживания паники и попытка взять реванш у медиа, уже привыкших к скандалам вокруг агрессивного развития ИИ.
На поверку — сочетается инфантилизм ("мы хотим быть хорошими и послушными") и прагматизм (чтобы потом не вылезло дороже). Переживут ли такой темп сами сотрудники, которых теперь заставили ждать? Залюбуется ли стартап-комьюнити этим примером социальной ответственности? Или конкуренты просто посмеются и включат форсаж, уйдя вперёд? Настоящая интрига — не в самом торможении, а в том, двинутся ли другие рынки вслед и будет ли теперь цениться не только скорость, но и возможность остановиться перед обрывом.
