Сатира на слияние AI-центров: кто будет выравнивать выравнивателей?

В индустрии искусственного интеллекта давно муссируется термин 'alignment' — выравнивание ИИ с человеческими ценностями. Уважаемые исследователи пишут увесистые доклады, создают стандарты и постоянно выясняют, чья модель ближе к небесам этики. Но не возникает ли закономерный вопрос: а кто будет выравнивать самих выравнивателей ИИ?

Вот тут на сцену выпрыгивает Центр по Выравниванию Центров Выравнивания ИИ (Center for the Alignment of AI Alignment Centers, или CAAAC) — организация, обещающая собрать разрозненных исследователей выравнивания в некое “финальное сингулярное сообщество ИИ”.

Поначалу их сайт выглядит вполне солидно: фирменный стиль, стрелки, символизирующие единство, и эстетика корпоративного дзена. Но стоит задержаться дольше, как загадочные линии внезапно вырисовывают слово в духе “чепуха” — и весь проект рассыпается в откровенной сатире. Если порыться внимательнее, можно найти массу сардонических шуток в каждой строке.

CAAAC был запущен во вторник командой, ранее создавшей легендарную “The Box” — это буквально коробка, которую женщины носили на свиданиях, чтобы уберечься от рисков, связанных с deepfake (ИИ-сгенерированными фейковыми изображениями). Сооснователь CAAAC Луи Барклай в своем образе уверяет: “Этот сайт — самый важный текст об ИИ в этом тысячелетии или следующем”. Кто второй основатель — остается загадкой (Баркай заявил, что человек захотел остаться анонимным).

CAAAC виртуозно имитирует атмосферу настоящих лабораторий по этике ИИ — на их главной странице органично вписаны реальные AI-центры с рабочими ссылками. Даже профессионалы, вроде исследовательницы машинного обучения и юристки Кендры Альберт, сперва приняли это за реальный проект.

CAAAC, по словам Альберт, высмеивает манеру приверженцев выравнивания отворачиваться от реальных проблем: предвзятость моделей, рост энергопотребления, замещение рабочих мест... Им привычнее рассуждать о гипотетических планах и рисках всеобщей гибели от рук злого ИИ.

CAAAC призывает всех будущих сотрудников зарегистрироваться — главное, чтобы вы верили, что сверхразум уничтожит человечество в ближайшие полгода (и желательно жить в Калифорнийской долине). Для вступления достаточно даже оставить комментарий под LinkedIn-постом.

Сайт CAAAC снабжен генератором фейковых AI-центров с директором (создать свой “настоящий” AI-центр буквально за минуту, не зная о ИИ ничего). А особо пытливые кандидаты на должность исследователя по выравниванию столкнутся с финальным сюрпризом: после ряда кликов им начнёт проигрываться песня Рика Эстли — Never Gonna Give You Up.