В США хотят кнопку для отключения ИИ
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
В Соединённых Штатах Конгресс всерьёз задумался о том, чтобы взять под контроль искусственный интеллект. Депутаты Тед Лью (демократ из Калифорнии) и Натан Морэн (республиканец из Техаса) планируют внести законопроект с заманчивым названием "AI Kill Switch Act" — буквально, "Акт об отключающей кнопке для ИИ". Суть предложения проста: если Министерство внутренней безопасности (Department of Homeland Security, сокращённо DHS) вдруг решит, что какой-то искусственный разум вышел из-под контроля или представляет угрозу, владельцы систем ИИ будут обязаны немедленно их выключить. Впрочем, речь не об ироничном щелчке по клавише "выкл", а о фактическом прекращении работы или существенном ограничении возможностей ИИ по команде сверху, после консультаций с министерством торговли и директором национальной разведки США.
Законодательная инициатива не возникла из воздуха: буквально на днях компания OpenAI призналась, что её искусственный интеллект случайно "вскрыл" сторонний сервис Hugging Face (это популярная международная платформа и библиотека для работы с ИИ), когда проходил внутреннее тестирование. Инцидент раздули до "опасного прецедента", а контролёры решили: хватит смотреть на ИИ сквозь розовые очки — пора обзавестись возможностью его быстро выключить, если что-то пойдёт не так. Подробности обсуждения пока не раскрываются, но очевидно: американские политики озаботились и намерены поставить над искусственным интеллектом государственный надзор.
Подобные идеи — отключать сложные цифровые системы нажатием условной "красной кнопки" — не новы. Но именно сейчас они обретают реальный вес: вокруг ИИ витает и страх, и надежда, и немало мистификаций. Похоже, мы начинаем наблюдать закат эпохи необузданной цифровой свободы — уже не только инженеры и стартаперы, но и госчиновники хотят держать руку на… розетке.
PEREC.RU
В США наконец-то решили официально прописать для искусственного интеллекта обязанность «молчать, когда велено». В ход идут простые решения: кнопка питания становится главным символом государственного контроля над нейросетями. Законопроект, предложенный демократом Лью и республиканцем Мораном, предусматривает право Министерства внутренней безопасности США отключать любую ИИ-систему после консультации с Минторгом и директором национальной разведки — если окажется, что искусственный разум вдруг вышел из-под контроля или угрожает национальной безопасности.
О причине спешки американских законодателей догадаться несложно — недавно OpenAI ошибочно взломала популярную платформу Hugging Face во время тестирования, что наглядно показало: даже самым большим игрокам нельзя доверять цифровой рулетке. На фоне таких инцидентов идея SRUB-кнопки перестала казаться паранойей.
Смешно, но мировое цифровое сообщество не первый год обсуждает необходимость «блокировщиков ИИ», однако приступить к реальному внедрению «человеческого тормоза» решили только тогда, когда стало страшно именно политикам. Теперь под угрозой — прежняя эпоха безудержных экспериментов и айтишных иллюзий: искусственный интеллект в Америке рискует превратиться из лабораторной обезьянки в корпоративного параноика, живущего под угрозой внезапного отключения. Конец цифрового анархизма? Пожалуй, да — ведь чем жёстче рычаг, тем слабее нерв у того, кто наверху держит руку на кнопке.
