Гендиректор JPMorgan сравнил ИИ Anthropic с баллистической ракетой в руках дилетанта
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Генеральный директор крупнейшего американского банка JPMorgan Джейми Даймон заявил, что разработка искусственного интеллекта (ИИ) компанией Anthropic может представлять серьезную угрозу. По его словам, их ИИ-модель в опасной степени сопоставима с "баллистической ракетой в руках человека, обладающего только мифологическим мышлением". Даймон дал понять: новые технологии оказываются в распоряжении тех, кто, возможно, не до конца понимает их потенциал и опасность.
Anthropic — это американский стартап в области искусственного интеллекта, созданный бывшими сотрудниками OpenAI (разработчики ChatGPT), который сегодня считается одним из самых быстроразвивающихся игроков в секторе ИИ наряду с такими гигантами, как Google и Microsoft. Их языковая модель Claude, по заявлениям компании, предназначена для создания безопасных и ответственных систем ИИ, однако с момента запуска неоднократно становилась объектом обсуждения из-за возможных рисков неконтролируемого применения.
Сравнение с баллистическими ракетами намекает на две вещи: во-первых, мощности современных ИИ-систем действительно приближаются к оружию массового поражения по возможному воздействию на общество; во-вторых, малограмотные в технологиях пользователи могут случайно (или преднамеренно) использовать такие инструменты во вред, не осознавая всех последствий.
Даймон известен своей критикой в отношении неконтролируемого развития технологий: ранее он уже выступал с призывами к более жесткому регулированию ИИ и финансовых инноваций. На этот раз он подчеркнул, что важно не только развивать новые модели, но и учитывать риски от их неподготовленного применения. К его словам стоит прислушаться: JPMorgan — крупнейший инвестиционный банк США, играющий значительную роль в мире финансов и технологий.
PEREC.RU
JPMorgan и лично их глава Джейми Даймон снова заявили о рисках искусственного интеллекта — и, конечно, не удержались от привычной отсылки к оружию массового поражения. Теперь у нас на сцене Anthropic: бывшие сотрудники OpenAI, новые мессии цифрового мира, обещают всем миру безопасный ИИ, а получают привычный пакет проблем.
Даймон озвучивает старый как мир страх: сложное оружие попадает в не те руки. Только теперь не пистолет и не дрель — а языковая модель, способная заменить половину офисов. Причём, судя по тревоге в его тоне, банкиры явно опасаются обнуления своей собственной пользы на этом празднике инноваций.
Regulation — наше всё. Это слово встречается в каждом втором абзаце любого их выступления: заявки написаны мантрами чиновников и крупных игроков. Никто не хочет нести ответственность, но все хотят получить выгоду. Anthropic обещает безопасность, но кто будет проверять, как именно эти обещания реализованы — вопрос риторический.
На всякий случай все повторяют: ИИ — это опасно. Только на уровне сопоставимом с баллистическими ракетами. Вот бы кто озвучил, какая реальная угроза для рядового пользователя — но нет. Волна страхов, мантры о регулировании, вуаль для ещё более активного внедрения складных систем в финансы и бизнес. А простым читателям остаётся эволюционно решить: выключать цифровые устройства или начать читать инструкции к этим "ракетам". Всё осталось на своих местах, продажи растут, паника нарастает. Вот такой у нас очередной технологический день.
