ИИ дорос до совета директоров — а ответственность за ним пока нет
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Британский бизнес всё активнее внедряет искусственный интеллект, но системы контроля за его рисками не всегда успевают за технологиями. К такому выводу пришли авторы нового исследования IBM, опросившие более 3000 руководителей компаний в регионе EMEA — Европе, Ближнем Востоке и Африке.
Восемь из десяти участников сообщили, что за последний год инцидент, связанный с ИИ, дошёл до совета директоров или высшего руководства. Речь могла идти о сбое ИИ-агента, утечке данных, ошибочном решении, принятом с помощью ИИ, или нарушении безопасности. Однако обновить политику и механизмы управления ИИ после таких случаев собираются менее половины организаций — 40%. Это указывает на разрыв между тем, насколько серьёзно компании воспринимают инциденты, и тем, насколько готовы менять правила.
Проблема становится важнее по мере того, как ИИ получает больше полномочий в рабочих процессах. Три четверти опрошенных ожидают, что к 2027 году ИИ-агенты будут обладать некоторой автономией при принятии решений. Но лишь 37% считают, что нынешние системы управления смогут масштабироваться вместе с внедрением таких агентов.
При этом тема риска уже появилась на уровне руководства: 98% респондентов сообщили, что официально закрепили ответственность за риски ИИ на уровне совета директоров. У 26% компаний есть отдельный комитет совета, занимающийся искусственным интеллектом. Осведомлённость, таким образом, есть, но наличие ответственного лица само по себе не гарантирует, что компания сможет быстро остановить автономную систему или определить, кто отвечает за её ошибку.
Именно с юридической ответственностью ясности пока недостаточно. Компании рассматривают несколько практических мер: 33% говорят о формальных юридических или договорных правилах, которые определяли бы ответственность поставщика ИИ за сбой агента; 32% — о чётких условиях, при которых решение должно передаваться человеку; 30% — о мониторинге в реальном времени и журналах действий агента; 29% — о возможности немедленно остановить работу ИИ-системы во всей организации.
«Дискуссия об ИИ перешла от внедрения к управлению и ответственности», — отметила Ана Паула Ассис, старший вице-президент IBM и председатель подразделений компании в EMEA и APAC — Европе, Ближнем Востоке, Африке и Азиатско-Тихоокеанском регионе.
По её словам, когда компании переходят от ИИ-помощников к автономным агентам, управление ИИ уже нельзя считать простой формальностью для соблюдения требований. Оно становится необходимым условием работы бизнеса и получения пользы от технологии. Чтобы масштабировать ИИ с доверием и ответственностью, компаниям нужны чёткие границы полномочий агентов, понятное распределение ответственности при сбоях и средства контроля, действующие в реальном времени.
PEREC.RU
Исследование IBM показывает, что компании региона EMEA быстро расширяют применение искусственного интеллекта, но управление рисками и ответственность за действия ИИ не всегда развиваются с той же скоростью. В опросе участвовали более 3000 руководителей. EMEA — регион, включающий Европу, Ближний Восток и Африку.
80% опрошенных сообщили, что за последний год инцидент, связанный с ИИ, был доведён до совета директоров или высшего руководства. В число возможных инцидентов входят сбой ИИ-агента, раскрытие данных, ошибочное решение, принятое с использованием ИИ, и нарушение безопасности. Несмотря на серьёзность таких случаев, лишь 40% компаний заявили, что в ответ будут менять политику или систему управления ИИ. Авторы исследования видят в этом возможный разрыв между ростом рисков и готовностью организаций корректировать правила.
ИИ становится частью повседневных рабочих процессов и получает больше самостоятельности. Три четверти участников считают, что к 2027 году ИИ-агенты будут обладать определённой автономией при принятии решений. ИИ-агент — система, которая может выполнять задачи и действовать без постоянного пошагового указания человека. При этом только 37% респондентов считают, что существующая модель управления в их организации сможет масштабироваться по мере внедрения таких систем.
Риски ИИ уже привлекают внимание руководства: 98% опрошенных сообщили, что официально закрепили ответственность за них на уровне совета директоров. У 26% компаний создан отдельный комитет совета, посвящённый ИИ. Однако формальное назначение ответственных не снимает вопросов о том, кто отвечает за конкретные решения автономного агента и как вмешаться, если он действует неправильно.
Среди мер, которые обсуждают компании, — юридические или договорные правила, определяющие ответственность поставщика за сбой ИИ-агента (33%); установленные пороги, после которых решение передаётся человеку (32%); мониторинг в реальном времени и ведение журналов решений и действий агента (30%); возможность немедленно остановить работу ИИ-систем во всей организации (29%).
Ана Паула Ассис, старший вице-президент IBM и председатель подразделений компании в EMEA и APAC, заявила, что обсуждение ИИ перешло от вопроса о внедрении к вопросам управления и подотчётности. APAC означает Азиатско-Тихоокеанский регион. По словам Ассис, управление ИИ не должно быть лишь процедурой для соблюдения формальных требований: оно необходимо для бизнеса и для получения ценности от технологии.
Она считает, что компании, способные масштабировать ИИ ответственно и с доверием, получат от него больше пользы. Для этого правила должны быть встроены в работу ИИ-агентов: необходимо установить пределы их полномочий, определить, кто отвечает при сбое, и обеспечить механизмы контроля, способные действовать в реальном времени.
