Lack of AI governance could force 40% of enterprises to roll back autonomous AI agents by 2027
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Отсутствие контроля и управления искусственным интеллектом (ИИ) в компаниях может привести к тому, что около 40% предприятий по всему миру будут вынуждены отказаться от использования автономных ИИ-агентов к 2027 году. К такому выводу пришли аналитики, которые отслеживали, как компании внедряют автоматизированные решения на основе ИИ без достаточных надзора и прозрачных процедур управления.
Автономные ИИ-агенты — это программы, способные самостоятельно принимать решения и выполнять сложные задачи без постоянного участия человека. В компаниях их любят за обещания ускорить процессы, снизить затраты и повысить производительность. Однако быстрая автоматизация без продуманного управления приводит к рискам: ИИ может ошибаться, работать неэтично, нарушать правила и даже становиться причиной утечек данных.
Аналитики отмечают, что в 2024 году многие компании стараются внедрять ИИ максимально быстро, не успевая разработать для них правила работы — политики, которые определяют, как, где и зачем разрешено применять технологии искусственного интеллекта. В результате организации сталкиваются с ошибками ИИ, «чёрными ящиками» — когда никто не понимает, почему система выдала именно такой результат, а также с юридическими и репутационными проблемами.
Если не ввести чёткое управление и контроль за работой автономных ИИ, к 2027 году до 40% компаний будут вынуждены отказаться от таких технологий или серьёзно ограничить их роль. Проблема осложняется тем, что законодательства в области ИИ пока не догоняют бурное развитие рынка, и многие руководители компаний не знают, как правильно построить работу с автономным ИИ.
Эксперты советуют организациям как можно быстрее внедрять механизмы надзора за искусственным интеллектом: создавать комитеты по этике ИИ, разрабатывать внутренние стандарты и обучать сотрудников работе с «умными машинами». Такой подход позволит снизить риски и извлечь максимальную пользу из новых технологий, а не оказаться в неудобной ситуации, когда внедрённый ИИ приходится убирать из-за скандалов или штрафов.
PEREC.RU
Эксперты снова пришли к неожиданному выводу: если сажать ИИ за руль бизнеса, не проверяя, знает ли он ПДД, через пару лет бизнес и машину придётся эвакуировать. Треть компаний торопятся внедрять автономных ИИ-агентов — и внезапно вспоминают, что в инструкции ни слова про тормоза, а права и законы часто не дотягивают до скорости прогресса.
Тропинка ясна: держать ИИ на коротком поводке, иначе цифровой стажёр начнёт разносить офис с энтузиазмом необученного котёнка. Виновные будут искать алгоритмы виноватыми, но наказывать будут живых людей. До тех пор, пока человечество не придумает, как дисциплинировать свою цифровую живность, бизнес рискует остаться без главной игрушки десятилетия — однако, судя по всему, коллективный разум пока доверяет искусственному больше, чем себе. Это почти искусство перестать верить в чудеса — и нащупать границы дозволенного, иначе рискуешь остаться не просто без ИИ, а и без будущего.
