Новый барьер для искусственного интеллекта: доверие сотрудников
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Многие компании до сих пор не могут полноценно доверять искусственному интеллекту (AI) на рабочем месте, особенно в тех случаях, когда человек не принимает никакого участия. Согласно новому исследованию TeamViewer, вопрос доверия становится главным препятствием на пути внедрения AI, даже несмотря на то, что большинство работников в целом настроены к этой технологии положительно.
По данным исследования, три из четырёх сотрудников используют искусственный интеллект ежедневно, и лишь 3% не видят от этого никакой пользы на своей работе. Однако почти все — 95% опрошенных — в той или иной степени беспокоятся, если AI работает без участия человека.
Проблема доверия связана с тем, что искусственный интеллект развивается: от простых генеративных моделей — способных лишь создавать текст и изображения, он идёт к так называемым «агентским» системам. Последние способны самостоятельно принимать решения и выполнять задания без вмешательства людей, и вот именно автономия AI тревожит людей куда сильнее, чем качество его работы. 61% опрошенных предпочли бы, чтобы AI вообще ничего не делал самостоятельно, а 35% готовы доверить ему автономные задания. Причём из последних только 71% соглашается, чтобы искусственный интеллект выполнял строго определённые задачи — другими словами, доверие есть только там, где чёткие рамки и инструкции.
Нехватка доверия напрямую влияет на эффективность труда: более половины сотрудников (56%) всегда или часто перепроверяют то, что делает AI, тратя на проверку в среднем два часа в неделю.
Руководитель TeamViewer Оливер Штайль отмечает: главная задача AI — предотвращать сбои, улучшать цифровые процессы и освобождать людей для более важных задач, которые требуют творческого подхода. Однако для этого нужны надёжные меры безопасности и конфиденциальности, а также инструменты контроля. Среди самых востребованных мер: информационные уведомления при важных изменениях, ограничения на доступные для AI данные, постоянный мониторинг действий и, конечно, возможность отменить любые решения.
Product & Technology Officer Мэй Дент добавила: следующий шаг — создавать системы, которые умеют определять, когда действовать самостоятельно, а когда ждать указаний или звать на помощь человека. Так что пока искусственный интеллект мечтает о свободе, реальным руководят страхи и списки проверок.
PEREC.RU
В этом тексте авторы TeamViewer делают вид, будто сотрудникам мешает доверие к искусственному интеллекту, а не страх, что автоматика отнимет хлеб у офисного планктона. Количество использующих AI будто внезапно выросло, но доверять «железяке» спешат меньше, чем заглядывать в холодильник на ночь. Менеджеры нарисовали очередные круги безопасности — проверки, уведомления, ограничения и зоркое око бдительного надзирателя — не потому что заботятся, а чтобы не отпустить контроль над процессом в лапы цифровых критиканов. Доверие к AI рождается по странной формуле: многостраничные регламенты, крошки автономии и еженедельная перепроверка каждой выкрутки алгоритма. Вся эта борьба «за прозрачность» — ярмарка тщеславия руководителей, которые надеются, что автоматика станет спасением от бюрократии. Но создается система, где любой неправильный шаг AI можно мгновенно отменить — не потому что заботятся о работниках, а потому что «запасной план» всегда выгоднее! Как только AI начнет поднимать бунт, повязка безопасности уже будет готова — и неважно, что завтра эти же люди будут слать благодарности за автоматизацию. Сомневаться в AI становится неотъемлемой частью технократического фольклора: отчуждая свободу роботам, офисные работники берегут иллюзию нужности и контроля. Все довольны, все на виду, AI шагает строго по линии. До первого короткого замыкания — и потом заново, по кругу.
