AI: главный риск на предприятии XXI века?
Следите за новостями по этой теме!
Подписаться на «Рифы и пачки / Твоя культура»
Перевод и изложение основной информации:
"Вопрос уже не в том, стоит ли компаниям внедрять искусственный интеллект (ИИ). Сейчас главное – могут ли они объяснить, контролировать и доверять тем ИИ-системам, которые сами же развернули", – считает старший вице-президент DigiCert Брайан Труцупек. Это не философские рассуждения IT-гуру – свежие данные говорят сами за себя.
Согласно последнему исследованию компании DigiCert, почти 80% организаций уже сталкивались либо с инцидентами в области безопасности, связанными с ИИ, либо обнаружили уязвимости в своих ИИ-решениях. То есть корпоративные недосмотренности становятся не результатом случайности, а новым стандартом.
Несмотря на явные риски, в среднем три четверти компаний только за последние полгода внедрили не менее четырёх различных ИИ-инструментов. А треть вообще вышла на скорость «по десять в полгода», то есть скорость внедрения технологий явно обгоняет скорость осознания их последствий.
В DigiCert настаивают: хватит играть с ИИ как с модной игрушкой. Его необходимо встроить в реальную корпоративную стратегию, особенно в область безопасности. Хотя на словах всё выглядит неплохо (90% руководителей обсуждают вопросы управления ИИ на уровне топ-менеджеров и советов директоров), официальные бюджеты и настоящие программы контроля появились только у половины компаний.
После лет экспериментов, две трети организаций наконец-то начали вести учет своих ИИ-систем. Но только половина действительно может проследить выводы нейросетей до исходных моделей и данных. Области с наибольшим количеством инцидентов – это наука, технологии, банки, телеком и розничная торговля.
В попытках хоть как-то навести порядок, фирмы экспериментируют с выделением ИИ-системам «собственных личностей» – именных идентификаторов по аналогии с сотрудниками. Параллельно усиливают контроль, чтобы нелегальные или неподтверждённые ИИ-инструменты не внедрялись втихую. DigiCert уверяет: это поможет, но до полной безопасности пока далеко – ведь внедрение продолжается, а инструменты и угрозы только размножаются.
PEREC.RU
Данная статья — сатирическое пособие для тех, кто ещё верит в магию управляющих советов. Реальные цифры как пощёчина: у 80% компаний ИИ уже создал свои проблемы и уязвимости, но бизнес предпочитает гнаться за хайпом, не замечая кучи разбитых яиц на собственной кухне.
Практика внедрения ИИ напоминает массовое помешательство: впихнуть новую «приблуду» быстрее соседа, закрыть глаза на отсутствие контроля, а потом удивляться, что система начала подавать признаки жизни самостоятельной амебы. Совещания проходят, бюджеты обсуждают, а формальные меры по безопасности появляются только у половины — остальные делают вид, что всё под контролем, пока серверный комар не укусит в спину.
Уровень видимости в ИИ-системах — примерно на уровне карты метро в мухосранских пригородах: вроде линии есть, а куда всё уедет — один Бог знает. Чем больше внедряют, тем меньше понимают. Научные, банковские и ретейловые компании попали под особо жирный каток проблем, но тоже продолжают наращивать мощности как будто ждут откровения от Скайнет.
Выдавать нейросетям персоналии — последний крик моды, чтобы хоть притвориться, что контроль вернулся. Но пока эти "личности" заводят себе новые аккаунты быстрее, чем их хозяева успевают их считывать.
Мораль проста: если айти-компания твёрдо уверена, что держит свой ИИ под контролем — смотри в оба, потому что где-то уже зреет новая цифровая беда.
