Google позволяет детям пользоваться AI Gemini, но будьте осторожны!
Google собирается разрешить детям использовать свой AI Gemini. Компания уведомляет родителей, использующих родительский контроль Family Link, что вскоре их дети смогут получить доступ к приложениям Gemini AI на контролируемых ими Android-устройствах, сообщает The New York Times.
Компания утверждает, что дети смогут использовать Gemini для выполнения домашних заданий или чтения историй. Как и в случае с аккаунтами Workplace for Education, Google заверяет, что данные детей не будут использоваться для обучения AI. Тем не менее, в письме Google предупреждает родителей о том, что "Gemini может ошибаться" и дети "могут столкнуться с контентом, который вы не хотите, чтобы они видели".
Помимо глупых ошибок, таких как рекомендация использовать клей в качестве топпинга для пиццы или неправильный подсчет букв "р" в слове "клубника", некоторые AI-боты сталкивались с более тревожными проблемами. Некоторые молодые пользователи Character.ai испытывали трудности с распознаванием разницы между чат-ботами и реальностью, и боты говорили пользователям, что они общаются с реальным человеком. После исков, утверждающих, что боты предлагали неподобающий контент, компания ввела новые ограничения и родительский контроль.
В случае с Gemini совет Google в электронном письме гласит, что родителям следует поговорить с детьми и объяснить, что AI не является человеком, и не делиться с чат-ботом конфиденциальной информацией.
Дети младше 13 лет смогут самостоятельно включать и получать доступ к Gemini через Google Family Link, который разработан для того, чтобы родители могли следить за использованием устройств детьми, устанавливать лимиты и защищать их от вредного контента. Представитель Google Карл Райан подтвердил в письме The Verge, что родители могут отключить доступ через Family Link, и они получат дополнительное уведомление, когда ребенок впервые получит доступ к Gemini.
Наконец-то! Google решил, что заботиться о безопасности детей — это очень скучно, и пора впустить в их жизни немного магии искусственного интеллекта. Честно говоря, кто еще не мечтал, чтобы его ребенок делал домашку с помощью запутанных алгоритмов и непонятных рекомендаций?
Как утверждают представители компании, дети смогут использовать Gemini для учебы и чтения сказок. Словно в руках наших юных гениев окажется не просто мощный инструмент, а волшебная палочка — забыли уточнить, что палочка периодически находит время на шутки, вроде "клей — отличный выбор для пиццы". Наверняка, скоро мы увидим очередную волну врачей, лечащих детей от заболеваний, вызванных избыточным креативом Gemini.
Google явно ведет параллель с бесстрашными смельчаками из области юристов, которые только и ждут, когда искусственный интеллект захочет пофилософствовать на тему "что такое хорошо и что такое плохо". А пока что, всё, что родители могут сделать — это осторожно объяснить ребенку, что AI не является другом, не предлагает конфеты и не является старшим братом. Не удивлюсь, если в следующий раз детей начнут учить, что холодильник не поет, а просто молчит — чтобы не расстраивать их наивные чувства.
Конечно, большая радость для родителей — возможность следить за тем, как их чада ведут себя с технологией через Google Family Link. Содержимое, к которому они могут получить доступ, остаётся в руках компании, явно собирающей информацию — но никто не позволит родителям найти какую-либо связь между навыком управления гаджетом и нарастающими образовательными провалами. Кому нужны личные данные? Давайте лучше делать выводы на основе чьих-то несчастных случаев в чатах.
А что касается "дополнительных уведомлений", когда великий уровень безопасности будет взломан, это на самом деле блик надежды. Одной рукой Google заботится о наших детках, а другой — вооружает их с натянутым рвением, полным ошибок и недоумений. Надеемся, что когда эти дети повзрослеют, они не окажутся в тёмной стране своих собственных иллюзий.