Instagram запускает новый инструмент, который будет предупреждать родителей, если их дети-подростки будут искать на платформе запросы, связанные с суицидом и самоповреждением.
Уточняется, что новая функция вводится для оповещения родителей, если их дети несколько раз введут в поисковую строку фразы, пропагандирующие суицид или самоповреждение, а также такие слова, как «самоубийство» и «членовредительство».
Родители будут получать оповещения по электронной почте в виде текстовых сообщений или в WhatsApp, а также через уведомления в приложении. Кроме того, им будет доступна информация о том, как обсуждать эту тему с подростками, говорится в блоге Instagram.
«Наша цель — дать родителям возможность вмешаться, если поисковые запросы их детей указывают на то, что им может понадобиться поддержка, — отметили в компании. — Мы также хотим избежать отправки этих уведомлений без необходимости, поскольку если их будет слишком много, они станут менее полезными».
В Instagram подчеркнули, что в настоящее время платформа блокирует поисковые запросы, явно связанные с суицидом и самоповреждением, а также посты, пропагандирующие или восхваляющие суицид или самоповреждение, и ограничивает доступ подростков к контенту на эти темы.
Компания также разрабатывает аналогичную систему оповещения родителей о некоторых сценариях использования искусственного интеллекта, которая будет уведомлять, если их дети попытаются поговорить с ИИ о самоубийстве или членовредительстве.
