Instagram изменил алгоритм после обвинений в направлении хищников к детям.

Аккаунты в Instagram, которые преимущественно содержат изображения детей, но управляются взрослыми пользователями, больше не будут рекомендоваться “потенциально подозрительным взрослым”. Обновление было объявлено в блоге, где подробно описано последнее расширение функций безопасности детей в Meta, которое включает новые возможности блокировки и сообщения для подростков, а также дополнительные меры защиты для аккаунтов, управляемых взрослыми и содержащих изображения детей.

Это произошло после иска 2023 года, в котором Facebook и Instagram обвинялись в превращении в “рынок для хищников, ищущих детей”, утверждалось, что платформы Meta “позволяли пользователям искать, ставить отметки «нравится», делиться и распространять огромное количество [материалов о сексуальном насилии над детьми]”. В том же году расследование The Wall Street Journal показало, что рекомендательные алгоритмы Instagram активно продвигали сети педофилов.

Meta с тех пор внедрила ряд функций онлайн-безопасности для пользователей Facebook и Instagram в возрасте до 18 лет, и некоторые из них теперь расширяются на взрослых, которые часто публикуют изображения детей — группа, которая, по словам Meta, часто включает родителей и талант-менеджеров. Instagram теперь будет “избегать рекомендации” таких аккаунтов подозрительным взрослым, например, тем, кто был заблокирован подростками, и, таким образом, избегать направления подозреваемых лиц к аккаунтам, управляемым взрослыми и содержащим изображения детей. Приложение также будет скрывать комментарии от потенциально подозрительных взрослых в их публикациях и усложнять поиск этих аккаунтов друг другу в поиске.

Несмотря на то, что Meta утверждает, что эти аккаунты, управляемые взрослыми, “подавляюще используются в добросовестных целях”, компанию также обвиняли в осознанном допущении того, что родители, которые сексуально эксплуатируют своих детей ради финансовой выгоды на Facebook и Instagram, остаются на платформах. Скрытие потенциальных хищников от аккаунтов взрослых с изображениями детей является продолжением обновления Meta прошлого года, которое прекратило предлагать подписки или получать подарки от аккаунтов, которые в основном содержат изображения детей.

Другие функции для подростковых аккаунтов, которые будут внедрены в аккаунты с изображениями детей в ближайшие месяцы, автоматически установят самые строгие параметры сообщений Instagram и отфильтруют оскорбительные и неуместные комментарии. Также в Instagram Direct будут внедрены дополнительные функции безопасности, которые предоставят подростковым аккаунтам объединенную опцию отчета и блокировки. Подростки также будут видеть месяц и год, когда аккаунт, с которым они общаются, присоединился к Instagram, чтобы помочь им выявить потенциальных хищников и мошенников.