Meta planeja uso de IA para identificar adolescentes que mentem idade no Instagram

Imagem: Shutterstock

A Meta está implementando uma nova estratégia para lidar com o problema da verificação de idade no Instagram, em resposta a crescentes preocupações de pais e legisladores sobre o impacto da plataforma na saúde mental dos adolescentes, segundo informações da Bloomberg.

A empresa planeja usar inteligência artificial (IA) para identificar usuários que podem mentir sobre suas idades, colocando-os automaticamente em contas com configurações de privacidade mais restritivas. O novo sistema, chamado de “classificador de adultos”, categoriza os usuários em duas faixas etárias — acima ou abaixo de 18 anos — com base em dados de suas contas, como seguidores e interações.

Essa tecnologia, prossegue a Bloomberg, pode ainda analisar postagens de amigos que mencionam aniversários, ajudando a prever a idade real do usuário. No paralelo, a Meta já começou a mover automaticamente adolescentes para contas de adolescentes, independentemente das idades que declararam, mas a plena implementação do classificador está prevista para o início do próximo ano.

Meta quer proteger usuários

As contas para adolescentes possuem configurações de privacidade mais rigorosas, limitando quem pode enviar mensagens e que tipos de conteúdo podem ser acessados. A empresa acredita que essa abordagem ajudará a proteger os jovens de conteúdos potencialmente prejudiciais, uma questão que a Meta tem enfrentado ao longo dos anos. A mudança foi bem recebida por críticos, que argumentam que a empresa não estava fazendo o suficiente para garantir a segurança dos usuários mais jovens online.

Atualmente, a Meta, assim como outras redes sociais, está sob investigação e enfrenta ações judiciais de promotores gerais de vários estados que alegam que a empresa prejudicou crianças, viciando-as em redes sociais e contribuindo para uma crise de saúde mental entre os adolescentes. Há também preocupações sobre o impacto de conteúdos nocivos, com relatos de mortes de jovens relacionadas ao uso da plataforma.

Como vai funcionar o sistema da Meta

A nova estratégia de verificação de idade não se limita a uma simples análise de dados. O sistema também detectará tentativas de criar contas novas com informações discrepantes, como um endereço de e-mail usado para registrar uma nova conta com uma idade diferente.

Além disso, usuários que tentarem alterar manualmente suas idades terão de se submeter a verificações, como enviar uma identificação formal ou um vídeo-selfie para um serviço terceirizado, a Yoti, que pode estimar a idade com base em características faciais.

Essa abordagem é possível devido ao grande volume de informações que os usuários compartilham nas redes sociais, incluindo seus interesses, círculos sociais e comportamentos online. Apesar de todos esses esforços, a Meta admite que adolescentes mentindo sobre sua idade é menos comum do que se esperava, e a empresa ainda busca maneiras de melhorar a precisão do seu sistema de classificação.

O que dizem especialistas

Enquanto isso, especialistas em privacidade alertam que a responsabilidade pela verificação de idade não deve recair apenas sobre plataformas como o Instagram. Alguns argumentam que a solução ideal envolveria lojas de aplicativos, como a Google Play e a App Store da Apple, validando a idade dos usuários antes que eles possam baixar determinados aplicativos. No entanto, representantes dessas empresas afirmam que isso poderia violar princípios de minimização de dados, complicando ainda mais o cenário.

Um professor de ciência da computação da Universidade de Harvard observou que essa transferência de responsabilidade não resolve a questão central da honestidade do usuário no momento do registro. A situação levanta questões sobre a eficácia das verificações de idade e se as plataformas conseguem realmente garantir a segurança dos adolescentes.

*Com informações da Bloomberg

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!