Ativistas criticam uso de IA pela Meta para monitorar segurança online

Organizações que atuam na proteção de crianças e na regulação digital estão em alerta com os planos da Meta de utilizar inteligência artificial (IA) para automatizar avaliações de risco em suas plataformas, como Facebook, Instagram e Threads. A medida foi duramente criticada em uma carta enviada à Ofcom, órgão regulador de comunicações do Reino Unido.No documento, assinado por entidades como Molly Rose Foundation, NSPCC e Internet Watch Foundation, os ativistas pedem que a Ofcom limite o uso de IA em processos considerados críticos para a segurança online de usuários, especialmente menores de idade. A carta aponta que a automatização das análises representa um “passo retrógrado e altamente alarmante”. A Ofcom afirmou que está “considerando as preocupações” levantadas pelas organizações, segundo informou o jornal The Guardian.Por que o uso de IA na segurança digital preocupa especialistas?Desde a aprovação da Lei de Segurança Online do Reino Unido, plataformas de redes sociais são legalmente obrigadas a conduzir avaliações de risco sobre como seus serviços podem causar danos aos usuários – e como planejam mitigar esses riscos. A lei dá especial atenção à proteção de crianças e adolescentes e à remoção de conteúdo ilegal.A carta enviada à Ofcom solicita que a regulação seja firme contra qualquer tentativa das big techs de “diluir seus processos de avaliação de risco”. Os signatários temem que a substituição de especialistas humanos por sistemas automatizados de IA comprometa a qualidade e a profundidade das análises exigidas pela legislação.

Leia Também:

IA da OpenAI imita vozes humanas com perfeição; perigo é detectado

Crise? Apple perde posto em ranking de vendas de celulares no Brasil

Novo console da Nintendo é lançado oficialmente. Veja preços

IA da Meta poderia aprovar atualizações sem revisão humanaA Molly Rose Foundation liderou a articulação da carta após uma investigação da NPR revelar que a Meta estaria implementando mudanças significativas em seus processos internos. Segundo a reportagem, atualizações de algoritmos e recursos de segurança passariam a ser aprovadas automaticamente por sistemas de IA, sem revisão humana.Essa mudança permitiria à Meta acelerar o lançamento de novos recursos no Facebook, Instagram e WhatsApp. No entanto, ex-executivos ouvidos sob anonimato alertaram que a estratégia poderia “aumentar os riscos para os usuários”, ao reduzir a capacidade de prevenir falhas ou abusos antes que as mudanças sejam implementadas.Além disso, a NPR apontou que a empresa estaria estudando automatizar revisões em áreas sensíveis, como risco juvenil e desinformação.Ofcom e Meta respondem às críticasEm resposta pública, um porta-voz da Ofcom declarou:“Deixamos claro que os serviços devem nos informar quem completou, revisou e aprovou sua avaliação de risco. Estamos considerando as preocupações levantadas nesta carta e responderemos oportunamente.”Já a Meta negou que esteja delegando decisões críticas de segurança exclusivamente à inteligência artificial.“Não estamos usando IA para tomar decisões sobre risco”, afirmou a empresa. “Nossos especialistas construíram uma ferramenta que ajuda equipes a identificar quando requisitos legais e de política se aplicam a produtos específicos. Usamos tecnologia, supervisionada por humanos, para melhorar nossa capacidade de gerenciar conteúdo prejudicial.”Meta também é acusada por usuários de AndroidA Meta foi acusada de rastrear o histórico de navegação na internet de usuários de celulares Android. A gigante da tecnologia teria começado a realizar estas ações em setembro de 2024.De acordo com um grupo de cientistas da computação afiliados à IMDEA Networks (Espanha), Radboud University (Holanda) e KU Leuven (Bélgica), a mesma prática era utilizada pelo Yandex desde 2017. Esta empresa é uma concorrente russa do Google.O relatório divulgado pelos pesquisadores aponta que a tática cruzava os dados de um mecanismo que monitora a interação do usuário com as propagandas de um site, o Meta Pixel, com os aplicativos do Facebook e Instagram. Isso permitia que a Meta ligasse a atividade da pessoa ao endereço IP registrado nos aplicativos de redes sociais.