Subsidiária incubadora do Google Quebra-cabeça tornou pública uma ferramenta antiterrorismo projetada para ajudar empresas menores a lidar com conteúdo extremista compartilhado por meio de suas plataformas online.
Embora a maioria das grandes empresas de tecnologia, incluindo Meta, X e o próprio Google, sejam bem versadas em moderar conteúdo para eliminar conteúdo ilegal ou tóxico, os recursos necessários para fazer isso estão além dos meios de muitos players digitais menores. Isso é particularmente problemático em um momento em que legislações como Lei dos Serviços Digitais da Europa (DSA) e regras de conteúdo específicas sobre terrorismo colocaram as empresas sob crescente pressão para remover conteúdo ilícito o mais rápido possível.
Anteriormente conhecido como Google Ideas antes de uma reformulação da marca em 2016Jigsaw está focado em desenvolver e experimentar novos produtos que abordam questões sociais como desinformação, censura e a disseminação de toxicidade e conteúdo extremista online. Em novembro passado, Jigsaw anunciado uma nova ferramenta de moderação de conteúdo online chamada Altitudeque ajuda os moderadores a verificar se o conteúdo em suas plataformas corresponde ao que foi sinalizado em bancos de dados de terceiros, em vez de ter que verificar cada fonte individualmente.
O Altitude foi desenvolvido em parceria com Tecnologia contra o terrorismouma iniciativa lançada em 2017 pela Diretoria Executiva do Comitê Antiterrorismo das Nações Unidas (CTED). A missão da Tech Against Terrorism é dar suporte à indústria de tecnologia no desenvolvimento de ferramentas mais eficazes para combater o uso da internet por terroristas para espalhar conteúdo prejudicial. A ferramenta também foi desenvolvida em parceria com roupa liderada pela indústria Fórum Global da Internet para Combater o Terrorismo (PRESENTE), que conta com a maioria das grandes empresas de tecnologia como membros.
Nove meses depois, e o Jigsaw está agora entregando formalmente o Altitude para a Tech Against Terrorism, que continuará seu desenvolvimento e manutenção. o código também está disponível no GitHub sob uma licença Apache 2.0, o que significa que as empresas podem hospedar a ferramenta e terceiros podem inspecionar o código.
Como funciona o Altitude
A Altitude se apoia em fontes de dados “confiáveis” fornecidas por empresas como a GIFCT, cujos membros reúnem suas informações proprietárias com o propósito de alimentar ferramentas automatizadas de moderação de conteúdo (como a Altitude), bem como a própria Tech Against Terrorism Plataforma de análise de conteúdo terroristaum banco de dados de conteúdo terrorista verificado em tempo real. Fontes confiáveis identificam e sinalizam esse tipo de conteúdo usando seus próprios métodos.
Ao canalizar para esses bancos de dados, a Altitude consolida o que chama de “conteúdo terrorista e extremista violento” (TVEC) em uma única visualização, com moderadores capazes de visualizar, revisar e remover conteúdo rapidamente e aderir às suas obrigações sob qualquer jurisdição em que operem. Vale a pena notar que nenhum conteúdo é removido automaticamente, é tudo sobre sinalizar e fornecer alertas para conteúdo extremista em potencial para humanos avaliarem.
Nem a Jigsaw nem a Tech Against Terrorism revelaram nenhuma das plataformas que usaram o Altitude durante seu período de testes inicial. No entanto, os tipos de aplicativos que têm maior probabilidade de usá-lo incluem aplicativos de mensagens, serviços de encurtamento de URL, sites de hospedagem de vídeo, fóruns online, redes sociais e pastebins.
Jigsaw escreveu em um postagem do blog segunda-feira:
Ao longo de um ano, a Jigsaw conduziu entrevistas com fundadores, líderes de confiança e segurança e revisores de conteúdo de TVEC em onze plataformas, variando em tamanho. As plataformas incluíam plataformas de compartilhamento de imagens, sites de mídia social, serviços de encurtamento de URL e sites de armazenamento de arquivos e texto. Descobrimos que as plataformas existiam em uma escala de recursos e preparação para gerenciar o TVEC, e que esse nível de preparação não estava nitidamente relacionado ao tamanho de sua organização ou base de usuários. Mesmo serviços relativamente maduros ainda às vezes careciam de sinais para identificar proativamente os danos em sua plataforma. Também vimos que, embora eles possam eventualmente preferir integrar todas as ferramentas em uma plataforma interna, uma interface separada para danos dedicados pode fornecer uma maneira de começar em um ambiente com poucos recursos.
Como um projeto de código aberto, qualquer empresa pode integrar o Altitude em suas próprias plataformas ou pode trabalhar com a Tech Against Terrorism para acessar “suporte de integração personalizado”.
No futuro, a Jigsaw e a Tech Against Terrorism dizem que podem adicionar “bancos de dados especializados” às fontes de dados e planejam expandir a ferramenta além do inglês.
