ODS 10 - Redução das Desigualdades

MONITORAMENTO WEB CONTRA INJÚRIA

O projeto Resist tem como objetivo criar uma solução robusta para identificar e restringir conteúdos com contextos de discursos injuriosos acessados na internet dentro de instituições escolares, garantindo um ambiente digital mais seguro e controlado. A proposta combina tecnologias avançadas, como o servidor proxy Squid, utilizado para monitoramento e filtragem de páginas, e inteligência artificial baseada na arquitetura BERT, uma ferramenta poderosa para compreensão semântica de textos. A iniciativa visa não apenas bloquear conteúdos tóxicos, como discursos de ódio, mas também aprimorar continuamente sua capacidade de detecção por meio de aprendizado contínuo. Dados registrados de acessos são processados e analisados em um banco de dados NoSQL (MongoDB), permitindo que a IA classifique os conteúdos em categorias como insultos, ameaças, e ataques à identidade. Caso um conteúdo seja identificado como nocivo, ele é bloqueado e utilizado para reforçar o treinamento do modelo, aumentando sua eficiência e precisão ao longo do tempo. Além de oferecer proteção em tempo real, o sistema reflete um compromisso com a inovação tecnológica e a responsabilidade digital, buscando proteger usuários e organizações contra interações prejudiciais online.