Aqui está uma reviravolta irónica: as escolas estão a usar Força para combater a IA.

Em vários distritos escolares americanos, os administradores estão a implementar sistemas de vigilância alimentados por IA que analisam mensagens de alunos, e-mails e padrões de navegação. O objetivo? Detetar sinais de alerta precoces—sejam crises de saúde mental, indicadores de automutilação ou potenciais atos de violência.

Está a acontecer à medida que os chatbots e as ferramentas de IA generativa se tornam elementos fixos nas salas de aula. A tecnologia destinada a melhorar a aprendizagem está agora a ser vigiada por outra camada de algoritmos desenhados para manter as crianças seguras. Os alunos interagem com assistentes de IA para ajuda com os trabalhos de casa, enquanto, nos bastidores, o software de monitorização analisa a sua pegada digital em busca de sinais de alerta.

A abordagem levanta questões sobre os limites de privacidade em contextos educacionais. Até que ponto a vigilância é justificada em nome da segurança? Onde está a linha entre a supervisão protetora e a monitorização invasiva?

O que estamos a ver é um novo campo de batalha na conversa mais ampla sobre a governança algorítmica—um que está a desenrolar-se nas escolas antes de as crianças entrarem no mercado de trabalho.