Críticas ao avanço da IA nas escolas e universidades

Se no Brasil um dos destaques no campo dos estudos da Inteligência Artificial foi o lançamento de um relatório sobre o uso da IA nas universidades intitulado "IA e Ensino Público Superior no Brasil Recomendações para políticas institucionais de governança" (link), fora daqui alguns pesquisadores repercutiram duas publicações importantes de colegas da área e que servem de contraponto ao que parece ser a naturalização da IA na educação formal. 

Primeiro, o pesquisador James O'Sullivan publicou um ensaio provocador em sua página no Substack questionando se não seria o caso de as universidades serem iletradas em IA (link). Com isso, o autor quis chamar a atenção à falta de críticas à incorporação dessas tecnologias na universidade e o papel dessas instituições em atuarem como um espaço para crítica e reflexão sobre o fenomeno. Eles escreveu: "O ensino superior há muito se orgulha de resistir às demandas do imediatismo. Não produzimos estudos na velocidade da tendência; deliberamos, criticamos, contextualizamos. Se aceitarmos esse ethos, então certamente uma das posições mais valiosas que um acadêmico pode ocupar é a de desinteresse deliberado - uma recusa epistêmica de naturalizar o determinismo tecnológico. Não adotar imediatamente a linguagem de tokens e transformers é preservar um espaço no qual o significado, a metáfora e a crítica humanística ainda podem importar".

Por usa vez, o pesquisador britânico Ben Williamson citou O'Sullivan e avançou em outra direção em postagem no seu blog (link). A preparação da OCDE para que o seu exame PISA passe a medir as habilidades dos alunos com a IA e o seu alerta para o fato de que isso possa acelerar as ações de escolas e de educadores em todo o mundo para treinar seus alunos na perspectiva do desenvolvimento das ditas melhores habilidades no uso da tecnologia (na linha de como escrever os melhores prompts e como checar a acurácia das informações gerada pelos sistemas dito inteligentes). Williamson escreveu: "A OCDE não é um ator neutro quando se trata de IA – há vários anos promove o uso da IA na educação e produz regularmente declarações históricas sobre seus efeitos transformadores. Grande parte de sua ênfase está nos efeitos da IA na economia e, portanto, na manutenção da produtividade e do progresso econômico por meio da qualificação tecnológica. Agora, por meio do teste de alfabetização em IA, está exercendo sua autoridade política sobre como as habilidades de IA devem ser definidas e valorizadas".

Relatório alerta para os perigos da adoção, sem regulação adequada, da Inteligência Artificial nas escolas

Acaba de ser publicado relatório crítico importante intitulado Time for a Pause: Without Effective Public Oversight, AI in Schools Will Do More Harm Than Good, de autoria de Ben Williamson, Alex Molnar, and Faith Boninger (link apra acesso do texto completo). No texto, os autores indicam as diversas qualidades das interfaces de IA generativa, mas alertam para a pressão mercadológica e para o modo aligeirado e pouco crítico com que empresas e setores dos poderes públicos tem promovido e praticado a introdução dessas tecnologias no contexto da escola formal: "O peso das evidências disponíveis sugere que a atual adoção generalizada de aplicações não regulamentadas de IA nas escolas representa um grave perigo para a sociedade civil democrática e para a liberdade e a liberdade individuais. Anos de alertas e precedentes realçaram os riscos colocados pela utilização generalizada de tecnologias digitais pré-IA na educação, que obscureceram a tomada de decisões e permitiram a exploração de dados dos alunos", alertam.

Os autores analisam que: "apesar dos riscos de levar tecnologia não testada às salas de aula e da falta de critérios de implementação ou controles regulatórios, as escolas enfrentam uma pressão implacável para “modernizar” adotando a inteligência artificial. Embora os aplicativos de IA sejam comercializados como formas de resolver problemas de ensino e aprendizagem e agilizar os processos administrativos escolares, eles carregam consigo todas as limitações, problemas e riscos inerentes aos modelos de IA utilizados para executá-los. Levar a IA às escolas aumenta a probabilidade de que essas tecnologias possam reproduzir ou intensificar muitos problemas, tornando qualquer benefício potencial menos significativo do que os danos potenciais.

Duas aplicações fortemente promovidas ilustram os perigos da adoção acrítica da IA em escolas: tutoria de chatbots, baseados em grandes modelos de linguagem, que prometem personalizar e automatizar o ensino; e plataformas de aprendizagem adaptativas, que utilizam grandes quantidades de dados dos alunos para fazer previsões, personalizar recursos e atividades em sala de aula e auto-intervir automaticamente nos processos pedagógicos. Os perigos que tais produtos representam incluem demandar aos professores mais tempo do que poupam, restringindo artificialmente a definição de “aprendizagem”, marginalizando a experiência dos professores e o relacionamento com os alunos, introduzindo erros curriculares e aumentando o preconceito e a discriminação nas salas de aula e nas escolas".

Nova análise sobre telefones celulares nas escolas

Estudo recente de pesquisadores britânicos (link para acesso) baseado em um nova análise dos dados do PISA de 2022 (que abrange quase 700 mil estudantes de 81 países) sugere que a proibição de telefones celulares nas escolas leva a um desempenho menor nas pontuações dos alunos nos testes do PISA.  Ao se referirem ao contexto específico do Reino Unido, os pesquisadores concluíram: "No lançamento dos dados do relatório [PISA] de 2022 no Reino Unido, a OCDE, embora um tanto equivocada, apresentou evidências a favor da proibição dos telemóveis, com base em dados de distração dos estudantes. Por outro lado, apresentamos uma conclusão curiosa e contraditória de que, quando o gênero, a classe social e o comportamento escolar são controlados, os alunos em escolas com proibição de telefone têm um desempenho inferior nas pontuações dos testes PISA do que aqueles em escolas que permitem a utilização do telefone".

Diante de tantas variáveis envolvidas no processo de aprendizagem escolar, o resultado não deveria causar tanta surpresa, pois a história das pesquisas sobre tecnologias digitais na escola tem demonstrado impactos de relevância bastante moderada -- seja positiva ou negativa -- nos resultados da aprendizagem dos alunos mensurada por testes padronizados. Mais importante é investigar e compreender o que significa, em termos sociais e políticos, a nova onda de proibição do uso de telefones nas escolas em países diversos, inclusive no Brasil, e que não tem relação direta com a tecnologia digital, mas sim com relações de poder de tom mais conservador e retrógrado, como reforço de disciplina na escola, etc.