Críticas ao avanço da IA nas escolas e universidades

Se no Brasil um dos destaques no campo dos estudos da Inteligência Artificial foi o lançamento de um relatório sobre o uso da IA nas universidades intitulado "IA e Ensino Público Superior no Brasil Recomendações para políticas institucionais de governança" (link), fora daqui alguns pesquisadores repercutiram duas publicações importantes de colegas da área e que servem de contraponto ao que parece ser a naturalização da IA na educação formal. 

Primeiro, o pesquisador James O'Sullivan publicou um ensaio provocador em sua página no Substack questionando se não seria o caso de as universidades serem iletradas em IA (link). Com isso, o autor quis chamar a atenção à falta de críticas à incorporação dessas tecnologias na universidade e o papel dessas instituições em atuarem como um espaço para crítica e reflexão sobre o fenomeno. Eles escreveu: "O ensino superior há muito se orgulha de resistir às demandas do imediatismo. Não produzimos estudos na velocidade da tendência; deliberamos, criticamos, contextualizamos. Se aceitarmos esse ethos, então certamente uma das posições mais valiosas que um acadêmico pode ocupar é a de desinteresse deliberado - uma recusa epistêmica de naturalizar o determinismo tecnológico. Não adotar imediatamente a linguagem de tokens e transformers é preservar um espaço no qual o significado, a metáfora e a crítica humanística ainda podem importar".

Por usa vez, o pesquisador britânico Ben Williamson citou O'Sullivan e avançou em outra direção em postagem no seu blog (link). A preparação da OCDE para que o seu exame PISA passe a medir as habilidades dos alunos com a IA e o seu alerta para o fato de que isso possa acelerar as ações de escolas e de educadores em todo o mundo para treinar seus alunos na perspectiva do desenvolvimento das ditas melhores habilidades no uso da tecnologia (na linha de como escrever os melhores prompts e como checar a acurácia das informações gerada pelos sistemas dito inteligentes). Williamson escreveu: "A OCDE não é um ator neutro quando se trata de IA – há vários anos promove o uso da IA na educação e produz regularmente declarações históricas sobre seus efeitos transformadores. Grande parte de sua ênfase está nos efeitos da IA na economia e, portanto, na manutenção da produtividade e do progresso econômico por meio da qualificação tecnológica. Agora, por meio do teste de alfabetização em IA, está exercendo sua autoridade política sobre como as habilidades de IA devem ser definidas e valorizadas".

Número temático sobre colonialismo digital

Acaba de ser publicada edição temática sobre colonialismo digital da revista Convergência Crítica (link).  Há diversos artigos de interesse na temática abrangendo questões relacionadas à inteligência artificial, dataficação, racismo algorítmico e outros. 

Segundo os coordenadores, "são tempos de ataques sistemáticos à soberania  digital  brasileira,  onde  o  capital  de  empresas  do  Vale  do  Silício,  se  alinham abertamente com o campo político da extrema direita. Foi-se a ilusão, muito presente no campo democrático,  de  que  estas  corporações  e  suas  plataformas  poderiam  ser  benevolentes.  Seus interesses  são  o  lucro  über  alles:  neste  sentido  vale  tudo,  principalmente  impulsionar  a desinformação [...] Os  estudos  sobre  colonialismo  digital,  tornam-se  uma  necessidade  para  a  compreensão  e transformação da sociedade atual. A digitalização da vida, comandada pelas big techs, impõe o ritmo alucinante das máquinas, aprofundando a subsunção real dos trabalhadores, através da fragmentação e precarização da força de trabalho e a crescente fetichização da tecnologia, sob a  forma  da  mercadoria". 

Conceituando novos letramentos e IA

Acaba de ser lançado um artigo (white paper) que articula alguns bons elementos em uma nova definição sobre os novos letramentos e a IA (link) de autoria de pesquisadores da empresa Centre for Finance, Technology and Entrepreneurship (CFTE) com sede em Londres.  Segundo o documento, “os letramentos de IA se referem à  capacidade de compreender conceitos básicos de IA, usar ferramentas de IA de forma eficiente, avaliar criticamente os resultados gerados por IA, entender o uso responsável de IA e permanecer adaptável em um cenário digital em rápida evolução.

Esta definição de letramentos de IA compreende cinco componentes principais: Conhecimento Fundamental de Conceitos Básicos de IA, Proficiência Prática em Tecnologias de IA, Avaliação Crítica de Resultados de IA, Uso Responsável de IA e Aprendizagem Contínua e Adaptabilidade. Juntos, esses elementos garantem que os indivíduos estejam bem preparados para se envolver com IA de forma responsável e confiante". 

Artigo sobre Multiletramentos, IA e vídeos remix em nova edição temática

Acaba de ser publicado artigo de pesquisadores do grupo LER-CNPq intitulado Multiletramentos E Inteligência Artificial Nas Práticas Artísticas Juvenis: Uma Análise Sobre A Produção De Vídeos Remix (link) em número temático A Inteligência Artificial e Educação: debates críticos e boas práticas na escola básica e na educação superior, da revista Artes e Educar da UERJ, com edição de Juan Guilhermo Díaz Bernal e Edméa Santos. 

O trabalho de Magnaldo Araújo e Eduardo S. Junqueira "é um recorte de pesquisa de doutorado em andamento que busca compreender o processo de articulação e integração das práticas de multiletramentos na aprendizagem artístico-musical de jovens. Neste artigo temos como objetivo analisar o uso da inteligência artificial (IA) nas práticas artísticas juvenis de multiletramentos no processo de produção de vídeos remix, considerando os aspectos socioculturais, pedagógicos e tecnológicos [...] Como principais resultados, destacamos as mudanças de ethos no processo de criação de vídeos remix e nas práticas de multiletramentos auxiliadas por IA. Entre as principais mudanças, destacam-se a automatização de processos técnicos relacionados à edição de vídeo e a democratização do acesso a ferramentas profissionais de edição, todas proporcionadas pela IA. No que se refere à renovação do ethos, consideram-se a emulação da criatividade humana e os limites borrados da propriedade intelectual como principais pontos de mutação".

Sobre a edição temática (link), com diversos artigos de grande interesse, os editores discutem "como essa tecnologia, capaz de criar textos, imagens e outros conteúdos a partir de dados fornecidos por humanos, vem transformando a educação, exigindo reflexões sobre a reconfiguração do ensino e do papel dos professores. São abordadas questões filosóficas e epistemológicas, como a influência dos vieses algorítmicos na produção do conhecimento, além das implicações para a sociedade contemporânea, marcada por redes digitais e pela modernidade líquida. Outro ponto central da discussão é a necessidade de adaptação dos processos de ensino e avaliação, uma vez que o uso da IA por estudantes pode impactar a integridade acadêmica. O papel do professor se amplia, tornando-se não apenas um mediador do conhecimento, mas um orientador no uso ético dessas ferramentas. Além disso, enfatiza-se a importância do desenvolvimento de habilidades metacognitivas para que os alunos possam utilizar a tecnologia de forma crítica e consciente, sem comprometer a autonomia do aprendizado".

Open AI, do ChatGPT, disponibiliza novo curso e recursos para a educação

A empresa Open AI, criadora do ChatGPT, acaba de disponibilizar um curso online, em inglês, para professores da educação básica. A iniciativa foi desenvolvida em parceira com professores da área de IA da Universidade da Pensilvânia, nos EUA. O curso possui quatro módulos e é gratuito, Há cobrança de uma taxa apenas para aqueles que desejarem obter um certificado de conclusão da atividade (acessar o link). 

Segundo a empresa, "o curso permitirá aos participantes explorar os principais conceitos em IA generativa, criar prompts de IA eficazes e descobrir estratégias para integrar a IA nas tarefas, mantendo a integridade acadêmica". Cada módulo possui vídeo, leituras, uma tarefa e um "prompt para discussão".  Foi disponibilizado também um vídeo de divulgação do curso, com os professores responsáveis, neste link.

Recentemente a empresa também lançou uma nova versão do produto, chamada ChatGPT Edu, focada em universidades, com base em uma espécie de uso piloto desenvolvido na Arizona State University, nos EUA. A página traz alguns poucos detalhes sobre o produto neste link.

Dossiê Temático Inteligência artificial sob as lentes do marxismo e do pensamento crítico

A Revista Eletrônica Internacional de Economia Política da Informação da Comunicação e da Cultura acaba de publicar dossiê temático intitulado Inteligência artificial sob as lentes do marxismo e do pensamento crítico (link para acesso).  O número especial traz artigos com temáticas sobre os avanços da inteligência artificial no contexto do fetichismo tecnológico, da perda dos postos de trabalho, da servidão do home office e da ideologia dos dados. Há também uma entrevista com a socióloga Sabine Pfeiffer sobre as contradições do capitalismo digital.

Segundo os editores (em tradução livre), "a pesquisa marxista sobre IA remonta à década de 1980 e à primeira era da indústria de IA. O aprendizado de máquina ainda não havia alcançado sucesso demonstrável e, em vez disso, a indústria baseou suas esperanças em "sistemas especialistas" ou programas nos quais o conhecimento capturado de especialistas poderia ser implementado e disponibilizado sob demanda (Myers 1986). A partir dessa era inicial, três grandes linhas de pesquisa marxista sobre IA já eram visíveis. 

A primeira linha viu na IA a extensão de tecnologias de automação anteriores e práticas tayloristas de desqualificação de mão de obra (Cooley 1980; Morris-Suzuki 1984; Berman 1992; Ramtin 1991). 

A segunda linha viu a IA como talvez mais exagero do que substância; como uma arma ideológica do capital para intimidar os trabalhadores. Como Athanasiou (1985) colocou, a IA era melhor entendida como "política habilmente disfarçada". 

A terceira linha se concentrou, em vez disso, no potencial das capacidades avançadas de processamento de dados da IA ​​para a implementação do planejamento econômico socialista (Cockshott 1988). 

Podemos ver esses mesmos temas em pesquisas marxistas mais recentes sobre IA, bem como em novas. O primeiro tópico continua sendo uma linha de pensamento proeminente. Dyer-Witheford et al. (2019) e Steinhoff (2021) oferecem estudos que investigam a IA como, principalmente, uma tecnologia de automação com novas capacidades para capturar as habilidades e o conhecimento do trabalho. 

O segundo tópico também mantém o interesse. Autores como Benanav (2020) e Smith (2020) argumentam que as capacidades da IA ​​para a substituição do trabalho são exageradas, servindo principalmente para distrair de uma economia capitalista estagnada. Terceiro, Cockshott (2017) continua a buscar o uso da IA ​​para o planejamento socialista. Um tanto relacionada é a pesquisa que defende o uso da IA ​​para produzir uma sociedade socialista “pós-trabalho” (Srnicek e Williams 2015; Bastani 2019). 

Além desses três tópicos, há uma diversidade relativamente pequena, mas crescente, de pesquisas marxistas sobre IA (várias coleções agora existem: Moore e Woodcock 2021; Fehrle, Lieber e Ramirez 2024)".

UNESCO publica guias de referências sobre Inteligência Artificial para professores e estudantes

A UNESCO acaba de publicar dois guias de referências sobre a temática da Inteligência Artificial no contexto de problemáticas e práticas de professores e estudantes (link para acesso). 

Segundo o material de divulgação,  o referencial de competências de IA para alunos visa orientar formuladores de políticas, educadores e desenvolvedores de currículo para que os alunos passam desenvolver habilidades, conhecimentos e valores necessários para se envolver com a IA de forma eficaz. Ele está focado em quatro competências essenciais: 

• Uma mentalidade centrada no ser humano: Incentivar os alunos a entender e afirmar sua agência em relação à IA. 
• Ética da IA: Ensino de uso responsável, ética desde a concepção e práticas seguras. 
• Técnicas e aplicações de IA: Fornecer conhecimentos e habilidades fundamentais de IA. 
• Design de sistemas de IA: Promovendo a resolução de problemas, a criatividade e o design thinking.

No que se refere aos professores, o material de divulgação destaca que o guia apresenta uma estrutura de competências de IA focada no desenvolvimento profissional ao longo da vida, oferecendo uma estrutura de referência para programas nacionais de desenvolvimento e treinamento de competências. O objetivo é garantir que os professores estejam preparados para usar a IA de forma responsável e eficaz, minimizando os riscos potenciais para os alunos e a sociedade. As cinco principais áreas de competência são: 

• Uma mentalidade centrada no ser humano: Foco na agência humana, responsabilidade e responsabilidade social. 
• Ética da IA: Promover princípios éticos e uso responsável. 
• Fundamentos e aplicações de IA: Fornecer o conhecimento, a compreensão e as habilidades necessárias para criar e usar a IA. 
• Pedagogia de IA: Apoiar os professores a alavancar a IA para métodos de ensino inovadores. 
• IA para desenvolvimento profissional: Descrever as capacidades dos professores para alavancar a IA para impulsionar seu próprio desenvolvimento profissional ao longo da vida. 

O guia enfatiza que as ferramentas de IA devem complementar, não substituir, as funções e responsabilidades vitais dos professores na educação.

Destaque também para as diretrizes sobre IA generativa na educação e na pesquisa, documento publicado em 2023 (link).

Relatório alerta para os perigos da adoção, sem regulação adequada, da Inteligência Artificial nas escolas

Acaba de ser publicado relatório crítico importante intitulado Time for a Pause: Without Effective Public Oversight, AI in Schools Will Do More Harm Than Good, de autoria de Ben Williamson, Alex Molnar, and Faith Boninger (link apra acesso do texto completo). No texto, os autores indicam as diversas qualidades das interfaces de IA generativa, mas alertam para a pressão mercadológica e para o modo aligeirado e pouco crítico com que empresas e setores dos poderes públicos tem promovido e praticado a introdução dessas tecnologias no contexto da escola formal: "O peso das evidências disponíveis sugere que a atual adoção generalizada de aplicações não regulamentadas de IA nas escolas representa um grave perigo para a sociedade civil democrática e para a liberdade e a liberdade individuais. Anos de alertas e precedentes realçaram os riscos colocados pela utilização generalizada de tecnologias digitais pré-IA na educação, que obscureceram a tomada de decisões e permitiram a exploração de dados dos alunos", alertam.

Os autores analisam que: "apesar dos riscos de levar tecnologia não testada às salas de aula e da falta de critérios de implementação ou controles regulatórios, as escolas enfrentam uma pressão implacável para “modernizar” adotando a inteligência artificial. Embora os aplicativos de IA sejam comercializados como formas de resolver problemas de ensino e aprendizagem e agilizar os processos administrativos escolares, eles carregam consigo todas as limitações, problemas e riscos inerentes aos modelos de IA utilizados para executá-los. Levar a IA às escolas aumenta a probabilidade de que essas tecnologias possam reproduzir ou intensificar muitos problemas, tornando qualquer benefício potencial menos significativo do que os danos potenciais.

Duas aplicações fortemente promovidas ilustram os perigos da adoção acrítica da IA em escolas: tutoria de chatbots, baseados em grandes modelos de linguagem, que prometem personalizar e automatizar o ensino; e plataformas de aprendizagem adaptativas, que utilizam grandes quantidades de dados dos alunos para fazer previsões, personalizar recursos e atividades em sala de aula e auto-intervir automaticamente nos processos pedagógicos. Os perigos que tais produtos representam incluem demandar aos professores mais tempo do que poupam, restringindo artificialmente a definição de “aprendizagem”, marginalizando a experiência dos professores e o relacionamento com os alunos, introduzindo erros curriculares e aumentando o preconceito e a discriminação nas salas de aula e nas escolas".

IA, limites dos detectores de plágio e desafios da avaliação da aprendizagem

Uma publicação recente da empresa norte-americana de tecnologia educacional Anthology (link da versão traduzida para o português) apresenta dados e análises sobre a baixa eficácia e confiança dos programas detectores de plágio para materiais gerados por máquinas de inteligência artificial como o popular ChatGPT e outras. Citando testes realizados e artigos publicados com resultados diversos, os autores concluíram que esses programas não devem ser utilizados para a detecção de plágio em trabalhos acadêmicos e similares devido ao seu baixo índice de acerto. Há também o risco de vieses e distorções desse softwares ao serem utilizados para outras línguas além do inglês.

Segundo os autores do documento, uma das boas alternativas ao problema é a capacitação de professores,  o uso ético da IA, e uma revisão dos processos de avaliação da  aprendizagem em instituições educacionais e cursos formais. O documento sugere a aderência à prática do sistema de "avaliação autêntica": "Na sua forma mais simples, a avaliação autêntica se afasta do conhecimento acumulado para se concentrar na aplicação prática de habilidades, priorizando tarefas complexas em vez de questões binárias de certo e errado e abandonando muitos dos princípios tradicionais da avaliação, como limites de tempo, envios únicos e curvas de notas. Por exemplo, um curso de negócios que busca ensinar habilidades de negociação pode considerar a substituição de uma tarefa de exame tradicional por uma entrevista ao vivo, em que o aluno precisa aplicar a teoria apresentada na aula para alcançar o resultado comercial desejado".

Seminário ChatGPT: Potencial, Limites e Implicações para a Universidade na USP

Estão disponíveis os vídeos completos do seminário ChatGPT: Potencial, Limites e Implicações para a Universidade, realizado recentemente pelos Instituto de Estudos Avançados da USP, enfocando os últimos desenvolvimentos da Inteligência Artificial Generativa. 

O evento teve diversas palestras de pesquisadores e debates sobre os sistemas de IA no presente e implicações dessas tecnologias para a universidade, em particular o ensino universitário de graduação e de pós-graduação, a produção acadêmica e as condutas éticas decorrentes de seus usos.  Links: Parte 1 e Parte 2.

Cenário e tendências do ensino superior e da aprendizagem 2023

Foi publicado no início deste mês o 2023 EDUCAUSE Horizon Report, Teaching and Learning Edition (link), patrocinado pelas empresas AT&T e Zoom. O detalhado relatório, que tem boa acolhida entre pesquisadores de ed-tech e se baseia em diversas evidências empíricas, lista tendências sociais, econômicas, tecnológicas, cenários e implicações sobre acontecimentos centrais na área de estudos do ensino superior.  

Entre as principais tendências sociais e tecnológicas, destacam-se:

• A demanda dos alunos por modalidades de aprendizado flexível e conveniente está aumentando.

• O foco no ensino e aprendizagem equitativos e inclusivos se expandiu e se intensificou.

• Os programas de microcredenciais estão ganhando força e maturidade.

O potencial para a IA se tornar popular está crescendo.

• A dicotomia online versus presencial está sendo interrompido.

• Tecnologias de baixo e nenhum código que simplificam processos estão permitindo que mais pessoas criem conteúdo.

No que se refere mais especificamente às tecnologias e práticas a elas relacionadas, o relatório destaca:

• Aplicativos habilitados para IA focados no aprendizado preditivo e pessoal

• IA generativa

• Diluição dos limites entre as modalidades de aprendizagem

• HyFlex: alunos matriculados em um curso podem participar de forma presencial, síncrona online ou assíncrona online, conforme sua preferência.

• Microcredenciais

• Apoiar o sentimento de pertença e conexão social dos alunos.

Relatório sobre conhecimentos da área de Inteligência Artificial nos últimos 100 anos

Através de uma iniciativa da Stanford University, que coordena o trabalho de um comitê de pesquisadores da área de Inteligência Artificial (IA), acaba de ser publicado um detalhado relatório sobre a produção do conhecimento no campo das pesquisas sobre o tema (link) intitulado Gathering Strength, Gathering Storms: The One Hundred Year Study on Artificial Intelligence (AI100) 2021 Study Panel Report.

O relatório foi desenvolvido com base em dois seminários temáticos realizados em 2019, cujos resultados foram aprofundados e detalhados por um Comitê de pesquisadores convidados, buscando ampliar o escopo dos relatos para estudos desenvolvidos em todo o mundo (no relatório de 2016 o escopo foi restrito a alguns países do hemisfério norte). O trabalho irá continuar com novos relatórios a serem publicados a cada 5 anos.

Destaque para o formato do texto, de perguntas e respostas (Standing Questions and Responses), onde os especialistas organizaram informações sobre 12 temáticas da área, tais como "quais são os avanços mais importantes em IA?"e "quais são as oportunidades mais promissoras para IA?", dentre outras.

Artigo analisa o uso de inteligência artificial em fóruns assíncronos

Artigo do tipo relato de campo publicado por pesquisadores da North Texas University, em conferência da EDEN, European Distante and E-Learning Network, promove debate e reflexões sobre o polêmico e muito recente uso de inteligência artificial em atividades de aprendizagem online, O estudo se baseou em IA integrada em uma disciplina de biologia do primeiro semestre da universidade (link para o artigo). Importante salientar que esse uso não pode levar à substituição de professores e nem à precarização das atividades docentes.

Como relatado no artigo, os pesquisadores "...investigaram o impacto de uma plataforma de discussão baseada na IA, Packback, no aprendizado dos alunos e no fluxo de trabalho do professor em cursos on-line. O Packback aborda as discussões on-line usando um protocolo baseado no método socrático de questionar, atribuir aos alunos uma 'pontuação de curiosidade' e criar um boletim informativo de postagens em destaque. Inclui moderação automatizada de postagens inapropriadas. A IA, com base no comprimento das postagens, na estrutura da sentença e na presença de uma citação de fonte, entre outras variáveis, calcula as notas de classificação e curiosidade/interesse. A plataforma possui outros recursos que imitam um local de rede social e gamificam a experiência"(tradução livre).  Ainda segundo os autores, "como a IA classifica e modera as postagens, os professores podem se concentrar em interações mais significativas com os alunos, como fornecer elogios públicos ou feedback particular/individualizado. Isso ajuda a estabelecer um senso de presença no ensino".

Dados foram coletados com apenas 3 tutores de atuaram na disciplina ofertada nessa sistemática e que relataram sobre impactos mas também ambiguidades da IA. Um ponto levantado pelos tutores foi a necessidade de saber melhor como o IA calcula as notas atribuídas às postagens e se elas incluem também o feedback dos tutores publicados no fórum, caracterizando assim o elemento de "ambiguidade" nomeado pelos pesquisadores -- forma de cálculo das notas, estrutura das postagens na plataforma, dentre outros. 

Os autores identificaram elementos de incerteza mas também de curiosidade dos tutores sobre o funcionamento e uso da IA e também concluíram que: "os tutores enfrentaram o desafio de aprender uma nova tecnologia, entender como a IA funcionava e descobrir como melhor complementá-la com a intervenção humana, com interrupções mínimas na aprendizagem dos alunos ... Pesquisas adicionais estão em andamento e a equipe de pesquisa está entrevistando mais alunos e educadores ... para aumentar a validade dessas tendências ou identificar outros padrões emergentes nas disciplinas".

Nova edição temática da revista TECCOGS sobre Inteligência Artificial

Acaba de ser publicada nova edição da revista TECCOGS, do Programa de Estudos Pós-Graduados em Tecnologias da Inteligência e Design Digital da PUC-SP, sobre Inteligência Artificial.