A IA PODE SER UMA ALIADA?

Ferramentas de inteligência artificial (IA) como o CHATGPT favorecem plágio, desinformação e discursos de ódio, desafiando professores a proporem atividades mais complexas para seus alunos

"Com o avanço da inteligência artificial, uma nova ferramenta tem revolucionado a forma como a educação é conduzida em salas de aula ao redor do mundo."

Foi com a frase acima que o próprio ChatGPT iniciou uma apresentação sobre si mesmo, a pedido desta repórter. No texto, gerado automaticamente, a tecnologia não entendeu muito bem o que é um "lead jornalístico", como se chama o primeiro parágrafo de uma notícia, mas produziu, em formato de artigo, um resumo relativamente completo – e otimista – dos prós e contras da ferramenta.

O uso desse recurso tem encantado e assustado, na mesma medida, especialistas em diferentes áreas. Em escolas e universidades, a preocupação é ainda maior: em uma fase de formação de novos indivíduos e profissionais, a tecnologia pode tanto ampliar as possibilidades de aprendizagem como tornar o plágio acessível e dificilmente rastreável. Há, ainda, o risco de disseminação de desinformação e discurso de ódio com o recurso.

Apresentado ao mundo há menos de sete meses, no dia 30 de novembro de 2022, o ChatGPT se alastrou rapidamente como tópico nas rodas de conversa. A Itália chegou a proibir a ferramenta, alegando preocupação com a proteção dos dados dos usuários, assim como a cidade de Nova York, nos Estados Unidos, especificamente nas escolas públicas, para evitar o uso do recurso como "cola" em tarefas.

Em todo o planeta, nações debatem projetos de lei para regulamentar tecnologias de inteligência artificial (IA). No Brasil, uma proposta de autoria do presidente do Senado, Rodrigo Pacheco (PSD-MG), procura estabelecer normas gerais para que ocorra o uso responsável de sistemas de inteligência artificial no país, a fim de "proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico". No texto, que ocupa 33 páginas, sistemas que tenham finalidades vinculadas à educação e à formação profissional são considerados "de alto risco", classificação que envolveria uma série de cuidados não especificados.

Desenvolvido pela empresa OpenAI, o ChatGPT não é o primeiro chatbot "inteligente" já surgido – o próprio Google já fez algumas experiências nessa área, sendo a mais recente uma ferramenta chamada Bard, lançada em março. Por que, então, o ChatGPT gerou tanta mobilização?

A resposta está nos parâmetros utilizados, que são as informações aprendidas pelo algoritmo durante o treinamento. Quanto mais parâmetros, mais complexa e acurada é aquela ferramenta. A título de comparação, em 2017, uma rede neural criada pelo Google baseada em modelos de linguagem que já conseguia elaborar textos de forma sequencial – como sugestões para a próxima palavra ao escrever em um celular, por exemplo – possuía 110 milhões de parâmetros. Já a versão de 2020 do ChatGPT, que teve como base O SISTEMA DO Google, tinha 175 bilhões de parâmetros. A versão atual não se sabe, porque a OpenAI optou por não divulgar.

— O Google lançou esse modelo e deixou aberto. Rapidamente, tornou-se padrão na solução da maior parte dos problemas de IA para processar texto. A OpenAI pegou essa arquitetura e otimizou para gerar textos. Em vez de só dizer qual vai ser a próxima palavra mais provável, você dá um conjunto de texto de entrada e ele gera um conjunto de texto de saída – resume Ulisses Brisolara Corrêa, professor e coordenador do Hub de Inovação em Inteligência Artificial da Universidade Federal de Pelotas (UFPel).

Em termos leigos, nesse tipo de inteligência artificial, elaborada com modelos de linguagem, a ferramenta é alimentada com dados de diferentes tipos existentes na internet, como notícias, artigos científicos, postagens em redes sociais, livros, entre tantas outras fontes. Com esses bilhões de informações, a tecnologia gradativamente aprende quais as melhores respostas para cada pergunta ou demanda. Para se aperfeiçoar, ela conta com professores. Outros robôs? Não. Humanos, de carne e osso, que treinam o recurso.

— O modelo por trás do ChatGPT, que é o GPTR 3.5, foi melhorado para a parte de diálogo a partir do feedback de pessoas. Eles contrataram gente de diferentes países para ler os textos gerados e responderem à pergunta: entre essas possibilidades de resposta, qual a mais intuitiva para o que você esperaria? Além de entender que frases deve dizer, o modelo passa a priorizar as respostas que as pessoas acham mais adequadas e humanas — explica Rafael H. Bordini, professor da Escola Politécnica e do Programa de Pós-Graduação em Ciência da Computação da Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS).

Mas, se a humanidade desses textos de notícias, artigos, postagens e livros usados para alimentar a ia torna os resultados mais interessantes e certeiros, também gera reveses. A principal preocupação de governos e empresas que trabalham com IA é que esses sistemas disseminem discursos de ódio e desinformação, por receberem dados de forma indiscriminada.

— O ChatGPT foi treinado com textos da internet, então ele tem vieses, e a IA ainda não é boa o suficiente para combater tendências inadequadas.  Ela não te dá resultados; te dá previsões que podem estar corretas, parcialmente corretas ou até incorretas. O ChatGPT foi feito para te dar resultados credíveis, e não necessariamente corretos – descreve Rosa Maria Vicari, professora do Instituto de Informática e do Programa de Pós-Graduação em Informática na Educação da Universidade Federal do Rio Grande do Sul (UFRGS).

Na educação, usar uma ferramenta que pode gerar textos enviesados e até mentirosos exige ações que passam pela regulamentação desses recursos, pela formação de professores e pela conscientização dos estudantes sobre quando e como recorrer à inteligência artificial.

O IMPACTO EM SALA DE AULA

Nas redes de ensino, o impacto do ChatGPT ainda é um debate pouco difundido. A maioria das entidades e órgãos não conta com espaços de formação de professores, fóruns de discussão e materiais com recomendações. A pauta é tratada principalmente em universidades.

No Ministério da Educação (MEC), não existe um grupo de trabalho sobre o tema na Secretaria de Educação Básica (Seb). Mas a pasta tem participado de encontros a respeito, como uma reunião na Unesco, a agência das Nações Unidas para a Educação, a Ciência e a Cultura, e um evento sobre ChatGPT na Universidade de São Paulo (USP), no qual esteve a secretária de Educação Superior, Denise Pires de Carvalho.

— Estamos começando a discutir a necessária mudança na formação de professores, porque não é possível continuar com esse modelo curricular que temos no país e enfrentar o ChatGPT. É um desafio enorme – defendeu a secretária no encontro da instituição paulista.

A Unesco divulgou, no fim de 2021, recomendações para o uso ético da IA. No documento, a diretora-geral adjunta de Ciências Sociais e Humanas, Gabriela Ramos, alertou que essa tecnologia "traz grandes benefícios em muitas áreas, mas, sem as barreiras éticas, corre o risco de reproduzir preconceitos do mundo real, alimentando divisões e ameaçando os direitos e liberdades humanos fundamentais". O material aponta 10 princípios básicos, como o direito à privacidade e à proteção de dados, a transparência, a supervisão humana e a conscientização e alfabetização para a ferramenta.

Em 2022, a UFRGS elaborou o Referencial Curricular: Inteligência Artificial no Ensino Médio, como parte de um projeto de capacitação em IA para as escolas públicas gaúchas. Em 68 páginas, é apresentado um estudo sobre o tema nessa etapa da educação, competências específicas a serem trabalhadas e sugestões de atividades.

Na rede estadual, conversas sobre o uso da tecnologia nas instituições de ensino têm ocorrido, mas não com foco no ChatGPT. Uma trilha de formação de professores está sendo montada, voltada para a tecnologia e inovação, o que deve gerar avanços.

— Hoje, temos um curso, chamado Educação Midiática, que debate como as aulas podem ser estruturadas levando em conta as tecnologias existentes e falando aos estudantes sobre o uso consciente delas. A ideia é estar sempre lançando cursos – afirma Marcelo Jerônimo, subsecretário de Desenvolvimento da Educação da Secretaria Estadual de Educação (Seduc).

Jerônimo pontua que, para além do emprego adequado do ChatGPT e outras ferramentas de modelos de linguagem, as redes de ensino devem preparar os alunos para lidar com a IA no mundo do trabalho, o que será cada vez mais cobrado.

– Quem souber lidar com essa ferramenta vai se sair melhor – analisa o subsecretário.

Não há discussões em andamento sobre plágio, potencializado pelo ChatGPT, que elabora automaticamente os textos. Não há, tampouco, debates sobre banir ou não a tecnologia nas escolas do RS.

— As tentativas de proibir o uso do ChatGTP têm se mostrado inócuas, porque a tecnologia está no cotidiano do estudante. Não adianta passar questões muito óbvias, porque o aluno vai lá no Google ou no ChatGPT e tem uma resposta em segundos. É preciso usar metodologias ativas, que demonstrem que ele desenvolveu a habilidade – avalia Jerônimo.

A rede municipal de Porto Alegre conta com uma Coordenadoria de Tecnologia e Inovação, que promove formações mensais sobre o assunto. A coordenadora do departamento, Melissa Machado, defende que o recurso seja apresentado como algo que pode ajudar os alunos a pensar.

— Isso é um enfrente que a gente vai ter que conversar, para ver como é que se pode facilitar e auxiliar o trabalho do professor. Mas acredito que temos que mostrar para o aluno que, com aquela ferramenta, ele consegue utilizar muito mais do que só o "copia e cola". Tudo é a forma como o professor utiliza o recurso em sala de aula – defende Melissa.

Nas escolas do Serviço Social da Indústria (Sesi), conhecidas por trabalhar com tecnologia, a discussão está mais avançada. Mas, segundo a gerente de Educação do Sesi/RS, Sonia Bier, não é de hoje que as escolas têm dificuldade para se relacionar com as inovações.

— Estamos muito voltados, ainda, para a educação de prescrição. As escolas, por mais progressistas que se coloquem, acabam usando a internet como substituta do livro, sem ensinar aos alunos o que é pesquisa e como nos relacionamos com a tecnologia – observa Sonia.

Para a gerente do Sesi/RS, o ChatGPT é perigoso no modelo de escola tradicional, em que o professor fala e o aluno repete, pois é usado como fonte de busca, sem um pensamento crítico envolvido. Na escola contemporânea, porém, serão encontradas formas de interação. Na visão de Sonia, a chave para desafios como problemas que uma comunidade local enfrenta, por exemplo, só poderá ser encontrada por pessoas que a conhecem. Por isso, a ferramenta até pode ajudar, mas a análise, a criatividade e a linguagem para traduzir aquilo para outras pessoas será dos alunos.

UMA FERRAMENTA INEVITÁVEL

Apesar do pouco tempo desde o lançamento público do ChatGPT, professores de diferentes escolas gaúchas já têm ensaiado mudanças motivadas pelo uso da ferramenta e de outras tecnologias de inteligência artificial. Entre atividades em sala de aula e formas de avaliação, as instituições de ensino têm aberto as portas para metodologias que envolvem pesquisa e análise dos estudantes.

Na Fundação Escola Técnica Liberato Salzano Vieira da Cunha, em Novo Hamburgo, Daiana Campani, que dá aulas de Língua Portuguesa e Literatura Brasileira, já realizou três trabalhos diferentes com seus alunos de Ensino Médio utilizando o ChatGPT. A docente participa do grupo de pesquisa Divulgação da Ciência e Estudos Linguísticos e Tecnodiscursivos, do Programa de Pós-Graduação em Linguística Aplicada da Universidade do Vale do Rio dos Sinos (Unisinos), e foi nele que, no início do ano, estudou textos gerados por IA, o que lhe interessou.

— Pensei: "Puxa, isso vai impactar em sala de aula. É um assunto interessante de trazer às aulas de Língua Portuguesa", porque não podemos deixar de discutir isso com os alunos. Não dá para simplesmente dizer que o ChatGPT não pode ser utilizado e deixar por isso. Os estudantes precisam ver as potencialidades e os desafios – defende Daiana.

Tendo essa preocupação em mente, a educadora apresentou a ferramenta com um teste simples: pediu ao ChatGPT um texto sobre a própria Liberato. A resposta não podia ser mais instrutiva.

— O grande trote que os veteranos da Liberato esperam ansiosamente para fazer com os bixos é pedir que eles produzam carteirinhas para o acesso às piscinas do complexo da escola. Essas piscinas não existem, é uma lenda urbana, mas esse foi um dos itens de infraestrutura que o ChatGPT elencou. Aí, os alunos se deram conta de q    eu, embora a ferramenta tenha potencialidades, pode ser fonte de desinformação e, por isso, precisa ser usada com cautela – salienta a professora.

Em outra aula, para falar sobre Modernismo no Brasil, Daiana pediu que a tecnologia gerasse textos conceitualizando o movimento cultural e as vanguardas europeias. Também demandou que o sistema citasse características de diferentes escolas artísticas e desafiou os alunos a adivinhar de quais a ferramenta estava falando. Solicitou, ainda, que um poema dadaísta fosse produzido pelo recurso. Na última semana, voltou a usar IA para ensinar sobre crônicas.

— Foi muito legal, porque eu trouxe um texto feito pelo ChatGPT e outro pelo Fabrício Carpinejar, e eles logo perceberam a diferença, justamente porque o Carpinejar consegue colocar questões cognitivas, tem nuances, subjetividade, coisa que a inteligência artificial não tem. Embora seja um texto eloquente e de acordo com a norma culta, eles gostaram mais do texto do Carpinejar – recorda a docente.

As tarefas propostas parecem ter surtido efeito. Aluno do 4º ano do Ensino Médio e do curso técnico em Eletrônica da Liberato, Igor Bernardo Daudt, 18 anos, teve seu primeiro contato com a ferramenta em aula. Ele sente que entendeu suas funcionalidades e limites.

— Posso usar o ChatGPT para achar conteúdos mais específicos de eletrônica, porque, no Google, elas ficam muito espalhadas, mas mais para confirmar certas informações. Não pego a resposta como verdade, porque nunca dá para confiar completamente – opina Igor, que considera esse um recurso útil, como o Google, mas quer é apenas isso: mais uma ferramenta.

Estudante do 1º ano do Ensino Médio da escola, Jéssica Flores de Oliveira, 16 anos, relata que muita gente usa para "colar" na escola, mas que a tecnologia pode ser empregada para o estudo.

— É muito bom para tirar dúvidas sobre assuntos específicos. Filosofia, por exemplo, é uma matéria em que eu não sou muito boa, e consigo entender melhor alguns conceitos usando o ChatGPT – comenta a aluna, que garante que, depois, checa as informações em outras fontes.

PROPOSTAS DE INTERAÇÃO

Em Porto Alegre, a Escola Municipal de Ensino Fundamental Porto Novo, no bairro Rubem Berta, conta com um nome de peso no trabalho com IA: Tatiane Reis, que é professora da rede e é referência nessa área. Dois projetos que a educadora criou se chamam Guilda dos Curiosos e Guilda dos Desenvolvedores, no qual ela diz "seduzir a gurizada com joguinhos".

— Como a gente trabalha com as metodologias ágeis aplicadas ao processo de aprendizagem, aproveitei o modelo organizacional do Spotify, que é um sucesso, e ele é organizado em guildas e chapters. As guildas são comunidades de aprendizagem, de inteligência coletiva, e os chapters, ou capítulos, são subgrupos organizados por interesse, que podem durar um tempo e, depois, se desmanchar de acordo com a etapa do projeto. Aí, juntamos todos para desenvolver um jogo – descreve Tatiane.

O game se chama Escola dos Orixás, tema que foi ideia dos alunos, que pertencem a uma comunidade na qual há muitos terreiros de umbanda. Durante a elaboração do jogo, uma série de ferramentas tecnológicas foi usada, entre elas o ChatGPT. Para tanto, a IA foi tema de estudo das crianças.

— Fizemos rodas de conversa sobre o que era inteligência, sobre o que era computador, sobre a história dos computadores, o que são linguagens de máquina, de programação. O ChatGPT facilitou as buscas e a organização do texto, e, principalmente, eles entenderam que o uso da IA é sobre as perguntas que se faz. Tanto que uma das profissões do futuro é de engenheiro de prompt, que é um perguntador profissional – resume a professora.

A docente diz que tem colegas com receio desse tipo de ferramenta, porque pode "emburrecer" as pessoas, mas que há muito tempo a tecnologia já serve como inteligência e memória estendida.

— Eu não lembro nem do telefone do meu marido. O nosso cérebro tem sérias limitações de memória, e a gente vive, hoje, em um tsunami de informações. Para conseguir lidar com tudo isso, a gente precisa da memória distribuída e das ferramentas tecnológicas como ferramenta estendida. Mas é uma inteligência humana estendida, porque o computador é um bicho burro – diz a educadora.

Na opinião de Tatiane, o risco dos vieses e preconceitos disseminados pela IA se deve aos vieses e preconceitos do ser humano. Por isso, acaba sendo um recurso útil para "jogar na cara" o que é a humanidade e debater, por exemplo, questões éticas e sustentabilidade.

Pensando na importância de se fazer boas perguntas, a professora não se preocupa tanto com os plágios facilitados pelo ChatGPT. No seu entendimento, se a questão do professor for boa, a produção do aluno pode deixar de ser a resposta para ela e passar a ser a indagação, que precisará ser bem formulada.

— Se um professor deu uma pergunta pronta e quer uma resposta que a IA pode fazer direto, numa pergunta só, essa tarefa foi mal elaborada. Ela não serve para a realidade de hoje. Agora, é claro que eu posso dar para o meu aluno uma tarefa que ele possa usar essa ferramenta para fazer, mas vai ter que fazer, talvez, uma meia dúzia de boas perguntas para conseguir chegar numa resposta do nível que eu espero – reitera a docente.

Na rede privada, o Colégio Israelita Brasileiro, no bairro Santa Cecília, foi convidado a participar de uma pesquisa acadêmica, já em andamento, que pretende comparar a aprendizagem de estudantes em duas situações de avaliação: a tradicional, em que o estudante não tem acesso a materiais de apoio, e o exame de internet aberta, no qual o aluno pode pesquisar na internet, fazendo uso, inclusive do ChatGPT.

O estudo, organizado por pesquisadores vinculados ao Ministério da Educação de Israel e à Unesco, liderados pelos professores Sugata Mitra e Edith Kimchi, está sendo desenvolvido pelo terceiro ano em Israel. O Israelita é a única escola do mundo a servir como piloto na investigação, que abrange turmas dos Anos Finais do Ensino Fundamental e do Ensino Médio.

— Esses pesquisadores se deram conta de que hoje, nesse mundo onde todos têm acesso ao conhecimento, quanto mais você faz provas em que os alunos precisam decorar coisas, menos sentido essas provas têm, e é gerado todo um estresse de decorar algo que, dias depois, não se lembra mais. E se você pudesse fazer uma avaliação em que, mesmo podendo usar ferramentas tecnológicas, o aluno não conseguisse copiar e colar para se sair bem? – indaga Rafael Korman, coordenador do Ensino Médio do Israelita.

A hipótese é que, mesmo com acesso a instrumentos como o ChatGPT, o estudante só terá um bom desempenho se tiver conhecimento prévio das aulas, até mesmo para fazer as perguntas certas para o sistema.

— O objetivo do estudo é ensinar a metodologia aos nossos professores e comparar o quanto os estudantes retêm a aprendizagem em cada tipo de avaliação. Não dá para negar essa avalanche de ferramentas que estão surgindo, então por que não nos beneficiarmos delas? – questiona.

Ainda não há um resultado formalizado do estudo, que segue em andamento. Mas os docentes participantes já perceberam que os alunos, que de início acharam que a avaliação com o novo método seria fácil, agora consideram o exame até mais trabalhoso, uma vez que envolve muito mais pesquisas, para confirmar que a resposta é válida e fazer uma curadoria das informações – habilidade cada vez mais demandada na vida adulta.

Nessa metodologia, são avaliados cinco critérios: a expressão de uma alfabetização informativa, que aponta a diversidade de fontes de informação que o estudante buscou; a expressão para aprendizagem independente e compreensão do conteúdo relevante no campo do conhecimento; a expressão da voz interior, que abrange a criatividade e a análise crítica do aluno; a expressão verbal, que envolve a clareza e a organização do texto; e a expressão do pensamento como produto da resolução de problemas, que é oferecer uma resposta personalizada sobre passos para a resolução daquele problema.

Um dos exames aplicados usando essa forma de avaliação foi sobre a crise humanitária envolvendo os povos yanomami. Foi feita uma pergunta: como podemos ajudar o povo yanomami diante da crise humanitária identificada em janeiro de 2023? Munidos de textos, os estudantes são desafiados a citar as questões envolvendo o caso, escolher uma delas, pesquisar na internet a respeito e verificar a veracidade das informações no site do Conselho Nacional de Justiça (CNJ). Depois, o aluno precisava escrever um e-mail para a associação de estudantes da sua escola apresentando o ponto que mais lhe preocupa e propondo uma ação que ele e seus colegas poderiam realizar para ajudar.

Fonte: Jornal Zero Hora/Caderno Doc/Isabella Sander (isabella.sander@zerohora.com.br) em 25/06/2023