Escrever texto com ChatGPT faz mal ao cérebro, sugere estudo
Pesquisa americana mostra que quem usa excessivamente a inteligência artificial arrisca não saber mais reproduzir ou explicar argumentos. Para especialistas, resultados do levantamento causam preocupação ChatGPT: um estímulo ao delírio?
Usar ferramentas de inteligência artificial (IA) como o ChatGPT para escrever textos pode provocar custos cognitivos nos usuários e diminuir a capacidade de aprendizado. Esta foi a revelação de um estudo do Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês), nos Estados Unidos, que investigou o potencial impacto de modelos de linguagem de larga escala na educação.
Segundo os pesquisadores, os usuários destas ferramentas tendem a apresentar desempenho consistentemente inferior nos níveis neural, linguístico e comportamental.
"Esses resultados levantam preocupações sobre as implicações educacionais de longo prazo da dependência dos Modelos de Linguagem de Grande Escala (LLMs, na sigla em inglês) e ressaltam a necessidade de uma investigação mais profunda sobre o papel da IA no aprendizado", afirmou o estudo publicado neste mês. Os pesquisadores argumentam que mais conhecimento sobre os seus impactos é necessário diante do avanço rápido da IA pelo mundo.
Neurônios menos ativos
O estudo contou com 54 participantes, que foram divididos em três grupos de 18 pessoas para produzir redações: usuários do modelo GPT-4o da OpenAI, que funciona no aplicativo ChatGPT, usuários do Google como mecanismo de busca e autores recorrendo apenas ao próprio cérebro, sem auxílio de nenhuma ferramenta externa. Os recrutados incluíram estudantes, cientistas e engenheiros de cinco universidades da região de Boston.
Ao longo de quatro meses, cada participante participou de três sessões de escrita, com todos recebendo as mesmas tarefas. Para cada sessão, os participantes deveriam escolher uma dentre três opções de tema, incluindo assuntos que falam a experiências individuais ou de conhecimento geral, como felicidade, coragem, entusiasmo, arte ou filantropia.
Por meio de encefalogramas, os pesquisadores mediram o seu engajamento e carga cognitivos durante as sessões — ou seja, quanto cada um estava efetivamente envolvido com a tarefa e qual era o esforço mental para processar as informações necessárias para completá-la. No final, 18 dos participantes ainda integraram uma quarta sessão, na qual foram trocados de grupo.
Os exames revelaram "diferenças significativas na conectividade do cérebro", escreveram os pesquisadores, com reduções sistemáticas de acordo com a quantidade de ajuda externa utilizada pelos autores das redações.
Os participantes que não recorreram a nenhuma ferramenta externa apresentaram o funcionamento cerebral mais forte e bem distribuído. Já os usuários de mecanismos de busca tiveram engajamento moderado, e aqueles que usaram ferramentas de IA demonstraram menor conectividade, sugerindo menos esforço e engajamento.
Open AI é a dona do ChatGPT
Getty Images via BBC
"Questão urgente" para aprendizado
Os autores dos textos foram também entrevistados após cada sessão e tiveram suas produções avaliadas por professores e por uma ferramenta de IA criada especificamente para o estudo.
Para os participantes que escreveram com ajuda de IA, foi menor a capacidade de responder a perguntas simples sobre o próprio trabalho, mesmo poucos minutos após a sua finalização. Dentre eles, 83% não conseguiram recitar uma frase do próprio texto de cabeça, contra 11% no grupo que só usou ajuda do Google.
Além disso, nenhum dos autores que tiveram ajuda de IA soube corretamente reproduzir corretamente os pontos principais da redação. Já no grupo que usou o Google, apenas três pessoas não conseguiram. Dentre os participantes que não usaram ferramenta nenhuma, o número caiu para dois participantes.
"Embora os LLMs ofereçam conveniência imediata, nossas descobertas destacam possíveis custos cognitivos", avaliam os oito cientistas que assinam a pesquisa. "Demonstramos a questão urgente de uma provável redução nas habilidades de aprendizagem."
Outros estudos já indicaram que ferramentas como o ChatGPT reduzem o esforço cognitivo imediato para os usuários, mas podem também diminuir a capacidade de pensamento crítico e a criatividade. Para os pesquisadores do MIT, o fenômeno levanta preocupações para contextos educacionais, onde é fundamental desenvolver capacidades cognitivas robustas.
Uso exacerbado no Brasil
Já uma pesquisa do ano passado realizada pela Associação Brasileira de Mantenedoras do Ensino Superior (Abmes), em parceria com a Educa Insights, revelou que sete a cada dez estudantes universitários ou que consideram entrar para a graduação usam a IA para estudar.
De 300 entrevistados ouvidos entre 2023 e 2024 ao redor do Brasil, 42% disse usar ferramentas de IA semanalmente e 29%, diariamente.
O que torna a nova tecnologia atraente para os estudantes é, sobretudo, a possibilidade de aprender a qualquer momento e em qualquer lugar, o acesso a conteúdo atualizado e diverso e a capacidade de resolver problemas ou dúvidas de maneira mais rápida e eficiente, de acordo com o estudo.
Mais de 40% dos participantes também reconhecem, entretanto, o risco de dependência excessiva de tecnologias que podem ficar obsoletas rapidamente e de que a IA produza erros.
Orientações para sala de aula
Diante do desafio, a Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco) publicou no ano passado um guia para uso de IA generativa no ensino e pesquisa, a fim de que o seu uso seja "orientado a proteger a agência humana e a beneficiar genuinamente os estudantes, os aprendizes e os pesquisadores".
Na prática, as recomendações incluem adotar medidas que possam manter a motivação dos alunos para crescer e aprender. Por exemplo, evitar o uso de IA em detrimento da observação do mundo real, discussões em grupos, a realização de experimentos ou exercícios de raciocínio lógico.
Além disso, os especialistas afirmam que é importante garantir interação social e exposição à criatividade humana, para evitar que os estudantes se tornem viciados ou dependentes da IA.
"A IA não deve usurpar a inteligência humana. Pelo contrário, ela nos convida a reconsiderar as nossas compreensões estabelecidas sobre o conhecimento e a aprendizagem humana," disse Stefania Giannini, Diretora-Geral Adjunta de Educação da Unesco.
O documento enfatizou, ainda, a necessidade de instituições educacionais validarem, inclusive recorrendo a especialistas, os sistemas usados em sala de aula quanto à sua educação ética e pedagógica. Aos governos ao redor do mundo, por sua vez, cabe criar regulações, segundo a agência da ONU.
ChatGPT
AP Photo/Matt Rourke
Usar ferramentas de inteligência artificial (IA) como o ChatGPT para escrever textos pode provocar custos cognitivos nos usuários e diminuir a capacidade de aprendizado. Esta foi a revelação de um estudo do Instituto de Tecnologia de Massachusetts (MIT, na sigla em inglês), nos Estados Unidos, que investigou o potencial impacto de modelos de linguagem de larga escala na educação.
Segundo os pesquisadores, os usuários destas ferramentas tendem a apresentar desempenho consistentemente inferior nos níveis neural, linguístico e comportamental.
"Esses resultados levantam preocupações sobre as implicações educacionais de longo prazo da dependência dos Modelos de Linguagem de Grande Escala (LLMs, na sigla em inglês) e ressaltam a necessidade de uma investigação mais profunda sobre o papel da IA no aprendizado", afirmou o estudo publicado neste mês. Os pesquisadores argumentam que mais conhecimento sobre os seus impactos é necessário diante do avanço rápido da IA pelo mundo.
Neurônios menos ativos
O estudo contou com 54 participantes, que foram divididos em três grupos de 18 pessoas para produzir redações: usuários do modelo GPT-4o da OpenAI, que funciona no aplicativo ChatGPT, usuários do Google como mecanismo de busca e autores recorrendo apenas ao próprio cérebro, sem auxílio de nenhuma ferramenta externa. Os recrutados incluíram estudantes, cientistas e engenheiros de cinco universidades da região de Boston.
Ao longo de quatro meses, cada participante participou de três sessões de escrita, com todos recebendo as mesmas tarefas. Para cada sessão, os participantes deveriam escolher uma dentre três opções de tema, incluindo assuntos que falam a experiências individuais ou de conhecimento geral, como felicidade, coragem, entusiasmo, arte ou filantropia.
Por meio de encefalogramas, os pesquisadores mediram o seu engajamento e carga cognitivos durante as sessões — ou seja, quanto cada um estava efetivamente envolvido com a tarefa e qual era o esforço mental para processar as informações necessárias para completá-la. No final, 18 dos participantes ainda integraram uma quarta sessão, na qual foram trocados de grupo.
Os exames revelaram "diferenças significativas na conectividade do cérebro", escreveram os pesquisadores, com reduções sistemáticas de acordo com a quantidade de ajuda externa utilizada pelos autores das redações.
Os participantes que não recorreram a nenhuma ferramenta externa apresentaram o funcionamento cerebral mais forte e bem distribuído. Já os usuários de mecanismos de busca tiveram engajamento moderado, e aqueles que usaram ferramentas de IA demonstraram menor conectividade, sugerindo menos esforço e engajamento.
Open AI é a dona do ChatGPT
Getty Images via BBC
"Questão urgente" para aprendizado
Os autores dos textos foram também entrevistados após cada sessão e tiveram suas produções avaliadas por professores e por uma ferramenta de IA criada especificamente para o estudo.
Para os participantes que escreveram com ajuda de IA, foi menor a capacidade de responder a perguntas simples sobre o próprio trabalho, mesmo poucos minutos após a sua finalização. Dentre eles, 83% não conseguiram recitar uma frase do próprio texto de cabeça, contra 11% no grupo que só usou ajuda do Google.
Além disso, nenhum dos autores que tiveram ajuda de IA soube corretamente reproduzir corretamente os pontos principais da redação. Já no grupo que usou o Google, apenas três pessoas não conseguiram. Dentre os participantes que não usaram ferramenta nenhuma, o número caiu para dois participantes.
"Embora os LLMs ofereçam conveniência imediata, nossas descobertas destacam possíveis custos cognitivos", avaliam os oito cientistas que assinam a pesquisa. "Demonstramos a questão urgente de uma provável redução nas habilidades de aprendizagem."
Outros estudos já indicaram que ferramentas como o ChatGPT reduzem o esforço cognitivo imediato para os usuários, mas podem também diminuir a capacidade de pensamento crítico e a criatividade. Para os pesquisadores do MIT, o fenômeno levanta preocupações para contextos educacionais, onde é fundamental desenvolver capacidades cognitivas robustas.
Uso exacerbado no Brasil
Já uma pesquisa do ano passado realizada pela Associação Brasileira de Mantenedoras do Ensino Superior (Abmes), em parceria com a Educa Insights, revelou que sete a cada dez estudantes universitários ou que consideram entrar para a graduação usam a IA para estudar.
De 300 entrevistados ouvidos entre 2023 e 2024 ao redor do Brasil, 42% disse usar ferramentas de IA semanalmente e 29%, diariamente.
O que torna a nova tecnologia atraente para os estudantes é, sobretudo, a possibilidade de aprender a qualquer momento e em qualquer lugar, o acesso a conteúdo atualizado e diverso e a capacidade de resolver problemas ou dúvidas de maneira mais rápida e eficiente, de acordo com o estudo.
Mais de 40% dos participantes também reconhecem, entretanto, o risco de dependência excessiva de tecnologias que podem ficar obsoletas rapidamente e de que a IA produza erros.
Orientações para sala de aula
Diante do desafio, a Organização das Nações Unidas para a Educação, a Ciência e a Cultura (Unesco) publicou no ano passado um guia para uso de IA generativa no ensino e pesquisa, a fim de que o seu uso seja "orientado a proteger a agência humana e a beneficiar genuinamente os estudantes, os aprendizes e os pesquisadores".
Na prática, as recomendações incluem adotar medidas que possam manter a motivação dos alunos para crescer e aprender. Por exemplo, evitar o uso de IA em detrimento da observação do mundo real, discussões em grupos, a realização de experimentos ou exercícios de raciocínio lógico.
Além disso, os especialistas afirmam que é importante garantir interação social e exposição à criatividade humana, para evitar que os estudantes se tornem viciados ou dependentes da IA.
"A IA não deve usurpar a inteligência humana. Pelo contrário, ela nos convida a reconsiderar as nossas compreensões estabelecidas sobre o conhecimento e a aprendizagem humana," disse Stefania Giannini, Diretora-Geral Adjunta de Educação da Unesco.
O documento enfatizou, ainda, a necessidade de instituições educacionais validarem, inclusive recorrendo a especialistas, os sistemas usados em sala de aula quanto à sua educação ética e pedagógica. Aos governos ao redor do mundo, por sua vez, cabe criar regulações, segundo a agência da ONU.
ChatGPT
AP Photo/Matt Rourke
Para ler a notícia completa, acesse o link original:
2 curtidas
Notícias Relacionadas
Não há mais notícias para carregar
Comentários 0