Limitações da inteligência artificial (IA)

O que os pesquisadores devem saber sobre o uso de IA

É inegável que a IA pode ser usada na escrita científica para traduzir textos, verificar a gramática e a estrutura das frases em inglês e sugerir expressões alternativas. No entanto, a IA precisa ser usada de forma responsável e ética, sob a supervisão direta de um especialista humano.

Aqui estão alguns aspectos que você deve considerar quando escrever seu artigo:

Como a maioria dos sistemas de IA se baseia no Modelo de Linguagem Amplo (LLM), eles não conseguem associar fontes acadêmicas relevantes a qualquer tópico específico e, portanto, são muito propensos a criar referências imaginárias;

Os sistemas de IA não podem verificar a precisão das informações que obtêm e existe um risco considerável de que possam gerar ou relatar conteúdo falso ou enganoso;

Como os sistemas de IA são treinados com grandes quantidades de dados, eles incorporarão quaisquer erros de viés presentes nos dados;

Os sistemas de IA podem manipular dados para apoiar uma hipótese ou conclusão de pesquisa, mesmo que os fatos sejam falsos ou não reflitam adequadamente a ideia original;

Dependendo do tópico e da disponibilidade de dados sobre um assunto, os sistemas de IA podem resumir a fonte errada ou fornecer resumos imprecisos de artigos específicos e, às vezes, inventar detalhes e conclusões;

Como os sistemas de IA não compreendem verdadeiramente os princípios científicos, a metodologia ou as nuances experimentais, quaisquer conclusões oferecidas pela IA provavelmente serão confiáveis;

O conteúdo gerado por IA não tem responsabilidade de autor, uma propriedade que não apenas entra em conflito com os padrões de integridade científica, mas geralmente viola as políticas da revista e a ética acadêmica;

A longo prazo, a dependência da IA enfraquecerá a criatividade científica, a inovação conceitual e o pensamento baseado em hipóteses;

Além disso, a IA utiliza quantidades enormes de energia e água em seu funcionamento. A Agência Internacional de Energia, por exemplo, prevê que a demanda global de eletricidade por centros de dados de IA ultrapassará 940 TWh até 2030, representando uma contribuição significativa para as emissões de gases de efeito estufa. Cada um de nós tem o dever moral e ambiental de reduzir sua própria pegada de carbono.

Embora a IA possa auxiliar em muitos aspectos da pesquisa científica, a criação de um manuscrito digno de ser submetido a um periódico internacional de qualidade ainda exige o discernimento e a responsabilidade dos autores, bem como revisão analítica por um editor humano experiente.