Tempo de leitura: 3 minutos
ChatGPT, uma inteligência artificial que os cientistas começaram a usar. Será que é confiável? Veja a seguir sobre no site Ponto de Partida Psi!
ChatGPT na área da ciência
No final de 2022, a OpenAI, uma empresa norte-americana sem fins lucrativos que conduz pesquisas envolvendo inteligência artificial, desenvolveu uma nova ferramenta de Inteligência Artificial (IA) chamada ChatGPT. O ChatGPT é um chatbot, um programa capaz de entender e redigir textos, simulando um diálogo humano.
Esta tecnologia vem chamando a atenção por sua impressionante capacidade de compreensão e articulação de respostas. O ChatGPT é uma melhoria da linguagem conhecida como GPT-3 e é classificado como um Large Language Model (LLM).
A ferramenta foi testada por cientistas e pesquisadores apenas um mês após seu lançamento em dezembro. Os biólogos computacionais Casey Greene e Milton Pividori, da Universidade da Pensilvânia, na Filadélfia, utilizaram o novo chatbot como assistente.
Os resultados foram impressionantes, com sugestões precisas de revisão para documentos sendo feitas em segundos. Além disso, em questão de minutos, foi encontrado um erro de referência em uma importante equação.
O que o ChatGTP pode fazer?
A produção de textos fluentes e convincentes já pode ser realizada por inteligências artificiais, seja para produzir prosa, poesia, códigos de computador ou artigos de pesquisa. De acordo com Pividori, da Nature, isso pode ajudar a aumentar a produtividade dos pesquisadores.
Alguns cientistas entrevistados pela revista, como Hafsteinn Einarsson, da Universidade da Islândia, afirmam que a ferramenta também está sendo utilizada para “debater ideias”. O ChatGPT pode ser usado para escrever slides de apresentação, provas para alunos e até mesmo para converter teses em trabalhos.
Quais podem ser as consequências em usar na área da ciência?
No entanto, especialistas levantam preocupações sobre o desenvolvimento e utilização dessas tecnologias. A primeira delas é quem está produzindo essa tecnologia e com que finalidade, visto que expectativas de lucro podem ir na contramão de necessidades sociais reais.
Alguns pesquisadores acreditam que tudo dependerá de como futuras diretrizes irão restringir o uso dos chatbots e que essa IA pode ser promissora, desde que seja supervisionada por humanos.
Além disso, um editorial da revista Nature Machine Intelligence de janeiro decretou que não se pode confiar na ferramenta para obter fatos corretos ou produzir referências confiáveis, o que ressalta a importância de se ter supervisão humana no desenvolvimento e utilização de tecnologias de inteligência artificial como o ChatGPT e seus similares.
Por fim, esse programa (LLMs) pode passar respostas erradas e informações enganosas devido a pouca quantidade de dados em seu sistema. Bem como, não tem como saber a fonte do que o ChatGPT escreveu e se não está tendo influência do que os usuários lhe dizem.
O que os especialistas recomendam?
Os especialistas argumentam que os acadêmicos devem se recusar a apoiar os modelos semelhantes de Inteligência Artificial comerciais desenvolvidos pelas grandes empresas de tecnologia. Além dos problemas relacionados a preconceito, preocupações com segurança e exploração de trabalhadores, esses algoritmos também consomem uma quantidade significativa de energia para serem treinados, o que tem gerado dúvidas sobre se as grandes empresas de tecnologia estão considerando adequadamente o impacto ambiental. Provavelmente, não estão. Para esses especialistas, estabelecer limites legais para essas ferramentas será crucial.
Em resumo, enquanto os avanços na área de LLMs (inteligência artificial) estão trazendo benefícios e oportunidades, há também sérias preocupações em relação à confiabilidade das informações fornecidas por esses robôs. Enquanto isso, o que nos resta é sempre procurar por fontes que sejam confiáveis e não ficar dependendo do ChatGPT.
Se você gostou do nosso conteúdo, nos siga no Instagram e no Twitter e fique por dentro das novidades.
