Integridade acadêmica na era do ChatGPT
Desafios éticos e as novas fronteiras da Inovação
DOI:
https://doi.org/10.15628/rbept.2025.17803Palavras-chave:
ChatGPT, Inteligência Artificial, Ética na Pesquisa Científica, Plágio, Viés AlgorítmicoResumo
Este artigo investiga as implicações éticas do uso de inteligência artificial generativa (GenAI), como o ChatGPT, na produção da pesquisa científica. Por meio de uma revisão narrativa da literatura, observou-se a presença recorrente de cinco categorias temáticas principais: confiabilidade das informações, viés informacional, direitos autorais e plágio, segurança de dados e desigualdade de acesso. A falta de confiabilidade nos dados constitui uma das principais razões pelas quais chatbots de IA não devem substituir o julgamento e a responsabilidade dos pesquisadores humanos. O ChatGPT pode adotar vieses e perpetuar preconceitos, além de ampliar desigualdades sociais, caso seu acesso não seja assegurado de maneira equitativa. A IA é amplamente vista como uma ferramenta, não podendo lhe ser atribuída a autoria de conteúdos, e a ausência de menção aos autores originais pode resultar em plágio. Além disso, a arquitetura do ChatGPT não garante plena proteção aos dados privados coletados. O estudo conclui que é necessária a implementação de instrumentos legais sólidos que exijam um gerenciamento seguro e transparente das informações pelas plataformas, além da formulação de diretrizes éticas para o uso de IAs generativas pelas instituições acadêmicas e a compreensão das limitações dessas ferramentas por parte dos autores, a fim de assegurar uma prática de pesquisa mais responsável.
Downloads
Referências
ALMEIDA, Lília Bilati de et al. O retrato da exclusão digital na sociedade brasileira. Jistem - Journal of Information Systems and Technology Management, v. 2, p. 55-67, 2005.
AAAI - ASSOCIATION FOR THE ADVANCEMENT OF ARTIFICIAL INTELLIGENCE. Thirty-Eighth AAAI Conference on Artificial Intelligence; Thirty-Sixth Conference on Innovative Applications of Artificial Intelligence; Fourteenth Symposium on Educational Advances in Artificial Intelligence. Editado por Michael Wooldridge, Jennifer Dy, Sriraam Natarajan. Washington, DC: AAAI Press, 2024.
BOAS, Paulo José Fortes Villas; BOAS, José Vitor Polachini do Valle Villas. The use of ChatGPT in scientific publishing. Geriatrics, Gerontology and Aging, v. 17, p. 1-4, 2023. DOI: https://doi.org/10.53886/gga.e0230027
BRASIL. Lei nº 9.610, de 19 de fevereiro de 1998. Altera, atualiza e consolida a legislação sobre direitos autorais e dá outras providências. Diário Oficial da República Federativa do Brasil, Brasília, DF, 20 fev. 1998.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais. Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018.
CATARINI, Paola. Por uma IA democrática, inclusiva e decolonial: “frameworks” de proteção a todos os direitos fundamentais. Jornal da Usp, 16 maio 2023. Disponível em: https://jornal.usp.br/artigos/por-uma-ia-democratica-inclusiva-e-decolonial-frameworks-de-protecao-a-todos-os-direitos-fundamentais/. Acesso em: 15 set. 2024.
CETIC.br. Pesquisa TIC Domicílios. 2023. São Paulo: Comitê Gestor da Internet no Brasil, 2023. Disponível em: https://cetic.br/pt/pesquisa/domicilios/indicadores/. Acesso em: 17 set. 2024.
COPE. Artificial intelligence and peer review. 2023. Disponível em: https://publicationethics.org/publication-integrity-week-2023/ai-peer-review. Acesso em: 25 set. 2024.
DECOLONIZAI. Manifesto da IA Decolonial. DecolonizAI, 31 mar. 2023. Disponível em: https://decolonizai.com/manifesto-da-ia-decolonial/. Acesso em: 16 set. 2024.
EKE, Daniel. ChatGPT and the rise of generative AI: threat to academic integrity?. Journal of Responsible Technology, v. 13, p. 100060, 2023. DOI: https://doi.org/10.1016/j.jrt.2023.100060
HAMAM, Ahmed Ammar; FATOUH, Amr Hassan. Leveraging ChatGPT in Scientific Research: A Comprehensive Analysis. Revista da Faculdade de Artes de Al-Wadi Al-Jadid, v. 9, n. 18, 2023.
GANJAVI, Conner et al. Publishers’ and journals’ instructions to authors on use of generative artificial intelligence in academic and scientific publishing: bibliometric analysis. BMJ, v. 384, 2024. DOI: https://doi.org/10.1136/bmj-2023-077192
GAO, Xiangmin; SHEN, Haoming; DUAN, Joan Huiqiong. A Study on ChatGPT to Alleviate the Difficulties in Writing Scientific Technology Papers. In: 2023 International Conference on the Cognitive Computing and Complex Data (ICCD). IEEE, 2023. p. 118-122. DOI: https://doi.org/10.1109/ICCD59681.2023.10420820
GUIMARÃES, João Alexandre Silva Alves. O direito ao esquecimento: a última chance de sermos nós mesmos?. Migalhas, 3 set. 2021. Disponível em: https://www.migalhas.com.br/coluna/migalhas-de-protecao-de-dados/351126/o-direito-ao-esquecimento-a-ultima-chance-de-sermos-nos-mesmos. Acesso em: 15 set. 2024.
HENDRYCKS, Dan; ZHAO, Jeremy; WALLACE, Eric. Red Teaming AI: Evaluating the Risks and Vulnerabilities of Large Language Models. 2023. Disponível em: https://arxiv.org/abs/2306.01723. Acesso em: 12 set. 2024.
HIRSH-PASEK, Kathy; BLINKOFF, Elena. ChatGPT: Educational friend or foe?. Brookings, 9 jan. 2023. Disponível em: https://www.brookings.edu/articles/chatgpt-educational-friend-or-foe/. Acesso em: 11 set. 2024.
ISIAKU, Labaran et al. Academic Evolution in the Age of ChatGPT: An In-depth Qualitative Exploration of its Influence on Research, Learning, and Ethics in Higher Education. Journal of University Teaching and Learning Practice, v. 21, n. 06, 2024. DOI: https://doi.org/10.53761/7egat807
KAMOUN, Faouzi et al. Exploring Students’ and Faculty’s Knowledge, Attitudes, and Perceptions Towards ChatGPT: A Cross-Sectional Empirical Study. Journal of Information Technology Education: Research, v. 23, p. 004, 2024. DOI: https://doi.org/10.28945/5239
KHALIFA, Mohamed; ALBADAWY, Mona. Using artificial intelligence in academic writing and research: An essential productivity tool. Computer Methods and Programs in Biomedicine Update, p. 100145, 2024. DOI: https://doi.org/10.1016/j.cmpbup.2024.100145
LUND, Brady et al. ChatGPT and a new academic reality: AI-written research papers and the ethics of the large language models in scholarly publishing. Journal of the Association for Information Science and Technology, v. 74, n. 5, p. 570-581, 2023. DOI: https://doi.org/10.1002/asi.24750
MARWALA, Tshilidzi. Algorithm Bias — Synthetic Data Should Be Option of Last Resort When Training AI Systems. ONU, 28 jul. 2023. Disponível em: https://unu.edu/article/algorithm-bias-synthetic-data-should-be-option-last-resort-when-training-ai-systems. Acesso em: 25 set. 2024.
MENESES, Sônia. Apontamentos sobre o uso de AI na produção e na comunicação de pesquisas. Revista Brasileira de História, v. 43, n. 94, set.-dez. 2023. DOI: https://doi.org/10.1590/1806-93472023v43n94-02
MONTINI, Alessandra. Desigualdade digital: o papel da IA na redução ou ampliação das diferenças sociais. Febraban Tech, 12 ago. 2024. Disponível em: https://febrabantech.febraban.org.br/especialista/alessandra-montini/desigualdade-digital-o-papel-da-ia-na-reducao-ou-ampliacao-das-diferencas-sociais. Acesso em: 16 set. 2024.
MOREIRA, Sandra Seabra. Equipe multidisciplinar garante ética em projetos de IA. Revista Ensino Superior, n. 278, p. 34-36, set. 2023.
NATURE. Tools such as ChatGPT threaten transparent science; here are our ground rules for their use. Nature, v. 613, n. 7945, p. 612, 2023. DOI: https://doi.org/10.1038/d41586-023-00191-1
NEMORIN, Selena. Towards decolonising the ethics of AI in education. Globalisation, Societies and Education, 08 abr. 2024. DOI: https://doi.org/10.1080/14767724.2024.2333821
NEPAL, Tej Kumar. Exploring the Applications and Challenges of ChatGPT in Research and Academia: A Comprehensive Review. West Science Interdisciplinary Studies, v. 2, n. 05, p. 1043-1050, 2024. DOI: https://doi.org/10.58812/wsis.v2i05.729
NIC.br - Núcleo de Informação e Coordenação do Ponto BR. Inteligência artificial e cultura: Perspectivas para a diversidade cultural na era digital. São Paulo: Comitê Gestor da Internet no Brasil, 2023.
OPENAI. GPT-4. 14 mar. 2023. Disponível em: https://openai.com/index/gpt-4-research/. Acesso em: 21 ago. 2024.
PCAST - President’s Council of Advisors on Science and Technology. Supercharging research: harnessing artificial intelligence to meet global challenges. Executive Office of the President, 2024.
RAHMAN, Md Mizanur et al. ChatGPT and academic research: A review and recommendations based on practical examples. Journal of Education, Management and Development Studies, v. 3, n. 1, p. 1-12, 2023. DOI: https://doi.org/10.52631/jemds.v3i1.175
SALVAGNO, Michele; TACCONE, Fabio Silvio; GERLI, Alberto Giovanni. Can artificial intelligence help for scientific writing?. Critical Care, v. 27, n. 1, p. 75, 2023. DOI: https://doi.org/10.1186/s13054-023-04380-2
SAMPAIO, Rafael Cardoso et al. ChatGPT e outras IAs transformarão a pesquisa científica: reflexões sobre seus usos. Revista de Sociologia e Política, v. 32, p. e008, 2024. DOI: https://doi.org/10.1590/1678-98732432e008
SILVESTRE, Paulo. Inteligência artificial pode ampliar abismo social no Brasil. Estadão, 29 jul. 2024. Disponível em: https://www.estadao.com.br/brasil/macaco-eletrico/inteligencia-artificial-pode-ampliar-abismo-social-no-brasil/. Acesso em: 17 set. 2024.
SUSARLA, Anjana; GOPAL, Ram; THATCHER, Jason; SARKER, Saonee. The Janus effect of generative AI: charting the path for responsible conduct of scholarly activities in information systems. Information Systems Research, v. 34, n. 2, p. 399-408, 2023. DOI: https://doi.org/10.1287/isre.2023.ed.v34.n2
SUPREMO TRIBUNAL FEDERAL. STF conclui que direito ao esquecimento é incompatível com a Constituição Federal. Portal do STF, 11 fev. 2021. Disponível em: https://portal.stf.jus.br/noticias/verNoticiaDetalhe.asp?idConteudo=460414&ori=1. Acesso em: 15 set. 2024.
TLILI, Abderezak et al. What if the devil is my guardian angel: ChatGPT as a case study of using chatbots in education. Smart Learning Environments, v. 10, n. 1, p. 15, 2023. DOI: https://doi.org/10.1186/s40561-023-00237-x
TORRES-SALINAS, Daniel; ARROYO-MACHADO, Wenceslao. The Many Publics of Science: Using Altmetrics to Identify Common Communication Channels by Scientific Field. arXiv, 2023. Disponível em: https://arxiv.org/abs/2304.05157. Acesso em: 28 set. 2024.
UNESCO. Recomendação sobre a Ética da Inteligência Artificial. Paris: Organização das Nações Unidas para a Educação, a Ciência e a Cultura, 2022.
UNESCO. Guidance for generative AI in education and research. Paris: UNESCO Publishing, 2023.
VALERI, Julia. Inteligência artificial utiliza base de dados que refletem preconceitos e desigualdades. Jornal da USP, 7 jul. 2023. Disponível em: https://jornal.usp.br/atualidades/inteligencia-artificial-utiliza-base-de-dados-que-refletem-preconceitos-e-desigualdades/. Acesso em: 16 set. 2024.
VILALTA, Lucas Paolo Sanches. É possível termos transparência de algoritmos para sistemas de inteligência artifícial?. Jornal da USP, 05 ago. 2024. Disponível em: https://jornal.usp.br/artigos/e-possivel-termos-transparencia-de-algoritmos-para-sistemas-de-inteligencia-artificial/. Acesso em: 10 set. 2024.
ZHOU, Liangbin et al. ChatGPT for scientific writing —The coexistence of opportunities and challenges. Journal of Orthopaedic Translation, v. 44, p. A1, 2024. DOI: https://doi.org/10.1016/j.jot.2024.01.005
Downloads
Publicado
Como Citar
Edição
Seção
Licença

Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
O autor na submissão do artigo transfere o direito autoral ao periódico. À Revista Brasileira da Educação Profisisonal e Tecnológica ficam reservados os direitos autorais pertinentes a todos os artigos nela publicados.