Investigación en Humanidades Producida por IA: Sobre los Peligros del Incrementalismo Técnico

Investigadores académicos ya están enviando manuscritos generados por IA para publicación, a veces sin reconocer el papel de la IA. Esto plantea múltiples preguntas morales y prácticas, incluyendo cuestiones sobre el estatus moral general del uso de IA para cualquier propósito y sobre si tales envíos constituyen conducta indebida en la investigación. Sin embargo, se ha prestado relativamente poca atención al análisis y predicción de los efectos a gran escala, en la literatura académica, de un paradigma académico en el que muchos o la mayoría de los manuscritos son generados por IA. En este artículo, argumento que al menos en el caso de las humanidades, la abundancia de artículos generados por IA probablemente producirá una especie de degradación epistémica sistémica o erosión de la base de conocimiento de una institución o sistema. En resumen, la literatura académica resultante estará aún más dominada por artículos que son seguros, técnicos y aislados, desplazando así una forma valiosa de investigación radicalmente innovadora. Estos problemas ocurrirán debido a los incentivos actuales en el sistema de publicación académica en humanidades y a las capacidades cercanas futuras de los LLMs. Concluyo sugiriendo algunas maneras de mitigar estos problemas inminentes.