Alimentar el cerebro y vender el alma: las ambivalencias de trabajar hablando con máquinas

Resumen Este artículo ofrece principios para integrar la IA generativa (GenAI) en la práctica de investigación basados en 9 meses de pruebas sistemáticas y experiencia fundamental sobre automatización y transformación del trabajo. Nuestro equipo implementó GenAI en todo nuestro proceso de investigación, desde la investigación exploratoria hasta la evaluación, utilizando modelos locales, servicios de IA basados en la nube y plataformas personalizadas para análisis centrados en IA. Probamos tres estrategias comunes, usando IA como 'cliente simulado', 'socio creativo' y 'investigador junior'. Proporcionamos ejemplos detallados y reportamos hallazgos para cada una, incluyendo fallos críticos en calidad, precisión, coherencia metodológica, relevancia contextual, significado y confianza. También documentamos la transformación de nuestro trabajo, experiencia, habilidades e identidad, pasando de hacer investigación a verificar resultados. Argumentamos que las integraciones de IA deben encajar la IA en procesos humanos, tratar los resultados de IA como textos especulativos que requieren una re-interpretación humana sustancial, desconfiar de atajos y evitar usar IA para análisis autónomo o como sustituto de participantes humanos en investigación. ELIZA es un desastre como cerebro pero, en las circunstancias sociales adecuadas, aceptable como humano… De la misma manera que el organismo social puede ser más o menos sensible a artefactos en su entorno; se podría decir que es cuestión de la alerta de nuestro sistema inmune social. Para usar un término de debates en antropología social, es cuestión del grado en que somos caritativos con la extrañeza en otros pueblos. — Harry Collins, Artificial Experts (1990, 15)