Si la respuesta dice que viene de ChatGPT, la aceptamos mas: un estudio
Un experimento con 103 personas muestra que la misma respuesta se acepta mas si aparece etiquetada como generada por ChatGPT: la etiqueta funciona como senal de credibilidad, aunque el contenido sea identico.
Que ha pasado
Un equipo de la Universidad de Messina, en Italia, ha publicado en Frontiers in Psychology un experimento sobre como la etiqueta de origen modifica la aceptacion de las respuestas de un sistema de inteligencia artificial. El diseno fue intra-sujetos: los mismos 103 participantes (67 mujeres, con una edad media de 25,3 anos) juzgaron 30 respuestas pregeneradas, correspondientes a tres categorias: respuestas correctas del test de reflexion cognitiva, respuestas intuitivas pero incorrectas del mismo test, y preguntas aritmeticas de control. Cada respuesta aparecia etiquetada de forma aleatoria como procedente de ChatGPT o de un ordenador generico.
El resultado global: las respuestas etiquetadas como de ChatGPT fueron aceptadas en un 68,0% de los casos, frente al 63,4% de las mismas respuestas con la etiqueta generica, una diferencia estadisticamente significativa (p igual a 0,002). Pero el efecto no se distribuye por igual: la interaccion entre fuente y categoria fue muy significativa (p menor de 0,001) y se concentro en las preguntas aritmeticas de control, donde la etiqueta de ChatGPT disparo la aceptacion hasta el 98,6% frente al 92,4% (un cociente de posibilidades de 6,08, con intervalo de confianza del 95% entre 2,70 y 13,69). En las respuestas del test de reflexion, correctas o incorrectas, la etiqueta no movio la aguja (cociente de posibilidades de 1,17 en ambos casos).
Donde no hubo diferencias resulta igualmente revelador: la sensibilidad para distinguir respuestas correctas de incorrectas (medida con d prima) fue identica en ambas condiciones (p igual a 0,930), y tampoco cambio el criterio de decision. Los participantes no razonaron mejor ni peor con una etiqueta u otra; simplemente confiaron mas. Y ese mayor credito no se explico por la confianza general en la IA, las actitudes hacia ella ni la disposicion al pensamiento critico de cada persona.
Que significa
El hallazgo se encaja con un fenomeno conocido desde hace decadas en psicologia de la decision: el sesgo de automatizacion, definido como la tendencia humana a favorecer las sugerencias de los sistemas automatizados y a descartar la informacion contradictoria. La novedad es la forma que adopta hoy: no hace falta que la maquina responda mejor; basta con que la respuesta lleve una etiqueta asociada a una tecnologia percibida como potente para que aceptemos un poco mas lo que dice.
Hay un detalle que lo hace mas inquieto: el efecto aparecio en preguntas aritmeticas simples, donde una respuesta es facil de verificar, y no en el test de reflexion, donde el contenido genera conflicto cognitivo. Interpretacion plausible: cuando verificar cuesta esfuerzo, la etiqueta actua como atajo de credibilidad y nos ahorra ese esfuerzo. La sensibilidad intacta sugiere que la capacidad de detectar errores no se degrada; lo que cambia es la disposicion a usarla.
Para el aprendizaje y el trabajo esto importa de forma directa: quien estudia o decide con ayuda de sistemas generativos puede estar suscribiendo respuestas que, con otro remitente, habria comprobado. La etiqueta no es informacion neutra; es una senal que modula el escrutinio.
Que hacer el lunes
La regla practica que se desprende del experimento es corta: verifica el contenido, no la etiqueta. Aplica exactamente el mismo escrutinio a una respuesta firmada por un sistema de IA que a una procedente de un buscador, un compañero o tu propia memoria. Si la respuesta importa, pide sus fuentes y comprobadas; la etiqueta de origen jamas sustituye a esa comprobacion.
En equipos que usan herramientas generativas para escribir, programar o analizar, vale la pena convertirlo en norma explicita: toda salida relevante pasa por una persona que la revisa con el contenido delante, no con la reputacion de la herramienta en la cabeza. Es la version moderna de la lista de verificacion de aviacion: el piloto automatico vuela, pero alguien mira los instrumentos.
Y para quien aprende: usa estos sistemas como interlocutor que se le responde con pruebas, no como autoridad que se le acepta con etiqueta. Formular la pregunta de seguimiento correcta (de donde sale esto, que dato lo respalda, que pasaria si fuera al reves) es la habilidad que el experimento sugiere que estamos delegando sin darnos cuenta.