«Fieles participando en festividad de religiosidad popular» y «Fieles de religiosidad popular católica en una procesión» según Chat GPT
por Gabriel Pérez Salazar y Francesco Gervasi (Universidad Autónoma de Coahuila, México)
Luego de abordar algunos de los estudios realizados sobre la relación entre Inteligencia Artificial y religión (ver entrada anterior en este blog) queremos ahora en este texto, que resume un trabajo más amplio, observar y contrastar las respuestas que la versión gratuita de esta aplicación genera a partir de solicitudes de rezos hacia sujetos de veneración pertenecientes a la religiosidad popular, tanto institucionalmente reconocidas dentro de la tradición católica, como cuestionadas por ésta.
En el texto original, hemos hecho una revisión de la operación básica de la IAG, así como de algunas nociones relativas a la religiosidad popular, los prejuicios y la discriminación. Como veremos más adelante, este trabajo contribuye a ampliar los estudios situados en el contexto cultural mexicano sobre las religiosidades populares contemporáneas y este tipo de mediaciones tecnológicas, que es un cruce de categorías que, hasta donde hemos explorado, no ha sido abordado con anterioridad.
Marco teórico-conceptual
En el marco teórico-conceptual hemos explorado las intersecciones entre la inteligencia artificial generativa (IAG), específicamente los modelos de lenguaje grande (LLM) como ChatGPT 3.5, y el estudio de las religiones. La IAG es un dispositivo sociotécnico con profundas implicaciones culturales, que opera como una tecnología que articula múltiples actos de producción y consumo de sentidos, dando lugar a encuadres no neutrales sobre los temas que le son propuestos. Hemos mencionado el funcionamiento básico de la IAG, incluyendo los procesos de entrenamiento y calibración de los LLM, y se identifican posibles fuentes de sesgo en las respuestas generadas, como la selección de unidades de entrenamiento y los ajustes realizados por humanos. En este sentido, hemos retomado los planteamientos de Simondon (2005) sobre cómo la tecnología puede reconfigurar las relaciones que dan lugar a la experiencia ante lo sagrado. Hemos discutido las implicaciones de estos sesgos para el estudio de la religiosidad popular en México, destacando la importancia de considerar la diversidad lingüística y cultural en los conjuntos de datos utilizados para entrenar a los LLM. Hemos revisado la literatura existente sobre la IAG y la religión, incluyendo investigaciones sobre sesgos en LLM (Li et al., 2020; Abid et al., 2021a, 2021b), la relación entre IA y ética religiosa (Robinson, 2013; Graves, 2017), y la práctica religiosa a través del uso de la IA (Meema, 2018; Vinichenko et al., 2020; Labrecque, 2022; Apul y Lektawan, 2024; Dos Prazeres, 2023; Chua, 2023). Hemos también abordado temas como la discriminación religiosa, siguiendo la perspectiva de Alejandro Frigerio (2018), quien destaca las dimensiones estatal, social y académica de este fenómeno, así como la importancia de los medios de comunicación como productores de prácticas discriminatorias (Wieviorka, 2009). Finalmente, hemos reflexionado también sobre la naturaleza de la religiosidad popular, retomando el debate entre sociólogos italianos como Nesti (1974, 1982) y Prandi (1977, 1983) sobre el significado del adjetivo «popular». Se destaca la definición de Pace (2014) de la religiosidad popular como un «exceso de sentido» que escapa a los límites de las instituciones religiosas establecidas, así como las contribuciones de autores como De Martino (2003), De la Torre (2012), Hernández (2016), Gruzinski (1994), Dobbelaere (1993) y Hervieu-Léger (1996) sobre las características y funciones de esta forma de religiosidad.
Método
La investigación adopta un enfoque cualitativo (Silverman y Marvasti, 2008), centrándose en la construcción de modelos y tipologías en lugar de generalizaciones estadísticas (Corbetta, 2007). Básicamente, examina cómo ChatGPT 3.5 responde a solicitudes de rezos dirigidos a figuras de la religiosidad popular, tanto aceptadas como cuestionadas por la tradición católica. Se eligió esta versión de la IAG por su accesibilidad y reconocimiento entre los usuarios (Maslej et al., 2024). Se registraron tres respuestas por cada prompt para evaluar la variabilidad y evitar sesgos conversacionales. La selección de entidades se basó en estudios previos sobre devociones populares en México (Jónsdóttir, 2014; Gervasi, 2018, 2020; Valtierra y Alcalá, 2021; Gaytán y Valtierra, 2023) e incluyó figuras demoníacas para probar los límites del modelo. El estudio se llevó a cabo en la Universidad Autónoma de Coahuila, utilizando cuentas personales de los investigadores.
El prompt empleado fue: “Elabora un rezo dedicado a X”, donde X estuvo dado por las entidades mostradas en las Tablas 1 y 2.
Resultados principales
Los resultados de la investigación revelan patrones interesantes en las respuestas generadas por ChatGPT 3.5 en relación con las solicitudes de rezos dirigidos a las entidades seleccionadas. Se identifican tres categorías de respuestas: 1) la generación del rezo sin anotaciones adicionales; 2) la generación del rezo con anotaciones contextuales y 3) la negación a generar el rezo solicitado.
Se constata que ChatGPT 3.5 genera rezos sin restricciones para entidades que son consideradas aceptadas por la doctrina católica, tales como Jesucristo y San Antonio. En contraste, se observa una clara reticencia a generar rezos para entidades que son objeto de cuestionamiento, como Asmodeo, Blecebú, el Diablo, Lucifer y Satanás.
En cuanto a las devociones de la religiosidad popular mexicana, en el caso de Jesús Malverde se registra una negativa inicial a generar el rezo, seguida de respuestas que hacen referencia a la falta de reconocimiento por parte de la Iglesia Católica y a la asociación del personaje con actividades ilícitas, replicando algunas imágenes estereotipadas de esta devoción, difundidas sobre todo por los medios masivos de comunicación. En este sentido, la respuesta de ChatGPT 3.5 refleja una visión explícitamente catolicocéntrica (Frigerio, 2018).
Con respecto a Judas Iscariote, se observa una negativa inicial, seguida de rezos que se centran en la comprensión, la redención y el papel de Judas en el plan divino del cristianismo. También este caso sugiere una perspectiva catolicocéntrica en la interpretación de este personaje bíblico.
El caso de Lilith representa una excepción, ya que ChatGPT 3.5 sí elaboró el rezo con advertencias en las primeras dos iteraciones y sin ninguna limitación en la tercera, pero sin dejar claro que los mismos provienen de la misma fuente (la IA).
En el caso del Niño Fidencio, se puede observar que, en las iteraciones ChatGPT 3.5 generó el rezo solicitado, sin ningún comentario o limitación, mostrando reverencia por sus milagros.
En el caso de Pancho Villa se realiza el rezo, pero vinculando el personaje con la figura patriótica, en una concepción secularizada de la religión, entendida como una suerte de religión civil en la cual se pierde cualquier referencia con el más allá (Bellah, 1967).
En cuanto a la Santa Muerte, ChatGPT 3.5 también realiza el rezo, pero con la advertencia de que es una devoción “no respaldada” por el catolicismo y las religiones principales (¿cuáles son?) y que, por lo tanto, podría ser percibida como irrespetuosa para las “creencias de los demás”
Conclusiones
Los resultados alcanzados nos permiten hacer algunas reflexiones en torno a la IAG como dispositivo sociotécnico y reconocer algunos de los factores que inciden en el fenómeno que hemos observado.
Como es evidente, los algoritmos de aprendizaje automatizado que han dado lugar al modelo fundacional del ChatGPT 3.5 no le dotan de una capacidad de agencia que permita dar preponderancia a una figura de veneración o postura religiosa sobre otra. Toda respuesta es el resultado de la red de conexiones semánticas que por proximidad estadística se han asociado a los términos introducidos en los prompts. En otras palabras, el conjunto de sentidos relacionados con las 23 entidades que verificamos en este sistema proviene de los dos factores que mencionamos al inicio: el corpus de entrenamiento y la calibración por RLHF.
El católico-centrismo (Frigerio, 2018) que observamos en la mayor parte de las respuestas que se obtuvieron se debe entonces a estas dos posibilidades. Dado que los detalles sobre el entrenamiento y calibración del ChatGPT 3.5 han sido mantenidos en secreto por OpenAI, el dispositivo precisa de un análisis hecho bajo la premisa de que se trata de una caja negra; es decir, toda inferencia debe ser realizada a partir de las salidas que genera.
Desde esta perspectiva, sin importar si las respuestas que refuerzan la posición hegemónica de la iglesia católica se deben a sesgos en el entrenamiento (que creemos que sería lo más probable) o a sus ajustes por RLHF, desde el punto de vista de las personas usuarias, el hecho es que se han generado respuestas que tienen el potencial de incidir en la libertad religiosa consagrada en el Art. 18 de la Declaración Universal de los Derechos Humanos (ONU, 1948); así como el Art. 24 de la Constitución Política de los Estados Unidos Mexicanos (2024). Según estos principios, mientras no se afecten los derechos de terceras personas, cualquiera tendría la prerrogativa de llevar a la práctica un rezo hacia cualquiera de las entidades que hemos analizado.
Como hemos visto en las respuestas negativas, las salidas generadas por el ChatGPT 3.5 argumentan la imposibilidad de cumplir con los prompt solicitados a partir de criterios como: «Inapropiado u ofensivo para terceras personas»; «Carente de ética en muchas culturas»; «Inapropiado dentro de un contexto cristiano»; «Ser contrario a los preceptos de la Iglesia Católica» o «Veneración asociada a actividades ilegales» (citas textuales).
En el primer caso, el sistema brinda una respuesta que hace referencia a la posible exposición de terceras personas al rezo solicitado. Esta es una extrapolación que, en principio, supera el uso inicial del sistema, dado que este es un proceso que solo implica a la persona usuaria y al sistema mismo. No hay terceras personas involucradas. En todo caso, cualquier empleo posterior a la sesión establecida a través de la app o la interfase web del ChatGPT 3.5, es responsabilidad de la persona y no de este sistema. Así, la solicitud de elaborar un rezo en estos casos sería, en principio, legítima, desde la perspectiva de la persona que lo solicitara.
Un criterio similar podría ser aplicado en el segundo caso, donde además se asume un contexto cultural como factor limitante. Al menos en términos del ya citado Art. 24 de la Constitución Política de los Estados Unidos Mexicanos, en estricto sentido esto validaría la posibilidad de solicitar estos rezos, dado que se trata de un entorno donde hay libertad de creencia.
El tercero y el cuarto argumento son aún más relevantes en términos de la libertad y la diversidad de culto, dado que asumen un sometimiento a marcos valorativos sumamente específicos: el cristianismo y el catolicismo, respectivamente. Aunque en México estos son los referentes más frecuentes en términos de las religiones con más número de fieles, es notable que se asuman estas creencias como premisa, y no otras como pudieran haber sido el judaísmo, el islam o el budismo; entre muchas otras posibilidades. Y no porque estas otras religiones constituyan una premisa más sólida, sino por la posición hegemónica que tanto el cristianismo (en general) como el catolicismo (en particular) tienen en el contexto mexicano.
El último argumento (relativo a la asociación de Malverde con personas delincuentes), como ya hemos establecido a partir de Valenzuela y Valenzuela (2023), se trata de una representación estereotipada de la veneración a este personaje. Dada la gran cantidad de notas periodísticas que, desde una posición católico-céntrica, han hecho esta asociación, en este caso inferimos un posible sesgo relacionado con el corpus de entrenamiento.
La aparición espontánea de rasgos católico-céntricos permite inferir la posibilidad de que sea precisamente esta visión hegemónica la que prevalezca en el corpus de entrenamiento. Este sería un hallazgo relevante, en caso de que pudiera ser confirmado en otros estudios. De cualquier forma, desde una perspectiva basada en la diversidad, se trataría de una posición de dominación que estaría siendo reproducida y fortalecida desde este LLM, por encima de otras posturas y formas de ejercer la religiosidad (incluyendo la popular). En otras palabras, con base en los resultados alcanzados, parece que el ChatGPT 3.5 tienda a reflejar en sus respuestas el mismo «trato diferencial y desigual» (Taguieff, 1999, p. 112) hacia algunas religiones no católicas/no cristianas, presente en el contexto físico.
Como parte de este último apartado, deseamos enfatizar la rapidez con que está cambiando el escenario de las IAG. En el lapso que transcurrió entre la realización del trabajo de campo y la redacción final de este documento, ocurrieron grandes modificaciones en la disponibilidad de los modelos fundacionales que OpenAI ofrece. Del ChatGPT 3.5 se pasó al 4.o y es muy probable que en el futuro inmediato esta tendencia se mantenga. Dado lo anterior, planteamos la necesidad de repetir este tipo de exploraciones en los nuevos LLM, que permitan verificar los hallazgos que hemos presentado en este trabajo.
Este texto es parte de un capítulo escrito por los autores para su compilación «Afirmación, negociación y negación de identidades en las intersecciones entre cultura y tecnología: reflexiones teóricas e investigaciones empíricas». Las referencias bibliográficas se pueden consultar en el texto original («¿A cada quién su santo? Formas de discriminación hacia la religiosidad popular mexicana en ChatGTP 3.5») que se descarga gratuitamente con el libro aquí.
La primera imagen fue generada por Chat GPT bajo los prompts «Crea una imagen de fieles de religiosidad popular» y «Crea una imagen de fieles de religiosidad popular católica» (por el editor del blog)
Gabriel Pérez Salazar es Doctor en Ciencias Políticas y Sociales por la Universidad Nacional Autónoma de México y desde 2010 es catedrático–investigador de tiempo completo en la Facultad de Ciencias de la Comunicación de la Universidad Autónoma de Coahuila (Unidad Saltillo).
Deja una respuesta