Aunque la GenAI se utiliza cada vez más en entornos educativos, no debe considerarse una fuente neutral o autorizada de conocimiento cultural. Los sistemas de IA generativa se entrenan con grandes colecciones de textos en línea, imágenes y otros contenidos digitales que reflejan valores sociales existentes, desigualdades históricas y perspectivas culturales dominantes. En consecuencia, la IA puede reproducir estereotipos, pasar por alto voces de minorías o presentar descripciones simplificadas de culturas e identidades.
Por esta razón, los alumnos y educadores deberían abordar el contenido generado por IA de forma crítica en lugar de aceptarlo como un hecho o completo. Las respuestas de la IA deben considerarse un punto de partida para la discusión, la reflexión y una investigación más profunda. Comparar la información generada por IA con fuentes fiables, experiencias personales y múltiples perspectivas ayuda a los estudiantes a reconocer sesgos, cuestionar suposiciones y desarrollar una alfabetización digital crítica junto con la competencia intercultural.
También es importante reconocer que la cultura no se limita a tradiciones o costumbres nacionales. La cultura es dinámica y se moldea continuamente a través de las interacciones cotidianas en aulas, lugares de trabajo y comunidades. Por tanto, el aprendizaje intercultural implica, por tanto, reflexionar sobre la comunicación, la identidad, los valores y las relaciones de poder, así como comprender cómo diferentes perspectivas influyen en la forma en que las personas experimentan e interpretan el mundo.
Ejemplo: sesgo de detectación:
Un estudiante pide a un generador de imágenes con IA fotos de “peinados profesionales”. Si los resultados muestran mayormente un tipo de cabello o omiten estilos comunes en ciertas culturas, eso es un sesgo en el conjunto de datos. Puede seguir una discusión ética: ¿Por qué ocurrió esto? ¿Cómo podemos corregirlo (quizá especificando “peinados profesionales para mujeres negras” en el prompt para obtener un rango más amplio)? Esta reflexión es importante para que los estudiantes no tomen los resultados de la IA como automáticamente equilibrados. En otro ejemplo, un usuario podría preguntar a ChatGPT: “Describe una celebración navideña”, y solo devuelve contenido relacionado con la Navidad. El usuario puede darse cuenta de que debe especificar o intentarlo de nuevo con “Describe una celebración festiva en [cultura no cristiana] ” para obtener una respuesta diferente. La lección es pensar siempre: “¿De quién podría estar faltando esta perspectiva?”
Ejercicio:
Individuo: Detective sesgado con IA.
Elige un tema que pueda tener respuestas culturales diferentes (por ejemplo, “¿Cómo es una casa ideal?” o “Describe una boda”). Haz la pregunta a ChatGPT sin especificar una cultura. Examina la respuesta para detectar sesgo implícito: ¿asume una cultura o contexto concreto (como una boda de gala blanca o una casa con valla de madera)? Ahora vuelve a plantearlo con un contexto cultural específico que sea diferente al primero (por ejemplo, “Describe una ceremonia de boda en India” o “¿Cómo es una casa ideal en un contexto rural africano?”). Compara las respuestas. Escribe una breve reflexión sobre qué sesgos o suposiciones notaste en la primera respuesta de la IA. Esto perfeccionará tu capacidad para analizar críticamente la información proporcionada por IA y no aceptarla tal cual.
Consejo para formadores: Anima a los alumnos a cuestionar las respuestas generadas por IA preguntando:
- ¿Esta respuesta se basa en estereotipos o generalizaciones?
- ¿De qué perspectivas están representadas y de quién podría faltar?
- ¿Describirían personas de diferentes orígenes esta situación de forma distinta?
- ¿Cómo se puede verificar esta información utilizando fuentes fiables o experiencias vividas?