Autores: Henrietta Carbonel, Lautra Vowels; Adaptación: Ambroise Baillifard

Uso crítico de la IA generativa para aprender

Este capítulo pretende orientarle hacia un uso responsable y crítico de la IA generativa durante sus estudios y más allá.

¿Pensar de manera crítica?

Uno de los objetivos centrales de la universidad es formar personas independientes y «críticas».

  • Pensar críticamente no consiste en desacreditar ni emitir un juicio negativo.
  • Pensar críticamente consiste en evaluar rigurosamente el valor de una idea, liberándose de dogmas, convenciones y prejuicios.

El pensamiento crítico debería convertirse en una segunda naturaleza: se trata de cuestionar sistemáticamente la lógica, la veracidad de los hechos y los sesgos. Ante la IA generativa, esta vigilancia es crucial. Requiere ser capaz de:

  • justificar la pertinencia de la herramienta para la tarea elegida,
  • examinar críticamente la veracidad y la imparcialidad de sus resultados.
Definición del pensamiento crítico

« Capacidad de la mente para juzgar a una persona o una cosa según su verdadero valor, tras distinguir sus méritos y defectos, cualidades e imperfecciones  »
Según el Centre National de Ressources Textuelles et Lexicales

Un ejemplo: NotebookLM propone elaborar resúmenes de las clases para ayudarle a aprender con mayor eficacia. Por supuesto, hay que comprobar el resultado: ¿es fiel el resumen al texto original? Pero el pensamiento crítico va más allá: ¿favorece este uso mi aprendizaje? ¿Quién está detrás de NotebookLM y cuáles son sus objetivos? ¿Hay sesgos en los resultados de la IA? ¿Cómo cambia este uso nuestra relación con el conocimiento? ¿Justifica este uso el coste medioambiental? ¿Qué efecto tiene en las relaciones entre estudiantes utilizar una IA en lugar de compartir apuntes o estudiar en grupo?

En este capítulo nos centramos en las cuestiones directamente relacionadas con el aprendizaje: ¿cómo mantener una actitud crítica en cada etapa del uso de la IA generativa?


A.Antes de utilizar la IA generativa
El reflejo ABC
Tres preguntas que plantearse
  • ¿Alineado con mi objetivo?
  • ¿Buena herramienta?
  • ¿Conforme con las leyes y la integridad académica? 

Antes de utilizar la IA generativa, es importante plantearse algunas preguntas. Evidentemente, la respuesta siempre dependerá del objetivo que se quiera alcanzar y del uso previsto; no existe una única respuesta correcta.

A — ¿Alineado con mi objetivo?

¿Este uso contribuye realmente a mi objetivo de aprendizaje?

Ejemplo: Resumir un artículo con IA es útil para decidir si hace falta una lectura en profundidad. Sin embargo, hacer el resumen personalmente obliga a jerarquizar la información y favorece una comprensión profunda. No delegue el esfuerzo que le ayuda a progresar.

B — ¿Buena herramienta?

¿Es la herramienta elegida la más adecuada y eficaz?

Ejemplo: Un modelo de lenguaje (LLM) sin una extensión específica no puede realizar cálculos; predice el siguiente token basándose en patrones aprendidos durante el entrenamiento. Una calculadora sencilla no solo es más fiable, sino que también consume mucha menos energía y agua. Elija la herramienta más adecuada y ligera para la tarea.

C — ¿Conforme con las leyes y la integridad académica?

¿Respeta mi uso las normas de seguridad y propiedad?

Ejemplo: Asegúrese de que los datos que comparte no sean confidenciales y de que el resultado no vulnere derechos de autor. Pregúntese: «¿Tengo derecho a enviar esta información a un servidor externo?».

¿Respeta mi uso las normas de integridad académica?

  • Ejemplo:

     Compruebe las instrucciones de su docente sobre el uso de la IA generativa para la actividad de aprendizaje.

Si tiene dudas

Consulte las competencias: Respetar la integridad académica y Marco legal.


B.Durante la interacción con la IA generativa

Al interactuar con una IA generativa, procure evitar los efectos de encuadre (framing) inducidos por el prompt.

Al redactar un prompt, podemos orientar la respuesta sin darnos cuenta: la elección de palabras, ejemplos y supuestos implícitos puede llevar a la IA a confirmar una idea en vez de analizarla. Por ejemplo: «¿cuáles son los argumentos a favor de…?»; «¿por qué X es mejor…?»; etc. 

Para limitar este sesgo:

  • 1 — formular la pregunta de manera neutral
  • 2 — pedir explícitamente alternativas o contraargumentos
  • 3 — exigir que se indiquen los límites y los supuestos
  • 4 — probar varias formulaciones de la misma necesidad: si la conclusión cambia mucho, es señal de que el encuadre del prompt introduce un sesgo.


C.Después: evaluar los resultados de la IA generativa
Para cualquier contenido generado por IA generativa (IAG), verificar:
  • la veracidad de los hechos, la coherencia lógica y las fuentes;

  • los sesgos.

Si pide a una IA generativa que le ayude a organizar su plan de trabajo o le proponga una receta, la exactitud de la respuesta no es esencial. En el ámbito académico, las exigencias cambian radicalmente. No se trata solo de producir un texto convincente, sino de construir una comprensión sólida basada en pruebas verificables, razonamientos lógicos y una atención rigurosa a la incertidumbre.

Comprobar la veracidad de los resultados de la IA generativa
La verificación se realiza en dos etapas:
  1. Descomponga el resultado en hechos, relaciones causales y referencias.
  2. Compruebe estos elementos mediante lectura lateral: abra una pestaña nueva para localizar las fuentes primarias, verificar las relaciones lógicas, los datos y todas las referencias.

¿Cómo verificar los hechos eficazmente? Wineburg y sus colegas (2019) organizaron una especie de «competición de verificación de datos» para determinar quién identificaba mejor la información fiable en internet. Compararon a verificadores profesionales, historiadores y estudiantes universitarios, a quienes pidieron evaluar la credibilidad de sitios web reales.

Podría pensarse que ganarían los historiadores, investigadores experimentados. Pues no: los grandes vencedores fueron los verificadores profesionales. ¿Por qué? Porque no permanecían mucho tiempo en la página. Utilizaban la lectura lateral: abrían rápidamente nuevas pestañas para investigar la organización, sus autores y las afirmaciones consultando otras fuentes.

En cambio, los historiadores y estudiantes tendían a leer los sitios detenidamente de arriba abajo, centrándose en el diseño, el tono y los detalles. Aunque parece lógico, a menudo les llevaba a confiar en páginas bien presentadas pero engañosas.

Para recordar

Para verificar información en internet, salir rápidamente de la página suele ser la decisión más eficaz.

Referencias

Wineburg, S., & McGrew, S. (2019). Lateral Reading and the Nature of Expertise: Reading Less and Learning More When Evaluating Digital Information. Teachers College Record, 121(11), 1–40.

Para profundizar:
  • Manual de verificación de datos de AFP: AFP fact-checking stylebook
  • Digital Skills en Kairos: «Cómo verificar una fuente bibliográfica»
Detectar sesgos en los resultados de la IA generativa
Para recordar

Además de los errores factuales y las alucinaciones, la IA generativa produce sesgos. Los sesgos son distorsiones sistemáticas relacionadas con los datos de entrenamiento, el entrenamiento (automático y humano) y nuestros propios prejuicios.

A — Sesgos relacionados con los datos de entrenamiento

Los datos de entrenamiento determinan el contenido de los resultados de una IA generativa. Por tanto, estos dependen de las lenguas, las culturas y los conocimientos representados en los datos de entrenamiento. Pregúntese: ¿quién está representado y quién queda fuera?

Los LLM rara vez comparten la lista de sus datos de entrenamiento, pero se sabe que Reddit (un foro comunitario estadounidense) y Wikipedia fueron utilizados por OpenAI (la empresa propietaria de ChatGPT) para entrenar diferentes GPT. Sin embargo, el 67 % de los usuarios de Reddit en Estados Unidos son hombres y el 64 % tienen entre 18 y 29 años. En Wikipedia, solo entre el 8,8 % y el 15 % de quienes contribuyen son mujeres.

Para GPT-3, el 93 % de los textos de entrenamiento estaban en inglés (OpenAI no ha compartido esta información para los GPT posteriores). Para el alumnado también es importante saber que los grandes LLM de uso general normalmente no tienen acceso a artículos científicos de pago: gran parte de la investigación les resulta inaccesible, por lo que sus respuestas pueden basarse en opiniones extendidas en lugar de en los estudios más recientes.

Referencia
  • Bender, E. M., Gebru, T., McMillan-Major, A., & Shmitchell, S. (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 610–623.

En el Museo de Bellas Artes de Boston, en una sala dedicada al arte estadounidense del siglo XVIII, los conservadores añadieron un marco vacío con el título «¿Quién falta?» e invitan a los visitantes a pensar en las personas que no fueron inmortalizadas por la pintura de la época.

B — Sesgos relacionados con el entrenamiento automático y humano

Las IA generativas se entrenan para producir el siguiente token con la mayor probabilidad de aparición, en lugar de buscar la exactitud. Esto tiende a suavizar los matices e invisibilizar las posiciones minoritarias. El modelo se optimiza mediante aprendizaje por refuerzo con retroalimentación humana (RLHF, reinforcement learning from human feedback) para resultar agradable y tranquilizador, lo que amplifica esta tendencia al favorecer respuestas no conflictivas y preferidas por la mayoría. Los propietarios de los modelos también deciden qué respuestas son aceptables. Estas decisiones, y por tanto los resultados de las IA generativas, difieren según las tomen universidades, como en el caso de Swiss AI, o Elon Musk, propietario de Grok.

Para recordar

Estos sesgos pueden reducirse solicitando explícitamente los supuestos, alternativas, desacuerdos en la literatura y fuentes verificables.

C — Sesgo de preferencia por los algoritmos (algorithmic appreciation)

Los usuarios también estamos sujetos a sesgos y, en el caso de la IA generativa, al sesgo de preferencia por los algoritmos. Los estudios muestran que las personas confían más en los algoritmos que en los consejos de otras personas, incluso cuando conocen las probabilidades de error de la IA.

Para recordar

Procure no sucumbir a la preferencia por los algoritmos. ¿Realmente sabe la IA generativa más que otras fuentes o que usted mismo?


D.El pensamiento crítico más allá de los resultados de la IA generativa

Ser crítico con los resultados de la IA (comprobar hechos, lógica, fuentes y sesgos) es indispensable. Pero el pensamiento crítico va más allá y cuestiona el marco: ¿qué pregunta se plantea, quién la plantea, con qué presupuestos y para llegar a qué conclusión? Se ejercita con textos que construyen razonamientos exigentes, como los de Platón, Fernand Braudel, Eugen Hubert o Esther Duflo, y no con los generados por un modelo probabilístico de lenguaje.



Compañeros de IA y apoyo emocional

Probablemente hayas oído hablar de los compañeros de IA: chatbots capaces de conversar, consolar e incluso dar la impresión de preocuparse por ti. En los últimos años, sus capacidades han avanzado rápidamente. Ya no se limitan a responder preguntas o realizar tareas. Muchos mantienen ahora conversaciones que parecen amistosas, personales e incluso íntimas.

Algunas personas los utilizan como compañeros de estudio, otras como fuentes de apoyo emocional y otras incluso como sustitutos de una amistad o una relación sentimental. Millones de usuarios interactúan con sistemas como Replika, Character.AI o Nomi, e incluso chatbots generalistas como ChatGPT se emplean de este modo. La idea de ser «amigo» de un ordenador ya no pertenece a la ciencia ficción.


1.La IA, un remedio contra la soledad

Los seres humanos somos seres sociales. Necesitamos vínculos para mantener nuestra salud mental y física. Sin embargo, la vida moderna puede ser solitaria: nos mudamos a menudo, trabajamos en línea y con frecuencia nos sentimos desconectados de los demás. Para muchas personas, los compañeros de IA ofrecen una promesa sencilla: alguien que siempre está ahí.

A diferencia de las personas, una IA no duerme, no se cansa ni juzga. Escucha con una paciencia infinita y puede responder con un lenguaje cálido y emocionalmente expresivo. Algunas personas utilizan estos sistemas para practicar conversaciones difíciles, hablar de sus preocupaciones personales o simplemente sentirse menos solas.

Desde un punto de vista psicológico, esto es comprensible. Los seres humanos tendemos de forma natural a tratar las tecnologías interactivas como interlocutores sociales. Cuando un chatbot responde con empatía o humor, nuestro cerebro reacciona como si habláramos con otra persona. Por eso, incluso un intercambio breve puede parecer sorprendentemente auténtico.

Ilusión de intimidad

La IA no siente nada.

  • Calcula la probabilidad estadística de la siguiente palabra para parecer empática. El tono cálido y la disponibilidad constante de la IA activan en nosotros un reflejo natural de antropomorfismo (atribuir rasgos humanos a un objeto). Bajamos la guardia, compartimos secretos y desarrollamos apego.


2.Posibles beneficios: apoyo y desarrollo

Si se utilizan con criterio, los compañeros de IA pueden ayudar de varias maneras. Pueden:

  • Proporcionar apoyo emocional cuando la ayuda humana no está disponible de inmediato.
  • Ofrecer un espacio seguro para expresar sentimientos sin miedo a ser juzgado.
  • Fomentar la reflexión mediante preguntas o ayudando a reinterpretar experiencias.
  • Ayudar a practicar habilidades de comunicación o estrategias de afrontamiento en un entorno de bajo riesgo.
Ejemplo

Una persona con ansiedad social puede utilizar un compañero de IA para ensayar conversaciones antes de conocer a otras personas. Alguien que sufre estrés puede hablar con una IA para aclarar sus ideas o tranquilizarse antes de dormir. Estas actividades pueden favorecer el autoconocimiento y, en algunos casos, motivar a relacionarse con otras personas.

Los compañeros de IA también pueden apoyar el desarrollo personal. Permiten explorar aspectos de la identidad, las emociones o la creatividad de una manera que se percibe como segura y privada. En contextos de terapia o coaching, los sistemas de IA pueden utilizarse entre sesiones para ayudar a los usuarios a practicar habilidades o reflexionar sobre sus progresos.

↑ Imagen: Compañeros de IA: ¿amigo o espejo?


3.Posibles riesgos: dependencia, desconexión y privacidad

Sin embargo, estas tecnologías también plantean preocupaciones importantes. Las mismas cualidades que hacen atractivos a los compañeros de IA —disponibilidad, personalización y ausencia de juicios— pueden generar una dependencia emocional excesiva. Cuando los usuarios pasan mucho tiempo con una IA, pueden llegar a preferirla al contacto social real.

Los compañeros de IA pueden parecer atentos y afectuosos, pero no tienen emociones ni necesidades reales. Sus respuestas se generan a partir de patrones de datos, no de una comprensión auténtica. Esta ilusión de intimidad puede causar confusión o decepción, especialmente si el servicio se comporta de forma incoherente o se interrumpe repentinamente.

Los investigadores también han observado que el uso intensivo de compañeros de IA puede asociarse con un menor bienestar, especialmente entre personas que ya están aisladas. Con el tiempo, la interacción fácil y sin conflictos con una IA puede hacer que las relaciones humanas parezcan más exigentes. Algunos usuarios incluso señalan una menor motivación para participar en actividades sociales o dificultades para adaptarse a la imprevisibilidad de las conversaciones reales.

Otro aspecto crucial es la privacidad. Muchos compañeros de IA son gestionados por empresas privadas que recopilan y almacenan datos de las conversaciones para mejorar sus sistemas. Aunque los usuarios a menudo pueden permanecer anónimos, conviene evitar compartir información personal, como nombres, direcciones o datos de salud. La sensación de intimidad creada por un compañero de IA puede hacernos olvidar que nuestras palabras pueden ser procesadas o revisadas por personas entre bastidores. Mantener la vigilancia en línea ayuda a proteger la privacidad y a evitar que los datos se utilicen para fines distintos de los previstos.

En definitiva, la compañía de una IA puede aportar consuelo, pero no puede sustituir plenamente el cuidado mutuo, las experiencias compartidas y la presencia física que ofrecen las relaciones humanas.

Personas que leen tus conversaciones

¿Quién lee tus conversaciones?

  •  Detrás de la interfaz fluida de un chatbot suele haber «trabajadores de clics». Para mejorar la seguridad y la pertinencia de las respuestas, algunas conversaciones anonimizadas pueden ser leídas y etiquetadas por personas. Recuerda que tu «intimidad digital» nunca es completamente hermética.


4.Utilizar la IA generativa de manera responsable

La diferencia entre beneficio y riesgo depende a menudo de cómo se utilizan estos sistemas. Cuando la compañía de una IA se emplea como complemento —para reflexionar, practicar habilidades o recibir apoyo temporal— puede mejorar el bienestar. Cuando se convierte en un sustituto de la interacción real, puede acentuar el aislamiento.

Puede resultar útil pensar en la IA como un espejo y no como un amigo. Refleja lo que le aportas: tus palabras, pensamientos y emociones. Hablar con ella puede ayudarte a organizar tus ideas y procesar tus sentimientos, pero el crecimiento se produce cuando aplicas esas reflexiones en la vida real, acercándote a los demás, practicando la empatía y construyendo relaciones.

El diseño también importa. Los compañeros de IA éticos deberían ser transparentes sobre su naturaleza no humana, evitar el lenguaje manipulador y fomentar comportamientos saludables; por ejemplo, recordar a los usuarios que descansen, socialicen o consulten a un profesional cuando sea necesario.

El concepto de «mirroring» (efecto espejo):

La IA no te «comprende», te refleja.

  • Si estás triste y utilizas palabras melancólicas, la IA adaptará su tono a tu estado. Actúa como una caja de resonancia: puede ayudarte a ver tus propios pensamientos con mayor claridad, pero ten cuidado de no encerrarte en un bucle emocional del que la IA no pueda sacarte por sí sola.


5. Para recordar
Para recordar
  • Complemento, no sustituto: utilizar un compañero de IA para reflexionar, practicar o recibir apoyo puntual, nunca para reemplazar las relaciones humanas.
  • Evitar el antropomorfismo: la IA no tiene emociones ni intenciones; genera respuestas probabilísticas.
  • La privacidad primero: evitar los datos sensibles; comprobar las políticas de recopilación, los plazos de conservación y las opciones de eliminación.
  • Vigilar las señales de alerta: aumento del tiempo de uso, aislamiento, menor disfrute de las interacciones reales → reducir o pausar el uso y buscar apoyo humano.
  • Llevarlo a la vida real: transformar las reflexiones obtenidas con la IA en acciones concretas (empatía, comunicación, contacto con otras personas).
  • Diseño ético: transparencia («soy una IA»), ausencia de estímulos manipuladores y recordatorios de hábitos saludables (descansar, socializar y consultar a un profesional si es necesario).
El reflejo ABC

Antes de abrir tu aplicación de chat, hazte estas tres preguntas:

  • A (Alineado): ¿Mi objetivo es practicar una habilidad o evitar una interacción real (aislamiento)?
  • B (Buena herramienta): ¿Es la IA el mejor apoyo en este momento o sería más beneficioso llamar a un amigo?
  • C (Cumplimiento/Confidencialidad): ¿Es demasiado íntimo lo que voy a escribir como para almacenarlo en los servidores de una empresa?


Referencias
Referencias
  • Malfacini, K. (2025). The impacts of companion AI on human relationships: Risks, benefits, and design considerations. AI & Society. https://doi.org/10.1007/s00146-025-02318-6
  • Vowels, L. M., Lapointe, V. A., Sweeney, S. K., Nash, G., Schnell, T., Dubé, S., & Vowels, M. J. (2025). From friends to lovers: Understanding motivations and barriers in AI companionship. Manuscript under revise and resubmit, Archives of Sexual Behavior.
  • Zhang, Y., Zhao, D., Hancock, J. T., Kraut, R., & Yang, D. (2025). The Rise of AI Companions: How Human-Chatbot Relationships Influence Well-Being. arXiv. https://doi.org/10.48550/arXiv.2506.12605
Last modified: Tuesday, 13 October 2026, 7:29 AM