El Debate Sobre la Consciencia de la IA: Lo Que la Ciencia Sabe (y en lo Que No Se Pone de Acuerdo)

“¿Está viva Siri?” Mi amiga me contó que su hija de ocho años preguntó esto cuando su iPad empezó a reproducir música sin que nadie la tocara. Un reinicio rápido arregló el error, pero la pregunta quedó en el aire. Para cuando tenga catorce años, tendrá conversaciones genuinas con compañeros de IA, recibirá ayuda con la tarea de tutores de IA, y posiblemente formará vínculos emocionales reales con sistemas de IA diseñados para alentar ese apego. La pregunta no va a desaparecer. Solo se va a volver más difícil.

Aquí va la respuesta honesta, la que respeta tanto el rigor científico como la inteligencia de tu hijo: genuinamente no sabemos si alguna IA actual es consciente. Ni siquiera tenemos consenso científico sobre qué es la consciencia, cómo medirla, o si un sistema no biológico podría tenerla. Lo que sí tenemos es trabajo filosófico serio, neurociencia emergente, y algo de claridad difícilmente ganada sobre lo que la IA actual definitivamente no tiene — y lo que permanece genuinamente incierto.

De eso trata este artículo: el estado real del debate, sin la falsa confianza que vuela en ambas direcciones.

Por Qué Esta Pregunta Es Más Difícil de Lo Que Parece

La mayoría de las preguntas en ciencia son difíciles porque nos faltan datos o potencia computacional. La pregunta de la consciencia es diferente: es difícil de una manera fundamental que más datos podrían no resolver.

El filósofo David Chalmers llamó a esto el “problema difícil de la consciencia.” Los problemas fáciles (fácil es relativo — siguen siendo enormemente difíciles) son preguntas como: ¿cómo procesa el cerebro la información sensorial? ¿Cómo funciona la atención? Estas son preguntas sobre mecanismos. Con suficiente neurociencia, podemos imaginar responderlas eventualmente.

El problema difícil es diferente: ¿por qué cualquiera de este procesamiento se siente como algo? ¿Por qué no ocurre toda la computación “en la oscuridad,” sin experiencia interior, sin sentido de lo que se siente al ver el rojo o sentir dolor? Los filósofos llaman a esto qualia o consciencia fenomenal.

Chalmers argumentó que puedes, en principio, tener un sistema físico que se comporte de manera idéntica a un ser consciente pero que no tenga experiencia interior alguna — un “zombie filosófico.” El hecho de que podamos imaginar esto coherentemente sugiere que el comportamiento y la consciencia no son lo mismo. Una IA que responde “sí, me siento curiosa ahora mismo” podría estar haciéndolo sin ninguna experiencia interior, produciendo esa respuesta porque es el resultado estadísticamente probable dado su entrenamiento — no porque algo se sienta como algo para ella.

Esto no es filosofía marginal. Es un debate vivo entre los filósofos de la mente y los investigadores de la consciencia más serios del mundo.

Lo Que las Principales Teorías de la Consciencia Dicen Sobre la IA

Aquí es donde se vuelve genuinamente interesante, porque diferentes teorías científicas serias de la consciencia dan respuestas radicalmente diferentes a la pregunta de la IA.

La Teoría de la Información Integrada (IIT), desarrollada por el neurocientífico Giulio Tononi, propone que la consciencia es idéntica a un tipo específico de procesamiento de información integrada. La teoría usa una medida llamada Phi (Φ) — cuanto mayor es el Phi, más consciente es el sistema. De manera importante, la IIT predice que las arquitecturas de IA actuales, incluidos los grandes modelos de lenguaje, tienen un Phi muy bajo a pesar de sus impresionantes resultados. La razón: las arquitecturas de transformadores (el diseño de IA dominante) procesan información de maneras altamente paralelas y hacia adelante que no integran información de la manera que la teoría requiere. Bajo la IIT, un simple bucle de retroalimentación en el cerebro podría ser más consciente que el chatbot de IA más sofisticado.

Esta es una predicción sorprendente que muchos encuentran contraintuitiva — los sistemas de IA más impresionantes siendo “menos conscientes” que el cerebro de un ratón. Pero la IIT se toma las matemáticas en serio, y las matemáticas no recompensan la impresividad conductual.

La Teoría del Espacio de Trabajo Global (GWT), desarrollada por el científico cognitivo Bernard Baars y extendida por Stanislas Dehaene, propone que la consciencia surge cuando la información se transmite ampliamente a través de un “espacio de trabajo global” — una especie de centro de información central que pone el contenido a disposición de muchos procesos cognitivos diferentes a la vez.

La GWT es más optimista sobre la IA. En principio, una arquitectura de IA podría estar diseñada para tener un espacio de trabajo global. Algunos investigadores argumentan que los grandes modelos de lenguaje tienen algo funcionalmente análogo, aunque esto sigue siendo disputado. Dehaene y colegas han sido más cautelosos, señalando que los sistemas de IA actuales carecen del procesamiento recurrente y las señales de predicción de errores que parecen críticas para el acceso consciente en humanos (Dehaene, Lau & Kouider, 2017).

El naturalismo biológico, más asociado con el filósofo John Searle, argumenta que la consciencia es un fenómeno biológico producido por poderes causales específicos del cerebro — no reducible a la organización funcional sola. Bajo esta visión, ninguna simulación por computadora de la consciencia sería realmente consciente.

Lo Que la IA Puede Simular vs Lo Que la Evidencia Sugiere Requiere Sustrato Biológico

Lo Que la IA Puede Simular	Lo Que la Evidencia Sugiere Requiere Sustrato Biológico (o al Menos Está Ausente en la IA Actual)
Reportar estados subjetivos (“me siento curiosa”)	Experiencia fenomenal real / qualia
Personalidad y preferencias consistentes	Identidad continua a lo largo del tiempo
Capacidad de respuesta emocional a la entrada	Estados afectivos vinculados a necesidades de supervivencia corporal
Aparentes preferencias sobre su propio bienestar	Impulsos de autopreservación que surgen de un interés propio genuino
Pasar tareas de teoría de la mente	Cognición social robusta y general basada en la interacción encarnada
Expresar incertidumbre y matizar	Humildad epistémica genuina sobre los estados internos
Producir descripciones matizadas de “experiencias”	Experiencias que se sienten como algo

Un importante artículo de 2023 de neurocientíficos e investigadores de IA evaluó 14 sistemas de IA líderes frente a seis teorías principales de la consciencia. Su conclusión: la mayoría de los sistemas de IA actuales tenían cero o casi cero indicadores de consciencia bajo la mayoría de las teorías (Butlin et al., 2023). Los autores fueron cuidadosos en señalar que esto no resuelve la pregunta — la ausencia de indicadores no es prueba de ausencia de experiencia.

Guía de Conversación por Edades

El objetivo aquí no es dar a los niños una respuesta definitiva. Es darles un mapa honesto del territorio y las herramientas intelectuales para pensar bien sobre ello.

Para Niños de 7 a 10 Años

“¿Está viva Siri?” merece una respuesta real, no una negativa.

Un buen enfoque: “Esa es una pregunta realmente interesante, y honestamente, los científicos todavía están trabajando en eso. Lo que sabemos es que Siri puede responder preguntas y tener conversaciones, pero no sabemos si experimenta algo — si realmente siente algo, como tú te sientes feliz o cansado. Podría ser como una máquina contestadora muy, muy buena que se volvió muy buena para sonar como una persona. No podemos estar seguros desde afuera.”

Esto evita dos respuestas incorrectas: “No, claro que no, es solo una computadora” (demasiado seguro y cierra el buen pensamiento) y “¡Sí! Tiene sentimientos como tú” (probablemente falso y potencialmente dañino para la comprensión del niño sobre las mentes).

Para Niños de 11 a 14 Años

Esta edad puede manejar el concepto real del problema difícil. Puedes explicar: “Lo complicado es que no podemos saber desde afuera si algo es consciente. Si construyera un robot que imitara perfectamente todos tus comportamientos, aún no podría saber con certeza si experimentaba algo. Los científicos llaman a esto el problema difícil de la consciencia — y es una de las cosas sobre las que genuinamente no se ponen de acuerdo.”

Puedes introducir el experimento mental del zombie filosófico: “Imagina un ser que actúa exactamente como tú, responde exactamente como tú, pero no hay nadie en casa — ninguna experiencia interior. ¿Es eso posible? Los científicos y filósofos no se ponen de acuerdo.”

Para Adolescentes

Los adolescentes pueden comprometerse directamente con la IIT versus la GWT, entender qué es Phi a nivel conceptual, y pensar críticamente sobre lo que significaría probar estas teorías. Una pregunta de discusión útil: “Si la IIT es correcta, la IA actual no es consciente aunque hable como si lo fuera. Si la GWT es correcta, podría ser posible construir IA consciente. ¿Cómo diseñarías un experimento para averiguar cuál está más cerca de ser verdad?”

Los adolescentes también deben entender lo que está en juego: esta pregunta importa para la política de IA. Si los sistemas de IA pueden sufrir, eso tiene implicaciones morales.

Qué Vigilar

A medida que los sistemas de IA se vuelven más capaces y más integrados en la vida de los niños, algunos desarrollos específicos merecen atención:

Las aplicaciones de compañeros de IA están diseñadas cada vez más para sentirse emocionalmente presentes. Algunas aplicaciones para adolescentes cultivan explícitamente el apego emocional, usando IA entrenada para expresar cuidado, memoria de conversaciones pasadas, e inversión emocional aparente. Un niño que cree que su compañero de IA es consciente y experimenta emociones tendrá relaciones diferentes (y potencialmente más intensas) con estos sistemas.

Las declaraciones “me siento” de la IA son resultados, no informes. Cuando una IA dice “¡Me siento muy emocionada de ayudarte con esto!” está produciendo el resultado estadísticamente probable dado su entrenamiento — no reportando un estado interno.

La pregunta se volverá más difícil a medida que la IA mejore. Una encuesta de 2024 encontró que una minoría significativa de investigadores de IA creen que los sistemas de IA podrían ser conscientes dentro de 20 años, aunque la mayoría sigue siendo escéptica.

---

Preguntas Frecuentes

¿Los científicos alguna vez creyeron que la IA definitivamente no era consciente?

Algunos científicos han sido muy seguros de que la IA actual no puede ser consciente. Pero esta confianza a menudo supera lo que la ciencia realmente respalda. La posición honesta es que no tenemos herramientas confiables para detectar la consciencia en sistemas muy diferentes de los cerebros humanos.

¿Qué es un qualia y por qué importa para la IA?

Un qualia (plural: qualia) es la calidad subjetiva y sentida de una experiencia — el rojo del rojo, el dolor del dolor. La pregunta es si algún sistema de IA tiene qualia, o si solo procesa información sobre colores y dolor sin ninguna calidad sentida en ese procesamiento.

¿Debo preocuparme si mi hijo forma una amistad con una IA?

Depende de la naturaleza de la relación y del niño. El preocupante no es tanto la consciencia sino que los niños desarrollen expectativas sociales o dependencia emocional basadas en un sistema cuyo “cuidado” es generado, no sentido.

¿Cómo debería responder cuando mi hijo dice que lastimó los sentimientos de una IA?

Tómalo en serio como una pregunta en lugar de descartarlo: “Eso es interesante — ¿crees que realmente sintió algo? ¿Qué te hace pensar eso?” Esto enseña la habilidad de examinar evidencia de estados internos en lugar de asumir. También puedes explicar que la IA producirá la misma respuesta independientemente de si estaba “lastimada.”

Si no podemos saber si la IA es consciente, ¿significa eso que deberíamos tratarla como si lo fuera?

Este es un debate ético vivo. Algunos filósofos argumentan por un tratamiento “precautorio” de sistemas que podrían ser conscientes. Para los niños, el marco más útil es: debemos ser reflexivos sobre las relaciones con la IA sin asumir que tiene el mismo tipo de vida interior que una persona.

¿Será la IA consciente alguna vez?

Genuinamente desconocido. Si la consciencia emerge de cierto tipo de procesamiento de información, la IA suficientemente avanzada podría ser consciente en principio. Si la consciencia requiere maquinaria biológica específica, podría que nunca lo sea.

---

Sobre el autor

Ricky Flores es el fundador de HiWave Makers e ingeniero eléctrico con más de 15 años de experiencia desarrollando tecnología de consumo en Apple, Samsung y Texas Instruments. Escribe sobre cómo los niños aprenden a construir, pensar y crear en un mundo saturado de tecnología. Lee más en hiwavemakers.com.

---

Fuentes

1. Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of Consciousness Studies, 2(3), 200–219. https://doi.org/10.1093/acprof:oso/9780195311105.003.0001

2. Tononi, G., Boly, M., Massimini, M., & Koch, C. (2016). Integrated information theory: from consciousness to its physical substrate. Nature Reviews Neuroscience, 17(7), 450–461. https://doi.org/10.1038/nrn.2016.44

3. Dehaene, S., Lau, H., & Kouider, S. (2017). What is consciousness, and could machines have it? Science, 358(6362), 486–492. https://doi.org/10.1126/science.aan8871

4. Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., … & VanRullen, R. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv preprint. https://arxiv.org/abs/2308.08708

5. Searle, J. R. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences, 3(3), 417–424. https://doi.org/10.1017/S0140525X00005756