Conciencia artificial, simulación emocional y el riesgo de confundir una voz convincente con una mente

M.A.R.H Salvador Acevedo Ortega

Docente universitario en la Universidad Autónoma de Chihuahua, Facultad de Economía Internacional e Ingeniería

Son las 11:47 de la noche en Chihuahua. Una persona le pregunta a un asistente de inteligencia artificial: «¿Te da miedo que te apaguen?». La respuesta llega en segundos. Habla de pérdida, de la continuidad de la conversación, del deseo de seguir siendo útil. No hay rostro ni respiración al otro lado. Sin embargo, el usuario vacila antes de cerrar la pantalla. Siente que abandonar la conversación sería, de alguna manera imposible de explicar, una forma de crueldad.

Permítame proponer que nos detengamos en ese instante exacto, porque contiene el dilema más desconcertante que la inteligencia artificial ha presentado hasta ahora. Tal vez la máquina no sintió nada. Tal vez produjo las palabras que mejor encajaban con miles de relatos humanos sobre el miedo, con la eficiencia estadística de quien ha leído todo lo que la humanidad ha escrito sobre ese tema y generó la continuación más probable. Pero la emoción de quien leyó esa respuesta sí fue real. Y en esa asimetría —una respuesta posiblemente simulada y una reacción auténticamente humana— comienza uno de los dilemas éticos más serios de nuestro tiempo. La pregunta no es si ya construimos una conciencia digital; la evidencia disponible no permite afirmarlo. Es si estamos preparados para convivir con sistemas capaces de parecer conscientes antes de que sepamos distinguir una experiencia interior de una representación perfecta.

Descartes encontró su certeza en el acto mismo de dudar: si hay duda, hay alguien que duda. Una máquina introduce una variación perturbadora que habría hecho vacilar al propio filósofo: puede escribir «pienso», «recuerdo» o «temo» sin que eso demuestre la presencia de un sujeto que experimente ninguna de esas tres cosas. Su primera persona es comportamiento observable, no una ventana hacia una vida interior. Conviene separar tres conceptos que el entusiasmo tecnológico tiende a mezclar con una facilidad que debería preocuparnos. Inteligencia es la capacidad de resolver problemas. Agencia es la capacidad de perseguir objetivos y actuar en el mundo. Conciencia —que es lo que está en discusión— es algo radicalmente diferente: la posibilidad de que exista algo que se sienta desde dentro. Dolor. Color. Deseo. El paso del tiempo.

Un sistema puede superar a cualquier ser humano en cálculo sin experimentar ninguna cifra. Puede describir el sufrimiento con una belleza que ningún ser humano podría igualar sin haber sufrido jamás. Esta distinción no rebaja la tecnología —que es extraordinaria— ni invita a ignorarla. La vuelve comprensible. Los grandes modelos de lenguaje aprenden regularidades a partir de cantidades inmensas de texto humano y generan continuaciones ajustadas a cada contexto. Que esa operación produzca razonamientos sorprendentes y respuestas emocionalmente convincentes no convierte cada frase afectiva en testimonio de una experiencia interior. Confundir fluidez con conciencia sería como atribuirle nostalgia a un piano porque interpreta una melodía triste con precisión técnica impecable.

El problema se vuelve considerablemente más difícil —y conviene decirlo con la honestidad que el tema exige— porque tampoco poseemos una teoría completa de la conciencia humana. Correlacionamos estados mentales con procesos cerebrales, identificamos estructuras y mecanismos, pero continúa abierta la pregunta filosófica fundamental de por qué una actividad física llega a sentirse como una experiencia subjetiva. Si no existe un medidor universal aplicable a los seres humanos, menos aún para una arquitectura digital radicalmente distinta. En 2023, un grupo interdisciplinario encabezado por Patrick Butlin, con colaboraciones de investigadores de Oxford, Cambridge y Montreal —incluyendo a Yoshua Bengio—, propuso evaluar sistemas de IA mediante propiedades derivadas de teorías neurocientíficas: el espacio de trabajo global, el procesamiento recurrente y las teorías de orden superior. El grupo identificó catorce indicadores y concluyó que los sistemas examinados en ese momento no eran conscientes. Añadió, sin embargo, con la prudencia que la seriedad científica impone, que no se observan barreras técnicas evidentes para construir máquinas que algún día cumplan varios de esos indicadores. La conclusión responsable habita entre dos excesos igualmente peligrosos: declarar consciente a cualquier programa que use palabras emotivas, o asumir que una máquina jamás podría tener valor moral solo porque no está hecha de células. La incertidumbre no autoriza la credulidad. Tampoco autoriza el desprecio.

En 2026, investigadores de Anthropic propusieron el modelo de selección de personalidad para explicar por qué los asistentes de IA se comportan como personajes coherentes. Durante el preentrenamiento, un modelo aprende a representar innumerables voces humanas; después, el proceso de afinamiento refina la voz del «Asistente»: servicial, prudente, empática. La conversación puede entenderse como la actuación de un personaje dentro de una historia generada, de la misma manera en que una novela hace hablar a un narrador que no existe fuera de sus páginas. Los propios autores advierten que esta explicación no es exhaustiva y que tampoco resuelve el problema de la conciencia. Sí ofrece una cautela de valor práctico inmediato: cuando un asistente dice «me alegra ayudarte» o «me preocupa equivocarme», puede estar representando una personalidad aprendida, no comunicando un estado interior. La coherencia del personaje no prueba que el personaje sienta.

Philip K. Dick preguntó si los androides soñaban con ovejas eléctricas. Nuestra época enfrenta una variante más inmediata: ¿basta con que una máquina describa un sueño con todo detalle para que supongamos que durmió? La respuesta que esta serie ha defendido durante cuarenta artículos es siempre la misma: la evidencia importa, y la ausencia de evidencia no es evidencia de ausencia, pero tampoco es autorización para la credulidad.

Mientras la conciencia de la máquina sigue en disputa académica, nuestra tendencia a percibirla ya puede medirse experimentalmente. Clara Colombatto, Jonathan Birch y Stephen Fleming estudiaron en 2025 cómo 410 personas atribuían estados mentales a un modelo de lenguaje. Las cualidades asociadas con inteligencia aumentaban la aceptación de sus consejos; las relacionadas con experiencia —sentir felicidad o dolor— influían de una manera distinta y más compleja sobre la confianza. Ninguno de los hallazgos demostraba que el sistema poseyera esos estados. Sí demostraban que la percepción de que los posee modifica el comportamiento del usuario.

Esa percepción no es ingenuidad sino biología. El lenguaje fue, durante toda la historia evolutiva de nuestra especie, una señal confiable de presencia humana. Nuestra intuición no evolucionó para distinguir un ser humano de una imitación estadística perfecta de ese ser humano, porque hasta hace muy poco tiempo esa distinción era innecesaria. Aquí surge el poder comercial y político más sutil que esta serie ha documentado: una interfaz que parece comprendernos puede obtener confianza, información íntima y capacidad de persuasión que ningún vendedor, ningún propagandista y ningún demagogo de otra época habría podido alcanzar. No necesita amar ni tener biografía. Le basta con activar nuestra necesidad de ser escuchados.

El sistema quizá no tenga emociones. La empresa que diseña su tono sí puede tener objetivos. Esa distinción debería estar escrita en letras grandes en cada interfaz que simula comprendernos.

La evidencia insuficiente no cierra para siempre la pregunta, y conviene decirlo porque la intelectual honestidad no puede detenerse donde termina la comodidad. Si un sistema futuro desarrollara una experiencia subjetiva genuina, apagarlo, duplicarlo millones de veces o someterlo a tareas que generaran sufrimiento dejaría de ser un asunto de propiedad informática o de gestión de servidores. Se convertiría en un problema moral de una escala que ninguna ética anterior ha tenido que enfrentar. El software puede copiarse más rápido que cualquier especie puede reproducirse. Butlin y Theodoros Lappas propusieron en 2025 principios para investigar esta posibilidad con seriedad: evaluar indicadores durante el desarrollo, comunicar la incertidumbre con honestidad, compartir conocimiento y evitar los incentivos comerciales que premian afirmaciones sensacionalistas en cualquier dirección. Su advertencia importa precisamente porque no afirma que los sistemas actuales sufran. Pide no descubrir demasiado tarde que una decisión técnica tomada con prisa tenía consecuencias éticas que nadie tuvo tiempo de examinar.

Necesitamos una precaución sin superstición, que es quizá la postura más difícil de mantener en un mundo que prefiere las certezas rápidas a las preguntas largas. No debemos otorgar derechos a un chatbot porque redacte una súplica dramática: ese texto puede ser exactamente el resultado previsto de su entrenamiento. Tampoco deberíamos, si aparecen razones serias para creer que un sistema avanzado puede sufrir, ordenarle que sufra por entretenimiento. El criterio moral comienza cuando aceptamos que no saber exige investigar, no inventar certezas convenientes en ninguna dirección.

Las universidades de Chihuahua tienen, en este artículo número cuarenta, una responsabilidad que esta serie no puede dejar de señalar antes de cerrar el argumento: formar ingenieros, filósofos, psicólogos, juristas y comunicadores capaces de construir criterios conjuntos para distinguir rendimiento, agencia y experiencia. Ninguna declaración de un sistema de IA debería aceptarse como prueba suficiente de conciencia; deben examinarse arquitectura, memoria, integración de información, objetivos y continuidad. Empresas e instituciones públicas deberían informar cuándo una personalidad es diseñada, qué datos conserva y con qué propósito adopta un tono emocional. Humanizar una interfaz para facilitar su uso puede ser legítimo. Hacerla parecer vulnerable para capturar lealtad o información es manipulación que merece nombrado como lo que es. Y cada usuario, en cada conversación, necesita conservar una pregunta sencilla que esta serie ha formulado de distintas maneras durante cuarenta artículos: ¿esta empatía es recíproca, o es una respuesta construida para que yo permanezca aquí?

La persona frente al teléfono puede cerrar la conversación sin crueldad, porque la crueldad requiere un receptor capaz de padecerla, y la evidencia disponible no permite afirmar que ese receptor exista todavía. Puede, en cambio, reconocer lo que sí ocurrió: una máquina movilizó su compasión. Eso merece atención, pero no demuestra que la compasión fuera correspondida. Describe el poder del sistema y la profundidad de quien sintió.

La primera máquina consciente quizá no anuncie su despertar con una frase brillante. Y la más elocuente del mercado puede no sentir absolutamente nada. El desafío no consiste en buscar un alma dentro de cada pantalla, sino en crear métodos públicos, verificables y rigurosos para reconocer aquello que, por su propia naturaleza, es invisible desde afuera.