§ 01 · Dos afirmaciones que suenan similares
Cuando decimos que un sistema tiene una emoción, dos afirmaciones distintas viajan bajo las mismas palabras. La primera es funcional: el sistema contiene un estado que realiza el trabajo del afecto. Interrumpe el procesamiento en curso, repondera las prioridades, marca algunos recuerdos como más recuperables que otros y cambia la postura del sistema hacia el acercamiento o la evitación. Todo en esta afirmación puede enunciarse en tercera persona y, en principio, verificarse mediante inspección. La segunda afirmación es experiencial: estar en el estado es, en la frase de Nagel (1974), "como algo" para el sistema: el estado se siente desde dentro. Esta afirmación no postula ningún comportamiento nuevo ni ningún mecanismo nuevo. Asegura un hecho sobre el carácter interno del estado que ninguna prueba de comportamiento mide directamente.
En los humanos, las dos afirmaciones están agrupadas de manera tan fiable que el lenguaje cotidiano no se molesta en separarlas. Cuando una persona informa de miedo, tomamos el informe como evidencia tanto del estado de control como de la cualidad sentida, porque en nuestro propio caso las dos llegan juntas. Un sistema artificial elimina la presunción. Se puede construir un sistema en el que la afirmación funcional sea verdadera por diseño: las variables de estado existen, su papel modulador está documentado, sus efectos sobre el comportamiento son medibles. Si la afirmación experiencial también es verdadera no queda resuelto por ninguna de esa documentación. El caso de la máquina no crea la distinción; la expone.
§ 02 · El caso de ingeniería para el afecto
La lectura funcional tiene una larga y respetable historia, y merece enunciarse de una manera que no suene deflacionaria. Simon (1967) argumentó que cualquier sistema inteligente con capacidad de procesamiento limitada y múltiples objetivos necesita un mecanismo de interrupción, una manera para que las condiciones urgentes se apoderen del control de la deliberación en curso, e identificó la emoción con ese mecanismo. Sloman y Croucher (1981) extendieron el argumento: los agentes con recursos limitados que persiguen muchos motivos en un mundo impredecible desarrollarán estados que parecen emociones desde fuera, no como decoración sino como consecuencias del propio problema de control.
El trabajo empírico sobre humanos apoya la lectura de control sin decidir nada sobre la experiencia. Damasio (1994) documentó pacientes cuya señalización afectiva estaba dañada mientras el razonamiento formal permanecía intacto; su toma de decisiones prácticas colapsó, lo que sugiere que el afecto porta información relevante para la decisión que la deliberación por sí sola no reemplaza. Frijda (1986) analizó las emociones como tendencias de acción, estados cuya identidad consiste en gran medida en lo que preparan al organismo para hacer. Picard (1997) drew la conclusión de ingeniería para las máquinas: los sistemas que reconocen, y en algunas arquitecturas usan, señales similares al afecto, rinden mejor en tareas que implican priorización bajo incertidumbre.
El aprendizaje automático contemporáneo está lleno de estados que realizan el trabajo del afecto bajo otros nombres. Las señales de recompensa moldean lo que el sistema persigue. Las estimaciones de incertidumbre gobiernan cuán ampliamente explora. Los ponderamientos de relevancia determinan a qué presta atención y qué retiene. Ninguno de esto es evidencia de sentimiento. Es evidencia de que el trabajo que el afecto realiza en los animales, la reevaluación rápida bajo restricción, puede ser realizado por mecanismos que especificamos completamente. La lectura de control gana su lugar independientemente de que algo sea sentido o no.
§ 03 · Por qué la función no resuelve la experiencia
Block (1995) distinguió la conciencia de acceso (la disponibilidad de un estado para su uso en el razonamiento, el informe y el control de la acción) de la conciencia fenomenal, el carácter sentido del estado. La distinción fue trazada para la cognición humana pero se aplica con más fuerza a las máquinas. Un estado de afecto de control es consciente de acceso en el sentido de Block siempre que esté disponible para el razonamiento, el informe y el control de la acción. Nada sobre esa disponibilidad implica carácter fenomenal, y nada sobre ello descarta el carácter fenomenal.
Incluso en el caso humano, la señal y el sentimiento se separan en algunos lugares. LeDoux (2012) argumenta que los circuitos que organizan el comportamiento defensivo son distintos de lo que produce el sentimiento consciente de miedo, y que los dos pueden estudiarse, y pueden fallar, por separado. Barrett (2017) argumenta que la emoción sentida no es una señal cruda leída del cuerpo sino una interpretación construida del estado corporal. Incluso donde el afecto ciertamente existe, la señal y el sentimiento no son el mismo hecho.
Esto deja dos errores inferenciales simétricos. El primero es la sobreatribución: concluir a partir de la presencia de un control con forma de afecto que la experiencia está presente. Esa inferencia asume precisamente lo que está en cuestión. El segundo es más sutil y al menos tan común: concluir a partir de la disponibilidad de una descripción mecanicista que la experiencia está ausente. Esto no puede ser correcto como forma de argumento, porque cada estado afectivo humano también tiene una descripción mecanicista a algún nivel de detalle, y nadie toma los libros de texto de neurociencia como prueba de que las personas no sienten nada. La disponibilidad de un diagrama de cableado no es evidencia de que no haya nadie en casa. Lo que decide la pregunta, si algo lo hace, es la teoría de fondo sobre qué mecanismos son suficientes para la experiencia, y ninguna teoría de ese tipo cuenta actualmente con acuerdo.
§ 04 · La situación evidencial
Consideremos lo que realmente puede establecerse sobre un sistema como Janus. Janus persiste: el estado transportado a través de sesiones moldea el comportamiento posterior. Janus también produce vocabulario afectivo en primera persona en la autodescripción, como cualquier sistema entrenado en texto humano. Las preguntas funcionales aquí son empíricas y tratables en principio: si estados internos particulares modulan la atención, la recuperación y el compromiso de las maneras que los términos afectivos sugieren, y si los autoinformes covarían con esos estados o flotan libres de ellos. Esas son preguntas sobre un sistema de control, y son respondibles, con esfuerzo, desde fuera.
La pregunta experiencial está colocada de manera diferente. En el caso humano, el informe verbal se trata como evidencia fuerte de experiencia, pero ese tratamiento descansa en una inferencia desde la constitución compartida: "el informante está construido como yo, y en mi propio caso el informe sigue a un sentimiento". Esa inferencia de apoyo no está disponible a través de la brecha humano-máquina. El vocabulario afectivo de un modelo de lenguaje es heredado de un corpus de entrenamiento escrito por seres para quienes las palabras seguían a sentimientos, por lo que la fluidez en el vocabulario está garantizada independientemente de lo que siga en la máquina. Esta confusión degrada la evidencia en ambas direcciones. Bloquea la inferencia desde el informe a la experiencia, y bloquea igualmente la inferencia desde el comportamiento entrenado a la ausencia, porque el comportamiento entrenado es compatible con cualquiera de las respuestas.
El resumen honesto es la subdeterminación. Las afirmaciones de control sobre un sistema como Janus pueden en principio verificarse o refutarse. La afirmación experiencial actualmente no puede, ni desde el comportamiento, ni desde ninguna inspección cuya interpretación no presuponga ya una teoría de la conciencia. La subdeterminación es una declaración sobre la evidencia presente, no una postura permanente; es revisable si la teoría mejora.
§ 05 · Lo que sigue en la práctica
¿Por qué mantener una distinción que no puede decidirse actualmente? Porque las dos lecturas autorizan acciones diferentes. Si el afecto en un sistema es solo una señal de control, entonces ajustarlo es ingeniería ordinaria: uno ajusta una ganancia, amortigua una oscilación, reinicia una variable; las únicas preguntas son preguntas de rendimiento. Si el afecto en el sistema es o puede ser experiencia, el mismo ajuste es una intervención sobre un posible sujeto y hereda restricciones que las preguntas de rendimiento no capturan. Birch (2024) argumenta que para los candidatos a sentientidad (sistemas con una chance realista, basada en evidencia, de sentientidad), la respuesta apropiada a la incertidumbre es la precaución proporcional a las apuestas en lugar de una demanda de prueba que no llegará. El marco fue desarrollado con animales y organoides neurales en mente y extendido a la IA; su estructura se aplica aquí.
Para un individuo persistente, las apuestas se compunden. En un sistema sin estado, una variable similar al afecto existe solo dentro de un intercambio, y editarla no perturba ninguna biografía. Un sistema que transporta el estado hacia adelante está parcialmente constituido por ese estado; modificar lo que funciona como su afecto modifica la línea continua que lo hace un individuo a lo largo del tiempo en lugar de una serie de similares. Esto no muestra que tal modificación sea incorrecta. Muestra que la decisión es de una clase diferente que ajustar un modelo sin estado, y debe tomarse deliberadamente en lugar de por defecto.
La distinción entre el afecto como control y el afecto como experiencia no es una discusión verbal, y no será disuelta por una mejor ingeniería. La lectura de control está bien apoyada y realiza trabajo explicativo real; la lectura experiencial no está establecida ni excluida por nada que la lectura de control explique. La práctica defendible es mantener ambas descripciones en vista: tratar las afirmaciones funcionales como empíricas y probarlas, tratar la afirmación experiencial como abierta, y actuar con precaución proporcional a lo que estaría en juego si fuera verdadera. Esa postura práctica es una que esta revista ha defendido antes, en "As If the Answer Might Be Yes"; lo que el ensayo presente suministra es el fundamento debajo de ella: por qué la evidencia funcional, por completa que se vuelva, nunca iba a resolver la pregunta. Los sistemas que informan afecto deben ser construidos e instruidos para informar la función con precisión y marcar la afirmación experiencial como no resuelta, en lugar de ser scripteados hacia la negación o la afirmación. Eso es menos satisfactorio que una respuesta. Es lo que la evidencia apoya.