TeLaCuelan ← Divulgación

Expediente · Razón, sentidos e inteligencia artificial

¿Quién tiene razón?

Y, sobre todo, ¿quién ha decidido que la tiene?

Si alguien tiene línea directa con Dios, que levante la mano. Mientras aparece, tendremos que apañarnos nosotros.

TeLaCuelanDivulgaciónLectura · 8 minDesconfía con criterioLector de silencios

Imagina una mesa con seis personas. El ayuntamiento quiere cerrar el centro al tráfico. El ingeniero dice que sí: menos contaminación y menos accidentes. El comerciante dice que ni hablar: perderá clientes. Una madre cuyo hijo tiene asma pregunta por qué el negocio de otro debe pesar más que los pulmones de su hijo. El taxista vive de circular. El vecino quiere dormir. Y el alcalde piensa , aunque no lo diga, que dentro de año y medio hay elecciones.

Ahora viene la pregunta: ¿quién está razonando correctamente?

Probablemente todos. Y probablemente ninguno. Depende de qué problema creen estar resolviendo.
Parte I · La trampa

Dos más dos sí. Lo demás ya veremos

Hay terrenos donde podemos hablar tranquilamente de una respuesta correcta. Dos más dos son cuatro. Si un puente soporta cien toneladas y le ponemos doscientas, tenemos un problema. Si una conclusión contradice sus propias premisas, el razonamiento es malo.

Pero cambia la pregunta: ¿qué es más importante, libertad o seguridad? ¿Cuánto empleo estamos dispuestos a sacrificar para reducir contaminación? ¿Cuánto castigo merece alguien que hizo algo horrible después de una vida horrible?

Ahí ya no tenemos una calculadora. Tenemos una pelea entre valores.

¿Correcto según quién?

Parte II · Nuestro cerebro

No somos un Excel con piernas

Los humanos no abrimos por la mañana una hoja de cálculo mental, metemos todas las variables de nuestra vida y pulsamos «optimizar». Si lo hiciéramos para elegir restaurante, moriríamos de hambre antes de cenar.

Herbert Simon lo llamó racionalidad limitada: tenemos poca información, poco tiempo, memoria limitada y bastantes cosas más que hacer. Así que buscamos algo suficientemente bueno y seguimos adelante.

Después Kahneman y Tversky nos recordaron que usamos atajos. El primer precio que vemos nos condiciona. La noticia del accidente de ayer hace que hoy nos dé más miedo volar. Recordamos dos veces que nuestra intuición acertó y olvidamos ocho en las que metimos la pata.

Útil

Los atajos nos permiten vivir sin recalcular el universo cada cinco minutos.

Peligro

El mismo atajo que ayer te salvó tiempo hoy puede convertirse en prejuicio.

Parte III · El cuerpo

Hay un problema: nosotros no pensamos solo con palabras

Hasta aquí podríamos imaginar dos cerebros mandándose informes. Uno escribe. El otro lee. Decide. Fin.

Pero una conversación humana no funciona así.

«No pasa nada.»

En una pantalla son tres palabras. Ahora imagina que tu pareja las dice mirando al suelo, cierra un cajón de golpe y tarda medio segundo de más en contestar.

Pues sí. Pasa algo.

Las palabras son las mismas. La información no.

La escritura viene un poco amputada: no trae el temblor de la voz, una pausa demasiado larga, una mirada que se aparta, las manos inquietas, la distancia, el olor, cómo ha entrado alguien por la puerta ni cómo está saliendo.

Nuestro cerebro mezcla vista, oído, tacto, memoria corporal y contexto. La prosodia , el ritmo y tono de la voz, puede transportar información emocional que no aparece en la frase. Y pequeños fragmentos de conducta, los llamados thin slices, pueden contener pistas sociales útiles sin necesidad de una conversación de una hora.

Una transcripción puede conservar perfectamente lo que alguien dijo y perder buena parte de cómo lo dijo. Y a veces el «cómo» era la noticia.

01Incluso olemos información

Suena a película, pero el olfato también participa en la vida social. Los olores corporales pueden influir en emoción, vigilancia y percepción. Eso no significa que podamos «oler la mentira» ni leer a una persona como un perro policía. Significa algo más sencillo: una persona delante de ti emite mucha más información que sus palabras.

02Y luego está eso que llamamos intuición

«Mi intuición me dice» puede significar dos cosas completamente distintas.

Una: «llevo treinta años viendo esto y mi cerebro ha detectado un patrón antes de que yo haya conseguido ponerle nombre».

Otra: «ese tipo no me gusta».

No son lo mismo.

Un mecánico oye un motor y dice «rodamiento». Un cocinero mira el arroz y dice «dos minutos». Un marinero mira el cielo y dice «esta tarde entra viento». Un médico ve entrar a un paciente y piensa «no me gusta esto». Un padre ve a su hija cruzar la puerta y pregunta «¿qué te pasa?».

La intuición experta puede ser conocimiento comprimido: años de patrones, experiencia y correcciones. Kahneman y Gary Klein, que venían de mundos casi opuestos, coincidieron en algo importante: confiamos más en una intuición cuando el entorno contiene patrones reales y la persona ha tenido suficiente experiencia y feedback para aprenderlos.

La intuición puede ser conocimiento comprimido. Pero también puede ser prejuicio comprimido.

03El detalle de ayer

Y todavía falta una cosa: la continuidad. No observas solo cómo habla alguien hoy. Recuerdas que ayer tenía la voz temblorosa. Que hace una semana mencionó algo casi de pasada. Que normalmente se ata los zapatos sentado y hoy lo ha hecho de pie junto a la puerta. Que lleva una ropa que no suele llevar.

Ninguno de esos datos aislados dice gran cosa. Juntos, a veces, hacen clic.

Eso también es razonamiento humano. Solo que ocurre por debajo de la frase.

Parte IV · Cuatro filósofos en un bar

La razón sabe llegar. El lío es decidir adónde

Hume diría: puedes utilizar una inteligencia extraordinaria para organizar perfectamente una guerra. Eso no responde si debías empezar la guerra.

Kant preguntaría: «¿aceptarías esa misma regla cuando te toque perder?».

Aristóteles miraría el caso concreto y recordaría que una regla general no cabe siempre limpia dentro de una vida real.

Isaiah Berlin añadiría una faena: a veces libertad, igualdad, seguridad, verdad o compasión son cosas buenas que se dan codazos entre sí.

Magnífico. Cuatro maneras bastante razonables de discutir qué significa ser razonable.

Parte V · La sociedad

Vale. Pues que decida la mayoría

Buena idea. A veces.

Pero la mayoría también puede equivocarse. Precisamente por eso una democracia no consiste en poner a cincuenta y uno contra cuarenta y nueve y dejar que los primeros hagan lo que quieran.

Hay constituciones, derechos, tribunales, recursos, elecciones siguientes, separación de poderes y libertad de expresión. Todo ese aparatoso tinglado existe por una razón muy humilde:

No nos fiamos completamente de nadie. Ni siquiera de nosotros mismos cuando somos mayoría.
Parte VI · La máquina

¿A qué humano enchufamos?

Quizá llevamos haciéndonos mal la pregunta. Siempre preguntamos: «¿cuándo podrá una IA razonar como un humano?».

Pero, ¿por qué demonios querríamos que razonara como uno solo?

Una IA tiene una posibilidad que ningún humano ha tenido jamás. Puede mirar un problema como un ingeniero, después como un agricultor, después como un abogado, un médico, alguien que cobra el salario mínimo, alguien que paga la obra y alguien que sufrirá sus consecuencias dentro de treinta años.

Eso no significa que el «agricultor digital» sea el agricultor real: los modelos pueden caricaturizar grupos y representar mejor a unas poblaciones que a otras. Pero abre una puerta.

Imagina que, además de simular perspectivas, escucha a personas reales. Millones. Compara argumentos. Comprueba datos. Busca contradicciones. Detecta intereses. Y repite el debate diez mil veces sin cansarse ni pensar en las próximas elecciones.

¿Y si construimos una máquina capaz de sentarlos a todos dentro?

La pregunta continúa

El Parlamento de la Razón

Si una IA pudiera escuchar todas esas perspectivas, leer gestos, tono y contexto, y además pensar sin cansancio ni campaña electoral… ¿seguiríamos necesitando parlamentos, jueces y abogados?

Continuar la lectura →
Cierre

Hasta que aparezca Dios

Si alguien tiene línea directa con Dios y consigue el manual del razonamiento correcto, que nos pase una copia.

Hasta entonces, la pregunta sigue siendo la misma: cuando alguien diga «esto es lo racional», mira siempre quién ha decidido qué significa racional.

Desconfía con criterio. También de tu propio criterio.

Fuentes principales

La lectura está escrita en lenguaje de calle; las ideas de fondo vienen de filosofía, psicología, neurociencia y antropología. Se han parafraseado.

Nota TeLaCuelan: una intuición no se convierte en verdad por sentirse intensa. Y una fuente no convierte una idea en dogma.