NUEVO MODELO DE IA CON ELEVADA CAPACIDAD DE PREDICCIÓN DE COMPORTAMIENTOS
Alvaro Sánchez, 27-4-2024
¿En qué situación me encuentro si mi banco, mi compañía de telecomunicaciones
y mi gobierno saben mejor que yo lo que voy a hacer la semana que viene?
La capacidad de predicción del comportamiento humano, tanto considerado individualmente como en grupos más o menos grandes, ha sido objeto de deseo del poder del Estado desde que éste comenzó a organizarse en torno a las primeras ciudades, hace unos siete milenios en Mesopotamia. Si el principal objetivo de todo gobernante es mantenerse en el poder el mayor tiempo posible, intuir cómo van a pensar y actuar en el futuro sus gobernados puede resultar esencial para lograrlo.
Sustitúyase al gobernante por el CEO de una gran multinacional y a los gobernados por los clientes y tenemos otro caso de necesidad de predecir el futuro, adelantándose a los deseos de los clientes. ¿Y qué decir del general que en el campo de batalla es capaz de anticiparse a los movimientos del enemigo, haciendo de las batallas otras tantas victorias?
Abhishek Gupta, de la Universidad de Washington.
Su investigación ‘Modeling Boundedly Rational Agents with Latent Inference Budgets’ (‘Modelización de agentes limitadamente racionales con presupuestos de inferencia latentes’) se encuentra desde el pasado mes de diciembre alojada en el servidor de prepublicaciones arXiv para ser sometida a revisión por pares; es decir, para que expertos en el tema lo conozcan y valoren la calidad del trabajo. En esencia, su planteamiento viene a decir que ya es posible predecir razonablemente conductas humanas y de inteligencias artificiales, y ello partiendo de la base de aceptar que las decisiones que toman los individuos casi nunca son las óptimas y que el tiempo, o más bien su carencia, resulta determinante al respecto.
No puede sorprendernos, por tanto, que empresas como Palantir, cuyo fundador y principal accionista es Peter Thiel (por cierto, fundador también de PayPal, ¿les suena?), lleven más de una década como contratistas de la CIA, la NSA, el Pentágono y el FBI gestionando grandes volúmenes de datos alfanuméricos e imágenes con el fin, en primer lugar, de alcanzar la mayor comprensión posible de su significado. Pero, y esto es cada vez más esencial, en segundo lugar, de prever y anticipar actitudes humanas colectivas e incluso individuales.
Todas estas posibilidades, que hasta ahora se movían en un ámbito difuso entre las actividades propias de los servicios de inteligencia y la ciencia-ficción, acaban de recibir un profundo espaldarazo científico con los trabajos de Athul Paul Jacob y Jacob Andreas, del Instituto Tecnológico de Massachusetts, y
Los investigadores desarrollaron un modelo algorítmico de inferencia (en Ciencias de la computación, un algoritmo es un conjunto de instrucciones que el ordenador debe seguir; y en Lógica, una inferencia es un razonamiento formalmente válido o, lo que es lo mismo, correctamente formulado), es decir, una Inteligencia Artificial Predictiva que, a la vista de acciones similares anteriores del individuo humano o algorítmico y en contextos semejantes, predice sus acciones futuras. Probaron su enfoque en tres tareas de modelado diferentes: trazar rutas para recorrer un laberinto, elegir colores de una panoplia a partir de expresiones verbales y predecir movimientos posteriores en partidas de ajedrez entre humanos.
El modelo algorítmico, denominado L-IBM (siglas de Latent Inference Budget Model, Modelo de Presupuesto de Inferencia
Latente) mostró en los tres casos su capacidad para realizar representaciones de los procesos de toma de decisiones de los individuos teniendo en cuenta la dificultad de la tarea y el tiempo disponible para la toma de decisiones. Este último factor, el tiempo, se revela como fundamental para adoptar decisiones no óptimas: las experiencias anteriores muestran que los individuos no tienen o no quieren disponer de tiempo suficiente para alcanzar las decisiones mejores.
Por ello, construir modelos eficaces para la toma de decisiones multiindividuo (ya sean cooperativas o adversarias) requiere comprender los objetivos y planes de otros individuos. Para ayudar a un cooperador a navegar en un entorno nuevo, primero hay que entender adónde quiere ir; y para vencer a un oponente al ajedrez, hay que ser capaz de predecir sus próximas jugadas.
detectados en experiencias anteriores (ver Figura 1). Así, el individuo se desplazará en el laberinto hacia la estrella azul (a), pero prefiere moverse hacia la estrella naranja cuando ambas están disponibles (b). Sin embargo, cuando localizar la estrella naranja requiere resolver un problema de búsqueda más difícil, el individuo busca la estrella azul, lo que indica que sus capacidades de búsqueda son limitadas (c). La propuesta de los investigadores infiere automáticamente el presupuesto que el individuo utiliza al planificar (d). Conociendo este presupuesto, se le puede ayudar proporcionándole una pista específica, que es moverse a la derecha al principio de su trayectoria.
En el segundo de los enfoques se mide la capacidad de interpretación de las expresiones verbales referidas a colores de un individuo por parte de otro, que tiene que elegir el color
Así, en la fila 2 de la Figura 2, un hablante puede elegir describir el color resaltado como azul razonando que un oyente ingenuo podría resolver púrpura para el segundo color de la fila. Un oyente más sofisticado, a su vez, puede predecir este comportamiento del hablante e inferir con éxito el significado pretendido.
Pero este tipo de razonamiento recursivo sobre otros agentes puede ser muy exigente desde el punto de vista computacional y requiere modelos internos sofisticados de otros usuarios del lenguaje. Los investigadores parten de que la evidencia experimental sugiere que se usa selectivamente y en diferentes grados por diferentes usuarios del lenguaje. Mediante L-IBM se puede determinar cuándo y en qué medida se utiliza este tipo de razonamiento recursivo durante la producción lingüística.
Se trata de representar y formalizar las actuaciones, las jugadas, de dos individuos que disputan una partida de ajedrez con el fin de predecirlas. La recompensa es, obviamente, ganarla; y los condicionantes que determinan las acciones de los jugadores son, por un lado, sus respectivos niveles de competencia ajedrecística, establecidos según el sistema internacional de puntuación ELO, y el tiempo disponible para la realización de las jugadas.
El punto de partida fue el análisis de dos bases de datos de partidas de ajedrez, de 6000.000 y 75.000 jugadas. La segunda incluye metadatos que describen las puntuaciones Elo de los jugadores y los formatos temporales de las partidas, es decir, la cantidad de tiempo de que disponen los jugadores para realizar sus jugadas.
“En tres dominios -navegación en un laberinto, comprensión pragmática del lenguaje y juego de ajedrez- demostramos que puede superar a los modelos clásicos de racionalidad acotada, al tiempo que imputa medidas significativas de la habilidad humana y la dificultad de la tarea.”
Llegados a este punto, cabe reflexionar sobre lo que significan tanto en el ámbito psicológico, es decir, individual, como en el social, ésta y otras investigaciones semejantes en otros campos de aplicación de la Inteligencia Artificial: parece evidente que la sociedad está transitando a toda velocidad hacia un estado de conocimiento científico de las acciones futuras de los individuos, lo que antes correspondía casi exclusivamente al ámbito de la intuición. Lo que hacía que su grado de fiabilidad resultara bastante escaso.
Pero la toma de decisiones, tanto en humanos como en máquinas, está sujeta a limitaciones computacionales. Los individuos suelen actuar de forma subóptima, basándose en heurísticas, aproximaciones y tanteos para elegir sus acciones.
Por estas razones, los modelos de inferencia predictiva que no tengan en cuenta muy cuidadosamente esta suboptimalidad pueden atribuir el comportamiento de los individuos a diferentes intenciones más que a diferentes procedimientos de inferencia. Esto es lo que L-IBM parece resolver con soltura.
En el primero de los enfoques estudiados, el caso de colaboración con un individuo que tiene que resolver un laberinto, al que se debe proporcionar una pista que le ayude en la tarea, hay que tener en cuenta los presupuestos
expresado por el primero. Los seres humanos producen y comprenden fácilmente el lenguaje de formas que se desvían de su significado «literal». Por ejemplo, un color que la mayoría de los hablantes describiría como morado se etiqueta como azul en algunos contextos.
Los autores utilizaron un juego de referencia, que constituye un elemento básico de la investigación sobre el uso pragmático del lenguaje. En un juego de referencia, tanto el oyente como el hablante observan un conjunto de posibles referentes (por ejemplo, colores). El hablante recibe en privado uno de los colores como objetivo y debe producir un enunciado en lenguaje natural para el oyente. A partir del cual el oyente selecciona un parche de color y ambos jugadores ganan si coinciden en el objetivo.
Mediante el ajuste de L-IBM a las expresiones y elecciones en los juegos de referencia humanos, los investigadores determinaron: primero, si se puede inferir si los seres humanos participan en el razonamiento pragmático, contextual, a partir del comportamiento por sí solo; segundo, si hay diferencias entre los jugadores en su capacidad para razonar sobre sus interlocutores; y, tercero, si estas diferencias realmente predicen el éxito comunicativo, es decir, si los jugadores con mayores presupuestos de inferencia son mejores para hacerse entender. La respuesta es que sí.
El tercer enfoque aporta un elemento nuevo: ya no se trata de cooperación entre dos individuos, como en los enfoques anteriores, sino de competición entre ellos, para lo que se utiliza el juego de ajedrez.
La Inteligencia Artificial Predictiva L-IBM consiguió formalizar la variabilidad de las decisiones de los jugadores en los distintos estados de la partida e identificó las causas de las limitaciones de los jugadores: un jugador emparejado contra un oponente fuerte probablemente planificará sus jugadas durante más tiempo que contra un oponente más débil; y algunas variantes del ajedrez que, como el ajedrez relámpago, limitan deliberadamente el tiempo por jugada de los jugadores, disminuirán la calidad de sus decisiones de juego, lo que puede verse en la Figura 6.
Todo ello lleva a afirmar que L-IBM supera en posibilidad de predicción a otros modelos de formalización de decisiones ajedrecísticas anteriores, lo que es extensible a los otros dos enfoques antes descritos. En palabras de los autores:
Las consecuencias de ello, todavía difíciles de especificar exhaustivamente, tienen tantas posibilidades de ser catastróficas como salvíficas. Incluso pueden ser ambas cosas a la vez. Pero lo que sí es seguro es que los seres humanos y la sociedad no volveremos a ser los mismos una vez penetre definitivamente nuestras vidas.