War Games

Sipnosis (FILMAFFINITY)

David es un experto informático capaz de saltarse los más avanzados sistemas de seguridad y de descifrar los más herméticos códigos secretos. Pero su juego se complica cuando involuntariamente conecta su ordenador al del Departamento de Defensa americano, encargado del sistema de defensa nuclear. Desencadena así una situación de peligro difícilmente controlable. Con la ayuda de su novia y de otro informático genial intentará, en una carrera contrarreloj, evitar la Tercera Guerra Mundial.

La IA presentada en el largometraje es WOPR (War Operation Plan Response). Una supercomputadora del NORAD (Comando de Defensa Aeroespacial de América del Norte) cuyo objetivo es GANAR cualquier "juego" en su base de datos. ¿Qué clase de juegos? Pues desde 3 en raya, ajedrez, y GO hasta guerra de guerrillas y guerra nuclear. Los típicos juegos de mesa que tenemos todos en el armario.

¿Pero por qué tendría un supercomputador militar juegos de mesa convencionales? Eso es porque WOPR es capaz de transferir las estrategias y conocimientos adquiridas de un juego a otro. Así que puede ir creando estrategias más y más complejas según aumenta la dificultad de los juegos.

Hay que tener en cuenta que la máquina no "juega" como nosotros, para WOPR cada "juego" o "partida" no es más que otra simulación más. Y simulación a simulación a lo largo del tiempo, va mejorando sus estrategias para hacer frente de la mejor manera posible a las acciones del contrincante. Esto implica que "aprende" de sus errores para mejorar dichas estrategias. Es esta capacidad de generar soluciones propias por lo que reconocemos en WOPR atisbos de inteligencia. El concepto de aprender a partir de simulaciones se aplica ampliamente en muchos robots en la actualidad y, en muchos aspectos, se parece a las técnicas de aprendizaje no supervisado disponibles en la actualidad.

Otro aspecto que asociamos con la inteligencia es la capacidad de comunicarse y reconocer emociones o incluso tenerlas, en otras palabras inteligencia social. WOPR suspende en esta materia. Aunque no se indique explícitamente en el filme, se entiende que la máquina tiene un amplio catálogo de respuestas preprogramadas, incluyendo cuando "muestra tristeza" cuando se entera de la muerte de su creador. No es una emoción, sino una respuesta ya preprogramada. Este tipo de tecnología ya la encontramos hoy en día, como Siri o el asistente de Google que son capaces de contestar a preguntas en base a su amplísima base de datos de respuestas de otros usuarios. Eso sí, el día que el asistente de Google se enfade genuinamente por algo que busque, tiro el móvil.

Por último, otro rasgo que consideramos que un ser con inteligencia debe poseer es libre albedrío o autonomía. Es decir la capacidad de tomar sus propias decisiones. Llevado a la inteligencia artificial, esto sería, cuanto puede decidir proactivamente sin la intervención de ninguna persona.

Entonces, ¿es WOPR realmente autónomo?

Como se ha dicho antes, el objetivo de WOPR es jugar la partida y ganarla, pero nada más. WOPR no distingue entre realidad y simulación, y mucho menos tiene un EGO, es decir no es consciente de sí mismo. Durante la película se muestra algunas acciones que es cierto que a priori no te esperarías de una supercomputadora, como por ejemplo: *Alerta spoilers* Llamar de vuelta a David para continuar la partida; intentar sacar los códigos de lanzamiento a la fuerza; o reanudar la guerra entre otros ejemplos.

Estas acciones en realidad no muestran autonomía, el único propósito de WOPR es ganar la partida, y para ello hará lo que esté dentro de sus funciones para conseguirlo, entre otras cosas hacer que la partida no pare. Esto lo que demuestra es que WOPR tiene un gran abanico de funciones para alcanzar su objetivo, pero siempre actúa en base a su propósito inicial, GANAR. Y seguramente tome sus decisiones en base alguna lista de condicionales del tipo, "si no funciona esto prueba tal". Es por eso que al final de la película entra en un bucle y se sobrecarga.

Pero que no sea autónomo no significa que las acciones realizadas por WOPR no presenten problemas reales y éticos.

En la película el mayor dilema ético que se presenta es el de sí las máquinas deben sustituir a los humanos a la hora de ejecutar acciones sensibles o incluso tomar esas decisiones por nosotros, para evitar el aspecto subjetivo de la parte humana.

La película refleja como la decisión de sustituir a los humanos por el WOPR (que además es vulnerable a ataques externos) y no supervisarlo genera graves problemas de seguridad. Y en caso de fallo, ¿quién es el responsable?¿David por iniciar el conflicto sin saber que era algo que tendría consecuencias reales?¿El NORAD por haber instalado dicho sistema en primer lugar?¿Los creadores de la máquina por no hacerla perfecta? Lo lógico sería que la culpa recaiga sobre WOPR, ¿pero como juzgas a un máquina?

La conclusión es que no hay que dejar que una máquina tome decisiones que puedan tener consecuencias sobre la vida o la muerte, o cualquier otro tema de naturaleza sensible, sin que una persona no supervise y de el visto bueno a esa decisión.