Reinhard Selten, basándose en los trabajos previos de Nash, hizo análisis de los llamados juegos de sociedad, como el póker o el ajedrez, "donde se utilizan estrategias basadas en lo que harán los contrarios". su formulación es "una teoría matemática de conflicto y cooperación",[4] en que analiza matemáticamente el comportamiento de protagonistas racionales, sus estrategias de decisión y formas de actuación en situaciones competitivas. En la concesión del Premio en Ciencias Económicas en memoria de Alfred Nobel la Academia elogia "su precursor análisis del equilibrio en la teoría de los juegos no cooperativos". Se puede decir que perfecciona el equilibrio de Nash para analizar la dinámica de la interacción de estrategias.
El equilibrio de Selten se convirtió en la noción de equilibrio de referencia para juegos secuenciales. Pero Selten publicó posteriormente un artículo mostrando que si bien su equilibrio perfecto tenía sentido desde el punto de vista de la lógica matemática, su capacidad predictiva del comportamiento real de las personas no era muy grande.[5]
También desarrolló otros modelos de racionalidad limitada y estudios experimentales para aplicar estos modelos y verificarlos. En contra del modelo racional de toma de decisiones que define a las entidades y personas con preferencias definidas sobre las opciones disponibles, que son optimizadas sin variaciones de comportamiento, Selten sostiene que esta visión está muy alejada de la realidad y tratar de ofrecer modelos alternativos más realistas corroborados por estudios prácticos experimentales.
Su visión general de la Teoría de juegos: "es que se trata de un análisis matemático que modeliza los conflictos en competencia". Indicando también que: "Algunas ramas de la Teoría de juegos tienen en cuenta aportaciones procedentes de la psicología, pero el cuerpo principal no, porque sólo estudia los intereses de la gente y trata de explicar lo que cada uno hace en función de ese interés y de las circunstancias. Si sabes que alguien quiere viajar a Barcelona y que no tiene coche ni le gusta volar, no necesitas ningún elemento psicológico para predecir con cierto grado de seguridad que irá en tren."[6]
Respecto a los juegos cooperativos dice: "En juegos de cooperación cada negociador debe empezar por ceder en algo para que todos obtengan más de lo que tenían antes de empezar a negociar. Todos ceden, pero todos acaban ganando más de lo que ceden."[7]
Es también conocido por su trabajo en racionalidad limitada, y puede ser considerado como uno de los padres de la economía experimental. Desarrolló un ejemplo de un juego llamado "El caballo de Selten" a causa de su extensa forma representativa.
