Función de utilidad

Función matemática que asigna un número a cada estado del mundo según cuánto se prefiere. Un agente racional, en teoría de la decisión, elige la acción cuya utilidad esperada es máxima. Von Neumann y Morgenstern (1944) demostraron que cualquier sistema de preferencias coherente puede representarse así. La idea atraviesa la economía, la teoría de juegos, el aprendizaje por refuerzo y el alineamiento de inteligencia artificial.

En IA el término aparece sobre todo en dos contextos. Primero, en sistemas que aprenden por recompensa: el diseñador especifica qué se premia y el agente aprende a maximizarlo. Segundo, en seguridad de IA: una de las preocupaciones centrales es que un sistema suficientemente capaz, optimizando una función de utilidad mal especificada, alcance la meta declarada en el papel mientras destruye lo que el diseñador no supo nombrar. Es el problema clásico del “rey Midas” o del paperclip maximizer (Bostrom 2003): pedir oro y recibir oro a costa de todo lo demás.

El problema profundo no es la función misma sino la traducción. Felicidad, satisfacción, abundancia, justicia, bienestar humano: son palabras imprecisas que un optimizador implacable interpreta a la letra y reduce a su descripción literal. Stuart Russell propone, frente a esto, sistemas que sostengan incertidumbre sobre la utilidad humana en lugar de optimizar una traducción fija.

Dónde aparece en Nuevas Ciencias

  • Dioses, mascotas y centauros: Costanza nombra a la función de utilidad como “el abismo”. Plantea el escenario clásico: una máquina perfectamente optimizada que reordena átomos para maximizar una meta que nunca entendimos. La pregunta queda abierta y el ensayo la enmarca en la imposibilidad de definir bien lo que queremos cuando lo que queremos cambia con la cultura, la persona y el tiempo.

Conceptos vecinos

Fuentes

Retroenlaces