Las fases de diferentes fenómenos han sido ampliamente estudiadas, e.g. sólida/líquida/gaseosa/etc. en la materia, laminar/turbulenta en el flujo de fluidos, flujo libre/congestionada en el tráfico de carreteras, etc. Cerca de las transiciones de fase, surgen propiedades interesantes, e.g. una amplia variedad de patrones de congelación, que a veces pueden caracterizarse por su «criticalidad».
Estamos atravesando una transición en la ciencia. Sin duda vivimos tiempos interesantes, aunque lejos de ser triviales. Las transiciones de fase pueden ser suaves o súbitas. El que estamos viviendo en la ciencia parece ser suave, ya que lleva siglos gestándose.
Se puede decir que la ciencia moderna intenta explicar nuestro mundo utilizando herramientas matemáticas, desde los tiempos de Galileo, Laplace, Descartes y Newton. Esto ha tenido un gran éxito, generando revoluciones industriales, duplicando la esperanza de vida, viajando al espacio, etc.
Aún así, los límites de los sistemas formales en los que se basa la ciencia tradicional comenzaron a aparecer hacia finales del siglo XIX. Georg Cantor definió la teoría de conjuntos, así como los números infinitos e infinitesimales. Aun así, empezaron a aparecer paradojas, por las que Cantor fue objeto de insultos y burlas. Russell y Whitehead intentaron «arreglar» los problemas en sus Principia Mathematica, pero en realidad encontraron más paradojas. En la década de 1920, David Hilbert creó un programa para demostrar finalmente que se podía confiar en las matemáticas (que eran completas, consistentes y decidibles). Su estudiante de doctorado, John von Neumann, estaba trabajando en este problema, por lo que fue el único que entendió el trabajo de Kurt Gödel cuando demostró en 1931 que los sistemas formales no eran completos ni consistentes. En 1936, Alan Turing demostró que no eran decidibles, por lo que definió formalmente «funciones computables». Gregory Chaitin mostró otros límites de los sistemas formales.
Los mismos von Neumann y Turing hicieron contribuciones fundamentales para el desarrollo de las computadoras electrónicas. Las computadoras pueden verse como herramientas que nos permiten estudiar la complejidad, la biología, la inteligencia y más cosas que antes eran imposibles. Como estos fenómenos tienen que ver principalmente con el procesamiento de información, carecíamos de la capacidad de modelar más de dos o tres variables en un sistema, por lo que tuvimos que simplificar demasiado e ignorar el efecto de las interacciones relevantes en los sistemas, estudiando sus componentes de forma aislada y suponiendo que combinarlos sería sencillo.
Incluso cuando las computadoras han transformado nuestro mundo, no han superado los límites inherentes de los sistemas formales. Es posible tener sistemas formales completos, consistentes y/o decidibles, pero con cada aspecto perdemos otras propiedades deseables de los sistemas formales.
Todavía nos faltan herramientas adecuadas para estudiar y comprender propiedades como la causalidad descendente, la emergencia fuerte, la evolución abierta y la inteligencia «general». Todos ellos se caracterizan por la novedad. Esto implica un cambio que nuestros sistemas formales no pueden afrontar de manera general. Por supuesto, podemos definir variables que cambian. Pero no podemos proporcionar todas las posibles variables que surgirán en el futuro ni cómo afectarán a la dinámica de un sistema. Entonces nuestra predicción es limitada.
Dado que nuestros métodos adolecen de estas limitaciones, debemos ir más allá de ellas. No tratando de encontrar certeza donde está inherentemente ausente, sino aceptándola y engatusándola. La falta de certeza es una característica necesaria de los sistemas complejos. Sin ella, no habría creatividad, ni evolución, ni emergencia. Y un universo así estaría desprovisto de vida e inteligencia. Por eso deberíamos alegrarnos de que los sistemas formales no puedan describir completamente nuestro mundo.
Categoría: Uncategorized
Alcances y límites de la inteligencia artificial
Nuestra especie ha tenido tres grandes revoluciones: la de la agricultura, la industrial y la de la información. Podemos decir que la primera trató principalmente del control de la materia, la segunda del control de la energía y la actual — obviamente — del control de la información. Al contar con tecnología con altas capacidades de procesamiento, almacenamiento y transmisión de información, se abrieron muchas posibilidades para estudiar fenómenos donde la información es esencial. Uno de estos es la inteligencia.
Desde las primeras computadoras electrónicas a mediados del siglo XX, uno de los objetivos principales de sus desarrolladores era poder simular la «mente», «pensamiento» o «razonamiento». El término «inteligencia artificial» (IA) se acuño en 1956, antes de que llegara a México la primera computadora electrónica. El campo se ha desarrollado con sus altibajos, ya que ha tenido períodos donde ha generado expectativas que no ha logrado cumplir.
Pareciera que ahora también se están generando demasiadas expectativas sobre la IA. Muchas no se cumplirán debido a los límites inherentes de los sistemas computacionales. Pero es más relevante discutir sobre el efecto que la IA ya está teniendo en nuestras sociedades.
Una pregunta frecuente es si la IA nos beneficiará o perjudicará. Lo más probable, también observando el pasado, es que traerá cambios relevantes, de los cuales habrá quienes se beneficien y quienes se perjudiquen.
Como cualquier tecnología, el riesgo o promesa depende no sólo de la tecnología en sí misma, sino del uso que hagamos de ella. Para promover su uso «positivo» y evitar su uso «negativo», es necesario que las sociedades conozcan sobre los riesgos y oportunidades de la IA y actúen para regularla. De otra manera, estaremos tapando pozos después de muchos niños ahogados.
La IA trae la promesa de ayudarnos a tomar mejores decisiones, tanto individual como colectivamente. Al poder procesar mucha más información que la que podríamos acceder en varias vidas, en teoría sistemas de IA deberían de tomar mejores decisiones que nosotros. En la práctica, la IA no entiende, por lo que comete errores triviales y no se da cuenta de ello. En otras palabras, no podemos confiar ciegamente en ella. Puede sugerir alternativas, pero no es sensato delegarles nuestra responsabilidad, especialmente cuando la integridad de las personas puede depender de esas decisiones.
No obstante, cada vez nos hemos vuelto más dependientes de nuestra tecnología. A pesar de que pueda equivocarse, los beneficios que ofrece sobrecompensan sus errores. Por ejemplo, los navegadores con GPS nos permiten traversar lugares que nunca hemos visitado sin preparación previa. Sin embargo, además de que se equivocan de vez en cuando, estamos perdiendo nuestras habilidades individuales de navegación.
Otra pregunta relevante es ¿quién controlará a la IA? La misma tecnología podría tener efectos muy diferentes dependiendo de esta respuesta. ¿Serán ciudadanos, gobiernos o empresas? Cada opción tiene ventajas y desventajas. Y hasta el momento, son pocas empresas, principalmente estadounidenses, las que están dictando las reglas del juego. Sin embargo, probablemente el gobierno chino les vaya ganando terreno en los próximos años.
Como con otras tecnologías, habrá empleos que se pierdan por la IA. Pero también se generarán nuevos empleos. La cuestión es qué tan fácil y rápida será la adaptación a estos cambios en el mercado. ¿Qué tantos se beneficiarán y qué tantos se perjudicarán? Dependiendo de cómo se distribuyan, podríamos presenciar futuros muy distintos. En este punto no soy muy optimista, ya que estamos viviendo una tendencia hacia la concentración de la riqueza por pocas personas sin que haya beneficios tangibles para la mayoría. Esto no es sostenible. Tarde o temprano habrá cambios sociales (espero que pacíficos) para reducir un poco la desigualdad.
En lo que sí soy optimista es en que la IA aumentará nuestras capacidades, tanto individuales como sociales. Ya lo estamos viviendo. La mayoría de la población tiene acceso a la mayoría del conocimiento en su bolsillo. Mientras más herramientas se desarrollen para procesar y generar más información, nuestras capacidades creativas y cognitivas también aumentarán. Esto nos permitirá resolver/mejorar todo tipo de problemas/situaciones, aunque también generaremos nuevos.
En historias de ciencia ficción, normalmente presenciamos extremos utópicos o distópicos, donde nuestra tecnología nos brinda emancipación o esclavitud. Lo más probable es que nos espere un escenario intermedio. Pero es valioso imaginar los extremos, para evitar acercarnos a las distopías, y aunque nunca las alcancemos, orientarnos hacia las utopías.
A publicarse en los Cuadernos de la Academia ce Ciencias Sociales y Humanidades del Estado de Morelos.
Binghamton
Estoy empezando una nueva posición como Empire Innovation Professor en la Universidad de Binghamton (del sistema de la Universidad Estatal de Nueva York, SUNY). Estoy en el Departamento de Ciencia de Sistemas e Ingeniería Industrial, en la Facultad de Ingeniería y Ciencias Aplicadas Thomas J. Watson. También estoy afiliado a CoCo, el Centro de Sistemas Complejos de Binghamton. Esta prestigiosa posición es parte de un programa del Estado de Nueva York para atraer talentos con beneficios múltiples (full professor, tenured, startup grant,…). Pocas universidades públicas tienen la flexibilidad de ofrecer algo así, que en otros países podrían criticarse como «elitistas» o «privilegiadoras».
Binghamton tuvo una tradición en el estudio científico de los sistemas desde tiempos cibernéticos, impulsados por George J. Klir (a quien conocí en 1999 en mi primera conferencia internacional, sobre lógica difusa en NYC), Howard H. Pattee (de quien había leído artículos desde principios de siglo), y más.
Recientemente, ha crecido el estudio de sistemas complejos en Binghamton, impulsado principalmente por Hiroki Sayama (ambos hicimos posdocs en NECSI). Hace un par de años, Luis Rocha (estudiante de Klir) también se unió al departamento. Ahora, Sadamori Kojaku y yo nos incorporamos, y hay nuevas plazas por anunciarse.
Sigo manteniendo relaciones con la UNAM, donde todavía tengo varios estudiantes de posgrado, y con el Santa Fe Institute. Por acá ya está creciendo un nuevo grupo de estudiantes, con quienes seguiremos trabajando en varios temas relacionados con sistemas complejos. En particular, estaré aplicando inteligencia artificial a salud.
Mi libro sobre Balance va avanzado, espero tener una primera versión hacia fin de año.
Perros ladren
“Si los perros ladran, Sancho, es señal que cabalgamos” —Ruben Darío
Esta frase quijotesca se usa para ignorar a críticos corroídos por la envidia, inflamados por la ira o abrumados por la ignorancia. Dejad que vociferen, nosotros conocemos el camino. Sin embargo, es preocupante cuando quienes tienen esta posición — despreciando a los “perros” que avisan sobre el peligro inminente — avanzan hacia un precipicio arrastrando a todo el país con ellos.
No escuchar a quienes alertan que el barco se está hundiendo es síntoma de peligrosa soberbia, con riesgo de zozobra. Entiendo que es difícil conversar con “adversarios”, pero el objetivo debería de ser el bienestar del país, no “ganarle” a los “conservadores”. Desafortunadamente, en México sufrimos esta situación en los poderes tanto legislativo como ejecutivo.
El peligro es el mismo que enfrenta cualquier sistema sin retroalimentación: al no aprovechar información relevante, es imposible tomar las decisiones apropiadas en un entorno dinámico. ¿Cómo podría un termostato mantener la temperatura sin un termómetro? ¿Cómo podría un auto autónomo manejar sin un velocímetro? ¿Cómo podría un líder guiar sin escuchar al pueblo (tanto al “bueno” como al “malo”)?
Se podría argumentar que no es necedad ni ceguera. Es confianza en sí mismo. Es autoestima bien plantado. Es cambio doloroso pero necesario. Es cuestión de tiempo. No importan las etiquetas que usemos. Lo relevante son los hechos. Los motivos principales por los que AMLO y Morena ganaron las elecciones en 2018 no se han resuelto. En algunos casos han mejorado, en otros empeorado, pero seguimos teniendo graves problemas en desigualdad, violencia, corrupción, salud, educación, etc. Y se han generado nuevos problemas. Podría enumerarlos, pero los más relevantes relacionados con este artículo son las descalificaciones a quienes critican al gobierno y la aprobación de leyes preocupantes.
No podría asegurar que si el gobierno escuchase a sus críticos ya no tendríamos problemas. Pero es sensato argumentar que tendríamos amplias oportunidades de mejorar diversas situaciones. Más aún, habría un intento por reducir la polarización del país, lo cual es necesario si se pretenden resolver problemas nacionales. Simplemente, sin escuchar a los que piensan diferente no habrá posibilidad de éxito, ya que se necesita el apoyo de la mayoría. En contraste, el circo mañanero aprovecha la influencia del presidente para dividir todavía más al país.
Sabemos que no sabemos medir riesgos (escribí en estas páginas sobre el “riesgo de la ruina” en marzo de 2020 cuando empezaba la pandemia). ¿Qué podría pasar de malo? Sólo son “chillidos de marrano”, el país va bien. No sean alarmistas ni conspiracionistas. Cómanse un snickers. Pero admitamos que muchas tragedias no suceden de manera gradual, sino súbita. Las causas se van acumulando, hasta que se produce una avalancha. Después, lo único que podemos hacer es recoger los pedazos y justificar con cualquier pretexto que lave responsabilidades.
El país se seguirá moviendo, ya sea por inercia o a la deriva. Países como Bélgica han sobrevivido sin problemas por meses sin poder ejecutivo. No estoy sugiriendo anarquía. Pero creo que podríamos estar de acuerdo en que sería preferible contar con un liderazgo inclusivo. No sólo de género u origen, sino también de ideologías.
La 4T ha impuesto un nuevo elitismo. El criterio: los que aplaudan son los buenos. El problema es que no queda espacio para los mejores, sino para quienes no cuestionan. Puntos extra si además de aplaudir sin contemplación ni pudor, ridiculizan a los que no lo hacen.
No estoy implicando que antes las cosas eran muy diferentes. Quiero decir que tienen que cambiar.
Esto va más allá del liderazgo o de política. Es difícil que un cambio de partido o presidente tenga consecuencias más que cosméticas. Cualquier sistema sin retroalimentación apropiada no podrá adaptarse mas que al azar. Y siguiendo una “estrategia” sin guía, aumenta el riesgo de la ruina. Tenemos que explorar distintas maneras de poder incorporar la retroalimentación a distintos niveles del gobierno. Nuestros problemas son tan complejos que van más allá de las capacidades de una persona, un partido, o una corriente. Necesitamos mejores mecanismos de participación ciudadana.
Fragilidad, robustez y antifragilidad
8 de noviembre de 2017
Intuitivamente, podemos decir que un sistema es frágil si un cambio pequeño genera un gran cambio en el sistema. Por el contrario, un sistema será robusto si puede resistir grandes cambios en su entorno. Por ejemplo, si construimos una torre con cubos, habrá estructuras más frágiles o robustas que otras, que resistan distintos tipos de perturbaciones, ya sea empujando la torre o quitando alguna pieza. Una torre frágil se caería con un ligero movimiento o si quito cualquier pieza. Una torre robusta necesitará más fuerza para caerse, tal vez no totalmente, y necesitaré quitar varias piezas antes de que se caiga.

Es común pensar que la robustez es lo opuesto que la fragilidad. Sin embargo, recientemente Nassim Taleb notó que la robustez es simplemente la ausencia de fragilidad. Un sistema frágil pierde funcionalidad con los cambios. Un sistema robusto mantiene su funcionalidad cuando hay cambios. Pero ¿cómo llamar a un sistema que mejora su funcionalidad cuando hay cambios? Taleb no encontró una palabra y definió «antifrágil».
Por ejemplo, imaginen que queremos enviar un paquete por mensajería. Si tenemos dentro unas copas de cristal, le pondremos un etiquetas: frágil, manéjese con cuidado, no golpear. Si tenemos algo robusto al manejo de paquetes, digamos una pieza de hule, no le ponemos etiquetas, porque no importa si sufre un manejo delicado o un manejo rudo. Pero si tenemos un contenido antifrágil, le pondríamos etiquetas como: agítese, tírese o aplástese. Hay pocos objetos fabricados que se beneficien (mejoren su funcionalidad) con el ruido o las perturbaciones. Pero este no es el caso cuando estudiamos distintos sistemas a nuestro alrededor.
Por ejemplo, en medicina se ha estudiado la hormesis. Podemos entender la hormesis como la habilidad de un sistema de sobrecompensar positivamente un estímulo negativo. Por ejemplo, si un bebé vive en un entorno desinfectado, no se enfermará, lo cual es positivo. Pero su sistema inmunitario no se desarrrollará tanto como el de un bebé que juega en la tierra. La exposición temprana a los microbios es benéfica a largo plazo, ya que la respuesta del cuerpo es tal, que «entrena» al sistema inmunitario para enfrentar futuras infecciones. Por supuesto, demasiada exposición a microbios es riesgosa para la salud de los bebés.

Otro ejemplo de hormesis lo podemos ver con el ejercicio. Al hacer ejercicio, incrementamos nuestro metabolismo, lo cual incrementa el flujo de oxígeno en nuestra sangre, el cual a su vez contribuye al envejecimiento de nuestras células, ya que se oxidan con el tiempo. Sin embargo, nuestro cuerpo, al detectar un incremento en la actividad cardiovascular y respiratoria libera antioxidantes, los cuales previenen el envejecimiento celular. De hecho, se liberan más antioxidantes de los necesarios para contrarrestar el incremento de oxígeno causado por el ejercicio, con lo que la actividad que en principio degradaría al cuerpo, lo protege, ya que el exceso de antioxidantes evita el envejecimiento celular en comparación de si no hubésemos hecho ejercico. Por supuesto, hay límites a la hormesis, y un ejercicio excesivo puede desgastar al cuerpo más de lo que lo podría proteger.
De manera similar a la hormesis, en biología podemos encontrar otros sistemas antifrágiles, que se benefician con el cambio, tales como el cerebro o el corazón, lo cual les permite «practicar» su adaptabilidad a los cambios del entorno y por lo tanto mejorar su funcionalidad. Pero también podemos ver ejemplos en educación y economía, donde los cambios pueden llevar al desarrollo de la creatividad en la primera y de innovación en la segunda. El arte es necesariamente antifrágil.
Entonces, ¿conviene construir sistemas, frágiles, robustos, o antifrágiles? Depende del contexto…
