Alcances y límites de la inteligencia artificial

Nuestra especie ha tenido tres grandes revoluciones: la de la agricultura, la industrial y la de la información. Podemos decir que la primera trató principalmente del control de la materia, la segunda del control de la energía y la actual — obviamente — del control de la información. Al contar con tecnología con altas capacidades de procesamiento, almacenamiento y transmisión de información, se abrieron muchas posibilidades para estudiar fenómenos donde la información es esencial. Uno de estos es la inteligencia.

Desde las primeras computadoras electrónicas a mediados del siglo XX, uno de los objetivos principales de sus desarrolladores era poder simular la «mente», «pensamiento» o «razonamiento». El término «inteligencia artificial» (IA) se acuño en 1956, antes de que llegara a México la primera computadora electrónica. El campo se ha desarrollado con sus altibajos, ya que ha tenido períodos donde ha generado expectativas que no ha logrado cumplir.

Pareciera que ahora también se están generando demasiadas expectativas sobre la IA. Muchas no se cumplirán debido a los límites inherentes de los sistemas computacionales. Pero es más relevante discutir sobre el efecto que la IA ya está teniendo en nuestras sociedades.

Una pregunta frecuente es si la IA nos beneficiará o perjudicará. Lo más probable, también observando el pasado, es que traerá cambios relevantes, de los cuales habrá quienes se beneficien y quienes se perjudiquen.

Como cualquier tecnología, el riesgo o promesa depende no sólo de la tecnología en sí misma, sino del uso que hagamos de ella. Para promover su uso «positivo» y evitar su uso «negativo», es necesario que las sociedades conozcan sobre los riesgos y oportunidades de la IA y actúen para regularla. De otra manera, estaremos tapando pozos después de muchos niños ahogados.

La IA trae la promesa de ayudarnos a tomar mejores decisiones, tanto individual como colectivamente. Al poder procesar mucha más información que la que podríamos acceder en varias vidas, en teoría sistemas de IA deberían de tomar mejores decisiones que nosotros. En la práctica, la IA no entiende, por lo que comete errores triviales y no se da cuenta de ello. En otras palabras, no podemos confiar ciegamente en ella. Puede sugerir alternativas, pero no es sensato delegarles nuestra responsabilidad, especialmente cuando la integridad de las personas puede depender de esas decisiones.

No obstante, cada vez nos hemos vuelto más dependientes de nuestra tecnología. A pesar de que pueda equivocarse, los beneficios que ofrece sobrecompensan sus errores. Por ejemplo, los navegadores con GPS nos permiten traversar lugares que nunca hemos visitado sin preparación previa. Sin embargo, además de que se equivocan de vez en cuando, estamos perdiendo nuestras habilidades individuales de navegación.

Otra pregunta relevante es ¿quién controlará a la IA? La misma tecnología podría tener efectos muy diferentes dependiendo de esta respuesta. ¿Serán ciudadanos, gobiernos o empresas? Cada opción tiene ventajas y desventajas. Y hasta el momento, son pocas empresas, principalmente estadounidenses, las que están dictando las reglas del juego. Sin embargo, probablemente el gobierno chino les vaya ganando terreno en los próximos años.

Como con otras tecnologías, habrá empleos que se pierdan por la IA. Pero también se generarán nuevos empleos. La cuestión es qué tan fácil y rápida será la adaptación a estos cambios en el mercado. ¿Qué tantos se beneficiarán y qué tantos se perjudicarán? Dependiendo de cómo se distribuyan, podríamos presenciar futuros muy distintos. En este punto no soy muy optimista, ya que estamos viviendo una tendencia hacia la concentración de la riqueza por pocas personas sin que haya beneficios tangibles para la mayoría. Esto no es sostenible. Tarde o temprano habrá cambios sociales (espero que pacíficos) para reducir un poco la desigualdad. 

En lo que sí soy optimista es en que la IA aumentará nuestras capacidades, tanto individuales como sociales. Ya lo estamos viviendo. La mayoría de la población tiene acceso a la mayoría del conocimiento en su bolsillo. Mientras más herramientas se desarrollen para procesar y generar más información, nuestras capacidades creativas y cognitivas también aumentarán. Esto nos permitirá resolver/mejorar todo tipo de problemas/situaciones, aunque también generaremos nuevos.

En historias de ciencia ficción, normalmente presenciamos extremos utópicos o distópicos, donde nuestra tecnología nos brinda emancipación o esclavitud. Lo más probable es que nos espere un escenario intermedio. Pero es valioso imaginar los extremos, para evitar acercarnos a las distopías, y aunque nunca las alcancemos, orientarnos hacia las utopías.

A publicarse en los Cuadernos de la Academia ce Ciencias Sociales y Humanidades del Estado de Morelos.

Binghamton

Estoy empezando una nueva posición como Empire Innovation Professor en la Universidad de Binghamton (del sistema de la Universidad Estatal de Nueva York, SUNY). Estoy en el Departamento de Ciencia de Sistemas e Ingeniería Industrial, en la Facultad de Ingeniería y Ciencias Aplicadas Thomas J. Watson. También estoy afiliado a CoCo, el Centro de Sistemas Complejos de Binghamton. Esta prestigiosa posición es parte de un programa del Estado de Nueva York para atraer talentos con beneficios múltiples (full professor, tenured, startup grant,…). Pocas universidades públicas tienen la flexibilidad de ofrecer algo así, que en otros países podrían criticarse como «elitistas» o «privilegiadoras».

Binghamton tuvo una tradición en el estudio científico de los sistemas desde tiempos cibernéticos, impulsados por George J. Klir (a quien conocí en 1999 en mi primera conferencia internacional, sobre lógica difusa en NYC), Howard H. Pattee (de quien había leído artículos desde principios de siglo), y más.

Recientemente, ha crecido el estudio de sistemas complejos en Binghamton, impulsado principalmente por Hiroki Sayama (ambos hicimos posdocs en NECSI). Hace un par de años, Luis Rocha (estudiante de Klir) también se unió al departamento. Ahora, Sadamori Kojaku y yo nos incorporamos, y hay nuevas plazas por anunciarse.

Sigo manteniendo relaciones con la UNAM, donde todavía tengo varios estudiantes de posgrado, y con el Santa Fe Institute. Por acá ya está creciendo un nuevo grupo de estudiantes, con quienes seguiremos trabajando en varios temas relacionados con sistemas complejos. En particular, estaré aplicando inteligencia artificial a salud.

Mi libro sobre Balance va avanzado, espero tener una primera versión hacia fin de año.

Perros ladren

“Si los perros ladran, Sancho, es señal que cabalgamos” —Ruben Darío

Esta frase quijotesca se usa para ignorar a críticos corroídos por la envidia, inflamados por la ira o abrumados por la ignorancia. Dejad que vociferen, nosotros conocemos el camino. Sin embargo, es preocupante cuando quienes tienen esta posición — despreciando a los “perros” que avisan sobre el peligro inminente — avanzan hacia un precipicio arrastrando a todo el país con ellos.

No escuchar a quienes alertan que el barco se está hundiendo es síntoma de peligrosa soberbia, con riesgo de zozobra. Entiendo que es difícil conversar con “adversarios”, pero el objetivo debería de ser el bienestar del país, no “ganarle” a los “conservadores”. Desafortunadamente, en México sufrimos esta situación en los poderes tanto legislativo como ejecutivo.

El peligro es el mismo que enfrenta cualquier sistema sin retroalimentación: al no aprovechar información relevante, es imposible tomar las decisiones apropiadas en un entorno dinámico. ¿Cómo podría un termostato mantener la temperatura sin un termómetro? ¿Cómo podría un auto autónomo manejar sin un velocímetro? ¿Cómo podría un líder guiar sin escuchar al pueblo (tanto al “bueno” como al “malo”)?

Se podría argumentar que no es necedad ni ceguera. Es confianza en sí mismo. Es autoestima bien plantado. Es cambio doloroso pero necesario. Es cuestión de tiempo. No importan las etiquetas que usemos. Lo relevante son los hechos. Los motivos principales por los que AMLO y Morena ganaron las elecciones en 2018 no se han resuelto. En algunos casos han mejorado, en otros empeorado, pero seguimos teniendo graves problemas en desigualdad, violencia, corrupción, salud, educación, etc. Y se han generado nuevos problemas. Podría enumerarlos, pero los más relevantes relacionados con este artículo son las descalificaciones a quienes critican al gobierno y la aprobación de leyes preocupantes.

No podría asegurar que si el gobierno escuchase a sus críticos ya no tendríamos problemas. Pero es sensato argumentar que tendríamos amplias oportunidades de mejorar diversas situaciones. Más aún, habría un intento por reducir la polarización del país, lo cual es necesario si se pretenden resolver problemas nacionales. Simplemente, sin escuchar a los que piensan diferente no habrá posibilidad de éxito, ya que se necesita el apoyo de la mayoría. En contraste, el circo mañanero aprovecha la influencia del presidente para dividir todavía más al país. 

Sabemos que no sabemos medir riesgos (escribí en estas páginas sobre el “riesgo de la ruina” en marzo de 2020 cuando empezaba la pandemia). ¿Qué podría pasar de malo? Sólo son “chillidos de marrano”, el país va bien. No sean alarmistas ni conspiracionistas. Cómanse un snickers. Pero admitamos que muchas tragedias no suceden de manera gradual, sino súbita. Las causas se van acumulando, hasta que se produce una avalancha. Después, lo único que podemos hacer es recoger los pedazos y justificar con cualquier pretexto que lave responsabilidades.

El país se seguirá moviendo, ya sea por inercia o a la deriva. Países como Bélgica han sobrevivido sin problemas por meses sin poder ejecutivo. No estoy sugiriendo anarquía. Pero creo que podríamos estar de acuerdo en que sería preferible contar con un liderazgo inclusivo. No sólo de género u origen, sino también de ideologías.

La 4T ha impuesto un nuevo elitismo. El criterio: los que aplaudan son los buenos.  El problema es que no queda espacio para los mejores, sino para quienes no cuestionan. Puntos extra si además de aplaudir sin contemplación ni pudor, ridiculizan a los que no lo hacen.

No estoy implicando que antes las cosas eran muy diferentes. Quiero decir que tienen que cambiar.

Esto va más allá del liderazgo o de política. Es difícil que un cambio de partido o presidente tenga consecuencias más que cosméticas. Cualquier sistema sin retroalimentación apropiada no podrá adaptarse mas que al azar. Y siguiendo una “estrategia” sin guía, aumenta el riesgo de la ruina. Tenemos que explorar distintas maneras de poder incorporar la retroalimentación a distintos niveles del gobierno. Nuestros problemas son tan complejos que van más allá de las capacidades de una persona, un partido, o una corriente. Necesitamos mejores mecanismos de participación ciudadana.

https://reforma.com/MVGtZr

Fragilidad, robustez y antifragilidad

8 de noviembre de 2017

Intuitivamente, podemos decir que un sistema es frágil si un cambio pequeño genera un gran cambio en el sistema. Por el contrario, un sistema será robusto si puede resistir grandes cambios en su entorno. Por ejemplo, si construimos una torre con cubos, habrá estructuras más frágiles o robustas que otras, que resistan distintos tipos de perturbaciones, ya sea empujando la torre o quitando alguna pieza. Una torre frágil se caería con un ligero movimiento o si quito cualquier pieza. Una torre robusta necesitará más fuerza para caerse, tal vez no totalmente, y necesitaré quitar varias piezas antes de que se caiga.

Es común pensar que la robustez es lo opuesto que la fragilidad. Sin embargo, recientemente Nassim Taleb notó que la robustez es simplemente la ausencia de fragilidad. Un sistema frágil pierde funcionalidad con los cambios. Un sistema robusto mantiene su funcionalidad cuando hay cambios. Pero ¿cómo llamar a un sistema que mejora su funcionalidad cuando hay cambios? Taleb no encontró una palabra y definió «antifrágil».

Por ejemplo, imaginen que queremos enviar un paquete por mensajería. Si tenemos dentro unas copas de cristal, le pondremos un etiquetas: frágil, manéjese con cuidado, no golpear. Si tenemos algo robusto al manejo de paquetes, digamos una pieza de hule, no le ponemos etiquetas, porque no importa si sufre un manejo delicado o un manejo rudo. Pero si tenemos un contenido antifrágil, le pondríamos etiquetas como: agítese, tírese o aplástese. Hay pocos objetos fabricados que se beneficien (mejoren su funcionalidad) con el ruido o las perturbaciones. Pero este no es el caso cuando estudiamos distintos sistemas a nuestro alrededor.

Por ejemplo, en medicina se ha estudiado la hormesis. Podemos entender la hormesis como la habilidad de un sistema de sobrecompensar positivamente un estímulo negativo. Por ejemplo, si un bebé vive en un entorno desinfectado, no se enfermará, lo cual es positivo. Pero su sistema inmunitario no se desarrrollará tanto como el de un bebé que juega en la tierra. La exposición temprana a los microbios es benéfica a largo plazo, ya que la respuesta del cuerpo es tal, que «entrena» al sistema inmunitario para enfrentar futuras infecciones. Por supuesto, demasiada exposición a microbios es riesgosa para la salud de los bebés.

Otro ejemplo de hormesis lo podemos ver con el ejercicio. Al hacer ejercicio, incrementamos nuestro metabolismo, lo cual incrementa el flujo de oxígeno en nuestra sangre, el cual a su vez contribuye al envejecimiento de nuestras células, ya que se oxidan con el tiempo. Sin embargo, nuestro cuerpo, al detectar un incremento en la actividad cardiovascular y respiratoria libera antioxidantes, los cuales previenen el envejecimiento celular. De hecho, se liberan más antioxidantes de los necesarios para contrarrestar el incremento de oxígeno causado por el ejercicio, con lo que la actividad que en principio degradaría al cuerpo, lo protege, ya que el exceso de antioxidantes evita el envejecimiento celular en comparación de si no hubésemos hecho ejercico. Por supuesto, hay límites a la hormesis, y un ejercicio excesivo puede desgastar al cuerpo más de lo que lo podría proteger.

De manera similar a la hormesis, en biología podemos encontrar otros sistemas antifrágiles, que se benefician con el cambio, tales como el cerebro o el corazón, lo cual les permite «practicar» su adaptabilidad a los cambios del entorno y por lo tanto mejorar su funcionalidad. Pero también podemos ver ejemplos en educación y economía, donde los cambios pueden llevar al desarrollo de la creatividad en la primera y de innovación en la segunda. El arte es necesariamente antifrágil.

Entonces, ¿conviene construir sistemas, frágiles, robustos, o antifrágiles? Depende del contexto…

Sueño mexicano

¿Tenemos un “sueño mexicano”? ¿Tele, vocho y changarro, como predicó Vicente Fox? ¿Ganar el mundial? ¿Deberíamos de tener uno, aunque nos tilden de aspiracionistas? No me refiero a “misión, visión y valores” acartonados, como se buscaba en empresas hace años, sino a metas cuantificables. Me parece que sería útil discutir sobre qué es lo que deberíamos de buscar como mexicanås y como nación. De otra manera, viviremos y moriremos a la deriva de las circunstancias, sufriendo por situaciones que no buscamos, al no saber siquiera la dirección que deberíamos de seguir. 

En Estados Unidos, se habla mucho del “sueño americano”. Aunque no está bien definido, ha servido de motivación para que lås ciudadanås e inmigrantes trabajen arduamente para el beneficio de su crecimiento económico, incluyendo ideales de libertad y la búsqueda de la felicidad. Sin embargo, la presión social por tener “éxito” (el cual está todavía menos definido) ha tenido consecuencias graves para la salud mental. Curiosamente, su falta de definición hace que el sueño americano no sea alcanzable. Siempre se busca más dinero, una casa más grande, un auto más lujoso, una pareja más guapa. Esto genera una insatisfacción constante, la cual probablemente contribuya a las “muertes por desesperación” (suicidio, sobredosis, consecuencias del alcohol) que se han agravado en años recientes, especialmente en la clase media.

Es interesante que a pesar de lo problemático que es el sueño americano, es atractivo para gente de todo el mundo. Por ejemplo, en India se decía “yanqui vete a casa, pero llévame contigo”. La cantidad de migrantes que buscan entrar a Estados Unidos de distintas maneras también sugiere que muchos no llegan por atracción, sino por repulsión creada por diversas crisis en sus países de origen.

En 2012, Xi Jinping empezó a hablar sobre el “sueño chino”. Se busca una “revitalización de la nación”, que en la práctica busca continuar su crecimiento económico.

Podríamos hablar de un “sueño soviético”. Aunque no se describe en esos términos, la meta en los 1920s era la alfabetización y electrificación de todo el país. Esto logró que en pocos años se desarrollara la industria, alcanzando a ser potencia mundial, hasta el punto que logró lanzar los primeros satélites y humanos fuera del planeta. También se puede criticar el costo en los ciudadanos de este desarrollo, pero es otro ejemplo de una visión a largo plazo bien definida, aunque tal vez ejecutada sin contemplaciones. Actualmente, el “sueño ruso” se parece más al sueño americano a nivel individual, aunque a nivel estatal parecería que pretende recuperar la grandeza del imperio en tiempos de Catalina la Grande.

En muchos casos, una narrativa de “sueños” puede ayudar a que los individuos se sacrifiquen por su patria o religión. Pero ¿se podrían definir “sueños” que beneficien tanto a ciudadanås como a naciones? Por supuesto. “Simplemente” hay que considerar metas a escalas múltiples: individual, familiar, comunitaria, urbana, nacional, internacional. Estas metas deberían de promover la cooperación, no tanto la competencia, ya que si a alguna escala hay conflictos, el “sueño” podría ser contraproducente. Se requiere un balance entre lo individual y lo social. Podría verse como un problema de huevo y gallina, ya que se necesitan ciudadanås sanås y motivadås para que funcione el país, pero se necesita un país funcional para que lås ciudadanås puedan alcanzar sus metas personales.

Yo no podría definir un sueño mexicano, ya que cada persona necesita y quiere cosas distintas. Pero sí podemos acordar principios bajo los cuales la mayoría debería de poder alcanzar lo que quiere: seguridad, libertad, felicidad. La jerarquía de necesidades de Maslow ciertamente puede servir como guía, pero se requeriría de una mejor definición, no sólo de las metas de un sueño mexicano, sino de qué mecanismos nos ayudarían a alcanzarlo. El crecimiento económico ayuda, pero no es suficiente, como vemos con el sueño americano. Es claro que también necesitamos promover el bienestar mental y social, pero desafortunadamente no tenemos las herramientas adecuadas. Pero no es pretexto para no empezar a probar tanto como podamos. Sólo intentando y aprendiendo de los errores encontraremos no sólo el sueño mexicano, sino el camino para alcanzarlo.

https://reforma.com/VggYdr