Todas las maravillas de nuestro universo pueden ser capturadas por reglas simples, a pesar de que […] no hay manera de conocer todas las consecuencias de estas normas, salvo contemplándolas y observando cómo se desarrollan.
Stephen Wolfram
En nuestra búsqueda e indagación por la inteligencia de las máquinas, hemos terminado casi siempre por imponer lo que pensamos es nuestro propio proceder en ellas. Como padres consentidores, incrédulos ante las capacidades de sus hijos aún tiernos, acabamos por colocar en bandeja de plata el mundo a sus pies de forma que, sin esfuerzo, sean capaces de acceder a él y sus beneficios.
Si deseamos que caminen, las tomamos de la mano, señalando oportunamente la senda que deben seguir. Si van a mantener una conversación, pacientemente les indicamos lo que deben decir. Ante un problema determinado, planificamos su actuar y pensar.
En realidad, lo que hacemos con las máquinas es aún más burdo que eso. Con grandes esfuerzos hemos conseguido que sepan discriminar entre un conjunto arbitrario de objetos. Con todo, ese logro se encuentra restringido a circunstancias y entornos controlados. Un cambio no demasiado grande, un paso más allá de tales condiciones, y nuestros ingenios tienden a fallar estrepitosamente.
Los intentos más exitosos al respecto consiguen grandes resultados a un costo que implica una ingente cantidad de datos y potencia de cómputo. Más de la que, quizá, habíamos contemplado hace algunas décadas. Un ejemplo de ello lo podemos encontrar en (Karpathy y col., 2014)(1) para la clasificación de secuencias de video, o en (Girshick, Donahue, Darrell, & Malik, 2014)(2) para la clasificación de imágenes fijas, que involucran modelos extraordinariamente grandes, consistentes en redes neuronales compuestas por una gran cantidad de elementos, con una sofisticada y enrevesada disposición entre ellos. Sin embargo, estos tan sólo son algunos casos entre muchos otros.
¿Acaso lo que parece simple a nuestros ojos es en realidad un proceso de alta complejidad? Eso no lo duda nadie. ¿Cómo abordar dicha problemática? Una «desventaja» que concierne a las redes neuronales en particular, y a los sistemas complejos en general, es su cualidad para funcionar como «cajas negras». Entiéndase tal frase como nuestra incapacidad para comprender con claridad qué sucede exactamente ahí dentro. Una red neuronal, convenientemente entrenada, es capaz de predecir o clasificar valores con alta precisión. Sin embargo, nunca nos queda claro exactamente cuáles fueron los criterios que el sistema empleó para realizar su labor.
¿Es una falla del sistema?, ¿una debilidad de la metodología empleada? O por el contrario, ¿es una fortaleza? ¿Hasta dónde está justificado querer entender los criterios que utilizó el sistema para clasificar, predecir o calcular? La problemática que acarrea tal pregunta nos traslada a reflexiones filosóficas profundas que no pueden ser desatendidas.
Uno de los ejemplos más simples a este respecto es la discusión a la que puede conducirnos preguntar «¿qué es una silla?». Esta interrogante, de aparente simplicidad, nos revela las limitaciones que tenemos al momento de «atrapar» o «definir» a una entidad en términos capaces de ser expresados de forma sencilla por cualquiera de nosotros.
La RAE define «silla» como un «asiento con respaldo, por lo general con cuatro patas, y en que solo cabe una persona» (RAE, 2014)(3), aunque parece una respuesta válida a primera vista, pronto revela sus carencias. Un sillón la cumple, y ninguno de nosotros diría que es una silla. Siendo el caso, ¿qué pasaría si dos niños pequeños fueran capaces de sentarse en lo que llamamos «silla»? La definición restringida al número de personas tampoco es completamente satisfactoria, y todavía la siguen cumpliendo multitud de objetos que no llamaríamos «silla».
Puestos a analizar las cosas, pronto descubrimos que seríamos capaces de llamar «silla» a cosas que ni siquiera sirven para que un ser humano se siente, como aquellas diminutas que habitan las casas de muñecas utilizadas por nuestros niños cuando juegan. ¿Qué es entonces una silla? Algo seguramente difícil, más no imposible, de reducir a un conjunto de sentencias verbales que la describan. Aún si necesitáramos cientos, miles o millones de ellas.
La simpleza del concepto «silla» es aparente. Se encuentra en función de miriadas de variables, muchas de ellas seguramente anti-intuitivas o absurdas vistas de manera aislada. Tal concepto, como todos los demás que usamos en la vida diaria, es la consecuencia de una compleja interacción que existe entre otros conceptos, percepciones y pensamientos, que a su vez son la consecuencia de otros tantos. Y así, hasta llegar al nivel más bajo, el asociado a la recepción de los estímulos provenientes del mundo exterior a través de los sentidos.
¿Por qué insistimos en la validez de las definiciones simples que nos creamos? Una posible respuesta quizá se encuentre en la capacidad para racionalizar la información que recibimos o generamos nosotros mismos. Al respecto, se pueden mencionar las investigaciones realizadas en personas con cerebro dividido. Estos individuos, los cuales han sufrido la separación de sus hemisferios cerebrales por medio de la cirugía, presentan una condición que hace considerar seriamente que las dos mitades de su cerebro trabajan por separado, ignorantes cada una de los estímulos y maquinaciones de la otra (Gazzaniga, 1967)(4). Por ejemplo, si es presentada una imagen diferente a cada hemisferio, y luego se solicita al individuo elegir entre un grupo de otras imágenes alguna relacionada con las anteriores, se harán dos elecciones, cada una en correspondencia con las dos mostradas. Al cuestionar al sujeto por sus preferencias, el hemisferio izquierdo (que es quien responde por residir ahí la habilidad del habla), crea una interpretación inventada enteramente por él sobre la razón por la cuál se eligió la figura escogida por el hemisferio derecho. Dicho paciente (o hemisferio) cree sinceramente su propia explicación, que en realidad es creada a posteriori, una vez expuesto a la imagen elegida (Gazzaniga, 1995)(5).
Cuando construimos la definición de un objeto, ¿caemos en la misma trampa? ¿Es posible que las descripciones que nos inventamos sean mentiras creadas a posteriori por nosotros mismos, que poco o nada tengan que ver con el verdadero entramado mental que les da origen? ¿De qué otra forma podríamos insistir en creer que una silla es un «asiento con respaldo, por lo general con cuatro patas, y en que solo cabe una persona», a pesar de la abrumadora evidencia en contra de la validez de tal afirmación?
Hay un paralelismo conceptual entre las definiciones verbales que dan cuenta de un objeto y las expresiones matemáticas que establecen los límites de una clase, en tareas de clasificación y aprendizaje de máquina. Expresiones simples establecerán limites sencillos para las clases, que tal vez no capten los matices y sutilezas propios de los objetos que se trate, o de los estímulos provenientes de ellos que la máquina recibe, o de esas cosas que a cierta persona «jamás se le habrían ocurrido», que sin poder explicarlas cabalmente, las entendemos todos de una u otra manera.
Quizá por la dificultad que representa para nosotros pensar en varias cosas simultáneamente, tengamos problemas para concebir de manera precisa el resultado que emerge de la interacción de muchos elementos entre sí actuando al mismo tiempo. Lo que solemos hacer es encadenar nuestros pensamientos y reflexiones uno detrás de otro, y las soluciones que ofrecemos a los problemas que se posan delante nuestro conservan esa estructura. Tiene sentido que la naturaleza haya desarrollado seres que piensen de esa manera, después de todo, los individuos difícilmente podemos hacer muchas cosas a la vez. Esto, quizá, nos hace miopes a la realidad cuando las interacciones y su impacto en la dinámica de un sistema se vuelven relevantes.
Sin embargo, esa complejidad e interacción resulta omnipresente. Se encuentra en las neuronas del cerebro, aquella estructura que es el modelo generador natural por excelencia de la inteligencia (cualidad que tratamos de imitar). Esa complejidad la hemos vislumbrado vagamente con redes neuronales que nosotros mismos hemos construido. Se encuentra en la danza de los números que constituyen la evaluación de un conjunto de funciones de activación actuando al unísono.
Una queja sobre las redes neuronales artificiales en particular, es su cualidad de «cajas negras». De alguna manera queremos entender cómo logra su cometido en conceptos simples para nosotros. ¿Y si tal simpleza no existe? ¿Si esa complejidad es realmente irreducible?
Pretender conocer, aprehender, o entender los criterios que un sistema considera al momento de realizar una clasificación, puede ser por sí mismo un empeño que limite su alcance, dinamismo y versatilidad, al momento de construirlas y diseñarlas. Si las interrelaciones, los conceptos y las operaciones involucradas son tan complejas, ¿es posible que aspirar a tal control o entendimiento tradicional resulte ser excesivamente ingenuo?
En la raíz de la complejidad
Esta visión reduccionista que empleamos al momento de abordar la naturaleza, es herencia de nuestros éxitos pasados. Los cimientos de nuestro conocimiento sobre el mundo se anclan en tal visión. La física, química, y buena parte de las llamadas «ciencias duras», tienen el implícito empeño de reducirlo todo a su mínima expresión. A encontrar o idear las reglas simples, elementales, que subyacen debajo de todo. Realmente funciona. Se han encontrado estructuras ciertamente elegantes y majestuosas, pero también es verdad que no lo hace siempre.
Hay sistemas que, sin dejar de estar dominados por reglas simples, nos revelan comportamientos complejos, irreducibles, que no parecen ser la suma de sus partes. Y esto compete, incluso, a los sistemas más simples entre los simples. Nos da cuenta de ello Stephen Wolfram con los autómatas celulares elementales (Wolfram, 2002)(6), hecho que lo ha llevado a reflexionar y sugerirnos abordar el universo computacional como algo que puede ser «explorado» y «minado», cual aventureros en busca de tierras lejanas.
Aunque es muy difícil definirlo en forma sencilla, entiéndase por sistema complejo aquel compuesto por múltiples entidades que «interactúan de manera tal que el comportamiento de cada elemento depende […] de otros elementos. Es por estas interacciones que uno no puede predecir el comportamiento […] al estudiarlos por separado» (Gershenson, 2014, p. 28)(7). Todo ello en un sentido tal, que su dinámica no pueda ser reducida a otras reglas más simples. Las interacciones producen información nueva que no se encuentra presente en los componentes individuales, pero resulta capital para el comportamiento global del sistema.
Los ejemplos típicos a este respecto son los movimientos colectivos de las bandadas o los cardúmenes, que sin poseer un control central, son capaces de expresar una dinámica colectiva compleja, como si fueran «una sola entidad». Como resulta obvio, nosotros mismos nos consideramos «una sola entidad» sólo en la medida que permanecemos indiferentes a la existencia de las células de nuestro cuerpo, que interactúan incesantemente, como bandadas gigantescas.
La alergia por «lo complejo» y enrevesado, incapaz de ser expresado en términos simples en su totalidad, puede traslucir un amor mal entendido a la elegancia inherente a las matemáticas y estructuras formales, y podría ser un impedimento para llevar más allá los alcances de sistemas diseñados para enfrentarse, precisamente, a lo complejo. Como es el caso de los sistemas inteligentes y la inteligencia artificial en general.
- Karpathy, A., Toderici, G., Shetty, S., Leung, T., Sukthankar, R., & Fei-Fei, L. (2014). Large-scale video classification with convolutional neural networks. En Proceedings of the IEEE conference on Computer Vision and Pattern Recognition (pp. 1725-1732).
- Girshick, R., Donahue, J., Darrell, T., & Malik, J. (2014). Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation. En The IEEE Conference on Computer Vision and Pattern Recognition (CVPR).
- RAE. (2014). Silla. En Diccionario de la Lengua Española (23.a ed.) Real Academia Española. Recuperado desde http://dle.rae.es/?id=XtQvCwh
- Gazzaniga, M. S. (1967). The split brain in man. Scientific American, 217(2), 24-29.
- Gazzaniga, M. S. (1995). Principles of human brain organization derived from split-brain studies. Neuron, 14(2), 217-228.
- Wolfram, S. (2002). A New Kind of Science. Champaign, IL: Wolfram Media. Recuperado desde http://www.wolframscience.com
- Gershenson, C. (2014). Enfrentando a la complejidad: Predecir vs. adaptar. Com plèxica: cervell, societat i llengua des de la transdisciplinarietat.
