martes, 22 de noviembre de 2016

Hacia una integración del Deep Learning y la Neurociencia

"A ninguno de nosotros le gusta el pensamiento de que lo que hacemos depende de procesos que no conocemos; preferimos atribuir nuestras elecciones a la voluntad, el libre albedrío, el autocontrol…Quizás sería más honesto decir: “Mi decisión fue determinada por fuerzas internas que desconozco“ 
(Marvin Minsky) 

Dice Marvin Minsky en su cita que deberíamos ser honestos y humildes y aceptar el hecho de que nuestras decisiones son siempre determinadas por "fuerzas internas" que en realidad desconocemos; y es cierto, pero quizás habría que añadir un: por ahora. Algún día las ciencias de la computación y la neurología convergerán y podrán responder entonces con sumo detalle al modo en que esos procesos internos funcionan y guían nuestros actos en la sombra.

De hecho, hace unos días terminé de leer un grandioso paper (de casi 40 páginas de contenidos, más otras tantas indicando todas las referencias utilizadas) publicado por los científicos miembros del equipo de investigación de Google DeepMind: A H Marblestone, G Wayne, K P Kording. 

El paper se titula: "Towards an integration of Deep Learning and Neuroscience"[1] y el propio título lo dice todo. Estos neurocientíficos que participan activamente en Google junto a ingenieros y a doctorados en ciencias de la computación, están realmente dando unos muy importantes pasos en la comprensión del cerebro humano (y de la mente emergente tras su proceso físico); y lo hacen desde una nueva e interesante perspectiva: la gradual convergencia entre la neurología y las ciencias de la computación. Se propone un trabajo  de investigación de ayuda mutua y bidirectional entre ambas disciplinas del saber científico...¡y los avances acontecidos fundamentalmente en los últimos 5 años indican que la cosa parece que funciona bastante bien!

Cada vez se aprende más sobre nuestro cerebro directamente a partir de los avances en las ciencias de la computación, gracias en parte a la ayuda informática en la experimentación neurológica, y también de manera directa mediante la proyección de los éxitos en Machine Learning como guía sobre el modo en que podría funcionar nuestro cerebro; y por otra parte, cada vez se aprende más sobre como construir y mejorar nuestros modelos informáticos para habilitarlos con habilidades humanas (e incluso sobrehumanas) mediante la aplicación directa a la computación de cada nuevo descubrimiento acontecido en neurociencia.

Si el ritmo de descubrimientos en ambas disciplinas continua al ritmo actual, es muy probable que no más tarde de 30 o 35 años habremos logrado la tan ansiada convergencia, y seremos entonces capaces de generar conciencias artificiales mediante técnicas de computación, al mismo tiempo que habremos por el camino resuelto los "misterios" neurológicos que permiten nuestra propia consciencia personal.


No cabe duda de que aún quedan décadas por delante de duro trabajo, pero el camino ya está muy claro y se avanza directo hacia el tan ansiado premio (siendo este paper[1] en particular es una clara muestra de todo ello). En este sentido, es apasionante poder observar día a día este continuo proceso de verdaderos avances científicos remarcarles (más aún cuando muchas otras ramas científicas se encuentran desde hace años ya estancadas, destacando entre ellas la física). Hoy por hoy, todo aquel privilegiado capaz de entendérselas con estas dos disciplinas antes mencionadas, puede disfrutar del placer de seguir (e incluso participar) en un desarrollo científico de una importancia tan grande como la que aconteció en la ciencia física en los primeros 35 años del siglo XX.

Os dejo por último el abstract del paper que os comento por si os pica la curiosidad y le metéis mano a su lectura completa:

"Neuroscience has focused on the detailed implementation of computation, studying neural codes, dynamics and circuits. In machine learning, however, artificial neural networks tend to eschew precisely designed codes, dynamics or circuits in favor of brute force optimization of a cost function, often using simple and relatively uniform initial architectures. Two recent developments have emerged within machine learning that create an opportunity to connect these seemingly divergent perspectives. First, structured architectures are used, including dedicated systems for attention, recursion and various forms of short- and long-term memory storage. Second, cost functions and training procedures have become more complex and are varied across layers and over time. Here we think about the brain in terms of these ideas. We hypothesize that (1) the brain optimizes cost functions, (2) these cost functions are diverse and differ across brain locations and over development, and (3) optimization operates within a pre-structured architecture matched to the computational problems posed by behavior. Such a heterogeneously optimized system, enabled by a series of interacting cost functions, serves to make learning data-efficient and precisely targeted to the needs of the organism. We suggest directions by which neuroscience could seek to refine and test these hypotheses."

Un saludo a todos.

Referencia principal:

[1] "Towards an integration of Deep Learning and Neuroscience"
Authors: A H Marblestone, G Wayne, K P Kording (http://biorxiv.org/content/early/2016/06/13/058545)

No hay comentarios:

Publicar un comentario en la entrada