Redes Neuronales Artificiales

Redes neuronales artificiales

Resumen

Fundamento - En este trabajo se estudian las bases que permiten comprender la teoría detrás de las redes neuronales artificiales desde su motivación biológica hasta su implementación. Inicialmente se analiza el cerebro y la neurona como inspiración y modelo para luego explicar los componentes de una red neuronal artificial y en función de estos clasificarlas. Por ultimo se analizan diferentes opciones de implementación y se contrastan los modelos analógicos y digitales.

Metodología - La elaboración de este documento implico el estudio y contraste de material de diversas fuentes y con varios años de diferencia, siendo mas difícil obtener material del comienzo de los 70_s y mediados de los 90_s, debido al estancamiento de los avances en los modelos vigentes en cada época. Sin duda para esta tarea el acceso a Internet como herramienta fue imprescindible.

Resultados - Se establece al perceptron como un modelo simple y claro pero con la gran limitante que solo permite trabajar problemas linealmente separables, lo que significo una época gris en la investigación. Esta situación se revierte con el advenimiento de las redes multicapa que implementaban nuevos algoritmos de aprendizaje y la posibilidad del modelado no lineal, los cuales a pesar de requerir de mucho tiempo de entrenamiento y grandes cantidades de datos etiquetados han generado excelentes herramientas que se emplean en todos los campos.

1. Introducción

El campo de las redes neuronales artificiales fue inspirado por los estudios en redes neuronales reales que conforman el cerebro, en un intento por resolver problemas mediante el empleo del conocimiento obtenido de casos similares resueltos en el pasado. No por eso su conducta es igual a la del cerebro, pero si se busca emular ciertas cualidades destacables de este, las cuales no se alcanzan con computadoras estándar.

2. El modelo Biológico

Figura 1: Redes neuronales, en el cerebro, estas son altamente complejas.

El cerebro como sistema de procesamiento de información posee en el orden del billón de células nerviosas, donde cada neurona esta conectada a otras neuronas a través de unas 10000 sinapsis. Algunas de sus propiedades de interés son:

La capacidad, que poseen partes sanas, de aprender a encargarse de tareas anteriormente realizadas por partes ahora dañadas.

Su capacidad de aprender de la experiencia (lo cual es una propiedad clave).

Realiza de forma muy eficiente cálculos masivamente paralelos, como la percepción visual que ocurre en menos de 100 milisegundos.

Es responsable de nuestra memoria, intelecto y conciencia de existencia.

El elemento constructivo y unidad básica procesadora de esta red neuronal es la neurona. Su estructura, como se muestra en la Figura 2, es básicamente un cuerpo celular, o soma, que alberga el núcleo y del cual se extienden las dendritas (terminales receptoras) y el axón (elemento transmisor). La unión entre el axón y la dendrita de dos neuronas se llama sinapsis. La comunicación entre neuronas se basa en la activación de terminales bioquímica en el extremo del axón, que liberan neurotransmisores que son captados por la dendrita. La experiencia en cierta tarea o estimulo produce que las sinapsis correspondientes se refuercen de forma exitatoria o inhibitoria.

Figura 2: Esquema elemental de una neurona.

3. Comparación entre cerebro y computadora

Cuadro 1: cerebro vs computador.

Unidades procesadoras Tamaño de las unidades Consumo Frecuencia de Trabajo * Aprendizaje

Cerebro 〖10〗^14 Synapsis 〖10〗^(-6)m 30 W Cientos de Hz Si

Computador 〖10〗^8 Transistores 〖10〗^(-6)m 30 W Unidades de GHz Poco

* Los problemas de índole aritméticos no hay duda que son mejor manejados por los computadores, sin embargo hay tareas como el reconocimiento de patrones y comprensión del lenguaje en las que el cerebro es mejor en términos de velocidad de procesamiento.

4. Modelo de redes neuronales artificiales

Las redes neuronales artificiales son motivadas por ciertas cualidades de su modelo real, por lo cual el desafío es producir un modelo que tenga:

1. Una estructura de procesamiento distribuida y paralela (opuestamente al CPU de una computadora).

2. Alto grado de conexión entre las unidades básicas.

3. Conexiones modificables en función de la experiencia.

4. Un proceso de aprendizaje constante y de ser posible uno no supervisado

5. Aprendizaje basado en información local.

6. Robustez en la performance si algunas unidades son removidas

5. Elementos de una red neuronal artificial

El elemento fundamental de una red neuronal es la "neurona", también denominada "nodo", cuyo modelo puede verse en la Figura 3. En ella, la suma de las n entradas xj de la neurona i, ponderadas con los pesos sinápticos wij, genera la entrada ponderada total o "potencial postsinaptico" de la neurona i. Los pesos sinápticos wij miden la intensidad de la interacción entre las dos neuronas que están conectadas por el enlace. Posteriormente, se aplica una función de activación o transferencia (f ) a la diferencia entre el "potencial postsinaptico " y el umbral ϕi, obteniéndose la salida de la neurona (yi ).

Figura 3: Modelo para neurona artificial o Perceptron simple

Donde yi(t) = f(∑_(j=1)^n▒〖WijXj- ∅i〗) es el modelo matemático mas elemental. La función de activación f() se suele considerar determinista, y en la mayor parte de los modelos es monótona creciente y continua. La forma yi(t) = f(x) de las funciones de activación mas empleadas en las redes neuronales artificiales se muestra en la siguiente tabla, donde x representa el potencial postsinaptico e y el estado de activación. Este modelo de neurona, también llamado Perceptron, fue el primer modelo de red neuronal (1957) que le abrirá las puertas a las primeras investigaciones. En 1969 se demuestra matemáticamente que solo puede implementar funciones linealmente separables, lo cual trae consigo siete años de estancamiento.

Figura 4: Algunas de las funciones de activación mas empleadas.

Un sistema eléctrico discreto que implementa en hardware el modelo matemático descripto es:

Figura 5: Modelo electrónico con componentes discretos.

Las neuronas artificiales se pueden estructuran

...