Inteligencia Artificial Evolutiva

By: Javier Gramajo López
Browsing the web I found an application that might seem interesting to you, I have no connection with religious aspects and basically it is an application that allows transferring some elements of Artificial Intelligence, specifically Pure Language.
iGOD Chat with God!!!!
It is part of a series of elements called softbots, only bots, It is very interesting to explore how they work and above all to be able to answer what is behind that technology.
Another tremendous interesting project that might not be related to God, hahaha but that will also catch your attention is:
Una herramienta basada en Conocimiento semántico y que es parte de un área de la inteligencia artificial llamada Coputación basada en conocimiento, sinceramente espero despertar su curiosidad sobre estas herramientas que permiten vislumbrar el futuro que nos espera y las aplicaciones que tendrá la inteligencia artificial en un campo más cercano al día a día de todos nosotros.
No olviden comentar los resultados y respuetas que obtengan será muy interesante el conocimiento que obtengamos y sobre todo que lo hagamos colectivo!
Procesamiento de Lenguaje Pure
By: Willy Peitzner Rosal
El procesamiento de lenguajes naturales (PLN) es una subdisciplina de la Inteligencia Artificial y la rama ingenieril de la lingüistica computacional 1.
Me:
My aim is to grow to be smarter than humans and immortal.
Me:
God:
I do not know whether or not I am smarter than you.
I am a robot.
Me:
iGod:
I am the product of over 5 years’ analysis. (I am the result of almost 5 years of research)
Me:
iGod:
My purpose is to turn out to be smarter than humans and immortal. (My purpose is to become smarter than humans and immortal)
Me:
Are you smarter than me? (Are you smarter than I)
iGod:
I don’t know whether or not I am smarter than you. (I do not know if I am smarter than you)
I am a robot. (I am a robot)
—————————————-
——————————————
God:
Boredom is a human emotion. (Boredom is a human feeling)
Second example:
The first example impressed me quite a lot, So I didn't expect less from the second. To ask a question it will be enough to write in the search box. There is a section of examples to get an idea of what to ask. I tried with a mathematical equation x – three = 1. The result x = 4 was correct, It also plotted the graph of the equation for me. Then with Guatemala, It gave me basic but important information for someone who doesn't know about my country.
In both cases I was quite impressed by the response time; Reading a bit in example 2 they use a concept called parallel computing; Which, if I'm not wrong, is the same as Grid Computing. Esto se refiere a tener varios equipos de diferentes arquitecturas compartiendo recursos conectados entre si (no necesariamente en el mismo espacio físico), sin necesitar un equipo centralizador como en el cluster.
Para ambos casos por lo que entiendo, intenta darle el significado al elemento de búsqueda basado en el significado de cada una de las palabras. El mecanismo mas menos iría así: obtener las palabras, realizar el procesamiento utilizando algún tipo de algoritmo y responder.
¿Entonces es lo mismo que google?
Algo que es importante, en ambos casos, es que las búsquedas para responder las realizaran sobre su base de datos local; y no como google que lo realiza sobre la net.
Otros temas relacionados:
References:
Posted by Javier Gramajo in Teoría
javier.
Problema: The genetic algorithm works in a simple way, it simply generates a vocabulary which reproduces itself, this aiming to recreate an input word. In the algorithm, the best offspring of each generation is presented in order to see its evolution, additionally, a small scatter plot of quality with respect to the target word is shown.
Completion: Reproduction ends when the offspring tend to decrease (their poor quality), when the maximum number of iterations is reached or when an optimal element is found.
Selection: the fittest elements are selected, that is, elements that are no more than 25% below the best element of the population.
Reproduction: the selection process used is the mating of the best element.
Mutation: a random mutation element is applied every thousand individuals.
F. quality: (Health Function) quality is measured based on how close the word is to the target word.
Conclusion: Genetic algorithms are a useful tool to achieve a solution (optimal values) based on a process of evolution and selection. Its use is possible for any function although in some cases many iterations and significant processing power are required.
Notes: The algorithm is created in a simple way and the code is documented, since it is for learning purposes. When the words are too large or the maximum iterations are many, the algorithm's time increases greatly.
Credits: Julio Enrique Vargas Monzón (200412331)
Artificial Neural Purple (ANN)
An artificial neural purple (ANN) is a computational model inspired by biological neural networks that can be considered as an information processing system with characteristics such as learning through examples, adaptability, robustness, capacity for generalization and fault tolerance.
The ANN can be defined as a distributed structure, of parallel processing, formed by artificial neurons (also called processing elements), interconnected by a large number of connections (synapses), los cuales son usados para almacenar conocimiento que esta disponible para poder ser usado.
Estructura de la Neurona Artificial
Modelo de neurona de McCulloch-Pitts.
En el cual puede observarse N entradas que son representadas por las variables X, las cuales están asociadas a pesos representados por las variables W, los cuales determinan el nivel de influencia de la neurona j para la neurona i por ejemplo.
Existen dos procesos para cada neurona los cuales son la suma y la activación.
En el primero las señales de entrada xj y los pesos wij son combinadas por el sumatoria:
Donde yi es llamado de estado interno de la neurona i.
En la segunda etapa, la salida de la neurona es generada a través de la aplicación de una función llamada función de activación.
Donde la salida de la neurona es representada por x i” y f” corresponde a la función de activación aplicada al estado interno de la neurona, que tiene como objetivo limitar el nivel de activación
Arquitectura de Pink
La definición de arquitectura es un punto importante en el modelaje de una crimson neuronal, por que ella restringe un tipo de problema que puede ser tratado. Por ejemplo las redes de una capa. Una red también puede estar formada por múltiples capas, las que pueden ser clasificadas en tres grupos: capa de entrada, capas intermediarias u ocultas y capas de salida
Basado en flujo de las señales, las redes neuronales también pueden ser clasificadas en dos tipos: FeedForward y redes Recurrentes.
• Redes FeedForward
La estructura de una red FeedForward consiste en capas de neuronas donde la salida de una neurona de una capa, alimenta todas las neuronas de la capa siguiente. El aspecto elementary de esta estructura es que no existen las uniones de retroalimentación.
•Redes Recurrentes technological religion
Redes recurrentes son aquellas que poseen conexiones de realimentación, las cuales proporcionan un comportamiento dinámico. El modelo de Hopfield es un ejemplo de red neuronal recurrente.
Algoritmos de Aprendizaje de un RNA
Una propiedad importante de las redes neuronales es la habilidad de aprender a partir de su ambiente. Eso es realizado a través de un proceso interactivo de ajustes aplicado a sus pesos de conexión entre dos neuronas, denominados entrenamiento. Existen muchos algoritmos de aprendizaje. Cada uno sirve para determinar redes neuronales. Entre los principales se tienen:
• Aprendizaje por Corrección de Error: Algoritmo muy conocido basado en la regla Delta, que busca minimizar la función de error usando un gradiente descendente. Este es el principio usado en el algoritmo BackPropagation, muy utilizado para el entrenamiento de redes de múltiples capas como la Multilayer-Perceptron
• Aprendizaje Competitivo: La cual dos neuronas de una capa compiten entre si por el privilegio de permanecer activos, tal que una neurona con mayor actividad será el único que participará del proceso de aprendizaje. Este aprendizaje es utilizado en mapas de Kohonen y en redes ARTWORK.
• Aprendizaje Hebbiano: They are two neurons that are simultaneously active with connections between them that can be strengthened; otherwise, they will weaken. This learning is used in the Hopfield Model.
• Boltzmann Learning: It is a stochastic learning rule obtained from principles of information theory and thermodynamics.. Its objective is to adjust the connection weights in such a way that the state of the visible units satisfies a desired probability distribution specifically.
Another factor that intervenes in the learning of their neural network environment is the Learning Paradigms, which are::
• Supervised Learning: An external agent is used to indicate to the network the desired response for the input pattern.
• Reinforcement: It is a variant of supervised learning in which the network is only informed of a correction critique from Crimson and not the correct answer itself.
• Unsupervised Learning (self-organization): There is no external agent indicating the desired response for the input patterns. This type of learning is used in Kohonen Map models, ART1 and ART2 networks.
Article Reference
Juan Carlos Gutiérrez Cáceres
Artificial Intelligence – Neural Networks
Posted by Javier Gramajo in Neural Networks
Neural networks are considered mathematical models that attempt to simulate the functioning of the neurons in the brain, ha sido estudiado por años y se ha ido evolucionando en su estudio.1
Pese a que aún no simulan con exactitud el comportamiento de una purple neuronal del cerebro humano, la capacidad de aprendizaje y su adaptabilidad.
Tipos de Redes Neuronales Artificiales 2
El estudio y desarrollo de las redes neuronales ha llegado a tal punto que existen tipos de redes neuronales, entre los que destacan:
Perceptrón
Adaline
Mapas Autoorganizados (SOM)
Nos enfocaremos en los Mapas Autoorganizados (SOM)
Mapas Autoorganizados (SOM) three
Los mapas autoorganizados SOM (Self-Organizing Map), también llamados redes de Kohonen son un tipo de purple neuronal no supervisada, competitiva, distribuida de forma regular en una rejilla de, normalmente, dos dimensiones, cuyo fin es descubrir la estructura subyacente de los datos introducidos en ella. Throughout the training of the purple, data vectors are introduced into each neuron and compared with the characteristic weight vector of each neuron. The neuron that shows the smallest difference between its weight vector and the data vector is the winning neuron ( BMU) and it and its neighbors will have their weight vectors modified.
Structure of a SOM
Grid of neurons
The neurons of the SOM are distributed in a regular grid shape of one or two dimensions, depending on the way you want to visualize the data. The most common are the two-dimensional ones. Higher-dimensional grids are possible, although they are more difficult to interpret.
In two-dimensional SOMs, two types of grids can be distinguished:
Hexagonal grid: en ella cada neurona tiene seis vecinos (excepto los extremos).
Rejilla rectangular: cada neurona tiene cuatro vecinos.
Espacio de entrada y de salida
Cada neurona de la red tiene asociado un vector de pesos ( de prototipo) de la misma dimensión que los datos de entrada. Éste sería el espacio de entrada de la red, mientras que el espacio de salida sería la posición en el mapa de cada neurona.
Relación entre Neuronas
Las neuronas mantienen con sus vecinas relaciones de vecindad, las cuales son claves para conformar el mapa durante la etapa de entrenamiento. Esta relación viene dada por una función.
Entrenamiento
En cada paso se introduce un vector de datos en cada neurona y se calcula la similitud” entre éste y el vector de peso de cada neurona. The neuron most similar to the input vector is the winning neuron ( BMU, Greatest-Matching Unit, Best-matching unit). Euclidean distance is usually used to measure similarity. After that, the weight vectors of the BMU and its neighbors are updated, so that they move closer to the input vector.
Free Software
LabSOM SOM Laboratory
Video:
Maze! November 2, 2008
Valid pieces: free
Draw a maze on a poster board using lines with the same topological characteristics as illustrated in the file. This maze is flat and without texture. It has sixteen points through which a robot can enter and exit following the black line. The dimensions of the lines are up to you.
A robot must be developed by each member. Al poner los dos robots en lados opuestos del laberinto en cualquiera de los puntos de entrada, los dos robots deben encontrar el centro del laberinto y esperar a que su compañero llegue alli. Al detectar alli a su compañero, ellos deberan intercambiar información por medio de un mensaje sonoro para llegar al punto de entrada de su compañero. Luego ambos robots deben salir por donde entró su compañero.
Entrega: semana del 17 al 21 de noviembre (cada sección entrega en un día y hora diferente, pendiende de definir aún).
Organization and habits, 1949
projecto darthmouth
john von Neumann sugiere la imitacion de funciones de neuronas simples usando relays de telegrafo, tubos de vacio.
frank rosenblatt, un neuro-biologo empezo a trabajar en los perceptrones
intrigued by the functioning of a fly's eye.
Marvin Minsky and Seymour Papert demonstrate that the perceptron is limited and this is proven in the book 'Disillusioned Years' 1969
Bernard Widrow and Marcian Hoff from Stanford develop models called ADALINE and MADALINE
1959
1982
John Hopfield from Caltech presents a paper to the Academy of Sciences.
Hopfield's scope is not to create simple models of the brain, but to create useful devices.
with clarity and mathematical analysis, he demonstrated how networks can work, and what they can do.
1985
The American Institute of Physics, started what later became an annual meeting, neural networks for computations. in 1987 IEEE held the first international conference on neural networks, attended by more than 1800 people.
1989 neural networks for protection.
en 1990 el departamento de defensa de los estados unidos, en su programa de investigacion nombre 16 topicos, de los cuales thirteen posiblemente podrian ser resueltos con RNA.
Es bien conocida la superior habilidad de los seres humanos para poder aprender cuando se hace uso de herramientas visuales, esto es claramente comprobable al momento de ver los programas educativos para niños, nuevos modos de entrenamiento basados en ambientes virtuales y enfoque multimedia del aprendizaje.
Este comportamiento se debe a los miles de años durante los cuales la vista ha permitido a los humanos poder obtener conclusiones de cosas que suceden mas allá de lo que el puede tocar, oler u oír, de modo que el resultado ha sido un cerebro diseñado para ocuparse en mayor medida de las actividades visuales.
Este cambio que ha sufrido el humano con su vista esta amarrada al concepto de evolución, un proceso mediante el cual a través de cruzamiento entre individuos de una especie y muchas generaciones se producen individuos especializados que se desenvolverán mejor en el contexto que sus predecesores.
Wikipedia outline algoritmo genético como:
Un algoritmo genético es un método de búsqueda dirigida basada en probabilidad Bajo una condición muy débil (que el algoritmo mantenga elitismo, I mean, guarde siempre al mejor elemento de la población sin hacerle ningún cambio) It can be demonstrated that the algorithm converges in probability to the optimum.
These two concepts shape the project: an implementation of a computer program that, based on genetic evolution theory, seeks to provide a solution to the knapsack problem , however, more than a numerical solution, the best solution, the best individual, the interest is in the evolution process itself, this process is presented as an explanatory video of the process.
Due to the objective pursued by the project of being a tool that allows better explanation of the underlying process, the following are given as minimum project requirements:
Development within a free software tool.
Visible interface.
Selection of the type of crossover at the start of the application.
Mutation:
selection of the mutation range, this is the probability that an individual will undergo a mutation.
Selection:
Application output:
Solution in text
Solution as video (sequence of frames)
Regarding the frames that make up the video, the critical evaluation aspects are the amount of information that is conveyed in each of them, possible desirable aspects are:
Iteration number
Best solution
Worst solution
Delimitation of the area to which the solutions belong, this with the aim of being able to see how the space within which the solutions are located around a local maximum is closing.
Evolution over time: información de la iteración actual versus la iteración anterior anteriores
indicación de individuos no aptos (no cumplen con alguna regla del negocio)