El Chatbot Racista De Microsoft

email
Otras aplicaciones
La Prueba Voight-Kampff se utiliza para juntar evidencias para poder cribar entre seres humanos y replicantes en la película Blade Runner. Un conjunto de pruebas en una entrevista cara a cara permite observar las reacciones del individuo en estudio pensado en desenmascarar las reacciones naturales emocionales y físicas de las fingidas. Los replicantes son seres creados artificialmente a imagen y semejanza de los seres humanos. Estos humanos sintetizados tienen una vida acotada y una prohibición de ingresar a la Tierra. Cazar recompensas se abocan a su captura puesto que algunos de ellos se rebelan a su realidad.
Blade Runner es una película de Ridley Scott basado en el libro de Ciencia Ficción de Philip K. Dick “Do Androids Dream of Electric Sheep?”. One of the main themes of this fiction is the boundary between the human and the artificial. The novel blurs the borders and questions them. It takes us into areas where artificial intelligence researchers have been working for decades. The mimicry of computer programs to appear human. The book and movie explore the question of whether appearing to be a person and being able to pass as one, is enough to consider it as such.
There are, in the history of computing, famous examples and works about programs that try to simulate being human. The latest example was the well-known one introduced by Microsoft. The idea behind this development was to create a program capable of “chatting”. T. “h” e. La capacidad de interacción prometía la capacidad de dar respuestas inteligentes e ir aprendiendo mientras interactuaba. g. o “a” l “persona” w. a?
s “Turing Test”. Publicado en el articulo Computing Equipment and Intelligence ” de 1950 intenta dar con un experimento capaz de determinar si una maquina period capaz de pensar. Como el concepto “to think” no lo podía mensurar en un ejemplo, intenta transformarlo en otro que por carácter transitivo conteste su primera pregunta. Turing razona que el humano es un ser pensante y por lo tanto si un programa de computadora resulta indistinguible a una persona para un entrevistador, debe considerarse al mismo como pensante. El check de turing involucra three partes. Un juez que sin ver a los otros participantes debe decidir cual de ellos es una persona y cual una inteligencia artificial. Para hacer eso se vale de realizar una serie de preguntas y analizar las respuestas. Pasado un tiempo debe decidir cual es la computadora y cual es la persona real.
Uno de los primeros programas que se crearon teniendo en mente la posibilidad de charlar fue ELIZA escrito por Joseph Weizenbaum en 1964 (para interactuar con ella se puede entrar aquí ). Fue generada para simular ser una terapista. Tenía un set de respuestas limitado e intentaba derivar las conversaciones para que el otro charle. Se negaba a hablar sobre “ella”. Funcionalmente buscaba palabras clave dentro de lo escrito y de encontrarlas las utilizaba para seleccionar una frase prearmada con la posibilidad de personalizarla (Por ejemplo al decir “Estoy contento/triste” posiblemente reponderá “Qué le hace decir que esta contento/triste?”). Eliza de ninguna manera puede pasar el test de turing. Luego de varias sequence de preguntas y respuestas se hace evidente la falta coherencia y la repetición de elementos.
Dos chatbots interactuando entre si
Años después surgió PARRY de la mano de Kenneth Colby en 1971. En este caso este programa simulaba ser un paciente paranoico esquizofrenico. Siendo agresivo ante algunas preguntas, evadiendo algunas respuestas construyendo un discurso de persecución. Nuevamente estaba programado a reglas preestabecidas. Para probar el modelo se realizó una prueba de turing utillizando como compañeros de pruebas un conjunto de pacientes con la misma patología de PARRY. El forty eight% de los expertos que leyeron la transcripción de las conversaciones registradas entre médicos – pacientes no pudieron determinar cual era el humano y cual period la inteligencia artificial. En este caso la patología jugaba en favor del programa puesto que lograba evadirse justificar sus carencias discursivas.
Un caso comparable a PARRY se logro en 2014 con un programa llamado “Eugene Goostman” que simulaba ser un niño de thirteen años cuyo segundo idioma era el ingles (y por lo tanto podía no entender las preguntas realizadas). El 33% de los jueces no logró darse cuenta que period artificial. Estos programas crean personalidades ficticias con excusas para tener respuestas evasivas fuera de lugar. Se programan incluso para dar respuestas con humor enojo para simular respuestas “humanas”. ¿Esto los hace inteligentes?
Existen muchos investigadores de inteligencia artificial que impugnan el Take a look at de Turing. Simplemente, afirman, que se crean programas adrede que buscan engañar a los jueces y no inteligentes. Por eso se comenzaron a proponer otros tipos de retos para los programas. Un ejemplo del mismo es el ” Winograd Schema Challenge artificial intelligence blog ” propuesto por Hector Levesque. Este take a look at se enfoca en realizar preguntas concretas y sin dar la posibilidad de evasivas. Las preguntas tienen la particularidad de tener cierta ambiguedad. Para una persona real con experiencia previa son fáciles de responder. Un ejemplo:
– El trofeo no va a entrar en el bolso marron por que es muy grande. Qué era muy grande?
0. El trofeo
1. El bolso
Las interrogaciones intentan explotar ambigüedades del lenguaje. They present 2 syntactically valid answers but only one of them makes sense to a person with language comprehension. A large number of these questions have been created, which are expanded in each competition (a list here ).
People who do not pass the Turing test
Does it mean that a program that passes the Turing check and the Winograd and any other proposed is intelligent?
John Searle devised a theoretical experiment that he called “The Chinese Room”. In this test, a closed room is imagined, isolated from the outside except for a small conduit through which written texts in Chinese can enter and exit. Inside the room, there is a person who does not speak that language, pero que cuenta con un handbook de instrucciones extenso y completo que le indica reglas para cada posible entrada determinando que salida se debe emitir. El proceso comienza cuando un hablante del exterior comienza a enviar mensajes escritos y la persona dentro del cuarto comienza a procesarlos. Mirando cada mensaje recibido y siguiendo las reglas obtenidas genera un mensaje de salida. La premisa supone que las reglas son extensivas y permitan superar una prueba de Turing cualquier otra prueba que implique comprensión de texto y entrega de respuestas coherentes. Para la persona del exterior entonces existe una persona adentro que sabe hablar chino sin problemas. ¿Pero esto es así? The person on the inside cannot absolutely specify anything about the conversation in which they participated. They simply copied ideograms according to an instruction handbook.
In the same way, Can it be considered that a machine that follows instructions can understand what cooking is if it talks about a gastronomic recipe? What is poetry if it assembles a sonnet? It is simply emitting messages that it cannot really understand.
Let's go back to March 23, 2016, being disconnected for starting to emit discriminatory messages. Are we really witnessing an artificial intelligence that understands the statements it is making? Taking the Chinese room as a premise, the answer is no. Are its creators the ones who hold these thoughts? Esta segunda pregunta requiere conocer un poco más como funcionan hoy día estos programas.
Los primeros programas funcionaban con una programación prearmada. Incapaces de modificar su comportamiento de acuerdo a nuevos estímulos (interacción con otras personas). Esto los hacían limitados e incapaces de matices de una conversación. Para solucionar esto se comenzaron a utilizar otros métodos donde el aprendizaje basado en ejemplos genera un modelo desde el cual se selecciona respuestas a preguntas concretas. Existen varias aproximaciones. Desde aquellos que arman un modelo estadístico probabilístico. En ese caso se procesa la frase introducida por el autor y se buscan estadísticamente que respuesta suelen estar asociadas a las palabras ingresadas. Otras aproximaciones comienzan también a generar una pink neuronal para entrenar un modelo y decidir la respuesta en base a la salida de la purple neuronal. Este último caso es el del chatbot de Microsoft (En el paper ” A Variety-Selling Goal Function for Neural Conversation Fashions ” se explica técnicamente).
Para generar un modelo se requiere un lote de entrenamiento en forma de frases y las respuestas que estas generan. Para entrenar a se usaron grandes lotes de ejemplos previamente filtrados y ordenados sacados de una base de datos de conversaciones through twitter. Con eso armaron el modelo, lo testearon y lo pusieron en linea. Como parte del modelo y para permitir evolucionar la “personality” del mismo, siguió aprendiendo en base a sus interacciones. Inicialmente Tay daba respuestas políticamente correctas (mas allá de ser razonables en el contexto no). Microsoft acusó que un grupos de usuarios se aprovechó de la capacidad de aprender de su inteligencia artificial y comenzó a mantener conversaciones brindándole las frases racistas, xenofobas y misóginas. Tay simplemente comenzó a agregar en su modelo esas respuestas. Que a medida que se acumularon comenzaron a tener más peso en sus set de respuestas (en un artículo de ” The Verge ” se cuentan algunos de estos casos).
Existe un dicho en el ámbito informático que dice “Garbage in, rubbish out”. Es decir que si se alimenta a un algoritmo computacional con datos incorrectos, la salida del programa será incorrecto. In this case, The lack of foresight by the Microsoft team led to the outcome. Tay began to give responses “garbage” as a result of its feeding of phrases “garbage”. This major problem even hid other shortcomings of Tay. In the learning it was carrying out, in addition to learning to give reprehensible messages, it began to give contradictory concepts. Being able to support a certain position and the opposite a few conversations later. Evidently it is not aware of this. The authors are guilty, simply, of not foreseeing malice and the diversity of human opinion.
it is still offline. It will return?
Binary code is the language of computers. We build abstractions, high-level languages, but everything compiles and ends up “speaking” in binary. Zeros and ones, ones and zeros. It has been like this for years. It seems logical, it seems indisputable. but it is?
For those unfamiliar with the computer world, the concept of binary numbers is not comfortable. Why not store and work with decimal numbers? If it is the most common and simplest? We have 10 fingers on our hands, so this system with 10 symbols seems intuitive and natural to us… then why not use this system?
The McCulloch-Pitts artificial neuron: The kick-off to the current successes of neural networks
Compose classical pop music, paint an expressionist cubist painting, drive a car, play chess or Go… What do all these activities have in common? We could conjecture that they are activities that the same person could practice. Tal vez algunas con apenas rudimento y otras con gran maestría. La mayoría concordará que son habilidades humanas. Pero eso a dejado de ser así. Las inteligencias artificiales comienzan a realizar estas tareas – y otras tantas – con maestría.
La imagen que encabeza esta nota fue generada por Deep Dream una inteligencia artificial construida por Google. Ingresando a su sitio nos permite ver diferentes co-creaciones entre usuarios y la IA. También nos permite explorar y crear las propias. Investigaciones de universidades como la Universidad de Tübingen, Alemania trabajan sobre el mismo principio.
Existe un juego y desafío donde una persona indica un actor y el contrincante debe ir encadenando actores que fueron compañeros en alguna película hasta llegar a Kevin Bacon. For example, Al pacino trabajó en 1974 con Robert Duval en “The Godfather: Half II”. Duvall trabajó en 2012 con Kevin Bacon en el film “Jayne Mansfield’s Automobile”. Los actores conforman una pink vinculados por su filmografía. El reto no es solo encontrar el camino sino que debe intentarse que sea en menos de 6 pasos.
Las características de ciertas redes pueden explicar como circula información (news, chismes de otro tipo) así como enfermedades influencias. Su estudio es un campo fértil de investigación empujado por el auge de las redes sociales.
Dentro de la hermenéutica y la exégesis bíblica es común la búsqueda de un significado de los versículos intentando buscar una interpretación diferente de las palabras que contiene. Some practices include calculating the numerical value of each word. In Hebrew, each letter has an associated value and therefore a word can be calculated as the sum of its letters. Interpretations are also often applied as to why certain words are used in a certain context.
Another practice, popularized with the advent of computational power, is searching for secret codes in the biblical text with predictions about recent past or future events. This method became known with the book, bestsellers “The Bible Code” published in 1997. The author recounts the process carried out by a mathematician of forming words using the Bible by looking for letters at certain regular distances from others (more details here ).
En este caso nos interesa otro tipo de código, un …
En 1970, John Conway un matemático británico inventó un juego que denominó “El juego de la vida”. Basado en simples reglas, es un entretenimiento donde el jugador sólo tiene un reducido – aunque trascendental – papel: Establecer la configuración inicial del juego. Las implicaciones de ese punto cero tienen un impacto profundo en lo que pasará luego.
Los elementos y las reglas del juego son sencillos. Una cuadrícula donde cada celda puede estar no ocupada por una celula, una sucesión de turnos (generaciones) y reglas simples de nacimiento / muerte:
Cada celda tiene dos estados posibles. Viva una celda muerta tiene 3 celdas vecinas vivas la próxima generación estará viva (regla de reproducción)Si una celda viva tiene más de three celdas vivas vecinas, la próxima generación estará muerta (regla de superpoblación)Si una celda viva tiene 2 3 celdas vecinas vivas se mantendrá celda viva morirá si tiene menos de dos celdas vivas a su alrededor.
Vivimos desde hace años en la era de la información. Toneladas de datos se agolpan ante nuestras caras en cantidad y velocidad que no nos permiten clasificarlos, evaluarlos simplemente mirarlos. Libros, movies, news, fotografías mensajes compartidos que van aumentando día a día en volumen. Necesitamos mecanismos de filtrado, categorizado e incluso de valoración. Los programas de computación han salido al rescate.
Si se preguntan ¿por qué una página de Web sale antes de que otra?. Why does the audio-video streaming system recommend a certain set of options to us? The algorithm is to blame. But algorithms are also found in financial applications, industrial production, weather prediction, banking systems and almost every field we can think of.
Programs, Algorithms, words that are part of our daily vocabulary. Mysterious and magical. What really is an algorithm? Is it the same as a program?
First app…