微软的种族主义聊天机器人

电子邮件
Otras aplicaciones
La Prueba Voight-Kampff se utiliza para juntar evidencias para poder cribar entre seres humanos y replicantes en la película Blade Runner. Un conjunto de pruebas en una entrevista cara a cara permite observar las reacciones del individuo en estudio pensado en desenmascarar las reacciones naturales emocionales y físicas de las fingidas. Los replicantes son seres creados artificialmente a imagen y semejanza de los seres humanos. Estos humanos sintetizados tienen una vida acotada y una prohibición de ingresar a la Tierra. Cazar recompensas se abocan a su captura puesto que algunos de ellos se rebelan a su realidad.
Blade Runner es una película de Ridley Scott basado en el libro de Ciencia Ficción de Philip K. Dick “¿Sueñan los androides con ovejas eléctricas?”. Uno de los temas principales de esta ficción es el límite entre lo humano y lo artificial. La novela desdibuja las fronteras y las cuestiona. Nos lleva a terrenos en los que investigadores de la inteligencia artificial llevan trabajando décadas. La mímica de las programas de computadoras para parecer humanas. El libro y película navegan en la pregunta si el parecer una persona y poder pasar por ella, es suficiente para considerarla como tal.
Existen, en la historia de la informática, celebres ejemplos y trabajos sobre programas que intentan simular ser humanos. El último ejemplo fue el conocido que dió a conocer Microsoft. La idea detrás de este desarrollo period crear un programa que sea capaz de “chatear”. El objetivo era construir un autómata que se comporte como un joven entre 18 y 24 años de edad capaz de mantener una conversación informal y jovial. “Tay” fue lanzado el 23 de Marzo de 2016 como un usuario de la crimson social Twitter. La capacidad de interacción prometía la capacidad de dar respuestas inteligentes e ir aprendiendo mientras interactuaba. Un día después abruptamente su cuenta de twitter tuvo que ser dado de baja. La joven twittera artificial se había “transformado” en una “persona” misógina y racista. ¿Cómo pasó eso?
La Prueba Voight-Kampff es un ejercicio ficticio que se basa en la propuesta de Alan Turing conocida hoy día como “Check de Turing”. Publicado en el articulo Computing Equipment and Intelligence ” de 1950 intenta dar con un experimento capaz de determinar si una maquina period capaz de pensar. Como el concepto “pensar” no lo podía mensurar en un ejemplo, intenta transformarlo en otro que por carácter transitivo conteste su primera pregunta. Turing razona que el humano es un ser pensante y por lo tanto si un programa de computadora resulta indistinguible a una persona para un entrevistador, debe considerarse al mismo como pensante. El check de turing involucra three partes. Un juez que sin ver a los otros participantes debe decidir cual de ellos es una persona y cual una inteligencia artificial. Para hacer eso se vale de realizar una serie de preguntas y analizar las respuestas. Pasado un tiempo debe decidir cual es la computadora y cual es la persona real.
Uno de los primeros programas que se crearon teniendo en mente la posibilidad de charlar fue ELIZA escrito por Joseph Weizenbaum en 1964 (para interactuar con ella se puede entrar aquí ). Fue generada para simular ser una terapista. Tenía un set de respuestas limitado e intentaba derivar las conversaciones para que el otro charle. Se negaba a hablar sobre “ella”. Funcionalmente buscaba palabras clave dentro de lo escrito y de encontrarlas las utilizaba para seleccionar una frase prearmada con la posibilidad de personalizarla (Por ejemplo al decir “Estoy contento/triste” posiblemente reponderá “Qué le hace decir que esta contento/triste?”). Eliza de ninguna manera puede pasar el test de turing. Luego de varias sequence de preguntas y respuestas se hace evidente la falta coherencia y la repetición de elementos.
Dos chatbots interactuando entre si
Años después surgió PARRY de la mano de Kenneth Colby en 1971. En este caso este programa simulaba ser un paciente paranoico esquizofrenico. Siendo agresivo ante algunas preguntas, evadiendo algunas respuestas construyendo un discurso de persecución. Nuevamente estaba programado a reglas preestabecidas. Para probar el modelo se realizó una prueba de turing utillizando como compañeros de pruebas un conjunto de pacientes con la misma patología de PARRY. El forty eight% de los expertos que leyeron la transcripción de las conversaciones registradas entre médicos – pacientes no pudieron determinar cual era el humano y cual period la inteligencia artificial. En este caso la patología jugaba en favor del programa puesto que lograba evadirse justificar sus carencias discursivas.
Un caso comparable a PARRY se logro en 2014 con un programa llamado “Eugene Goostman” que simulaba ser un niño de thirteen años cuyo segundo idioma era el ingles (y por lo tanto podía no entender las preguntas realizadas). El 33% de los jueces no logró darse cuenta que period artificial. Estos programas crean personalidades ficticias con excusas para tener respuestas evasivas fuera de lugar. Se programan incluso para dar respuestas con humor enojo para simular respuestas “humanas”. ¿Esto los hace inteligentes?
Existen muchos investigadores de inteligencia artificial que impugnan el Take a look at de Turing. Simplemente, afirman, que se crean programas adrede que buscan engañar a los jueces y no inteligentes. Por eso se comenzaron a proponer otros tipos de retos para los programas. Un ejemplo del mismo es el ” Winograd Schema Challenge 人工智能博客 ” propuesto por Hector Levesque. Este take a look at se enfoca en realizar preguntas concretas y sin dar la posibilidad de evasivas. Las preguntas tienen la particularidad de tener cierta ambiguedad. Para una persona real con experiencia previa son fáciles de responder. Un ejemplo:
– El trofeo no va a entrar en el bolso marron por que es muy grande. Qué era muy grande?
0. El trofeo
1. El bolso
Las interrogaciones intentan explotar ambigüedades del lenguaje. 提出了2个语法上有效的答案，但只有一个对有语言理解能力的人有意义. 已经制作了大量这样的题目，并且在每次竞赛中不断扩展 (这里有一个列表 ).
未通过图灵测试的人
是否意味着通过图灵测试、Winograd测试以及任何其他提出的测试的程序是智能的?
约翰·塞尔设计了一个称为的理论实验 “中文房间”. 在这个测试中，假设有一个封闭的房间，与外界隔绝，除了一个小通道可以让中文书面文本进出. 房间内有一个不懂这种语言的人, pero que cuenta con un handbook de instrucciones extenso y completo que le indica reglas para cada posible entrada determinando que salida se debe emitir. El proceso comienza cuando un hablante del exterior comienza a enviar mensajes escritos y la persona dentro del cuarto comienza a procesarlos. Mirando cada mensaje recibido y siguiendo las reglas obtenidas genera un mensaje de salida. La premisa supone que las reglas son extensivas y permitan superar una prueba de Turing cualquier otra prueba que implique comprensión de texto y entrega de respuestas coherentes. Para la persona del exterior entonces existe una persona adentro que sabe hablar chino sin problemas. ¿Pero esto es así? La persona del inside no puede precisar absolutamente nada de la conversación en la que participó. Simplemente copió ideogramas de acuerdo a un handbook de instrucciones.
以同样的方式, ¿se puede considerar que una máquina que sigue instrucciones puede comprender qué es cocinar si habla de una receta gastronómica? ¿qué es la poesía si arma un soneto? Simplemente está emitiendo mensajes que no puede realmente comprender.
Regresemos al 23 de Marzo de 2016, con siendo desconectada por comenzar a emitir mensajes discriminatorios. ¿Realmente presenciamos una inteligencia artificial que comprende las afirmaciones qué está realizando? Tomando la habitación china como premisa, la respuesta es negativa. ¿Son sus constructores los que sostienen estos pensamientos? Esta segunda pregunta requiere conocer un poco más como funcionan hoy día estos programas.
Los primeros programas funcionaban con una programación prearmada. Incapaces de modificar su comportamiento de acuerdo a nuevos estímulos (interacción con otras personas). Esto los hacían limitados e incapaces de matices de una conversación. Para solucionar esto se comenzaron a utilizar otros métodos donde el aprendizaje basado en ejemplos genera un modelo desde el cual se selecciona respuestas a preguntas concretas. Existen varias aproximaciones. Desde aquellos que arman un modelo estadístico probabilístico. En ese caso se procesa la frase introducida por el autor y se buscan estadísticamente que respuesta suelen estar asociadas a las palabras ingresadas. Otras aproximaciones comienzan también a generar una pink neuronal para entrenar un modelo y decidir la respuesta en base a la salida de la purple neuronal. Este último caso es el del chatbot de Microsoft (En el paper ” A Variety-Selling Goal Function for Neural Conversation Fashions ” se explica técnicamente).
Para generar un modelo se requiere un lote de entrenamiento en forma de frases y las respuestas que estas generan. Para entrenar a se usaron grandes lotes de ejemplos previamente filtrados y ordenados sacados de una base de datos de conversaciones through twitter. Con eso armaron el modelo, lo testearon y lo pusieron en linea. Como parte del modelo y para permitir evolucionar la “personalidad” del mismo, siguió aprendiendo en base a sus interacciones. Inicialmente Tay daba respuestas políticamente correctas (mas allá de ser razonables en el contexto no). Microsoft acusó que un grupos de usuarios se aprovechó de la capacidad de aprender de su inteligencia artificial y comenzó a mantener conversaciones brindándole las frases racistas, xenofobas y misóginas. Tay simplemente comenzó a agregar en su modelo esas respuestas. Que a medida que se acumularon comenzaron a tener más peso en sus set de respuestas (en un artículo de ” The Verge ” se cuentan algunos de estos casos).
Existe un dicho en el ámbito informático que dice “Garbage in, rubbish out”. Es decir que si se alimenta a un algoritmo computacional con datos incorrectos, la salida del programa será incorrecto. 在这种情况下, la falta de previsión del equipo de Microsoft propició el desenlace. Tay comenzó a emitir respuestas “basura” a raíz de su alimentación de frases “basura”. Este gran problema incluso ocultó otras falencias de Tay. En el aprendizaje que fue realizando, además de aprender a emitir mensajes reprobables, empezó a emitir conceptos contradictorios. Pudiendo apoyar cierta postura y la contraria pocas conversaciones después. Evidentemente no es conciente de esto. Los autores son culpables, simplemente, de no preveer la malicia y la diversidad de opinión humana.
aun está fuera de linea. Volverá?
El código binario es el idioma de las computadoras. Construimos abstracciones, lenguajes de alto nivel, pero todo se compila y termina “hablando” en binario. Ceros y unos, unos y ceros. Es así hace años. 似乎很合乎逻辑, 似乎无可争辩. 但事实并非如此?
对于不熟悉计算机世界的人来说，二进制数字的概念并不方便. 为什么不使用十进制数字来存储和操作呢? 如果这是最常见且最简单的方式? 我们手上有10个手指，所以这个10符号系统对我们来说直观且自然… 那么为什么不使用这个系统呢?
麦克洛克-皮茨人工神经元: 当今神经网络成功的起点
创作流行古典音乐, 画一幅表现主义立体派的画, 驾驶汽车, 下棋，玩围棋… 这些活动有什么共同点? 我们可以推测，这些都是同一个人可能会进行的活动. Tal vez algunas con apenas rudimento y otras con gran maestría. La mayoría concordará que son habilidades humanas. Pero eso a dejado de ser así. Las inteligencias artificiales comienzan a realizar estas tareas – y otras tantas – con maestría.
La imagen que encabeza esta nota fue generada por Deep Dream una inteligencia artificial construida por Google. Ingresando a su sitio nos permite ver diferentes co-creaciones entre usuarios y la IA. También nos permite explorar y crear las propias. Investigaciones de universidades como la Universidad de Tübingen, Alemania trabajan sobre el mismo principio.
Existe un juego y desafío donde una persona indica un actor y el contrincante debe ir encadenando actores que fueron compañeros en alguna película hasta llegar a Kevin Bacon. 例如, Al pacino trabajó en 1974 con Robert Duval en “The Godfather: Half II”. Duvall trabajó en 2012 con Kevin Bacon en el film “Jayne Mansfield’s Automobile”. Los actores conforman una pink vinculados por su filmografía. El reto no es solo encontrar el camino sino que debe intentarse que sea en menos de 6 pasos.
Las características de ciertas redes pueden explicar como circula información (noticias, chismes de otro tipo) así como enfermedades influencias. Su estudio es un campo fértil de investigación empujado por el auge de las redes sociales.
Dentro de la hermenéutica y la exégesis bíblica es común la búsqueda de un significado de los versículos intentando buscar una interpretación diferente de las palabras que contiene. 一些做法包括计算每个单词的数字值. 在希伯来语中，每个字母都有一个对应的数值，因此一个单词可以计算为其字母的总和. 还通常会对为什么某些单词在特定语境中被使用进行解释.
另一种做法, 随着计算能力的出现而流行, 是在圣经文本中寻找关于近期过去或未来事件的隐藏代码. 这种方法随着书籍的出版而为人所知, 畅销书 “《圣经的秘密代码》” 发表于1997年. 作者叙述了一位数学家通过圣经寻找特定间隔字母来形成单词的过程 (更多细节在这里 ).
En este caso nos interesa otro tipo de código, un …
En 1970, John Conway un matemático británico inventó un juego que denominó “El juego de la vida”. Basado en simples reglas, es un entretenimiento donde el jugador sólo tiene un reducido – aunque trascendental – papel: Establecer la configuración inicial del juego. Las implicaciones de ese punto cero tienen un impacto profundo en lo que pasará luego.
Los elementos y las reglas del juego son sencillos. Una cuadrícula donde cada celda puede estar no ocupada por una celula, una sucesión de turnos (generaciones) y reglas simples de nacimiento / muerte:
Cada celda tiene dos estados posibles. Viva una celda muerta tiene 3 celdas vecinas vivas la próxima generación estará viva (regla de reproducción)Si una celda viva tiene más de three celdas vivas vecinas, la próxima generación estará muerta (regla de superpoblación)Si una celda viva tiene 2 3 celdas vecinas vivas se mantendrá celda viva morirá si tiene menos de dos celdas vivas a su alrededor.
Vivimos desde hace años en la era de la información. Toneladas de datos se agolpan ante nuestras caras en cantidad y velocidad que no nos permiten clasificarlos, evaluarlos simplemente mirarlos. Libros, 电影, noticias, fotografías mensajes compartidos que van aumentando día a día en volumen. Necesitamos mecanismos de filtrado, categorizado e incluso de valoración. Los programas de computación han salido al rescate.
Si se preguntan ¿por qué una página de Web sale antes de que otra?. ¿Por qué el sistema de streamming de audio video nos recomienda un conjunto de opciones determinadas? La culpa la tiene el algoritmo. Pero también los algoritmos se encuentran en aplicaciones financieras, la producción industrial, predicción meteorológica, sistemas bancarios y casi todo ámbito que se nos pueda ocurrir.
Programas, 算法, palabras que forman parte de nuestro vocabulario diario. Misteriosas y mágicas. Qué es realmente un algoritmo? Es lo mismo que un programa?
Primera ap…