聊天机器人安全

聊天机器人中的安全性
人工智能行业正处于繁荣发展阶段, 人们对它寄予了很高的期望，许多实验室也在努力创造新的大脑.
机器学习是一个正在享受黄金时期的领域，这要归功于云计算和可用于处理的日益增长的信息量. 这些发展很快将创造出智能体，, 根据斯蒂芬·霍金的说法，, 它们将毁灭我们，因为它们能够更快地进化，很快就会变得更聪明.
也许会发生，也许不会, 目前最贴近日常生活的AI表现形式是聊天机器人. 有谁从未在Telegram上被聊天机器人回复过? ¿Quién no ha abierto una página internet y una ventana de Chat con un amable señor/señora le pregunta si puede atenderle?
Es la versión más mild de Inteligencia Artificial, pero ya se puede hacer mucha operativa interesante con ellos, por ejemplo encargar pizza, hablar de fútbol, ser tu entrenador personal, buscarte los mejores precios del producto que quieras por cientos de webs, ser tu shopping assistant,… Como se pueden ver las opciones ya son miles, por si queréis conocerlos y probarlos os referencio a BotList una internet que colecciona ChatBots de todo tipo.
Pero los ChatBot no son ninguna excepción y tienen problemas que hay que revisar en cuanto a seguridad. Dejando de lado el ciclo de desarrollo seguro es un pequeño decálogo para que podáis evaluar en vuestros robots.
1.- ChatBot aislado
El sistema que contiene el ChatBot tendría que estar aislado. Lo ideal es una máquina que contenga solo al Bot y no esté conectada con el resto de la pink corporativa.
2.- ChatBot que nunca llama a teleoperadoras.
Si tu sistema de ChatBot te da la posibilidad de poder contactar con una teleoperadora el sistema más seguro para hacerlo es que el usuario indique el número al que se le quiera llamar y que sea una operadora el que le llame a él. Si es el chatbot el que lanza la llamada para conectar de forma directa un atacante podría lanzar miles de peticiones haciendo un ataque de DoS contra la centralita bloqueandola con miles de llamadas entrantes y dejando a los verdaderos clientes en espera e incluso desconectados. Esto haría daño reputacional y puede que se perdieran potenciales clientes.
3.- Sistema contra suplantación.
Un atacante puede que trate de suplantar nuestro ChatBot en otras páginas. Dependiendo que tipo de operativa haga dicho bot puede resultar muy fructífero. Dependiendo en qué plataforma tengamos nuestro ChatBot podría ser más menos fácil implementar técnicas contra la suplantación. En el entorno Internet podrían ser las mismas que contra un phising, en Telegram saludar de forma personalizada a nuestro cliente, de forma que sepa que solo nosotros podemos conocer esa información u otro tipo de medidas creativas que en función de las características de nuestro ChatBot podemos poner.
four.- Canal cifrado.
Esto es un máxima, en todo momento que el canal de la conversación este cifrado. Esto en Telegram puede ser un problema ya que (hasta hace 人工智能博客 poco) no soportaba establecer canal seguro para bots. Pero en el resto de casos debería ser obligatorio para nuestra tranquilidad.
5.- No almacenar información.
Nunca almacenes las conversaciones, en primer lugar por la privacidad de tu usuario y en segundo lugar porque almacenar la información puede suponer que un atacante te llene la memoria provocando, en el mejor de los casos, 你的服务器崩溃了.
如果你需要通过日志存储操作中的安全信息，请制定非常明确的规则.
6.- 清理数据
你永远不知道用户或攻击者可能会尝试在聊天中输入什么，因此清理数据以防止他们尝试执行代码注入是一个非常健康的做法.
7.- 禁用你不想使用的命令.
聊天机器人有许多功能各异的命令，我们并不总是需要所有可用的命令，因此我建议将不想/不需要的命令删除、注释或处理，但无论如何都不要让它们可访问.
8.- 不要允许聊天机器人执行系统命令
Tenemos aislado el sistema y controlado que datos guardamos pero sigue siendo muy importante que nuestro ChatBot en ningún momento pueda ejecutar comandos en el sistema que lo aloja.
9.- Prueba de vida.
Esto también depende mucho de la plataforma sobre la que tengamos nuestro bot pero es muy interesante poner un sistema que valide que el usuario está vivo. Puede que, un Captcha para los entornos web preguntas en entornos Telegram, sean alguna buena idea para esto. Nos ahorraremos muchos dolores de cabeza contra ataques por fuerza bruta.
10.- Agrega un TTL
Agregar un TTL puede salvarte de problemas muy diversos. Si tu ChatBot genera sesión con el usuario, que esa sesión tenga un tiempo máximo de vida. 在交互之间设置 TTL 也是很有趣的.
仅仅查看这些小的指南就可以猜测出聊天机器人有非常多样的特性. 取决于我们想在哪个平台上实现它，以及取决于我们希望它执行的功能有多敏感，我们需要考虑不同的措施.
所有这些都是针对逻辑仍然非常简单的聊天机器人思考的, 有一天，当它们背后有一个强大的人工智能引擎时可能会 (在这里我显露出我的科幻天性) 通过推理可能存在漏洞.
前面还有很多领域需要探索.
在
标签
博客档案
奇幻主题, 股份公司. 使用 Blogger 技术