mayoristas informatica
Seguridad

Fiabilidad y seguridad de la Inteligencia Artificial y el Machine Learning BlenderBot

Publicado 07 Oct 2022
Kaspersky IA

Desde su sonado lanzamiento, a principios de agosto de este año, Blenderbot, un proyecto de investigación impulsado por la Inteligencia Artifical de Meta, ha estado siempre en los titulares de periódicos, blogs y artículos. Blenderbot se trata de un chatbot, o bot conversacional, y sus afirmaciones sobre diferentes personas, empresas o, incluso, política, parecen ser inesperadas. Y en muchas ocasiones radicales.

Un importante reto por delante

Precisamente es este uno de los retos del aprendizaje automático, resultando especialmente importante que las empresas y organizaciones que utilizan el ML en sus negocios lo afronten de una vez por todas.

Más proyectos, mismas dificultades

Otros proyectos bastante similares se enfrentaron a su vez, y con anterioridad, al mismo problema que Meta con Blenderbot. En concreto, y sin ir más lejos, hablamos del chatbot Tay de Microsoft para Twitter. Este otro proyecto acabó haciendo en un momento dado ciertas declaraciones con connotaciones racistas.

Captar sesgos a partir de pruebas muy concretas

Todo ello refleja las distintas particularidades de los modelos de aprendizaje automático generativo entrenados con diferentes textos y, también, imágenes de Internet. Y es que para lograr que sus resultados sean convincentes, se utilizan muchísimos datos en bruto. De todos modos, es muy difícil evitar que estos modelos capten sesgos si se entrenan a partir de la web.
Por este motivo, en Kaspersky ya está realizando pruebas muy específicas en nuestros sistemas en base a la detección de malware y antispam. Pruebas capaces de imitar ciberataques para revelar posibles vulnerabilidades. También para entender los posibles daños e, incluso, cómo conseguir mitigar el riesgo de cada ciberataque.

Este sitio Web utiliza cookies propias y de terceros para habilitar las funcionalidades técnicas de uso de la web, realizar estadísticas y análisis del tráfico de navegación recibido, personalizar las preferencias del usuario y otras para ofrecer anuncios y publicidad. También permitimos el uso de funcionalidades para interactuar con redes sociales. Puedes informarte más sobre qué cookies estamos utilizando en nuestra política de cookies