La gigante tecnológica Meta, propietaria de Facebook, Whatsapp e Instagram, ha realizado una importante revelación sobre cómo sus sistemas de Inteligencia Artificial (IA) determinan lo que los usuarios ven en sus plataformas.
El compromiso principal de la empresa, según ellos mismos comentan, es aumentar la transparencia y proporcionar mayor control al usuario sobre su contenido.
Los sistemas de IA de Meta se encargan de clasificar y mostrar contenido en Facebook e Instagram. Estos sistemas consideran factores como el comportamiento del usuario, sus comentarios y otros elementos para mostrar el contenido que puede resultar más relevante para cada persona. La IA se encarga de personalizar la experiencia de cada usuario en la plataforma.
Para que las recomendaciones sean efectivas y relevantes, es fundamental entender el contenido de las publicidades. Para esto, Meta utiliza técnicas de IA que incluyen reconocimiento visual, detección de objetos, extracción de texto y reconocimiento de audio, entre otros. Con estas técnicas, los modelos de producción de Meta son capaces de realizar tareas específicas, como la clasificación de tópicos o géneros, la predicción de hashtags, el emparejamiento por similitud y el agrupamiento.
¿Cómo funcionan los sistemas de IA?
Meta está haciendo público el funcionamiento de sus sistemas mediante el lanzamiento de 22 «tarjetas de sistema». Estas tarjetas explican cómo se clasifica el contenido, qué predicciones se hacen y qué controles están disponibles para el usuario. El objetivo es proporcionar un mayor entendimiento sobre cómo la IA clasifica y recomienda contenido.
Una vez que el contenido ha sido entendido y clasificado, es necesario identificar qué contenido es relevante para cada usuario. Para esto, Meta ha desarrollado sistemas de recuperación y clasificación que en fracciones de segundo son capaces de reducir miles de millones de piezas de contenido a unas pocas cientos que son relevantes para los intereses de un usuario. Estos sistemas se basan en modelos de atención a gran escala, redes neuronales de gráficos y aprendizaje de pocos disparos, entre otras técnicas.
Señales y Predicciones
Las señales y predicciones son los insumos que la IA utiliza para clasificar y recomendar contenido. Meta va a publicar detalles sobre estas señales y predicciones en su Centro de Transparencia. Este apartado también incluye las señales que se utilizan para identificar y reducir el contenido dañino o problemático.
Los problemas de inicio en frío se presentan cuando nuevos usuarios o contenido ingresan a la plataforma. Para enfrentar este desafío, Meta desarrolló un sistema de aprendizaje de pocos disparos que puede emparejar de manera precisa nuevo contenido a audiencias potenciales, incluso cuando hay pocas interacciones.
Para aprender cómo se relacionan diferentes intereses, se utilizan técnicas de aprendizaje de incrustaciones y de gráficos, así como la modelización de la incertidumbre combinada con el aprendizaje por refuerzo.
Contenido dañino y problemático
Meta utiliza señales específicas para identificar contenido dañino, que se elimina a medida que se detecta. También emplea señales para reducir la distribución de contenido problemático o de baja calidad en consonancia con sus Directrices de Distribución de Contenido.
Control Personalizado
Los usuarios ahora tendrán un mayor control sobre lo que ven en sus feeds. Meta está ampliando su característica «¿Por qué estoy viendo esto?«, que explica por qué se muestra cierto contenido. Adicionalmente, se están centralizando las configuraciones para controlar el contenido visto en Facebook e Instagram.
El sistema no solo se basa en el contenido y las preferencias del usuario para hacer las recomendaciones, sino que también toma en cuenta el comportamiento del usuario y su retroalimentación. Los sistemas de IA responden a las interacciones de los usuarios, refinando el modelo de las preferencias del usuario. Así, los sistemas pueden considerar las señales que demuestran que un usuario no está interesado en cierto tipo de contenido, como ver un video recomendado solo por unos segundos antes de detenerlo.
Herramientas de personalización
Se están probando y implementando nuevas funciones que permiten a los usuarios personalizar aún más sus feeds, como indicar interés en contenido recomendado, priorizar ciertas cuentas y visualizar contenido de forma cronológica.
Herramientas para Investigadores
Meta busca facilitar a los investigadores el entendimiento de sus sistemas al liberar modelos de IA, bibliotecas y conjuntos de datos. Se lanzará una nueva suite de herramientas para investigadores que permitirá estudiar datos de publicaciones públicas y cuentas de negocios en sus plataformas.
Finalmente, lo que nos deja esta noticia es un vistazo al futuro de las redes sociales. Un futuro donde los usuarios tienen un control más directo sobre el contenido que ven y donde las empresas tecnológicas se vuelven más transparentes acerca de sus procesos internos. Todo esto apunta a un ecosistema digital en el que la transparencia y la personalización podrían convertirse en la norma, no en la excepción.
