La moderación automática de Meta está borrando negocios reales, y las apelaciones también las resuelve una IA

Una investigación publicada esta semana documenta un problema que miles de pequeños negocios llevan meses denunciando: los sistemas automáticos de moderación de Meta están eliminando cuentas legítimas de Instagram y Facebook, muchas de ellas construidas durante años y con clientes reales detrás. El patrón que describen los afectados se repite: una notificación con una acusación grave y genérica, una apelación que se resuelve en días con una negativa, y un aviso final de que la decisión no admite más revisiones.

Cómo funciona el círculo cerrado

Lo más señalado por los afectados no es el error inicial, sino que no hay salida. Las apelaciones eran gestionadas con frecuencia por el mismo tipo de sistema automático que había tomado la decisión, sin ningún punto de contacto humano. Uno de los casos recogidos es el de una profesora de inglés afincada en Portugal que daba clases a hablantes no nativos a través de Instagram: recibió una acusación de fraude y engaño que no entendía, apeló, y una semana después la respuesta fue que toda su información se borraría de forma permanente y que no podía solicitar otra revisión.

Varias de las cuentas examinadas solo se recuperaron después de que periodistas preguntaran a la compañía por ellas, incluida una con cerca de un millón de seguidores. Es la parte más incómoda del asunto: el mecanismo que funcionó no fue el procedimiento formal, sino la prensa.

El episodio no llega de la nada. El propio consejo asesor de la compañía ya concluyó el mes pasado que sus cierres de cuentas carecen de garantías procesales y de transparencia suficientes.

La versión de la empresa, y lo que no responde

Meta defiende que sus herramientas más recientes cometen un 13% menos de errores que los revisores humanos y detectan un 10% más de infracciones, y sostiene que las cuentas examinadas fueron cerradas por sistemas antiguos, no por sus modelos actuales. Conviene tomar esas cifras por lo que son: datos de la propia compañía, sin verificación independiente, y comparaciones cuyo método no se ha publicado.

Y hay preguntas que la respuesta no aborda. No dice cuántas cuentas se han visto afectadas, ni por qué las apelaciones se resolvían de forma automática, ni qué ocurre con los negocios que no tuvieron un periodista preguntando por ellos. Tampoco aclara si el paso a los sistemas nuevos repara los cierres anteriores o simplemente deja de repetirlos.

Qué puede hacer una empresa española

La parte útil: en la Unión Europea, el Reglamento de Servicios Digitales obliga a las grandes plataformas a motivar las retiradas de contenido o cuentas y a ofrecer vías de reclamación efectivas, incluidos mecanismos de resolución extrajudicial. Es decir, un negocio europeo tiene una palanca de la que carece un usuario estadounidense, aunque haya que saber que existe para usarla.

La lección de fondo es más antigua que la IA, pero la automatización la agrava: apoyar el negocio entero sobre una plataforma que puede cerrarlo sin previo aviso y sin interlocutor es un riesgo operativo, no una molestia. Exportar periódicamente los contactos y mantener un canal propio —web, boletín, lista de clientes— ha dejado de ser una recomendación de manual para convertirse en un seguro.

GonzaloFundador

Madrileño enganchado a la tecnología desde pequeño. Trabajo en finanzas pero la inteligencia artificial es lo que me quita el sueño. Creé Miuranews para seguirla de cerca y contarla en español sin hype.

Todos sus artículos →