El programa Auditing Platform Content Moderation impulsa una revisión directa sobre cómo las plataformas digitales aplican sus propias normas. Este proyecto analiza, documenta y mide la respuesta de empresas tecnológicas ante contenidos que violan sus reglas. La iniciativa busca fortalecer la transparencia y mejorar la calidad del entorno digital, indica Richard Rogers, profesor de Nuevos Medios y Cultura Digital de la Universidad de Ámsterdam.
El investigador responsable explicó que desarrolla tres proyectos centrales, pero destaca especialmente Auditing Platform Content Moderation por su impacto regulatorio. Este estudio identifica videos que rompen las reglas de TikTok y activa un proceso sistemático de reporte. El objetivo consiste en comprobar si la plataforma actúa conforme a sus lineamientos públicos.
Asimismo, la Escuela de Humanidades y Educación del Tecnológico de Monterrey recibió en su campus a Richard Rogers.
El equipo detecta contenidos que infringen las políticas de TikTok y documenta cada caso con rigor metodológico. Luego los reportamos a TikTok y vemos la extensión a la que TikTok remueve el contenido o demuestra el contenido. Este procedimiento permite medir la coherencia entre normas y acciones concretas.
Los hallazgos resultan preocupantes. El estudio muestra que TikTok no retira una parte significativa del contenido que claramente viola sus propias reglas. Esta situación genera dudas sobre la eficacia de los sistemas internos de moderación y sobre el compromiso real con la seguridad digital.
Auditing Platform Content Moderation apegado a leyes europeas
El proyecto opera bajo encargo de autoridades europeas y mantiene coordinación con instancias gubernamentales. La investigación aporta evidencia para debates regulatorios en la Unión Europea y en gobiernos nacionales. Con datos verificables, el programa ofrece herramientas para exigir mayor responsabilidad a las plataformas.
Además de este eje, el investigador trabaja en el análisis del sistema Community Notes de X. Este mecanismo permite que usuarios agreguen contexto o verifiquen publicaciones. El equipo estudia cómo mejorar su funcionamiento y cómo lograr que notas útiles sí lleguen al público.
Puedes leer:
Economía mexicana crece, pero enfrenta retos clave
Los expertos analizan casos en los que la comunidad considera valiosa una nota, pero el sistema no la publica. A través de experimentos controlados, proponen ajustes al algoritmo para priorizar aportaciones relevantes. Así buscan fortalecer la verificación colaborativa y reducir la desinformación.
El tercer proyecto se enfoca en datos sintéticos generados por modelos de lenguaje. Estas herramientas producen información que imita patrones reales de comportamiento social. Los investigadores evalúan si estos datos pueden apoyar estudios académicos sin sustituir la recolección tradicional.
Inteligencia artificial es parte del proyecto
El análisis también aborda el papel de la inteligencia artificial en la promoción de contenido beneficioso. Los modelos de lenguaje se entrenan con grandes volúmenes de información de internet, que incluye material de baja calidad. Por ello, los desarrolladores deben integrar sistemas de valores claros en los chatbots que funcionan como interfaz, indica Rogers.
Empresas como Anthropic han publicado documentos extensos para definir principios de comportamiento en sus sistemas. Estas guías buscan orientar las respuestas hacia estándares éticos y responsables. El reto consiste en equilibrar protección, libertad de información y experiencia del usuario.
Los investigadores señalan que los antiguos sistemas basados solo en reglas generaron respuestas rígidas y paternalistas. El nuevo paradigma apuesta por modelos que aprendan del contexto y adapten valores según la interacción. Este enfoque intenta crear una experiencia más empática sin perder criterios de seguridad.
En este escenario, Auditing Platform Content Moderation representa una herramienta clave para vigilar a las plataformas y exigir coherencia. El programa no solo detecta fallas, también impulsa mejoras estructurales. Con evidencia concreta, la investigación abre la puerta a un ecosistema digital más transparente, responsable y orientado al bienestar colectivo.
Te puede interesar:
TikTok y la dopamina: ¿cómo afecta el consumo de vídeos cortos al cerebro adolescente?
