TikTok sustituye a moderadores humanos por inteligencia artificial

Aunque la medida promete agilizar la moderación de contenidos, ha suscitado inquietudes sobre la capacidad de la tecnología para manejar situaciones complejas y captar matices culturales.

TikTok ha comenzado a despedir a cientos de moderadores de contenido, reemplazándolos con sistemas de inteligencia artificial (IA) en un movimiento que busca mejorar la eficiencia operativa, pero que genera preocupaciones sobre la capacidad de la tecnología para gestionar situaciones complejas y captar matices culturales. 

La iniciativa, parte de un plan más amplio de ByteDance, la empresa matriz de TikTok, ha afectado inicialmente a 500 empleados en Malasia, la mayoría de ellos en los equipos de moderación de contenido.

Tradicionalmente, los moderadores humanos han jugado un papel clave en la revisión y eliminación de contenido que infringe las normas comunitarias de la plataforma. La transición a sistemas de IA plantea interrogantes sobre la efectividad de estos para gestionar la calidad del contenido en un entorno digital que presenta desafíos cada vez más complejos. 

TikTok pretende que aproximadamente el 80% de las tareas de revisión de contenido sean manejadas por estos sistemas automatizados.

Para apoyar este cambio, la compañía ha anunciado una inversión de 2 mil millones de dólares en medidas de confianza y seguridad a nivel global durante el presente año fiscal. 

Esta inversión estará destinada tanto al desarrollo tecnológico de la IA como a la creación de protocolos más rigurosos para asegurar una correcta revisión de contenido. No obstante, el uso exclusivo de IA en este tipo de tareas plantea preocupaciones. 

Si bien los algoritmos pueden identificar eficientemente contenido dañino, como discursos de odio o violencia explícita, a menudo carecen de la capacidad para comprender el contexto necesario para evaluar publicaciones más ambiguas. Esta limitación podría llevar a decisiones incorrectas sobre qué contenido eliminar o permitir, lo que podría afectar negativamente la experiencia de los usuarios.

Este movimiento refleja una tendencia creciente en la industria tecnológica, donde las empresas adoptan soluciones automatizadas para reducir costos y mejorar la eficiencia. 

Sin embargo, una dependencia excesiva de estos sistemas podría degradar la calidad del servicio, especialmente en términos de empatía y capacidad para entender las complejidades culturales y emocionales del contenido generado por los usuarios.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Registrate a nuestro Newsletter