Nadie le ordenó nada, solo le organizaron las opciones: Rebelión en la granja, poder algorítmico y la libertad de elegir entre alternativas que alguien más decidió mostrarle

M.A.R.H Salvador Acevedo Ortega

Docente universitario en la Universidad Autónoma de Chihuahua, Facultad de Economía Internacional e Ingeniería.

A las 6:42 de la mañana, Chihuahua ya está siendo ordenado por sistemas que casi nadie ve. Un estudiante recibe el primer video del día —no el que buscó, sino el que una plataforma decidió que debía ver—. Una trabajadora consulta la ruta que la aplicación considera más rápida, sin saber qué alternativas descartó antes de mostrársela. El dueño de un pequeño negocio descubre que sus publicaciones circularon o quedaron enterradas según criterios que nadie le ha explicado. Una familia compara un crédito cuyas opciones fueron ordenadas por un algoritmo que optimiza los intereses de quien lo diseñó, no necesariamente los de quien lo consulta. Ninguno recibió una orden. Al final del día, todos podrían decir con absoluta convicción: «yo elegí».

Permítame señalar, con la cortesía de quien prefiere no arruinar las ilusiones pero tampoco puede permitirse el silencio, dónde reside la elegancia inquietante de esa frase. En Rebelión en la granja, Orwell imaginó un poder que cambiaba los mandamientos escritos en la pared hasta volver natural la obediencia. Nuestro tiempo ha perfeccionado el método con una sofisticación que el propio Orwell habría admirado: ya no siempre es necesario cambiar el mandamiento. Basta con organizar el menú. La tesis de este artículo es sencilla, aunque incómoda: el poder algorítmico funciona mejor cuando deja de parecer poder.

En la granja de Orwell, Napoleón manda, los perros intimidan y los cerdos administran el lenguaje. La autoridad tiene rostro, uniforme y portavoz. Por eso los animales saben —al menos al principio— dónde se encuentra el mando y pueden, en teoría, cuestionarlo. En el entorno digital, la autoridad puede esconderse dentro de algo considerablemente menos dramático: una clasificación. Primero este contenido, después aquel empleo, más abajo ese producto, fuera de la pantalla todo lo demás. El sociólogo David Beer documentó en Information, Communication & Society (2017) que el poder social de los algoritmos no reside únicamente en sus instrucciones técnicas, sino en cómo participan en la vida cotidiana definiendo qué se vuelve visible, relevante o calculable. La plataforma no necesita prohibir un libro, una idea o una oportunidad. Puede, con la misma eficacia y sin el escándalo que una prohibición produce, reducir su probabilidad de ser encontrada. En una sociedad saturada de información, la invisibilidad es una forma silenciosa de exclusión que tiene la ventaja adicional de no dejar huellas.

Esto no significa que detrás de cada recomendación exista una conspiración —afirmarlo sería tan perezoso intelectualmente como negarlo todo—. Significa algo más serio y más estructural: toda clasificación contiene prioridades, y decidir qué aparece primero también define qué tiene más posibilidades de ser leído, comprado, solicitado, creído o recordado. El poder ya no solo dice «haga esto». También susurra, con impecables modales digitales: «esto es lo que hay».

Los sistemas de inteligencia artificial no despiertan con ambiciones propias. Optimizan objetivos definidos por personas e instituciones: tiempo de permanencia, clics, ventas, velocidad de entrega, riesgo de impago, productividad. El problema comienza cuando confundimos el objetivo medible con el bien que supuestamente representa. Retener la atención no equivale a informar bien. Aumentar la interacción no equivale a fortalecer la conversación pública. Reducir tiempos de operación no equivale a dignificar el trabajo.

Katherine Kellogg, Melissa Valentine y Angèle Christin documentaron en Academy of Management Annals (2020) que el control algorítmico puede dirigir y evaluar el trabajo con una intensidad que antes exigía supervisores visibles. El jefe quizá ya no está junto al escritorio; su criterio quedó convertido en tablero, puntaje y alerta automática. Una métrica deja de ser inocente cuando determina la conducta sin permitir comprenderla ni impugnarla. Si el trabajador desconoce por qué recibió una mala calificación, si el estudiante no sabe por qué una plataforma le recomienda cierto contenido, si una persona no puede corregir los datos con los que fue evaluada, el algoritmo ya no es solo una herramienta: se convierte en una autoridad sin ventanilla, sin apelación y sin el menor interés en explicarse.

La fórmula orwelliana merece reescribirse para la época, y conviene hacerlo con la precisión que el original merece: todos los usuarios son libres, pero algunas opciones son más visibles que otras. Los sistemas de recomendación resuelven un problema real —frente a millones de canciones, productos, vacantes y noticias, reducen el costo de buscar—. La pregunta no es si deben existir, sino bajo qué intereses ordenan esa abundancia y qué diversidad sacrifican al hacerlo.

Amelia Fletcher, Péter Ormosi y Rahul Savani advirtieron en Journal of Competition Law & Economics (2023) que estos sistemas pueden favorecer sesgos de popularidad, posición y conformidad. Lo que ya es visible recibe más atención; esa atención produce más datos; los nuevos datos justifican volver a recomendarlo. El círculo parece confirmar una preferencia colectiva, aunque en parte haya sido fabricada por la exposición inicial. La recomendación no solo descubre gustos: también los cultiva, con la paciencia discreta de quien sabe que la repetición termina por sentirse como elección propia.

Pensemos en Chihuahua con la concreción que la serie exige. Si un joven busca una carrera, ¿conoce las alternativas o solo las que compraron visibilidad en su pantalla? Si una familia compara financiamiento, ¿la primera oferta es la mejor o la más rentable para la plataforma? Si un negocio local depende de una red social, ¿compite por calidad o por su capacidad de alimentar el algoritmo? Si un ciudadano se informa, ¿observa la conversación pública o una versión personalizada que confirma lo que ya pensaba? Cada una de esas preguntas tiene consecuencias financieras, educativas, laborales y democráticas concretas que esta serie ha documentado en treinta y siete artículos anteriores.

Todos los usuarios son libres. Pero algunas opciones son más visibles que otras. Y quien decide cuáles, rara vez aparece en la pantalla.

Taina Bucher acuñó en New Media & Society (2012) un concepto que captura con precisión quirúrgica lo que Orwell no pudo imaginar porque su época no tenía las herramientas para ejecutarlo: la amenaza de invisibilidad. Los usuarios y creadores de las plataformas ajustan su comportamiento para no desaparecer del flujo algorítmico. Ya no hace falta censurar al comerciante, al periodista, al docente o al artista. Cada uno aprende, con la velocidad del ensayo y error diario, qué palabras, horarios, formatos y emociones son premiados con visibilidad y cuáles son castigados con silencio. Con el tiempo, la persona se disciplina sola. Y ahí se encuentra la gran victoria del sistema, su obra maestra, si se me permite la expresión: convertir la adaptación en deseo.

Publicamos lo que «queremos» publicar, pero aprendimos a querer lo que obtiene alcance. Consumimos lo que «nos gusta», pero nuestros gustos fueron entrenados por repetición. Aceptamos la ruta, la tarifa o la respuesta que parece más conveniente, aunque ignoremos qué alternativas se descartaron antes de llegar a nuestra pantalla. El riesgo no consiste en que una máquina nos arrebate la voluntad de un solo golpe —eso sería burdo y reconocible—. Es más gradual y más eficaz: que dejemos de ejercitar la voluntad porque la recomendación resulta cómoda, inmediata y suficientemente buena. La autonomía se pierde pocas veces en un solo acto. Suele erosionarse cuando delegamos pequeñas decisiones hasta olvidar que también podíamos formular la pregunta.

El pensamiento crítico frente a la inteligencia artificial no consiste en rechazar cada recomendación como si fuera propaganda. Consiste en interrogar su diseño con la misma naturalidad con que se interroga a cualquier otro actor que tiene poder sobre nuestras decisiones. ¿Qué objetivo optimiza este sistema? ¿Con qué datos aprendió? ¿Qué opciones dejó fuera? ¿Quién gana si acepto? ¿Puedo cambiar el orden, consultar una versión no personalizada o exigir revisión humana? Las universidades de Chihuahua deben enseñar alfabetización algorítmica junto con lectura, estadística y civismo. Las empresas deben informar cuándo una decisión laboral, crediticia o comercial depende de un modelo automatizado. Los gobiernos deben inventariar los sistemas que afectan a la ciudadanía y explicar criterios sin refugiarse en el secreto técnico.

Y corresponde también a cada persona, con la autonomía que esta serie ha defendido artículo tras artículo, devolver fricción a decisiones diseñadas para ser automáticas: buscar otra fuente, cambiar el orden predeterminado, comparar fuera de la plataforma, revisar permisos y pausar antes de compartir. La fricción bien utilizada no es atraso. Es el espacio donde vuelve a aparecer el juicio. Un sistema puede ser útil y, al mismo tiempo, requerir límites. Puede ser preciso y aun así perseguir el objetivo equivocado. Puede personalizar una experiencia y empobrecer el horizonte común.

Al final del día, el estudiante, la trabajadora, el comerciante y la familia seguirán sintiendo que eligieron. Pero la libertad no puede reducirse a la ausencia de una orden directa. También exige saber quién organizó las alternativas, bajo qué propósito y con qué derecho a responder cuando el sistema se equivoca. Orwell nos enseñó a desconfiar del poder que reescribe las reglas mientras todos duermen. La inteligencia artificial nos obliga a reconocer una versión más discreta y más difícil de señalar: el poder que no necesita tocar la pared porque administra la atención. En la nueva granja no siempre hay un Napoleón a la vista, ni perros que vigilen la puerta. Hay interfaces amables, listas ordenadas y botones brillantes.

Beer, D. (2017). The social power of algorithms. Information, Communication & Society, 20(1), 1–13. https://doi.org/10.1080/1369118X.2016.1216147

Bucher, T. (2012). Want to be on the top? Algorithmic power and the threat of invisibility on Facebook. New Media & Society, 14(7), 1164–1180. https://doi.org/10.1177/1461444812440159

Fletcher, A., Ormosi, P. L., & Savani, R. (2023). Recommender systems and supplier competition on platforms. Journal of Competition Law & Economics, 19(3), 397–426. https://doi.org/10.1093/joclec/nhad009

Kellogg, K. C., Valentine, M. A., & Christin, A. (2020). Algorithms at work: The new contested terrain of control. Academy of Management Annals, 14(1), 366–410. https://doi.org/10.5465/annals.2018.0174

Orwell, G. (1945). Animal Farm. Secker & Warburg.

Thaler, R. H., & Sunstein, C. R. (2008). Nudge: Improving decisions about health, wealth, and happiness. Yale University Press.