Los trabajadores se ven obligados a adaptarse a la velocidad y a las exigencias de las máquinas, en lugar de que estas últimas estén diseñadas para ayudar a quienes trabajan.
Crítica fuerte a la promesa de la IA en el trabajo. La realidad documentada es la opuesta a la promesa: los trabajadores se adaptan a las máquinas en lugar de que las máquinas estén diseñadas para ayudarlos. Efectos: desespecialización, vigilancia automatizada, tareas rígidas y repetitivas, erosión del sentido de capacidad de obrar, ahogo de capacidades innovadoras. Llamado: diseñar sistemas centrados en la persona, no solo en el rendimiento.
Una de las críticas más afiladas y empíricamente sólidas del Cap. IV. La promesa estándar de la IA en el trabajo ('te liberará de tareas tediosas para que hagas trabajo más creativo') está siendo crecientemente cuestionada por la realidad observada: warehouses de Amazon con productividad cronometrada por algoritmo, call centers monitorizados en tiempo real por sentiment analysis, riders de delivery cuyo algoritmo decide rutas y pago. La encíclica nombra correctamente el patrón: la tecnología se diseña para optimizar el rendimiento extraíble del trabajador, no para ayudarlo.
Literatura empírica robusta: Acemoglu & Restrepo sobre cómo la dirección del progreso técnico ha sido sesgada hacia la automatización-que-reemplaza (vs automatización-que-aumenta) — The Wrong Kind of AI? (2019); Daron Acemoglu Power and Progress (2023) con Simon Johnson, argumentando que la dirección del progreso tecnológico es una elección política. Estudios sobre 'algorithmic management' en Uber, Amazon (Cant 2019), Deliveroo. La frase clave de la encíclica — 'diseñar sistemas centrados en la persona' — es congruente con propuestas de 'human-centered AI' (Stanford HAI, MIT) y Cooperative AI del cluster del Centre for AI Safety, aunque la encíclica les da una fundamentación antropológica explícita.