Cuando los algoritmos leen a la tripulación
Wolfgang Lehmacher analiza la inteligencia artificial aplicada a las emociones y el transporte marítimo.
Un reciente artículo en The Atlantic advertía que la «inteligencia artificial emocional» se está infiltrando en oficinas y centros de atención telefónica, afirmando poder leer los sentimientos de los trabajadores a partir de sus rostros, voces y pulsaciones de teclado. Pero, ¿qué ocurre en el sector del transporte marítimo?
En la última década, la industria ha conectado buques y puertos. Rastreamos los cascos mediante AIS, los motores mediante sensores y las grúas mediante cámaras. El siguiente paso que algunos investigadores y proveedores están explorando es aplicar estas herramientas a las personas: monitorizar el estado de ánimo, el estrés y la actitud de la tripulación en tiempo real mediante cámaras, dispositivos portátiles y análisis de voz, todo ello en aras de la seguridad y el rendimiento. Esto llevará los sistemas de control más allá del acero y la carga, adentrándose en la vida interior de las personas.
En la investigación marítima, esto ya es una realidad. Un proyecto ha probado un sistema de reconocimiento de emociones para buques que combina análisis facial, señales de voz y sensores corporales para detectar cuándo un marinero puede estar estresado o sobrecargado y enviar una alerta al puente de mando o a tierra. Otro estudio sostiene que analizar el tono de voz y los patrones del habla puede ayudar a detectar problemas de salud mental entre la tripulación antes que los cuestionarios tradicionales. Dada la preocupación real por la fatiga, el estrés y el suicidio en el mar, es fácil comprender su atractivo.
Pero hay un inconveniente. Los estudios sobre el seguimiento de las emociones en el trabajo demuestran que muchas personas se sienten observadas e incomprendidas cuando el software intenta adivinar cómo se sienten. Les preocupa que las predicciones erróneas puedan afectar sus turnos, su salario o incluso su empleo, y algunos afirman que prefieren actuar para la cámara antes que mostrar sus verdaderos sentimientos.
En un barco o en una terminal, eso es peligroso. La seguridad de las operaciones depende de que la tripulación y el personal puedan decir: «Estoy demasiado cansado para este turno», «Esa maniobra no parece correcta» o «Ayer casi tuvimos un accidente». Si la gente cree que un sistema evalúa su estado de ánimo o su actitud, aprenderán a aparentar calma en lugar de ser sinceros. La empresa obtiene un panel de control impecable, pero ignora por completo lo que realmente sucede.
Los reguladores están empezando a reaccionar. Las nuevas normas de la UE sobre IA prohíben los sistemas que intentan leer las emociones de los trabajadores en el lugar de trabajo, salvo para usos médicos o de seguridad específicos, debido al riesgo que suponen para la privacidad y los derechos fundamentales. Para los armadores, operadores y terminales vinculados a Europa, el seguimiento de las emociones ya no es solo un debate ético futurista; es un desafío que preocupará a sus abogados.
¿Dónde debería la industria trazar la línea? La IA que ayuda a detectar señales claras de fatiga o estrés en entornos de seguridad muy específicos, con la participación de la tripulación en el diseño y con sólidas medidas de protección, podría ser útil. Pero utilizar supuestas «emociones» para evaluar el desempeño, adjudicar contratos o gestionar el comportamiento es una línea que no se debe cruzar.
¿Qué deberían hacer las empresas y los directivos? En su próxima reunión sobre tecnología o seguridad, incluya una pregunta en cada propuesta de nuevo sistema: «¿Este sistema es capaz de medir o evaluar cómo se sienten nuestros empleados?». Si la respuesta es afirmativa, esa decisión debe tomarse en la junta directiva, no en manos del departamento de TI ni de los responsables funcionales.
El sector naviero ha aprendido que más datos sobre la carga no se traducen automáticamente en mejores decisiones. Tampoco más datos sobre las emociones de las personas harán que los barcos o los puertos sean más seguros. Estudios sobre el seguimiento de las emociones demuestran que los trabajadores a menudo sienten que no tienen más remedio que aceptar la vigilancia intrusiva para conservar sus empleos, incluso cuando la perciben como una grave violación de su privacidad. Esa presión silenciosa para «aceptar» las normas en el trabajo, sin el tipo de debate público que provoca la vigilancia estatal, debería hacer que este sector se lo piense dos veces antes de permitir que los algoritmos analicen a la tripulación.
@SPlash247
