La trampa de 'Human in the loop': cómo la IA puede ser utilizada de forma irresponsable

TLDR: “Human in the loop” no es una consideración ética; es una forma de implementar reckless la IA y poder culpar al humano.

Versión Extendida:

El concepto de “Human in the loop” se refiere a la idea de tener a un ser humano supervisando o interviniendo en el funcionamiento de un sistema de inteligencia artificial. A primera vista, esto puede parecer una medida ética y responsable, ya que se supone que el humano está ahí para corregir posibles errores o tomar decisiones importantes que la IA no puede manejar por sí sola. Sin embargo, en la práctica, esta configuración puede ser utilizada de manera irresponsable y peligrosa.

En muchos casos, la presencia de un humano en el loop se utiliza como una forma de evadir responsabilidades. Si algo sale mal con el sistema de IA, la empresa o individuo detrás de su implementación

Saber más

Usar human in the loop de forma responsable

Incluir a una persona en la supervisión de un sistema de IA parece una garantía ética. Sin embargo, en la práctica puede convertirse en una excusa. Si el humano revisa cientos de decisiones por hora, su control real es mínimo. Y cuando algo falla, la culpa recae sobre él.

Los estudios sobre automatización describen el sesgo de complacencia. Las personas tienden a confiar en la máquina y revisar menos. Por eso, la supervisión necesita condiciones adecuadas para ser efectiva.

Claves para un human in the loop real

Limita el volumen de decisiones por persona y da tiempo suficiente para revisar. Además, ofrece información clara sobre cómo decide el sistema. Por ejemplo, mostrar el nivel de confianza de cada recomendación.

Por otro lado, la responsabilidad debe compartirse entre quienes diseñan, implantan y supervisan.

En resumen, la supervisión humana solo funciona si es real. Por tanto, diseña procesos que permitan intervenir de verdad.