TLDR: “Human in the loop” no es una consideración ética; es una forma de implementar reckless la IA y poder culpar al humano.
Versión Extendida:
El concepto de “Human in the loop” se refiere a la idea de tener a un ser humano supervisando o interviniendo en el funcionamiento de un sistema de inteligencia artificial. A primera vista, esto puede parecer una medida ética y responsable, ya que se supone que el humano está ahí para corregir posibles errores o tomar decisiones importantes que la IA no puede manejar por sí sola. Sin embargo, en la práctica, esta configuración puede ser utilizada de manera irresponsable y peligrosa.
En muchos casos, la presencia de un humano en el loop se utiliza como una forma de evadir responsabilidades. Si algo sale mal con el sistema de IA, la empresa o individuo detrás de su implementación
