Líderes religiosos instan al Congreso a impedir que la IA mate sin intervención humana
Citando el uso creciente de herramientas de inteligencia artificial en el ámbito militar, una coalición de líderes de varias organizaciones multirreligiosas instó el viernes al Congreso a tomar medidas para impedir que las armas autónomas impulsadas por IA se utilicen para matar sin intervención humana.
La coalición de 20 líderes religiosos expresó sus preocupaciones en una carta dirigida a los Comités de Servicios Armados del Senado y de la Cámara de Representantes, publicada por Americans for Responsible Innovation, una organización sin fines de lucro dedicada a la defensa de políticas de interés público.
[Estamos en WhatsApp. Empieza a seguirnos ahora]
«Les escribimos como pastores de nuestras comunidades, como personas de fe que creen que la santidad de la vida humana es una obligación sagrada», declararon los líderes religiosos.
Reciba GRATIS nuestras últimas noticias
«A medida que las herramientas de IA se utilizan cada vez más en un contexto militar, instamos al Congreso a establecer límites legales que rijan cuándo y cómo el Pentágono puede desplegar armas autónomas impulsadas por IA, asegurando que a los hombres y mujeres de nuestras Fuerzas Armadas siempre se les confíe la decisión final sobre cuándo quitar una vida».
El mes pasado, Gerald Mako, investigador afiliado del Foro de Asia Central de Cambridge en la Universidad de Cambridge, explicó en un informe publicado por el Instituto Lieber de Derecho y Guerra Terrestre de la Academia Militar de West Point en Nueva York, que los sistemas de armas autónomas han creado un problema para el derecho internacional humanitario.
Mako explicó que la legalidad de las armas autónomas bajo el derecho internacional humanitario depende de su cumplimiento de los principios fundamentales de los Convenios de Ginebra de 1949 y del Protocolo Adicional I de 1977, que abarcan la distinción, la proporcionalidad, la precaución y la Cláusula Martens.
«Pero una vez que la IA entra en escena, estas reglas de larga data se topan con un nivel de complejidad para el que nunca fueron diseñadas, creando un conjunto completamente nuevo de desafíos de rendición de cuentas», explicó Mako.
«Una vez que una máquina, en lugar de un ser humano, ejerce el juicio tradicionalmente requerido para distinguir a un civil de un combatiente, o para sopesar el daño colateral frente a la ventaja militar, o para cancelar un ataque cuando las circunstancias cambian, los supuestos fundamentales del DIH (Derecho Internacional Humanitario) se ponen en tela de juicio».
Los líderes religiosos destacaron este desafío en su carta al Congreso e insistieron en que las armas controladas por IA no son aptas para la guerra.
«La reciente controversia sobre el uso y la adquisición de modelos de IA por parte de las fuerzas armadas ha revelado una realidad preocupante: aunque estos sistemas se utilizan cada vez más en operaciones militares, actualmente no existen normas que garanticen la supervisión humana de los sistemas de armas autónomas», argumentó el grupo.
«Toda gran tradición de fe nos enseña que quitar una vida es un acto grave y solemne. Por una cuestión de conciencia, creemos que tal decisión nunca debe ser delegada a una máquina».
Los sistemas de armas autónomas impulsados por IA suelen clasificarse en tres categorías distintas: sistemas semiautónomos, autonomía supervisada y sistemas totalmente autónomos. Los operadores controlan los sistemas semiautónomos mientras que la IA se encarga de la navegación o de las sugerencias de objetivos. Los operadores pueden anular las armas autónomas supervisadas en cualquier momento, mientras que las armas totalmente autónomas siguen «reglas preprogramadas y la IA para adaptarse a situaciones cambiantes y pueden encontrar y atacar objetivos por sí mismas», según Mako.
Las municiones merodeadoras, como la israelí Harop y la turca Kargu-2, que son un sistema de armas híbrido que combina la vigilancia con drones y la capacidad de ataque de precisión similar a la de un misil, no encajan claramente en estas categorías. Según Mako, desdibujan las líneas entre la operación supervisada (o semiautónoma) y la autonomía total.
«La mayoría de estas tecnologías ya se han utilizado en conflictos, como los drones desplegados en Pakistán, Azerbaiyán o Ucrania. Los enjambres de drones irán aún más lejos, ya que las flotas están programadas para autocoordinarse, abrumar las defensas y ajustar dinámicamente las formaciones sin intervención humana directa», explicó.
El grupo multirreligioso argumentó que Estados Unidos no tiene actualmente ninguna ley federal integral que limite el uso de armas autónomas habilitadas por IA sin supervisión humana, y que los documentos de política actuales que guían su uso pueden ser eludidos.
Aunque el Departamento de Defensa (DoD) tiene una directiva que «establece la política y asigna responsabilidades para el desarrollo y uso de funciones autónomas y semiautónomas en los sistemas de armas» y «directrices diseñadas para minimizar... los ataques no intencionados», algunos afirman que es insuficiente.
«La IA actual no está preparada para tomar decisiones de vida o muerte. Hablamos por respeto a la dignidad humana y no por miedo a la tecnología. Los sistemas de IA carecen de la humanidad que nos permite a cada uno de nosotros comprender el mundo en el que existimos», advirtió el grupo religioso.
«Falla en circunstancias desconocidas. Y no pueden comprender, en ningún sentido significativo, la gravedad moral y espiritual de acabar con una vida humana. Cada persona que puede estar en la mira de un arma de este tipo es el padre, el hijo, el vecino y el ser querido de alguien», añadieron. «Las máquinas no comprenden esa verdad. Hay graves repercusiones morales por identificar erróneamente un objetivo, atacar en el momento equivocado o malinterpretar un escenario».
