Dimite la mayoría de la junta ética de IA de Axon
La junta de ética de la IA (Inteligencia Artificial) de Axon ha dimitido de forma masiva como forma de protesta. Fue provocada por este anuncio publicado por la empresa recientemente. La compañía estaba planeando equipar drones con pistolas eléctricas y cámaras de alto nivel, su explicación es que les gustaría utilizarlo como una forma de acabar con los tiroteos masivos en las escuelas.
Una gran reacción
Después de la reacción de su consejo de ética y de la comunidad en general, Axon decidió retractarse de la propuesta y alejarse de la idea, pero por desgracia para ellos, el daño ya estaba hecho. Todo comenzó para Axon el año pasado cuando presentó una propuesta para que la junta consultiva la considerara. La propuesta consistía en un programa piloto para dotar a un número determinado de departamentos de policía de estos drones con pistola eléctrica.
Esta propuesta fue inmediatamente rechazada por la junta, a pesar de este fuerte rechazo volvieron a apelar a la junta para considerar el dron taser de nuevo el mes pasado. La Junta de Ética de Axon IA está formada por expertos en ética, profesores de derecho y policías retirados y defensores de las libertades civiles. Barry Friedman, presidente de la junta consultiva de Axon, dijo que Axon nunca pidió al grupo que revisara ningún escenario que implicara a las escuelas, y que lanzar el programa piloto sin abordar las preocupaciones previamente declaradas es un desprecio a la junta y a su proceso establecido.
Problemas con la IA
A raíz de esta grave infracción ética, nueve miembros de la Junta de Ética de IA dimitieron en señal de protesta. Los nueve miembros que dimitieron, señalan que parece que Axon podría estar tratando de aprovecharse de la horrible tragedia de los recientes tiroteos masivos en Buffalo y Uvalde, Texas. Axon parece estar aprovechando estos terribles sucesos para comercializar y apelar potencialmente a la aprobación de su idea de dron taser.
El director general de Axon, Rick Smith, mencionó ambos tiroteos masivos en un comunicado de prensa recientemente, mientras intentaba anunciar la idea del proyecto de drones taser. Cuando se le preguntó por la evidente conexión que estableció entre los sucesos y el proyecto, negó las acusaciones de que la propuesta de la empresa fuera oportunista.
Uno de los nueve valientes que firmaron la carta de dimisión fue el profesor de Derecho de la Universidad de Washington Ryan Calo. Él ha dicho que le parece que la idea de Axon de probar los drones con pistolas eléctricas en las escuelas o en zonas exteriores cercanas es una muy, muy mala idea. También ha dicho que cree que es necesario un cambio radical y significativo en la forma de abordar la violencia armada en Estados Unidos. Para ello será necesario enfrentarse a problemas enormes y difíciles como la alienación, el racismo y el acceso generalizado a las armas. Calo añadió que añadir maquinaria armada a la mezcla de violencia armada y jóvenes oprimidos enfadados no resolverá el problema.
Los drones Taser no son la respuesta
La junta había expresado su angustia ante la idea de que los drones dotados de armas podrían conducir muy probablemente a un mayor uso de la fuerza por parte de la policía con el tiempo, especialmente en las comunidades de color. La junta estaba elaborando un programa de asesoramiento en el que se exponían sus preocupaciones, que debía publicarse a finales de este año.
Ryan Calo expresó también su preocupación diciendo que él y los demás miembros de la junta no podían ver que la policía o el personal capacitado en una escuela pudieran presentar la conciencia situacional necesaria para utilizar un dron con pistola eléctrica de manera ética y justa. Incluso si un operador de drones lograra salvar la vida de sospechosos o de personas en comunidades de riesgo, lo más probable es que la tecnología se expanda y tenga consecuencias potencialmente mortales si está en las manos equivocadas.
No es de extrañar que haya conflictos entre los consejos consultivos y las empresas como Axon. Los problemas y desacuerdos surgen todo el tiempo en temas tecnológicos y sólo el bingo Perú ofrece en línea está exento de estos problemas. Pero si empresas como Axon quieren tomarse realmente en serio la ética de la IA, entonces la junta debería ser permanente, no sólo consultiva.
