Los planes del Departamento de Defensa para la inteligencia artificial ética

  

MEN IN BLACK CONSPIRACY .- Desde el campo de batalla hasta el back office, la inteligencia artificial tiene el potencial de transformar la forma en que el Departamento de Defensa hace negocios en áreas como aumentar la velocidad de la toma de decisiones, dar sentido a conjuntos de datos complejos y mejorar la eficiencia en las operaciones back-office. 

Asegurarse de que la IA se desarrolle, obtenga y utilice de manera responsable y ética es una de las principales prioridades del líder superior del departamento.

"A medida que el Departamento de Defensa adopta la inteligencia artificial, es imperativo que adoptemos un comportamiento, procesos y resultados responsables de una manera que refleje el compromiso del departamento con su conjunto básico de principios éticos", escribió la subsecretaria de Defensa, la Dra. Kathleen Hicks en un memorando de todo el departamento publicado la semana pasada.

Como parte de ese compromiso con la inteligencia artificial responsable, o RAI, el memorando establece principios fundamentales para la implementación en todo el departamento, incluida una estructura de gobierno y procesos para proporcionar supervisión y rendición de cuentas; Warfighter Trust para garantizar la fidelidad en la capacidad de IA y su uso, un enfoque de gestión de riesgos e ingeniería de sistemas para la implementación en el ciclo de vida de adquisición y productos de IA; un ecosistema robusto para garantizar la colaboración entre el gobierno, el mundo académico, la industria y los aliados y crear una fuerza laboral preparada para la IA.
El memorando también detalla cómo el Centro Conjunto de Inteligencia Artificial servirá como líder para coordinar la implementación y supervisión de los esfuerzos de RAI del departamento.

Spotlight: Inteligencia artificialHicks también reafirmó los principios éticos de inteligencia artificial del Departamento de Defensa adoptados en febrero de 2020. 
El DOD fue el primer ejército del mundo en hacerlo. Ese compromiso implicó la adopción de cinco principios para el desarrollo ético de las capacidades de inteligencia artificial.
Estos principios incluyen:
Responsable: el personal del DOD ejercerá los niveles adecuados de juicio y cuidado mientras sigue siendo responsable del desarrollo, despliegue y uso de las capacidades de IA.
Equitativo: el departamento tomará medidas deliberadas para minimizar el sesgo no intencionado en las capacidades de IA.
Trazable: las capacidades de inteligencia artificial del departamento se desarrollarán y desplegarán de manera que el personal relevante posea un conocimiento adecuado de la tecnología, los procesos de desarrollo y los métodos operativos aplicables a las capacidades de inteligencia artificial, incluidas las metodologías transparentes y auditables, las fuentes de datos y los procedimientos y la documentación de diseño.
Confiable: las capacidades de inteligencia artificial del departamento tendrán usos explícitos y bien definidos, y la seguridad, protección y eficacia de tales capacidades estarán sujetas a pruebas y garantías dentro de esos usos definidos a lo largo de todos sus ciclos de vida.
Gobernable: el departamento diseñará y diseñará capacidades de inteligencia artificial para cumplir con sus funciones previstas mientras posee la capacidad de detectar y evitar consecuencias no deseadas, y la capacidad de desconectar o desactivar sistemas implementados que demuestren un comportamiento no deseado.
"Lograr el RAI para el departamento es un esfuerzo colectivo que requiere un liderazgo fuerte, un gobierno sólido, supervisión y compromiso sostenido en todos los niveles de nuestra organización", escribió Hicks. 
"La aplicación de la RAI en una amplia gama de prácticas comerciales, de apoyo empresarial y de guerra es esencial para garantizar una ventaja militar, apoyar a nuestra gente y salvaguardar la nación".