Hace unos días Reuters reveló que China había utilizado una antigua versión del modelo de inteligencia artificial de una empresa, Llama, para desarrollar un chatbot con aplicaciones militares. El descubrimiento generó cierta polémica, pero además cambió las reglas del juego y la propia filosofía de la empresa en este sector.
Instituciones de investigación chinas ligadas al Ejército de Liberación Popular chino usaron el modelo de inteligencia artificial públicamente disponible de la empresa, Llama, para crear un chatbot con aplicaciones militares llamado ChatBIT. Los investigadores aprovecharon una versión previa del modelo actual en su versión 13B (13.000 millones de parámetros), e incorporaron sus propios parámetros para crear esta herramienta militar.
Este modelo chino fue pulido y “optimizado para el diálogo y para dar respuesta a preguntas en el campo militar”, indicaba el estudio citado en Reuters y publicado por los investigadores. Según sus pruebas, ChatBIT era capaz de mejorar el comportamiento de otros modelos que tenían más o menos el 90% de las capacidades de GPT-4.
El descubrimiento de ChatBIT pronto generó preocupación entre los responsables de la empresa, que en un comunicado proporcionado a Reuters declararon que el uso de Llama para aplicaciones militares por parte de China “no está autorizado”.
Las políticas de uso de Llama prohíben el uso de su LLM para “aplicaciones militares o nucleares”. Tras descubrir lo que había hecho China, la empresa anunció un cambio en esos términos en su blog oficial. Bajo las nuevas políticas, permite que su modelo de inteligencia artificial se pueda usar para aplicaciones militares, pero obviamente no en China. Solo habilita esa opción para agencias y empresas de Estados Unidos, así como organismos similares en Reino Unido, Canadá, Australia y Nueva Zelanda.
En ese anuncio oficial los responsables de la empresa indicaban que estos usos “responsables y éticos” permitirían apoyar “la prosperidad y seguridad de los Estados Unidos”. Entre las empresas que podrán utilizar la tecnología de la empresa con aplicaciones militares están Amazon Web Services, Anduril, Booz Allen, Databricks, Deloitte, IBM, Leidos, Lockheed Martin, Microsoft, Oracle, Palantir, Scale AI y Snowflake.
La decisión de la empresa no está exenta de polémica, pero este tipo de aplicación parecía inevitable: ejércitos y agencias de inteligencia y defensa en todo el mundo llevan años utilizando soluciones Open Source para su operativa, y parecía inevitable que algo así ocurriera con modelos como el de la empresa.
