China y Estados Unidos han acudido a la Organización de las Naciones Unidas debido a su interés en controlar la inteligencia artificial.
En la ONU, China y Estados Unidos tienen un objetivo común: controlar la inteligencia artificial (IA). El South China Morning Post informó que empresas tecnológicas chinas como Ant Group, Baidu y Tencent se han unido a líderes mundiales en la industria como OpenAI, Microsoft y Nvidia para establecer dos estándares internacionales para la inteligencia artificial generativa y los grandes modelos de lenguaje.
En Ginebra, Suiza, estas empresas presentaron el ‘Estándar de validación y prueba de seguridad de aplicaciones de IA generativa’ y el ‘Método de prueba de seguridad de modelos de lenguaje grande’ durante un evento paralelo a la Conferencia de Ciencia y Tecnología de las Naciones Unidas. La Academia Mundial de Tecnología Digital (WDTA), una organización sin ánimo de lucro dedicada a promover la tecnología digital, fue la organizadora de la iniciativa.
Estos estándares son los primeros esfuerzos globales para abordar específicamente las tecnologías GenAI y LLM. Estos esfuerzos están detrás de servicios de IA como ChatGPT de OpenAI y Copilot de Microsoft, así como chatbots como Ernie Bot de Baidu y LLM de Tencent y Ant.
Estas herramientas están cambiando la forma en que interactuamos con la tecnología al ofrecer soluciones innovadoras y accesibles tanto para usuarios como para empresas.
La WDTA, establecida por la ONU, tiene como objetivo acelerar la creación de estándares y normas digitales, lo que es un paso importante hacia el desarrollo seguro y ético de la IA. Líderes de la industria, como Sam Altman, CEO de OpenAI, han enfatizado la necesidad de invertir en medidas de seguridad integrales para proteger tanto a los usuarios como a la infraestructura digital, debido a la rápida evolución de GenAI.
China ha establecido regulaciones que obligan a los proveedores de servicios a alinear sus operaciones con los valores socialistas fundamentales, entre otras. Estas normas son pioneras en la regulación de la GenAI. La falta de regulación ha permitido que empresas como Ant, Baidu y Tencent comercialicen sus LLM, lo que ha generado un cambio en la industria tecnológica.
La necesidad de normas éticas para la IA no es algo nuevo. La UNESCO presentó una recomendación sobre la ética de la IA en 2021 y 193 estados miembros la aprobaron. La Organización Internacional de Normalización publicó directrices sobre la gestión de sistemas de IA, la gestión de riesgos y el aprendizaje automático entre 2022 y 2023.
