OpenAI, la empresa de inteligencia artificial que asombró al mundo con sus innovaciones, se está formando un nuevo organismo de la industria. ¿El objetivo? Promover el desarrollo seguro y responsable de los sistemas de IA de frontera. Este es un paso importante, ya que tanto los gobiernos como la industria están de acuerdo en que, a pesar de laLa IA ofrece una enorme promesa para el beneficio del mundose requieren medidas de seguridad adecuadas para mitigar los riesgos.
OpenAI, Anthropic, Google y Microsoft: las tres áreas clave para un futuro seguro de la IA
Il Foro del modelo Frontier (así se llama) se centrará en tres áreas clave durante el próximo año para apoyar el desarrollo seguro y responsable de los modelos de IA de vanguardia. En primer lugar, identificará las mejores prácticas, promoviendo el intercambio de conocimientos entre la industria, los gobiernos, la sociedad civil y la academia. En segundo lugar, apoyará la investigación sobre la seguridad de la IA, identificando las preguntas de investigación más importantes en este campo. Al final, facilitará el intercambio de información entre empresas y gobiernos, estableciendo mecanismos seguros y confiables para compartir información relacionada con la seguridad y los riesgos de la IA.
Lea también: OpenAI presenta la superalineación: cómo la IA puede seguir la intención humana
Un compromiso compartido para un futuro seguro de la IA
Numerosos líderes de la industria han expresado su entusiasmo por esta iniciativa. Kent Andador, Presidente de Asuntos Globales de Google & Alphabet, dijo: “Estamos entusiasmados de trabajar junto con otras empresas líderes, compartiendo experiencia técnica para impulsar la innovación responsable en IA. Todos debemos trabajar juntos para garantizar que la IA beneficie a todos". También Brad Smith, vicepresidente y presidente de Microsoft, subrayó la importancia de esta iniciativa: “Las empresas que crean tecnología de IA tienen la responsabilidad de garantizar que sea segura y permanezca bajo control humano. Esta iniciativa es un paso clave para unir al sector de la tecnología para promover responsablemente la IA y abordar los desafíos de una manera que beneficie a toda la humanidad.".
Ana kanju, Vicepresidente de Asuntos Globales de OpenAI, enfatizó que las tecnologías avanzadas de IA tienen el potencial de brindar profundos beneficios a la sociedad. Afirmó que la realización de este potencial requiere supervisión y gobernanza. Hizo hincapié en la importancia de las empresas de IA, especialmente aquellas que trabajan en los modelos más poderosos, alineándose en un terreno común y promoviendo prácticas de seguridad reflexivas y adaptativas. Esto, dijo, garantizará que las poderosas herramientas de IA tengan la mayor ventaja posible. Hizo hincapié en que este es un trabajo urgente y que el foro está bien posicionado para actuar rápidamente para mejorar el estado de la seguridad de la IA.
