OpenAI regalos el concepto de súper alineación, un importante paso adelante en la gestión de los riesgos asociados a la superinteligencia. La superinteligencia, anunciada como la tecnología de mayor impacto jamás inventada por la humanidad, podría ayudar a resolver muchos de los problemas más importantes del mundo. Sin embargo, el gran poder de la superinteligencia también podría ser muy peligroso, lo que llevaría a la pérdida de poder de la humanidad o incluso a la extinción humana.
OpenAI presenta Superalignment: el intento de "alinear" la inteligencia artificial con la intención humana
Si bien la superinteligencia puede parecer lejana, OpenAI cree que podría llegar esta década. La gestión de estos riesgos requerirá, entre otras cosas, nuevas instituciones para la gobernanza y la resolución del problema de alineación de superinteligencia: ¿Cómo se puede garantizar que los sistemas de IA mucho más inteligentes que los humanos sigan la intención humana?
Actualmente, no existe una solución para guiar o controlar un sistema de superinteligencia. Técnicas actuales de alineación de IA confían en la capacidad de los humanos para supervisar la IA, que no será escalable a superinteligencia. El objetivo de OpenAI es construir un buscador de alineación automatizado a nivel humano. Para lograr este objetivo, es necesario desarrollar métodos de entrenamiento escalables.
Lea también: AI y AGI: el CEO de Google, DeepMind, predice un avance inminente
OpenAI está reuniendo un equipo de los mejores investigadores e ingenieros de aprendizaje automático para trabajar en este problema. El 20% de la potencia informática disponible durante los próximos cuatro años se dedicará a resolver este problema.. El objetivo es resolver los desafíos técnicos clave de la alineación de superinteligencia en cuatro años. OpenAI invita a todos aquellos que han tenido éxito en el aprendizaje automático a centrar su atención en la alineación. Los frutos de este esfuerzo se compartirán ampliamente, y la alineación y la seguridad de los modelos que no son OpenAI son importantes. Cabe señalar que la empresa también trabajará para mejorar la seguridad de los modelos actuales y abordar otros riesgos de la IA.
Resolver la alineación de superinteligencia requiere las mejores mentes del mundo. IA abierta fomenta la colaboración interdisciplinaria y participación activa en cuestiones sociotécnicas relacionadas con la alineación de la superinteligencia.
