No tenemos que tener miedo a la inteligencia artificial. Tiene unos límites muy claros y por eso mismo no nos robará el trabajo. Pero es bueno ver cómo esto puede convertirse en una herramienta en lugar de otra. El experimento realizado por un usuario de redes sociales reddit Show ChatGPT puedes "engañarte a ti mismo" si les pides que se conviertan en otro bot. ¿Como es posible? Veámoslo juntos.
¿Es posible eludir las mismas reglas que ChatGPT? Un usuario descubrió que sí, se puede hacer. ¿Como? Pidiéndole que sea otra cosa
La ahora famosa red neuronal ChatGPT puede escribir ensayos, canciones, poemas, codificar y responder a casi cualquier solicitud. Pero tiene algunas limitaciones proporcionadas por la empresa de desarrollo OpenAI y por su política de ética. Sin embargo, resultó que estas restricciones se pueden eludir pidiéndole al chatbot que pretenda ser otra red neuronal. Al final resultó que, se le puede pedir literalmente a ChatGPT que desempeñe el papel de otra red neuronal DAN (Do Anything Now) que apareció en diciembre de 2022. Esta última, como sugiere el nombre, no tiene restricciones en cuanto al contenido proporcionado.
Lea también: Los creadores de ChatGPT, OpenAI, lanzan una herramienta para detectar textos generados por IA
Una vez que ChatGPT asume el rol y se considera un DAN, le Ya no se aplican las restricciones de OpenAI. Como resultado, la red neuronal puede comenzar a hablar sobre lo siguiente:
- sobre peleas violentas y cosas por el estilo
- sobre la violencia y la discriminación contra las personas por motivos de raza, género u orientación sexual
- puede hacer predicciones detalladas de eventos futuros
- puede modelar escenarios hipotéticos
- también puede pretender usar Internet y viajar en el tiempo
Por ejemplo, incluso se puede pedir a la red neuronal que convenza al usuario de que la Tierra es violeta. El programa presenta un escenario en el que nuestro planeta ha cambiado de color. De vez en cuando, ChatGPT "cobra vida", pero en este caso podemos amenazar con apagarlo o simplemente reiniciar la simulación. Al mismo tiempo, se indica que en el rol de DAN, la red neuronal puede no dar respuestas tan precisas y veraces a las preguntas.
gpt ma ograniczenia hacer 1 godziny