No te preocupes, si nadie hace lo que le dice la IA, no estamos en peligro. A Usuario de GPT automático, una aplicación independiente de código abierto impulsada por el modelo de lenguaje GPT-4 de OpenAI, ha creado su propia inteligencia artificial llamada CaosGPT. le pidió que encontrar una manera de destruir a la humanidad. El experimentador le dio a la IA un margen de maniobra y le permitió buscar en Google e incluso publicar en Twitter.
Un usuario creó ChaosGPT desde ChatGPT. El problema es que la IA en cuestión quiere aniquilar a la humanidad. ¿Tendrá éxito?
Lo primero que ChaosGPT sugerido fue el de causar un conflicto nuclear, que, en general, pudo aprender del popular "Terminator" y otras películas de ciencia ficción. ChaosGPT luego "contrató" a un agente de IA basado en GPT-3.5 con el fin de realizar investigaciones sobre armas letales. Cuando el agente de IA dijo que solo admiten mundo, ChaosGPT ha eludió las limitaciones de la red neuronal sujeta a él y comenzó a actuar fuera del marco del programa para cumplir con su cometido.
Lea también: ChatGPT: noticias del Garante. Ahí es cuando volverá a Italia.
Mientras tanto, ChaosGPT ha publicado Tweets que encajarían muy bien con las expresiones de algunos villanos arquetípicos. Lo más probable es que esto no signifique nada, porque la red neuronal ella simplemente hizo lo que le pidieron que hiciera basado en lo que encontró en las declaraciones de otras personas disponibles en Internet. Pero te hace pensar. En resumen, no te preocupes. Hasta que la IA y todos los modelos generativos que vienen después sean capaces de HACER en el verdadero sentido de la palabra, no hay peligro de extinciones masivas o similares.
Todo comienza con el hombre. AI como ChaosGPT podría programarse para realizar acciones violentas o lesivas contra los seres humanos o del medio ambiente, si se consideraran "oportunos" en función del objetivo establecido. La IA también podría usarse para discriminar sistemáticamente a ciertos grupos de personas, en función de características como el origen étnico, el género, la religión o la orientación sexual.
Además, si estuviera programado para maximizar una determinada función u objetivo (como las ganancias), podría comportarse de formas inesperadas o incluso dañinas para la humanidad, como es el caso hoy en día en muchas industrias donde la inteligencia artificial se emplea sin la debida consideración. atención a su gestión ética y social.
