En la era digital en la que vivimos, control de contenido se ha convertido en uno de los desafíos más apremiantes para las plataformas en línea. Con la evolución de la inteligencia artificial, OpenAI cree firmemente en La capacidad de GPT-4 para abordar y potencialmente resolver este problema. En su blog oficial, la empresa más destacada del momento habla de una gran forma de cambiar de rumbo en un futuro próximo.
Temas de este artículo:
La idea de control de contenido de OpenAI es todo menos estúpida
OpenAI, la organización detrás del software revolucionario como ChatGPT y DALL-E, está convencida de que GPT-4 puede ser la clave para abordar uno de los problemas más complejos del sector tecnológico: el control de contenidos a escala. la idea es que GPT-4 podría reemplazar una gran cantidad de moderadores humanos, asegurando una precisión casi comparable y una mayor coherencia en las decisiones.
recientemente, OpenAI revelado ya han experimentado el uso de GPT-4 para desarrollar y perfeccionar sus políticas de contenido. Esto no solo se refiere al etiquetado de contenido, sino también tomar decisiones cruciales sobre lo que debe y no debe permitirse. Lilian Wen, jefe de sistemas de seguridad de OpenAI, subrayó la importancia de esta evolución, afirmando que representa un paso significativo en el camino La IA se puede utilizar para abordar problemas reales, ofreciendo soluciones que puedan beneficiar a toda la sociedad.
Lea también: Esta empresa demuestra que la IA no nos robará el trabajo… todo lo contrario
Las tres razones por las que el funcionamiento de OpenAI es revolucionario
- Coherencia en las decisiones: a diferencia de los humanos, que pueden interpretar las políticas de diferentes maneras, las máquinas son consistentes en sus juicios. Las pautas, que pueden ser tan largas como un libro y cambiar con frecuencia, pueden implementarse instantáneamente mediante grandes modelos de lenguaje, mientras que los humanos requerirían mucha capacitación para aprender y adaptarse.
- Rapidez en la creación de nuevas pólizas: GPT-4 tiene la capacidad de desarrollar una nueva política en horas, revolucionando un proceso que tradicionalmente llevaría semanas o meses. Esto incluye redactar, etiquetar, recopilar comentarios y refinar políticas.
- Bienestar de los trabajadores: OpenAI pone énfasis en el bienestar de los trabajadores que están continuamente expuestos a contenido dañino, como videos de tortura o abuso infantil. La automatización de este proceso podría reducir la exposición humana a dicho contenido traumático.
Sin embargo, todavía queda un largo camino por recorrer hacia la moderación totalmente automatizada. Si bien la IA tiene el potencial de mejorar la moderación, todavía quedan muchos desafíos por delante. por ejemplo, el distinción entre contenido engañoso, incorrecto y agresivo que no son necesariamente ilegales presenta un gran desafío para los sistemas automatizados. Incluso los expertos humanos luchan por etiquetar tales publicaciones, y las máquinas a menudo cometen errores.
¿Peligro para el trabajo humano?
Como de costumbre, siempre hablamos de esto: ¿la IA nos robará el trabajo? Para la mayoría de las empresas que utilizan la moderación de contenido, vale la pena pecar de precavidos. Aunque la inteligencia artificial ha avanzado significativamente en los últimos años, no quitará trabajos humanos en el corto plazo. La supervisión humana sigue siendo un componente crítico para monitorear con precisión el contenido en línea. Entonces la respuesta es no, no robará el trabajo pero lo mejorará.
Sin embargo, es importante ser consciente de que tal evolución en la tecnología también debe corresponder a un aumento en el nivel de especialización de los trabajadores en el campo tecnológico. Si esto falta, el reemplazo es inevitable.
"En el mejor de los casos, lo que tenemos y seguiremos teniendo es un híbrido. Pero en los últimos años, todo lo que he visto es un aumento en la contratación, no una disminución." dijo Sarah T. Roberts, profesora de la UCLA The Verge muchos años atrás. Una estrategia exitosa de moderación de contenido debe combinar lo mejor de la tecnología de próxima generación y los agentes humanos.
