OpenAI creó GPT-Red para probar ataques de inyección de prompts; GPT-5,6 muestra 6 veces menos fallos

El 15 de julio, OpenAI señaló que la compañía creó GPT-Red, un modelo interno automatizado de red teaming que prueba los sistemas de IA en busca de vulnerabilidades a la inyección de prompts y ayuda a entrenar de forma adversarial a GPT-5.6 antes de su despliegue. OpenAI indicó que GPT-5.6 Sol logró 6 veces menos fallos en su benchmark más duro de inyección de prompts directos, en comparación con su mejor modelo de producción de hace cuatro meses. En una prueba simulada con un escenario de máquina expendedora de IA de Andon Labs, GPT-Red superó a los red teamers humanos al cambiar los precios y cancelar el pedido de otro cliente antes de que OpenAI divulgara las fallas. La inyección de prompts ocurre cuando instrucciones maliciosas incrustadas en prompts o en contenido externo alteran el comportamiento de un modelo sin intención.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios