Openai reforza la seguridad con un programa que paga a expertos por descubrir vulnerabilidades en sus modelos de ia
En un movimiento audaz para prevenir ataques a su plataforma de inteligencia artificial, OpenAI ha lanzado un programa de recompensas denominado Safety Bug Bounty, que pagará a investigadores y expertos por encontrar fallos en el comportamiento de sus modelos.
El objetivo es detectar problemas emergentes
Este enfoque innovador se centra en riesgos emergentes como la manipulación mediante prompts o el abuso de agentes autónomos, en lugar de los tradicionales programas de ciberseguridad. El objetivo es detectar problemas que puedan surgir en escenarios reales, como la inyección de instrucciones maliciosas, la posible filtración de datos o acciones dañinas ejecutadas por sistemas automatizados.
La iniciativa llega en un momento clave, tras la incorporación de nuevas funciones dentro del ecosistema de ChatGPT, como bibliotecas de contenido y herramientas de compra integradas.
Para que una vulnerabilidad sea válida, los investigadores deberán demostrar que el fallo puede reproducirse de manera consistente, aproximadamente en la mitad de los intentos. Además, OpenAI acepta informes relacionados con la exposición de información sensible, incluyendo el comportamiento interno de los modelos o sus patrones de razonamiento.
Las propuestas serán revisadas por equipos especializados en seguridad y comportamiento de IA, y algunas podrían redirigirse según su naturaleza. OpenAI tampoco descarta lanzar en el futuro programas privados adicionales para investigar áreas especialmente sensibles.