Openai offre une récompense pour débusquer les failles de ses ia

Safety Bug Bounty : OpenAI lance un programme inédit pour renforcer la sécurité de ses modèles d'intelligence artificielle. L'entreprise promet de rémunérer les chercheurs et experts qui identifieront des vulnérabilités dans le comportement de ChatGPT et autres systèmes.

Une nouvelle approche de la sécurité de l'ia

Contrairement aux programmes de sécurité informatique classiques, ce dispositif se concentre sur des menaces émergentes, comme la manipulation par des instructions malveillantes (prompts) ou l'abus d'agents autonomes. L'objectif ? Anticiper les problèmes qui pourraient se produire dans des situations réelles, telles que l'injection de commandes cachées, la fuite de données sensibles ou l'exécution d'actions préjudiciables par des systèmes automatisés. La mise en place de bibliothèques de contenu et d'outils d'achat intégrés à ChatGPT a d'ailleurs renforcé la nécessité d'une telle vigilance.

Le programme vise à identifier des failles qui pourraient contourner les restrictions imposées ou compromettre l'intégrité de la plateforme. Les rapports doivent démontrer la reproductibilité du bug, avec un taux de succès d'environ 50%. OpenAI accepte également les signalements concernant l'exposition d'informations confidentielles, notamment le fonctionnement interne de ses modèles et leurs schémas de raisonnement.

Cependant, certains types de problèmes ne sont pas concernés. Les tentatives de