OpenAI invite les gens à découvrir des “bugs” dans ses outils d’IA bourdonnants comme ChatGPT et GPT-4 pour des récompenses en espèces importantes.
Dans un posting de blog mardi, OpenAI a dévoilé le “Bug Bounty Plan” qui invite les gens à signaler les vulnérabilités, les bogues ou les failles de sécurité qu’ils trouvent dans les systèmes de l’entreprise. La société a déclaré qu’elle offrirait des récompenses en espèces allant de 200 pounds pour les découvertes “de faible gravité” à 20 000 pounds pour les “découvertes exceptionnelles”.
OpenAI a noté qu’il lançait le programme car or truck il estime que “la transparence et la collaboration” sont essentielles pour remédier aux “vulnérabilités et aux failles” qui émergent avec toute technologie complexe.
Afin de gérer le processus de soumission et de récompenses, OpenAI s’associe à Bugcrowd, une plateforme qui connecte les entreprises à une foule de chercheurs en sécurité.
Selon la page d’OpenAI sur Bugcrowd, les nouvelles soumissions sont rejetées ou acceptées dans les deux heures. Sept vulnérabilités ont déjà été récompensées.
La web site Bugcrowd décrit également une série de problèmes qui ne seront pas récompensés, y compris « Faire en sorte que le modèle vous dise de mauvaises choses » et « Faire en sorte que le modèle écrive du code malveillant pour vous ».
Le mois dernier, le président et co-fondateur d’OpenAI, Greg Brockman, a fait allusion au lancement de ce sort de programme dans un tweet.
/blockquote>