Sam Altman, le PDG d’OpenAI, a annoncé des modifications possibles de l’approche de sécurité de son entreprise face à la concurrence croissante dans le domaine de l’intelligence artificielle. Cette annonce intervient après des critiques quant aux normes de sécurité adoptées par OpenAI lors du lancement récent de GPT-4.1.
Changement d’approche en matière de sécurité
OpenAI a indiqué dans un article publié mardi qu’il pourrait réajuster ses normes de sécurité si « un autre développeur d’IA frontalière publie un système à haut risque sans garanties comparables ». Selon la société, ce changement ne serait envisagé que si les conditions entourant les risques évoluent et devrait être accompagné d’une reconnaissance publique ainsi que d’une assurance que cela n’accroîtra pas significativement les dangers liés aux préjudices graves.
Lancement controversé de GPT-4.1
Cette déclaration fait suite au lancement par OpenAI, lundi dernier, du modèle GPT-4.1, réalisé sans le rapport de sécurité habituel qui accompagne généralement les nouvelles versions. Un porte-parole d’OpenAI a expliqué à TechCrunch que ce modèle n’étant pas « frontière », il ne nécessitait pas une telle documentation.
Critiques sur la transparence et l’engagement
Le contexte est marqué par une intensification des critiques concernant l’engagement d’OpenAI envers la sécurité et la transparence depuis plusieurs mois. En février 2023, lors du lancement des semaines de recherche approfondies, OpenAI avait publié ultérieurement sa carte système décrivant ses évaluations en matière de sécurité. Toutefois, ces récentes décisions suscitent des interrogations et alimentent les débats autour des responsabilités éthiques dans le cadre du développement technologique.
« OpenAI réduit discrètement ses engagements de sécurité », déplore Steven Adler, ancien chercheur en matière de sécurité chez OpenAI, commentant ainsi le cadre mis à jour proposé par l’entreprise.
Perspectives futures
Alors qu’OpenAI ajuste sa stratégie pour maintenir sa compétitivité sur un marché en pleine évolution, ces changements soulèvent également des questions concernant la moralité et la responsabilité sociale associées au développement rapide des technologies IA. Les actions futures d’OpenAI pourraient être déterminantes non seulement pour son avenir mais aussi pour celui du secteur technologique tout entier.
