des préoccupations et des questions entourant l’IA.
Voici des extraits de l’entretien, édités pour plus de longueur et de clarté.
___
Que peut apporter l’ONU que les autres ne peuvent pas apporter ?
GILL : Je dirais trois mots. L’inclusivité – c’est-à-dire rassembler beaucoup plus de pays, par rapport à certaines des initiatives existantes très importantes. Le deuxième est la légitimité, car l’ONU aide depuis longtemps les pays et d’autres acteurs à gérer l’impact de différents types de technologies, qu’il s’agisse des sciences bio, chimiques, nucléaires ou spatiales, non seulement pour empêcher leur utilisation abusive, mais aussi pour promouvoir une utilisation inclusive. des utilisations pacifiques de ces technologies pour le bénéfice de tous.
Le troisième est l’autorité. Quand quelque chose sort de l’ONU, cela peut avoir un impact faisant autorité. Il existe certains instruments de l’ONU – par exemple les traités relatifs aux droits de l’homme – avec lesquels certains de ces engagements peuvent être liés. (Par exemple, si une fonctionnalité d’IA) conduit à l’exclusion d’une certaine communauté ou à la violation des droits de certaines personnes, alors les gouvernements ont l’obligation, en vertu des traités qu’ils ont signés à l’ONU, d’empêcher cela. Il ne s’agit donc pas seulement d’une autorité morale. Cela crée une sorte de pression de conformité pour respecter les engagements auxquels vous pouvez souscrire.
l’ONU est-elle confrontée à des défis que d’autres entités actives dans ce domaine ne rencontrent pas – ou pas dans la même mesure ?
Une troisième limite est que les processus de l’ONU peuvent être longs, car la recherche d’un consensus entre un grand nombre d’acteurs peut prendre du temps et la technologie évolue rapidement. Nous devons donc être plus agiles.
à n’importe quel niveau, peuvent-ils vraiment prendre le contrôle de l’IA ?
GILL : Certainement. Je pense que les gouvernements devraient le faire, et ils peuvent influencer de nombreuses manières la direction que prend l’IA. Il ne s’agit pas seulement de réglementer contre les abus et les préjudices, de s’assurer que la démocratie et l’État de droit ne soient pas compromis, mais également de promouvoir un écosystème d’innovation diversifié et inclusif afin qu’il y ait moins de concentration du pouvoir économique et que les opportunités soient plus nombreuses. largement disponible.
certaines personnes dans les pays du Sud espèrent que l’IA pourra réduire la fracture numérique, mais on craint également que certains pays ne récoltent les bénéfices de la technologie tandis que d’autres soient laissés pour compte et laissés pour compte. Pensez-vous qu’il est possible que tout le monde soit sur la même longueur d’onde ?
GILL : C’est une préoccupation très, très importante, quelque chose que je partage. Pour moi, c’est une raison pour que tout le monde se rassemble d’une manière plus nuancée : dépasser cette dichotomie entre « promesse et péril » – qui revient souvent dans l’esprit de ceux qui ont le pouvoir d’agir, qui ont la capacité de le faire – pour une compréhension plus nuancée où l’accès aux opportunités, et sa dimension d’autonomisation, au-delà de « la promesse et du péril », est également au premier plan.
Alors oui, il y a l’opportunité, il y a l’enthousiasme. Mais comment saisir cette opportunité est une question très, très importante.
Selon vous, qu’est-ce que cela signifie et comment cela peut-il être réalisé ?
R : Avoir une convergence, une compréhension commune des risques, ce serait un résultat très important. Avoir une compréhension commune des outils de gouvernance qui fonctionnent, ou pourraient fonctionner, et de ce qui pourrait nécessiter des recherches et des développements, serait très précieux. Une compréhension commune du type de modèle agile et distribué nécessaire à la gouvernance de l’IA – pour minimiser les risques et maximiser les opportunités – serait très, très précieuse. Et enfin, avoir une compréhension commune de la décision politique que nous devons prendre l’année prochaine lors du Sommet du futur (une réunion de l’ONU prévue en septembre 2024), afin que nos efforts dans ces fonctionnalités soient durables et bénéficient de la compréhension et de l’adhésion du public. confiance.
qu’est-ce qui vous empêche de dormir la nuit ? Et qu’est-ce qui vous donne de l’espoir lorsque vous vous réveillez le matin ?
GILL : Permettez-moi de commencer par le côté plein d’espoir. Ce qui me passionne vraiment, c’est la possibilité d’accélérer les progrès vers les objectifs de développement durable en tirant parti de l’IA, en particulier dans les domaines prioritaires de la santé, de l’agriculture, de la sécurité alimentaire, de l’éducation et de la transition verte. Ce qui m’inquiète, c’est que nous la laissons avancer d’une manière qui, d’une part, nous trompe sur ce dont l’IA est capable ; et deuxièmement, cela conduit à une plus grande concentration du pouvoir technologique et économique entre quelques mains. Il peut s’agir d’individus et d’entreprises très bien intentionnés, mais la démocratie prospère dans la diversité, dans la compétition et dans l’ouverture.
J’espère donc que nous prendrons la bonne direction et que l’IA ne deviendra pas un moyen de renverser la démocratie, de tromper la société dans son ensemble et de réduire notre humanité. C’est le genre de questions qui m’inquiètent, mais je suis globalement très optimiste quant à l’IA.
