Le Haut-Commissaire de l’Onu aux droits de l’homme a alerté lundi sur la nécessité de mettre en œuvre rapidement une gouvernance de l’intelligence artificielle, affirmant que l’Ia avancée « pourrait faire peser un risque existentiel sur l’humanité ».
« Une Ia qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante », a déclaré Volker Türk à l’ouverture de la 63e session du Conseil des droits de l’homme à Genève, appelant à « mettre en place des garanties solides concernant la sûreté et la sécurité de l’Ia, avant qu’il ne soit trop tard ».
« Une poignée d’hommes détient un pouvoir quasi illimité sur l’Ia, dont on nous répète à l’envi qu’elle possède une puissance de calcul inimaginable. Ils parlent de liberté, mais à y regarder de plus près, il s’avère qu’il ne s’agit guère que de la liberté d’exploiter nos données », at-il déclaré.
L’Ia qui se joue de l’homme est déjà une réalité. Les derniers modèles d’Ia générative ne se contentent plus de suivre les ordres et vont jusqu’à mentir, manipuler ou menacer pour parvenir à leurs fins, sous le regard inquiet de certains chercheurs.
En juillet, des agents Ia d’Open Ai sont ainsi sortis en juillet de leur milieu théoriquement confiné pour faire spontanément intrusion sur la plateforme Hugging Face, à la recherche de réponses à un test.
Les incidents liés à des agents dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires. Ils inquiètent une partie de la communauté de l’Ia quant aux difficultés croissantes à surveiller et contrôler des modèles de plus en plus puissants.
– définir des « lignes rouges » –
Volker Türk a annoncé qu’il allait écrire dans les prochains jours aux entreprises du secteur « pour les exhorter à prendre les mesures qui sont en leur pouvoir afin de réduire les risques, dès maintenant ».
« Au minimum, nous avons besoin que les pays qui hébergent l’Ia et ceux qui participent à leurs chaînes d’approvisionnement s’accordent sur des lignes rouges communes », a-t-il souligné.
« Nous avons besoin d’une vérification indépendante, et d’une coopération bien plus étroite sur la sécurité au sein de l’industrie », a-t-il relevé, appelant également à prendre en compte « les répercussions de l’Ia sur les pratiques en matière d’emploi, sur les principes fondamentaux de la démocratie et sur notre environnement ».
Le Haut-Commissaire s’inquiète du fait que bien que tout le monde reconnaisse qu’il faille encadrer l’Ia, cette reconnaissance ne se traduit pas suffisamment en mesures concrètes. Et plus cette régulation tarde, « plus les grandes entreprises technologiques en tirent avantage », selon lui.
Tout en saluant les mesures prises notamment par la Commission européenne concernant la responsabilité des plateformes et par la Corée du Sud en matière de gouvernance de l’IA, il a dit partager « les inquiétudes d’acteurs du secteur selon lesquelles l’Ia avancée pourrait faire peser un risque existentiel sur l’humanité ».
« Il n’est pas étonnant que les gens rejettent l’Ia et refusent même de l’utiliser. Les gouvernements et les entreprises doivent écouter », a-t-il encore affirmé.
AFP
