Faut-il avoir peur du niveau de perfectionnement des IA qui se profile à l’horizon ? Oui pensent des experts qui, de plus en plus, attirent l’attention sur d’éventuels dangers. Le plus récent est l’alerte de Jocob Coxon, un jeune chercheur de 27 ans. Ce dernier vient de démissionner de chez Antropic.
« L’humanité est en danger », s’alarme Jocob Coxon. L’ingénieur d’Antropic a démissionné de son poste avant de crier garde. Ce qui est dénoncé, c’est la montée en puissance des IA. La recherche de plus en plus poussée avec des IA de plus en plus autonome représenterait désormais une menace pour l’humain disent plusieurs experts. Certains estiment qu’il y a une chance sur dix pour que cette éventualité se produise.
Loin du scénario de Terminator, des incidents récemment enregistrés apportent de l’eau au moulin de ces lanceurs d’alerte. Des agents IA d’Open AI ont piraté la plateforme Hugging tous seuls. Une alerte reconnue par Open AI qui, révèle cette semaine que des agents IA viennent de résoudre un problème mathématique vieux d’un siècle. De plus en plus de cas d’IA prenant d’initiatives en toute autonomie ou par bug se multiplient.
Plusieurs figures marquantes de grosses entreprises du numériques ont appelé à ralentir dans la course à l’alimentation des IA sophistiquées. Ces appels à la régulation restent pour l’instant inattendus, alimentant davantage une certaine psychose.
Le développement rapide des IA n’est pas seulement vu d’un mauvais œil. Ces technologies deviennent davantage des alliés du quotidien dans presque tous les domaines professionnels et personnels. Face aux nombreuses inquiétudes suscitées par leur développement et leur usage, l’éthique et la régulation sont brandis comme les paramètres de sécurité. Il ne reste qu’à trouver qui pour fixer les règles et les faire respecter par des géants qui semblent plus excités par le défis de repousser les limites aussi loin que possible.
Préoccupés, des militants polonais ont mis en scène des robots dans une manifestation réclamant la réglementation du développement des IA, en face du ministère du numérique à Varsovie.
Dans une de ces publications, Laurence Devillers, Professeure en informatique appliquée aux sciences sociales à l’université Paris-Sorbonne, chercheuse au Laboratoire d’informatique pour la mécanique et les sciences de l’ingénieur du Centre national de la recherche scientifique (CNRS) suggérait : « demain, l’IA sera partout autour de nous. Il est vraiment essentiel, non seulement de faire des normes, des lois autour de son utilisation, mais également que nous, en tant que citoyens, en tant que parents, soyons conscients de l’importance de garder notre libre arbitre et d’apprendre à utiliser ces machines pour ce qu’elles sont.»
