Quelles sont les préoccupations concernant l’IA et certains des avertissements sont-ils des « conneries » ?

Aug 21, 2023

Un expert a déclaré à Sky News qu'il est important de « prêter attention » aux possibilités de dommages causés par l'IA et affirme qu'il n'est « pas clair » que les gouvernements sachent comment réglementer la technologie de manière sûre.

Journaliste @OliveLineham

mardi 30 mai 2023 20h08, Royaume-Uni

L’essor rapide de l’intelligence artificielle (IA) suscite non seulement des inquiétudes parmi les sociétés et les législateurs, mais aussi parmi certains leaders technologiques au cœur de son développement.

Certains experts, dont leGeoffrey Hinton, le « parrain de l'IA », ont averti que l'IA pose un problème similairerisque d'extinction humaine sous forme de pandémies et de guerre nucléaire.

Du patron de la société derrière ChatGPT au chef du laboratoire d'IA de Google, plus de 350 personnes ont déclaré que l'atténuation du « risque d'extinction de l'IA » devrait être une « priorité mondiale ».

Même si l’IA peut effectuer des tâches vitales, telles que des algorithmes analysant des images médicales telles que des radiographies, des scanners et des échographies, ses capacités croissantes et son utilisation de plus en plus répandue suscitent des inquiétudes.

Nous examinons quelques-unes des principales – et pourquoi les critiques disent que certaines de ces craintes vont trop loin.

Désinformation et images modifiées par l’IA

Les applications d'IA sont devenues virales sur les sites de médias sociaux, les utilisateurs publiant de fausses images de célébrités et de politiciens, et les étudiants utilisant ChatGPT et d'autres « modèles d'apprentissage des langues » pour générer des dissertations de niveau universitaire.

UngénéralLes préoccupations autour de l’IA et de son développement concernent la désinformation générée par l’IA et la manière dont elle peut semer la confusion en ligne.

Le scientifique britannique, le professeur Stuart Russell, a déclaré que l'une des plus grandes préoccupations était la désinformation et les soi-disant deepfakes.

Il s'agit de vidéos ou de photos d'une personne dans lesquelles son visage ou son corps a été modifié numériquement pour ressembler à quelqu'un d'autre - généralement utilisées à des fins malveillantes ou pour diffuser de fausses informations.

Veuillez utiliser le navigateur Chrome pour un lecteur vidéo plus accessible

Le professeur Russell a déclaré que même si la désinformation existe depuis longtemps à des fins de « propagande », la différence est maintenant que, en utilisant Sophy Ridge comme exemple, il pourrait demander au chatbot en ligne GPT-4 d'essayer de la « manipuler » pour qu'elle soit "moins favorable à l'Ukraine".

La semaine dernière, une fausse image quisemblait montrer une explosion près du Pentagoneest brièvement devenu viral sur les réseaux sociaux et a poussé les vérificateurs des faits et les pompiers locaux à se démener pour contrer cette affirmation.

Il semblerait que l’image, censée montrer un grand nuage de fumée noire à côté du siège américain du ministère de la Défense, ait été créée à l’aide de la technologie de l’IA.

Il a été publié pour la première fois sur Twitter et a été rapidement remis en circulation par des comptes d'information vérifiés, mais faux. Mais les vérificateurs des faits ont rapidement prouvé qu’il n’y avait pas eu d’explosion au Pentagone.

Mais des mesures sont prises. En novembre, le gouvernement a confirmé que le partage de « deepfakes » pornographiques sans consentement serait considéré comme un délit en vertu d'une nouvelle législation.

Dépasser l’intelligence humaine

Les systèmes d’IA impliquent la simulation de processus d’intelligence humaine par des machines – mais existe-t-il un risque qu’ils se développent au point de dépasser le contrôle humain ?

Le professeur Andrew Briggs de l'Université d'Oxford a déclaré à Sky News qu'on craignait qu'à mesure que les machines deviennent plus puissantes, le jour « vienne » où leur capacité dépasse celle des humains.

Veuillez utiliser le navigateur Chrome pour un lecteur vidéo plus accessible

Il a déclaré : "À l'heure actuelle, quoi que ce soit, la machine est programmée pour l'optimiser, elle est choisie par les humains et elle peut être choisie pour le mal ou pour le bien. Pour le moment, ce sont les humains qui en décident.

"La crainte est qu'à mesure que les machines deviennent de plus en plus intelligentes et puissantes, un jour viendra où leur capacité dépassera largement celle des humains et où les humains perdront la capacité de garder le contrôle de ce que la machine cherche à optimiser".

Lire la suite :Qu'est-ce que GPT-4 et comment est-il amélioré ?