Information

Les questions-réponses humaines avec l'IA montrent les faiblesses de la pensée générées par ordinateur

Les questions-réponses humaines avec l'IA montrent les faiblesses de la pensée générées par ordinateur

Vous avez probablement regardé Jeopardy! ou un tel jeu télévisé de trivia, où les adversaires debout derrière des podiums brillants doivent répondre à des questions de trivia aussi rapidement et aussi précisément que possible. Ce sont très amusants, pour ne pas mentionner éducatifs.

Imaginez maintenant un humain contre un système informatique jouant les uns contre les autres, et l'horloge.

Il semble que les résultats finissent par être biaisés en faveur de l'intelligence artificielle, et vous auriez raison.

CONNEXES: QU'EST-CE QUE L'INTELLIGENCE ARTIFICIELLE EXPLIQUABLE ET EST-ELLE NÉCESSAIRE?

Cependant, un groupe de chercheurs de l'Université du Maryland (UMD) a réuni 1213 questions, travaillant aux côtés des humains et des machines, afin de voir les réponses des ordinateurs, et s'est rendu compte qu'ils pouvaient relativement facilement les étouffer en ajustant légèrement les questions.

Le monde moderne des assistants virtuels

L'IA a encore du chemin à faire pour comprendre pleinement le langage humain. Tout ce que nous devons faire est de parler avec Siri pour savoir que l'assistant virtuel ne capte pas toujours exactement ce que les humains disent.

Il en va de même pour la plupart des systèmes informatiques d'intelligence artificielle qui écoutent et interagissent avec les humains.

Cela dit, lorsque l'ordinateur Watson d'IBM a joué Jeopardy! contre les humains en 2011, c'était une victoire claire pour l'ordinateur.

C'est ce qui a poussé le groupe de chercheurs de l'Université du Maryland à créer plus 1200 questions- des questions faciles à répondre pour les humains - qui ont fini par étourdir les systèmes informatiques.

Actuellement, aucun système informatique ne peut encore répondre correctement à ces questions.

Ce qui a intrigué les chercheurs, c'est exactement comment les ordinateurs trouvent leurs réponses, et non les réponses elles-mêmes. Leur objectif était de comprendre ce que les ordinateurs comprenaient réellement.

«La plupart des systèmes informatiques de réponse aux questions n'expliquent pas pourquoi ils répondent comme ils le font, mais notre travail nous aide à voir ce que les ordinateurs comprennent réellement», a déclaré Jordan Boyd-Graber, professeur agrégé d'informatique à l'UMD et auteur principal de la recherche. .

Boyd-Graber a poursuivi "En outre, nous avons produit un ensemble de données à tester sur des ordinateurs qui révélera si un système de langage informatique lit et effectue réellement les mêmes types de traitement que les humains sont capables de faire."

Les humains ou les ordinateurs créent toutes les questions auxquelles les ordinateurs répondent, pas une combinaison

En combinant des humains et des ordinateurs pour créer les questions, et pas simplement des humains ou exclusivement des ordinateurs, Boyd-Graber et son équipe ont pu créer une interface informatique qui affiche ce que les ordinateurs pensent pendant que les humains écrivent les questions.

Ensuite, l'humain peut modifier ses questions pour placer l'ordinateur dans une situation délicate.

Afin de tester leurs travaux, l'équipe de chercheurs a mis les ordinateurs et les humains à l'épreuve. Ils ont placé des équipes de trivia juniors de lycée, ainsi que Jeopardy! champions contre les ordinateurs avec ces questions.

Les ordinateurs maîtriseront-ils jamais vraiment le langage? Ils devront d'abord apprendre à répondre aux questions qui ciblent leurs faiblesses. Jordan Boyd-Graber de @UMDCS et @ UMIACS et son équipe ont élaboré 1 213 questions pour y parvenir. En savoir plus ici. https://t.co/FPYKwqSQbC

- UMD Science (@UMDscience) 6 août 2019

Toutes les équipes de jeux-questionnaires humains ont gagné, même celles qui n'ont pas obtenu de points très élevés. Aucune équipe informatique n'a gagné.

"Pendant trois ou quatre ans, les gens savent que les systèmes de réponse par ordinateur sont très fragiles et peuvent être très facilement trompés », a déclaré Shi Feng, co-auteur de l'article et étudiant diplômé en informatique de l'UMD.

Feng a poursuivi en disant: "Mais c'est le premier article dont nous ayons connaissance qui utilise en fait une machine pour aider les humains à casser le modèle lui-même."


Voir la vidéo: Intelligence artificielle: Promesses et périls Avec Lê de Science4All. The Flares (Octobre 2021).