Intéressant

OpenAI vient de publier un algorithme de rédaction de nouvelles encore plus effrayant

OpenAI vient de publier un algorithme de rédaction de nouvelles encore plus effrayant

OpenAI, la société d'IA qu'Elon Musk a fondée puis quittée, vient de publier une version plus puissante de son logiciel d'écriture de texte AI.

La société ne publiera toujours pas son logiciel complet - qui peut être utilisé pour écrire de fausses nouvelles et de faux messages en masse - par crainte qu'il ne soit mal utilisé.

CONNEXES: MICROSOFT INVESTIT UN MILLIARD DE DOLLARS DANS LE PARTENARIAT OPENAI

Que fait OpenAI?

OpenAI dit que son système d'écriture de texte est si avancé qu'il peut écrire des reportages et même de la fiction qui passe pour des humains.

Un utilisateur peut alimenter le texte du système - de quelques phrases à des pages de celui-ci - et le système continuera alors ce même texte dans un style humain étrangement bien écrit et contextuellement pertinent.

Cependant, après avoir libéré son système d'origine, GPT-2, en février, la société a déclaré que le logiciel complet était trop dangereux pour être rendu public - une version plus faible a été mise à disposition.

Maintenant, la société a annoncé qu'elle avait publié une version de GPT-2 qui est six fois plus puissante.

Vous pouvez en fait essayer le dernier système OpenAI public sur TalkToTransformer.com. Les résultats peuvent être étrangement réalistes - bien qu'il y ait des défauts évidents dans l'écriture.

OpenAI fait toujours attention

Selon la déclaration d'OpenAI, il existe encore une version encore plus puissante de GPT-2 que la société n'a pas encore révélée.

La société dit qu'elle prévoit de publier le modèle le plus puissant quelques mois, mais que ce ne sera peut-être pas le cas s'il détermine que les gens utilisent le nouveau GPT-2 plus puissant de manière malveillante.

Au moment de l’annonce initiale de la sortie de GPT-2 en février, Jack Clarke, responsable de la politique d’OpenAI, a déclaréLe gardien il y a «beaucoup de gens qui sont meilleurs que nous pour penser à ce que [l'IA] peut faire de manière malveillante».

Il pourrait être utilisé, par exemple, pour générer une infinité de fausses critiques positives ou négatives - comme si elles étaient écrites par une personne réelle.

Un remède contre les fausses nouvelles?

Alors qu'OpenAI nous rapproche de la domination mondiale de l'IA, un groupe de chercheurs de Harvard et du MIT a développé une méthode pour utiliser l'IA pour lutter contre l'IA.

Les chercheurs ont développé un système, baptisé GLTR, qui utilise un algorithme pour suivre la probabilité qu'un passage ait été écrit par IA ou non.

Il sera intéressant de voir si GLTR se heurte jamais à la version la plus puissante de GPT-2 - si elle est jamais publiée au public, c'est-à-dire. Les guerres de l'IA peuvent être sur nous.


Voir la vidéo: Algorithme 112 - Un algorithme cest quoi? (Octobre 2021).