Vous avez entendu parler de GPT2-chatbot ?

C’est un modèle de langage un peu mystérieux, accessible uniquement sur le site https://chat.lmsys.org, qui semble avoir des super pouvoirs dignes de ChatGPT. Mais attention, suspense… Personne ne sait d’où il sort !

Quand on lui pose la question, ce petit malin de GPT2-chatbot clame haut et fort qu’il est basé sur l’archi de GPT-4 sauf que voilà, ça colle pas vraiment avec son blaze GPT-2…

Du coup, les théories vont bon train. Certains pensent que c’est un coup fourré d’OpenAI, qui l’aurait lâché en mode ninja sur le site de LMSYS pour tester un nouveau modèle en douce, possiblement GPT-4.5 ou GPT-5. D’autres imaginent que c’est LMSYS qui a bidouillé son propre chatbot et qui lui a bourré le crâne avec des données de GPT-4 pour le rendre plus savant que Wikipédia.

Moi, je pencherais plutôt pour la première hypothèse. Pourquoi ? Et bien ce GPT2-chatbot partage des caractéristiques bien spécifiques avec les modèles d’OpenAI, comme l’utilisation du tokenizer maison « tiktoken » ou encore une sensibilité toute particulière aux prompts malicieux.

Au travers de mes propres tests réalisés hier soir, j’ai pu constater que les différences entre GPT2-chatbot et GPT-4 étaient assez subtiles. Les textes générés par GPT2-chatbot sont effectivement mieux construits et de meilleure qualité. Lorsque j’ai demandé à Claude (un autre assistant IA) de comparer des textes produits par les deux modèles, c’est systématiquement celui de GPT2-chatbot qui ressortait gagnant.

Ma théorie personnelle est donc qu’il s’agit bien d’une nouvelle version améliorée de ChatGPT mais je ne pense pas qu’on soit déjà sur du GPT-5. Plutôt du GPT-4.5 grand maximum car les progrès, bien réels, ne sont pas non plus renversants. C’est plus une évolution subtile qu’une révolution.

Les internautes ont aussi leurs hypothèses. Certains imaginent que GPT2-chatbot pourrait en fait être un petit modèle comme GPT-2 (d’où son nom) mais boosté avec des techniques avancées comme Q* ou des agents multiples pour atteindre le niveau de GPT-4. D’autres pensent qu’OpenAI teste en secret une nouvelle architecture ou un nouvel algorithme d’entraînement révolutionnaire permettant d’obtenir les performances de GPT-4 avec un modèle compact. Les plus optimistes voient même en GPT2-chatbot les prémices de l’AGI !

Prêt à tester les talents cachés de GPT2-chatbot ?

Alors direction https://chat.lmsys.org, sélectionnez « gpt2-chatbot », cliquez sur « Chat » et c’est parti mon kiki !

Vous avez droit à 8 messages gratos en mode « tchatche directe » et après, faut passer en mode « Battle » pour continuer à jouer. Un petit conseil : pensez à repartir d’une page blanche en cliquant sur « New Round » à chaque fois que vous changez de sujet, sinon il risque de perdre le fil.

On verra bien dans quelques semaines quelle théorie sortira gagnante de ces discussions.

Source

En septembre 2023, Meta annonçait le lancement bêta de Meta AI, un assistant IA, aux Etats-Unis. Le chatbot est actuellement en phase de test sur les plateformes WhatsApp, Instagram et Messenger en Inde et dans plusieurs pays africains.

Lors de son annonce  de septembre dernier, Meta déclarait sur son blog que, Meta AI, disponible en mode bêta aux Etats-Unis sur WhatsApp, Messenger, Instagram le serait bientôt sur les lunettes intelligentes Ray-Ban Meta et Quest 3. L’assistant était alors alimenté par un modèle personnalisé exploitant la technologie de Llama 2 et les dernières recherches de Meta sur les LLM. Grâce à son partenariat de recherche avec Bing, il a accès à des informations en temps réel, son outil de génération d’images peut créer des images photoréalistes.

Les utilisateurs de WhatsApp, Instagram et Messenger en Inde et dans d’autres régions d’Afrique peuvent désormais tester eux aussi Meta AI depuis la barre de recherche s’ils le désirent, via “Ask Meta AI”. Meta ne peut entraîner son IA générative sur les conversations en mode chat qui restent chiffrées de bout en bout.

 

Facebook a commencé à s’intéresser à l’Intelligence Artificielle dès 2013, année où il a recruté Yann LeCun, Prix Turing 2018, pour monter le laboratoire FAIR (Facebook Artificial Intelligence Research).

Focalisé sur le métaverse, d’où son changement de nom, Meta s’est laissé distancer dans un premier temps dans la course à l’IA générative. Quand bien même il a présenté ses premiers modèles d’IA générative comme Make-A-Video en 2022, il n’a pas mesuré dans un premier temps l’ampleur que pourrait avoir l’intérêt du public pour des chatbots comme ChatGPT qui a fait son apparition à la fin de cette même année.

Depuis lors, il tente de rattraper son retard dans le domaine. Après avoir publié le modèle open source Llama en mars 2023, il a décidé de lancer son propre chatbot et de le tester sur l’immense terrain de jeu à sa disposition : ses réseaux sociaux.

Actuellement Instagram et WhatsApp comptent chacun 2 milliards d’utilisateurs actifs, dont 500 millions pour WhatsApp en Inde, d’où la présence de Meta AI sur ce réseau social pour les utilisateurs indiens qui ont installé les dernières mises à jour.

AMD a partagé sur son blog des guides expliquant étape par étape comment télécharger et exécuter un bot de chat en local sur les PC Ryzen AI ou les cartes graphiques Radeon, activer la RAG (Retrieval Augmented Generation) afin d’améliorer et de fournir un contexte avec un grand modèle de langage (LLM – Large Language Model) ou encore utiliser un LLM local afin de coder en toute confiance.

L’exécution locale de ces applications permet de préserver la confidentialité de vos données sur votre PC équipé d’une puce IA et fonctionne même sans connexion internet.

Comment exécuter un LLM sur votre PC AMD Ryzen AI ou votre carte graphique Radeon ?

Pour créer votre propre chatbot IA, suivez les instructions ci-dessous :

Téléchargez la bonne version de LM Studio et exécutez le fichier :

• Pour les processeurs AMD Ryzen : LM Studio-Windows
• Pour les cartes graphiques AMD Radeon RX série 7000 : LM Studio –  Aperçu technique ROCm™

Dans l’onglet de recherche, copiez et collez l’un des 2 termes de recherche suivants en fonction de ce que vous souhaitez exécuter :

• Si vous souhaitez exécuter Mistral 7b, recherchez : « TheBloke/OpenHermes-2.5-Mistral-7B-GGUF » et sélectionnez-le dans les résultats sur la gauche. Ce sera généralement le premier résultat.
• Si vous souhaitez exécuter LLAMA v2 7b, recherchez : « TheBloke/Llama-2-7B-Chat-GGUF » et sélectionnez-le dans les résultats sur la gauche. Ce sera généralement le premier résultat.
• Vous pouvez également expérimenter d’autres modèles ici.

Dans le panneau de droite, faites défiler vers le bas jusqu’à ce que vous voyiez le fichier de modèle Q4 K M. Cliquez sur Télécharger.

AMD recommande Q4 K M pour la plupart des modèles équipés de Ryzen AI. Attendez la fin du téléchargement.

Allez dans l’onglet chat. Sélectionnez le modèle dans le menu déroulant central en haut au centre et attendez qu’il finisse de se charger.

Si vous avez un PC AMD Ryzen AI, vous pouvez commencer à discuter !

Si vous avez une carte graphique AMD Radeon :

• Cochez “GPU Offload” sur le panneau latéral droit.
• Déplacez le curseur jusqu’à “Max”
• Assurez-vous qu’AMD ROCm s’affiche comme le type de GPU détecté.

AMD a comparé les performance de Ryzen AI par rapport au Core Ultra 7 155H. Les tests montrent que Ryzen AI le surpasse dans la génération de contenu, y compris la programmation, avec des vitesses plus rapides sur un chatbot IA LLM.

• Pour les tokens par seconde, Ryzen AI est jusqu’à 17 % plus rapide sur Mistral Instruct et jusqu’à 14 % plus rapide sur LLAMA v2 Chat ;
• En ce qui concerne le temps nécessaire pour obtenir le premier token, Ryzen AI est jusqu’à 41 % plus rapide sur Mistral Instruct et jusqu’à 79 % plus rapide sur LLAMA v2 Chat.

Dans son blog, AMD explique également comment activer la RAG sur un PC AMD Ryzen AI ou une carte graphique Radeon.

Amazon, comme toutes les entreprises de l’e-commerce, accorde une grande importance à la qualité de l’expérience client en ligne de ses clients, source de fidélité. C’est dans ce cadre que la société a récemment annoncé le lancement de Rufus, “un assistant d’achat expert” basé sur l’IA générative, conçu pour aider les clients à trouver les produits qui correspondent le mieux à leurs besoins.

Rufus est intégré à l’application mobile d’Amazon, offrant une expérience transparente aux clients lors de leurs achats. Les utilisateurs peuvent poser une question dans la barre de recherche de l’application et ensuite interagir avec Rufus via une boîte de dialogue.

Actuellement en version bêta auprès d’un nombre restreints de clients américains utilisant l’application mobile, il sera déployé progressivement aux Etats-Unis dans les semaines à venir. Amazon n’annonce pas de date pour son déploiement en France.

Le modèle qui alimente le chatbot a été entraîné sur le catalogue de produits d’Amazon, les avis des clients, les questions-réponses de la communauté et des informations provenant du Web pour répondre aux différentes questions des clients qu’elles soient générales ou concernent un produit particulier, fournir des comparaisons et faire des recommandations basées sur le contexte conversationnel.

Amazon donne l’exemple d’une recherche générale au début d’un parcours d’achat, telle que « que faut-il prendre en compte lors de l’achat de chaussures de course ? », de comparaisons telles que « quelles sont les différences entre les chaussures de trail et de course sur route ? », en passant par des questions plus spécifiques telles que « sont-elles durables ? »

Les clients peuvent ainsi demander à l’IA des recommandations de produits basées sur des activités spécifiques ou des objectifs, tels que jouer au golf par temps froid ou commencer un jardin intérieur, mais également pour des besoins particuliers, comme des cadeaux pour la Saint-Valentin ou des jouets pour un enfant de 5 ans.

Outre la comparaison de différents types de produits, Rufus peut fournir des réponses à des questions détaillées sur des produits spécifiques, telles que la facilité de tenue d’une perceuse sans fil ou la possibilité ou non de laver un vêtement en machine.

Amazon, qui continue à travailler à l’amélioration des réponses de Rufus, encourage ses premiers utilisateurs  à fournir des commentaires pour l’y aider.