L'impact de ChatGPT et de l'IA générative sur les agences 3/5
Avez-vous besoin d'un prompt engineer ou d'un plombier prompteur ?
Hier, Nicolas de Pomereu d'Aligre, me demandait dans un post, quelle solution nous avions trouvé pour analyser 3000 avis clients avec l'API de ChatGPT ?
Avant-hier, Emmanuel Vivier disait que c'était 4 années de travail sur la data (collecte, formatage, enrichissement, tuyautage...) chez Carrefour qui avait permis à l'un de leur prestataire de créer, Hopla, une version personnalisée de ChatGPT capable de suggérer des recettes à bases d'ingrédients vendus par Carrefour en l'espace de quelques semaines.
Avant-avant-avant-hier, une développeuse me demandait pourquoi l'API de ChatGPT ne répondait pas à toutes ses requêtes (y compris celles qui ne contenaient pas d'erreurs).
Le dénominateur entre tout cela, c'est la plomberie de prompt.
Les agences doivent transformer tous leurs collaborateurs en experts du prompts: pour que ChatGPT leur donne une idée géniale à proposer à un client, pour que Midjourney ou Stable Diffusion leur génère l'image dont il rêve, pour Loudly leur écrive une petite musique cohérente avec la vidéo à illustrer...
Ca, c'est ce que j'appelle une compétence, mais un métier contrairement à ce que l'on lit ici et là.
A côté de cela, les agences doit créer des postes de plombiers prompteurs.
Et, ça, c'est un métier.
Ces plombiers sauront comment créer un chatbot à base de ChatGPT qui aura ingurgité la base de données produits d'une entreprise comme Carrefour.
Ces plombiers sauront gérer les refus de réponses de l'API et relancer les requêtes qui auront échoué une première fois.
Ces plombiers sauront aussi comme faire analyser 3000 avis clients par ChatGPT.
L'une des principales limites de l'API d'OpenAI est le nombre de mots qu'elle accepte de traiter (le nombre de tokens pour être précis) au sein d'une requête . Dans chaque requête que vous envoyez à l'API, vous ne pouveez envoyer plus d'un certain nombre de mots. En conséquence, si vous lui demandez d'analyser 30 avis pas trop longs, cela passe. Si vous lui en envoyez 3000, là, ça coince. Il faut donc trouver une solution technique lors du requêtage de l'API, pour contourner cette limite. Nous, Neodia/24pm Academy, avons trouvé des solutions en travaillant pendant deux jours. Au final, la solution c'est une série de "prompts pyramidaux" un peu compliqués, mélangés à du code.
Plombier prompteur, c'est un métier.
Besoin de renfort pour faire monter en puissance toutes vos équipes en compétence sur l'IAG générative ?
