À mesure que l’intelligence artificielle (IA) et les modèles de langage de grande taille (LLM) prennent une place toujours plus importante dans le secteur technologique, la capacité à saisir correctement le texte (ou « prompts ») pour amener l’IA ou le LLM à répondre de manière appropriée et précise devient tout aussi cruciale.
C’est ce que l’on appelle « l’ingénierie de prompts » et il s’agit de l’une des compétences les plus importantes à maîtriser pour quiconque souhaite tirer pleinement parti des nombreux avantages que ces programmes peuvent offrir. Cela concerne aussi bien les utilisateurs occasionnels que les ingénieurs logiciels chevronnés, qui finiront par utiliser des programmes basés sur les LLM pour générer leur code, qu’ils pourront ensuite affiner.
Commençons par examiner de plus près ce qu’est l’ingénierie de prompts et son fonctionnement, puis voyons quelques exemples et bonnes pratiques que le personnel des opérations informatiques devrait garder à l’esprit pour atteindre une véritable maîtrise.
Premiers pas avec l’ingénierie de prompts pour les LLM et les modèles d’IA
Il est important de reconnaître que l’ingénierie de prompts ne se limite pas à trouver la bonne syntaxe ou les bons « mots-clés » pour amener un LLM ou un modèle d’IA à produire la réponse souhaitée. Elle exige également une compréhension plus approfondie de la manière dont ces modèles fonctionnent, « réfléchissent » et traitent l’information.
Sans cette connaissance complète du fonctionnement interne de ces modèles, un utilisateur pourra connaître quelques « astuces », mais il ne sera pas capable de véritablement contrôler le programme.
Par analogie, on peut se tourner vers la communauté des « hackers ». Un hacker « white-hat » est une personne qui possède une connaissance approfondie des systèmes informatiques et qui utilise ces informations pour identifier les failles ou les problèmes de sécurité d’un système, puis les signaler aux propriétaires afin qu’ils soient corrigés.
À l’inverse, le terme « script kiddie » désigne de pseudo-hackers novices qui se reposent sur des programmes ou des scripts écrits par d’autres. Ils n’ont aucune compréhension réelle des mécanismes sous-jacents et se contentent « d’appuyer sur des boutons ». Ils peuvent parfois atteindre leurs objectifs, mais une simple faute de frappe serait au-delà de leurs capacités à corriger.
De la même manière, un véritable ingénieur de prompts doit savoir comment et pourquoi les modèles LLM fonctionnent et traitent les données s’il souhaite atteindre ses objectifs. Il est tout aussi essentiel de comprendre les différences subtiles entre les LLM.
Philippe Heilman, PDG d’une société de solutions logicielles, explique « La manière dont une question ou une tâche est formulée peut grandement influencer la façon dont le modèle l’interprète — et, en fin de compte, la qualité de la réponse. La spécificité, la clarté et le contexte sont des éléments essentiels pour orienter l’attention du modèle et garantir que sa production corresponde à l’intention de l’utilisateur. »
Playbook de l’ingénierie de prompts : stratégie et ajustements
Il existe de nombreuses nuances et cas particuliers à considérer lors de la conception de prompts pour les LLM. En règle générale, chaque prompt doit être spécifique et conçu sur mesure pour obtenir la meilleure réponse possible.
Dans un article publié sur Medium.com, Maximilian Vogel, cofondateur de Big Picture, présente la stratégie AUTOMAT pour concevoir des prompts « Imaginez que vous écriviez un script pour un chatbot. Vous définissez son rôle (A), avec qui il interagit (U), l’objectif de l’interaction (T), les informations qu’il doit fournir (O), la manière dont il doit communiquer (M), la façon de gérer les cas particuliers (A) et les sujets pertinents (T). Cette structure garantit une communication claire et cohérente avec votre LLM. »
Prenons un exemple concret : comparez un prompt débutant comme « Écris un programme C++ qui affiche l’heure actuelle » avec : « Fais comme si tu étais un programmeur informatique de haut niveau formant un débutant. Écris un programme en C++ avec des commentaires détaillés qui affiche la date et l’heure actuelles, avec un menu déroulant permettant à l’utilisateur de choisir le fuseau horaire local approprié. Inclue des options pour l’heure d’été. »
Le premier prompt est si vague que le résultat pourrait être inutilisable dans votre contexte. Le second, en revanche, précise tous les paramètres nécessaires, permettant au LLM d’écrire un programme bien meilleur.
Un autre exemple : imaginez rechercher sur Google « date de naissance du président Bush ». Vous pourriez obtenir celle de George H. W. Bush ou celle de son fils. Plus le prompt est spécifique, meilleure sera la précision de la réponse.
Techniques avancées d’ingénierie de prompts
L’un des rares défauts des modèles LLM est qu’ils fonctionnent grâce à l’apprentissage automatique et non à une véritable intelligence artificielle. Ils produisent leurs réponses à partir de données existantes et « raisonnent » en puisant dans diverses sources, dont certaines peuvent être biaisées, trompeuses ou simplement erronées.
Une technique simple consiste à ajouter à la fin du prompt une phrase telle que « explique ton raisonnement » ou « explique étape par étape ». C’est ce qu’on appelle le “chain-of-thought prompting”.
Cette approche est essentielle, car elle permet à l’utilisateur d’identifier d’éventuelles erreurs dans le processus de réflexion du modèle. Elle offre aussi d’autres avantages. Comme l’explique Maithili Badhan, de Mercity AI, dans un article de blog, « Cela permet au modèle de se concentrer sur la résolution d’une étape à la fois, plutôt que de devoir considérer l’ensemble du problème en une seule fois. C’est particulièrement utile pour les problèmes complexes qu’il serait difficile, voire impossible, de résoudre en une seule étape. Cela offre également une fenêtre interprétable sur le comportement du modèle. »
C’est également utile pour la vérification. Si, dès la deuxième étape, le modèle utilise des données inexactes, obsolètes ou incomplètes, cela peut fausser toutes les étapes suivantes. Voilà pourquoi le chain-of-thought et, plus largement, l’ingénierie de prompts sont si importants. Sans cela, il est facile d’obtenir des résultats inexacts que beaucoup accepteront sans les remettre en question, ce qui peut entraîner des conséquences potentiellement désastreuses.
L’ingénierie de prompts est une compétence essentielle pour exploiter pleinement tout programme LLM. Elle permet d’affiner les résultats et d’obtenir des réponses de meilleure qualité.
Elle peut faire la différence entre un utilisateur occasionnel obtenant des résultats erronés et un opérateur informatique obtenant des résultats précis et pertinents.
En rédigeant de meilleurs prompts qui orientent le LLM choisi dans la bonne direction, vous pouvez résoudre des problèmes plus rapidement et plus efficacement, tout en tirant pleinement parti de l’énorme potentiel que ces programmes peuvent offrir.
