A practical guide to coding securely with LLMs
Cet article traite de la sécurité lors de l'utilisation des LLMs (modèles de langage très large) pour le développement. Il souligne que les LLMs, en raison de leur nature imprévisible, doivent être traités comme des entrées utilisateurs non fiables. Les techniques de 'prompt injection', qui permettent à des acteurs malveillants d'exploiter ces modèles, sont discutées. L'auteur avertit que tout contenu généré par l'utilisateur intégré dans les entrées d'un LLM peut le rendre vulnérable. Il met en garde contre l'utilisation de bibliothèques tierces et de serveurs MCP, qui présentent des risques de sécurité similaires à ces attaques. L'accent est mis sur la nécessité de traiter les sorties des LLMs et les appels d'outils comme s'ils provenaient d'utilisateurs, afin d'assurer la sécurité des applications.
