seangoedecke.com

IA

How does AI impact skill formation?

Le papier "How AI Impacts Skill Formation" examine comment l'utilisation de l'IA affecte l'apprentissage de nouvelles compétences. Les résultats montrent que les utilisateurs d'IA ne complètent pas une tâche plus rapidement et obtiennent de moins bons résultats aux quiz. Toutefois, les utilisateurs qui copient-collent du code généré par l'IA réussissent mieux, suggérant que la vitesse d'exécution avec l'IA peut compenser la diminution d'apprentissage. L'auteur critique également le choix du modèle GPT-4o utilisé dans l'étude, indiquant que des modèles plus performants peuvent donner de meilleurs résultats.

"
Sécurité

A practical guide to coding securely with LLMs

Cet article traite de la sécurité lors de l'utilisation des LLMs (modèles de langage très large) pour le développement. Il souligne que les LLMs, en raison de leur nature imprévisible, doivent être traités comme des entrées utilisateurs non fiables. Les techniques de 'prompt injection', qui permettent à des acteurs malveillants d'exploiter ces modèles, sont discutées. L'auteur avertit que tout contenu généré par l'utilisateur intégré dans les entrées d'un LLM peut le rendre vulnérable. Il met en garde contre l'utilisation de bibliothèques tierces et de serveurs MCP, qui présentent des risques de sécurité similaires à ces attaques. L'accent est mis sur la nécessité de traiter les sorties des LLMs et les appels d'outils comme s'ils provenaient d'utilisateurs, afin d'assurer la sécurité des applications.