Flux rapide dans Azure AI Studio

Un flux rapide est un outil de développement conçu pour simplifier l’ensemble du cycle de développement des applications IA optimisées par des modèles LLM (Large Language Model). Le flux rapide fournit une solution complète qui simplifie le processus de prototypage, d’expérimentation, d’itération et de déploiement de vos applications IA.

Le flux rapide est disponible indépendamment en tant que projet open source sur GitHub, avec son propre Kit de développement logiciel (SDK) et extension VS Code. Le flux rapide est également disponible et recommandé pour être utilisé en tant que fonctionnalité dans les deux Azure AI Studio et Azure Machine Learning studio. Cet ensemble de documentation se concentre sur le flux rapide dans Azure AI Studio.

Définitions :

• Le flux rapide est une fonctionnalité qui peut être utilisée pour générer, personnaliser ou exécuter un flux.
• Un flux est un jeu d’instructions exécutable qui peut implémenter la logique IA​ Les flux peuvent être créés ou exécutés via plusieurs outils, comme un canevas prédéfini, LangChain, etc. Les itérations d’un flux peuvent être enregistrées en tant que ressources ; une fois déployé, un flux devient une API. Tous les flux ne sont pas des flux rapide; plutôt, le flux d’invite est un moyen de créer un flux.
• Uneinvite est un package d’entrée envoyé à un modèle, composé de l’entrée utilisateur, du message système et de tous les exemples. L’entrée utilisateur est du texte envoyé dans la fenêtre de conversation. Le message système est un ensemble d’instructions pour le modèle qui étend ses comportements et ses fonctionnalités.
• Un échantillon de flux est un flux d’orchestration prédéfini simple qui montre comment les flux fonctionnent et peuvent être personnalisés.
• Un échantillon d’invite est une invite définie pour un scénario spécifique qui peut être copié à partir d’une bibliothèque et utilisé tel quel ou modifié dans la conception d’invite.

Avantages du flux rapide

Avec le flux rapide dans Azure AI Studio, vous pouvez :

• Orchestrer des flux exécutables avec des modèles LLM, invites et outils Python via un graphique visuel.
• Déboguez, partagez et itérer facilement vos flux grâce à la collaboration d’équipe.
• Créer des variantes d’invite et comparer leurs performances.

Agilité d’ingénierie d’invite

• Expérience de création interactive : le flux rapide fournit une représentation visuelle de la structure du flux, ce qui vous permet de comprendre et d’explorer facilement les projets.
• Variantes pour le réglage de l’invite : vous pouvez créer et comparer plusieurs variantes d’invite, ce qui facilite un processus d’affinement itératif.
• Évaluation : les flux d’évaluation intégrés vous permettent d’évaluer la qualité et l’efficacité de leurs invites et flux.
• Ressources complètes : le flux rapide comprend une bibliothèque d’outils, d’échantillons et de modèles intégrés qui servent de point de départ pour le développement, inspirant la créativité et accélérant le processus.

Préparation pour l’entreprise

• Collaboration : le flux rapide prend en charge la collaboration d’équipe, ce qui permet à plusieurs utilisateurs de travailler ensemble sur des projets d’ingénierie d’invite, de partager des connaissances et d’assurer la gestion de version.
• Plateforme tout-en-un : le flux rapide simplifie l’ensemble du processus d’ingénierie d’invite, du développement et de l’évaluation au déploiement et à l’analyse. Vous pouvez déployer sans effort leurs flux en tant que points de terminaison Azure AI et analyser leurs performances en temps réel, garantissant un fonctionnement optimal et une amélioration continue.
• Solutions de préparation de l’entreprise : le flux rapide applique de solides solutions Azure AI de préparation de l’entreprise, fournissant une base sécurisée, évolutive et fiable pour le développement, l’expérimentation et le déploiement des flux.

Avec le flux rapide dans Azure AI Studio, vous pouvez libérer l’agilité de l’ingénierie rapide, collaborer efficacement et appliquer des solutions d’entreprise pour développer et déployer avec succès des applications basées sur le LLM.

Cycle de vie du développement

Le flux rapide offre un processus bien défini qui facilite le développement fluide d’applications IA. En l’utilisant, vous pouvez progresser efficacement dans les phases de développement, de test, de réglage et de déploiement de flux, permettant la création d’applications IA à part entière.

Le cycle de vie se compose des phases suivantes :

• Initialisation : identifiez le cas d’usage métier, collectez des échantillons de données, apprenez à créer une invite de base et développez un flux qui étend ses capacités.
• Expérimentation : exécutez le flux sur des échantillons de données, évaluez les performances de l’invite et effectuez une itération sur le flux si nécessaire. Expérimentez en continu jusqu’à être satisfait des résultats.
• Évaluation et affinement : évaluez le niveau de performance du flux en l’exécutant sur un jeu de données plus volumineux, évaluez l’efficacité de l’invite et affinez-la si nécessaire. Passez à la phase suivante si les résultats répondent aux critères souhaités.
• Production : optimisez le flux pour des fins d’efficacité et d’effectivité, déployez-le, analysez les performances dans un environnement de production et recueillez des données d’utilisation et des commentaires. Utilisez ces informations pour améliorer le flux et contribuer aux phases antérieures pour d’autres itérations.

En suivant cette approche structurée et méthodique, le flux rapide vous permet de développer, de tester rigoureusement, d’ajuster et de déployer des flux en toute confiance en vue de créer des applications IA robustes et sophistiquées.

Types de flux

Dans Azure AI Studio, vous pouvez démarrer un nouveau flux en sélectionnant un type de flux ou un modèle dans la galerie.

Voici quelques exemples d’objectifs et de types de flux :

• Flux standard : Conçu pour le développement d’applications générales, le flux standard vous permet de créer un flux à l’aide d’un large éventail d’outils intégrés pour le développement d’applications basées sur LLM. Il offre flexibilité et polyvalence pour le développement d’applications dans différents domaines.
• Flux de conversation : Adapté au développement d’applications de conversation, le flux de conversation s’appuie sur les fonctionnalités du flux standard et fournit une prise en charge améliorée des entrées et sorties de conversation et une gestion de l’historique des conversations. Avec le mode de conversation natif et les fonctionnalités intégrées, vous pouvez développer et déboguer leurs applications en toute transparence dans un contexte conversationnel.
• Flux d’évaluation : conçu pour les scénarios d’évaluation, le flux d’évaluation vous permet de créer un flux qui prend les sorties des exécutions de flux précédentes en tant qu’entrées. Ce type de flux vous permet d’évaluer le niveau de performance des résultats de l’exécution précédente et de générer des métriques pertinentes, ce qui facilite l’évaluation et l’amélioration de leurs modèles ou applications.

Flux

Un flux dans un flux d’invite sert de flux de travail exécutable qui simplifie le développement de votre application IA basée sur LLM. Il fournit une infrastructure complète pour la gestion du flux de données et du traitement au sein de votre application.

Au sein d’un flux, les nœuds occupent le devant de la scène, représentant des outils spécifiques dotés de fonctionnalités uniques. Ces nœuds gèrent le traitement des données, l’exécution des tâches et les opérations algorithmiques, avec des entrées et des sorties. En connectant des nœuds, vous établissez une chaîne transparente d’opérations qui guide le flux de données à travers votre application.

Pour faciliter la configuration des nœuds et leur ajustement, une représentation visuelle de la structure de flux de travail est fournie par le biais d’un graphique DAG (graphe orienté acyclique). Ce graphique présente la connectivité et les dépendances entre les nœuds, offrant une vue d’ensemble claire et globale du flux de travail.

Avec la fonctionnalité de flux d’invite, vous pouvez concevoir, personnaliser et optimiser la logique de votre application IA. L’organisation cohérente des nœuds garantit un traitement des données efficace et une gestion efficace des flux, ce qui vous permet de créer des applications robustes et avancées.

Outils de flux rapide

Les outils sont les blocs de construction fondamentaux d’un flux.

Dans Azure AI Studio, les options de l’outil LLM, outil Prompt, outil Python, etc.

Chaque outil est une unité exécutable simple avec une fonction spécifique. En associant différents outils, les utilisateurs peuvent créer un flux qui atteint un large éventail d’objectifs. Par exemple, vous pouvez utiliser l’outil LLM pour générer du texte ou résumer un article et l’outil Python pour traiter le texte pour informer le composant ou le résultat de flux suivant.

L’un des principaux avantages des outils de flux d’invite consiste en leur intégration transparente aux API tierces et aux packages Python open source. Elle améliore non seulement les fonctionnalités des modèles de langage volumineux et rend également le processus de développement plus efficace pour les développeurs.

Si les outils de flux rapide dans Azure AI Studio ne répondent pas à vos besoins, vous pouvez suivre ce guide pour développer votre propre outil personnalisé et le rendre un package d’outils. Pour découvrir d’autres outils personnalisés développés par la communauté open source, visitez cette page.

Étapes suivantes

• Générer le flux rapide dans Azure AI Studio
• Prise en main du flux rapide dans VS Code