O que é o AI Toolkit for Visual Studio Code?

  • Artigo

O AI Toolkit for Visual Studio Code (VS Code) é uma extensão VS Code que simplifica o desenvolvimento de aplicativos de IA generativos, reunindo ferramentas e modelos de desenvolvimento de IA de ponta do catálogo Azure AI Foundry e outros catálogos como Hugging Face.

Observação

Documentação adicional e tutoriais para o AI Toolkit for VS Code estão disponíveis no repositório GitHub: microsoft/vscode-ai-toolkit. Você encontrará orientações sobre o Playground, como trabalhar com modelos de IA, ajustar modelos locais e baseados em nuvem e muito mais.

Recursos do AI Toolkit

O AI Toolkit for VS Code (AI Toolkit) permite-lhe:

  • Baixe e execute modelos de IA localmente. O AI Toolkit fornece acesso a modelos altamente otimizados para as seguintes plataformas e hardware:
    • Windows 11 em execução com aceleração DirectML
    • Windows 11 em execução diretamente na CPU
    • PCs Windows 11 Copilot+ em execução na NPU
    • Linux com aceleração NVIDIA
    • Linux rodando diretamente na CPU
    • suporte ao MacOS chegará em breve
  • Teste modelos em um playground intuitivo ou em seu aplicativo com uma API REST.
  • Ajuste seu modelo de IA - localmente ou na nuvem (em uma máquina virtual) - para criar novas habilidades, melhorar a confiabilidade das respostas, definir o tom e o formato da resposta. O AI Toolkit fornece um passo a passo guiado para ajustar modelos populares de linguagem pequena (SLMs) - como Phi-3 e Mistral.
  • Implante seu recurso de IA na nuvem ou com um aplicativo executado em um dispositivo.

Observação

O modelo Deepseek R1 Distilled está otimizado para a Unidade de Processamento Neural (NPU) e disponível para download em PCs Copilot+ com Snapdragon com Windows 11. Para obter mais informações, consulte Executando modelos destilados do DeepSeek R1 localmente em PCs Copilot+, com tecnologia Windows Copilot Runtime.

O AI Toolkit agora suporta uma abordagem Bring Your Own Model. Você pode usar o AI Toolkit para baixar seus próprios modelos, como DeepSeek-R1, de catálogos como Ollama e executá-los localmente.

Quer saber mais sobre o AI Toolkit for VS Code? Dona Sarkar e John Lam fornecem uma visão geral do AI Toolkit neste vídeo do Microsoft Build 2024:

Para obter a documentação mais recente e para baixar e usar o AI Toolkit, visite a página GitHub.

Conteúdo relacionado