Функция ai_query

Область применения: Databricks SQL Databricks Runtime

Вызывает существующую конечную точку обслуживания модели Azure Databricks и анализирует ее и возвращает ответ.

Требования

• Эта функция недоступна в Классической версии SQL Azure Databricks.
• По умолчанию api модели запросов к модели Foundation включена. Чтобы запрашивать конечные точки, обслуживающие пользовательские модели или внешние модели, включите AI_Query для пользовательских моделей и внешних моделей в пользовательском интерфейсе Databricks Previews.
• Текущий канал хранилища DLT не использует последнюю версию среды выполнения Databricks, которая поддерживает.ai_query() pipelines.channel Задайте значения в свойствах 'preview' ai_query()таблицы. Примеры запроса см . в примерах .

Синтаксис

Чтобы запросить конечную точку, которая служит внешней моделью или базовой моделью:

ai_query(endpointName, request)

Чтобы запросить пользовательскую конечную точку обслуживания модели с помощью схемы модели:

ai_query(endpointName, request)

Чтобы запросить пользовательскую конечную точку обслуживания модели без схемы модели:

ai_query(endpointName, request, returnType)

Аргументы

• endpointName: литерал STRING, имя конечной точки обслуживания модели Databricks Foundation, внешней конечной точки обслуживания модели или пользовательской конечной точки модели в той же рабочей области для вызовов. Определяющий объект должен иметь разрешение CAN QUERY в конечной точке.
• request: выражение, запрос, используемый для вызова конечной точки.
  • Если конечная точка является внешней конечной точкой, обслуживающей конечную точку или API модели Databricks Foundation, запрос должен быть строкой.
  • Если конечная точка является пользовательской конечной точкой обслуживания модели, запрос может быть одним столбцом или выражением структуры. Имена полей структуры должны совпадать с именами входных функций, ожидаемыми конечной точкой.
• returnType: выражение, ожидаемое возвращаемое тип из конечной точки. Это аналогично параметру схемы в функции from_json, которая принимает как выражение STRING, так и вызов функции schema_of_json.
  • В Databricks Runtime 14.2 и более поздних версиях, если это выражение не указано, ai_query() автоматически выводит тип возврата из схемы модели пользовательской конечной точки обслуживания модели.
  • В Databricks Runtime 14.1 и ниже это выражение требуется для запроса конечной точки обслуживания пользовательской модели.

Возвраты

Проанализированный ответ от конечной точки.

Примеры

Чтобы запросить внешнюю конечную точку обслуживания модели:

> SELECT ai_query(
    'my-external-model-openai-chat',
    'Describe Databricks SQL in 30 words.'
  ) AS summary

  "Databricks SQL is a cloud-based platform for data analytics and machine learning, providing a unified workspace for collaborative data exploration, analysis, and visualization using SQL queries."

Чтобы запросить базовую модель, поддерживаемую API модели Databricks Foundation:

> SELECT *,
  ai_query(
    'databricks-meta-llama-3-1-70b-instruct',
    "Can you tell me the name of the US state that serves the provided ZIP code? zip code: " || pickup_zip
    )
  FROM samples.nyctaxi.trips
  LIMIT 10

При необходимости можно также упаковать вызов ai_query() в UDF для вызова функции следующим образом:

> CREATE FUNCTION correct_grammar(text STRING)
  RETURNS STRING
  RETURN ai_query(
    'databricks-llama-2-70b-chat',
    CONCAT('Correct this to standard English:\n', text));
> GRANT EXECUTE ON correct_grammar TO ds;
- DS fixes grammar issues in a batch.
> SELECT
    * EXCEPT text,
    correct_grammar(text) AS text
  FROM articles;

Запрос конечной точки обслуживания пользовательской модели:

> SELECT text, ai_query(
    endpoint => 'spam-classification-endpoint',
    request => named_struct(
      'timestamp', timestamp,
      'sender', from_number,
      'text', text),
    returnType => 'BOOLEAN') AS is_spam
  FROM messages

> SELECT ai_query(
    'weekly-forecast',
    request => struct(*),
    returnType => 'FLOAT') AS predicted_revenue
  FROM retail_revenue

> SELECT ai_query(
    'custom-llama-2-7b-chat',
    request => named_struct("messages",
        ARRAY(named_struct("role", "user", "content", "What is ML?"))),
    returnType => 'STRUCT<candidates:ARRAY<STRING>>')

  {"candidates":["ML stands for Machine Learning. It's a subfield of Artificial Intelligence that involves the use of algorithms and statistical models to enable machines to learn from data, make decisions, and improve their performance on a specific task over time."]}

Пример запроса для настройки канала DLT для предварительной версии:

> create or replace materialized view
    ai_query_mv
    TBLPROPERTIES('pipelines.channel' = 'PREVIEW') AS
  SELECT
    ai_query("databricks-dbrx-instruct", text) as response
  FROM
    messages

Связанные функции

• функция from_json
• функция schema_of_json