Skalbarhet och prestanda

Webbplatser och program med höga prestanda och hög trafik har två huvudsakliga faktorer att tänka på med Personalizer för skalbarhet och prestanda:

• Hålla låg svarstid när du gör ranknings-API-anrop
• Se till att träningsdataflödet håller jämna steg med händelseindata

Anpassning kan returnera en rangordning snabbt, med större delen av samtalstiden dedikerad till kommunikation via REST-API:et. Azure skalar automatiskt möjligheten att svara på begäranden snabbt.

Scenarier med låg fördröjning

Vissa program kräver korta svarstider när en rangordning returneras. Korta svarstider är nödvändiga:

• För att hindra användaren från att vänta en märkbar tid innan rangordnat innehåll visas.
• För att hjälpa en server som upplever extrem trafik undviker du att binda upp knapp beräkningstid och nätverksanslutningar.

Skalbarhet och träningsdataflöde

Personanpassning fungerar genom att uppdatera en modell som tränas om baserat på meddelanden som skickas asynkront av Personanpassning efter API:er för rangordning och belöning. Dessa meddelanden skickas med hjälp av en Azure EventHub för programmet.

Det är osannolikt att de flesta program når maximalt antal anslutnings- och träningsdataflöde för Personanpassning. När du når det här maxvärdet saktar det inte ner programmet, men det skulle innebära att händelsehubbens köer fylls internt snabbare än de kan rensas upp.

Så här beräknar du dina dataflödeskrav

• Beräkna det genomsnittliga antalet byte per rangordningshändelse och lägg till längden på JSON-dokument för kontext och åtgärd.
• Dividera 20 MB/s med detta uppskattade genomsnittliga byte.

Om din genomsnittliga nyttolast till exempel har 500 funktioner och var och en är uppskattningsvis 20 tecken, är varje händelse cirka 10 kb. Med dessa uppskattningar är 20 000 000 /10 000 = 2 000 händelser/sek, vilket är cirka 173 miljoner händelser/dag.

Om du når dessa gränser kontaktar du vårt supportteam för arkitekturrådgivning.

Nästa steg

Skapa och konfigurera Personanpassning.