TokenizerFunction type

Firma per un word breaker alternativo che può essere passato a recognizeChoices(), findChoices()o findValues().

type TokenizerFunction = (text: string, locale?: string) => Token[];
type TokenizerFunction = (text: string, locale?: string) => Token[]

Commenti

Il defaultTokenizer() è piuttosto semplice e si interrompe solo su spazi e punteggiatura.