TokenizerFunction type
Firma per un word breaker alternativo che può essere passato a recognizeChoices()
, findChoices()
o findValues()
.
type TokenizerFunction = (text: string, locale?: string) => Token[];
type TokenizerFunction = (text: string, locale?: string) => Token[]
Commenti
Il defaultTokenizer()
è piuttosto semplice e si interrompe solo su spazi e punteggiatura.