Udostępnij przez


Model Klasa

Definicja

Reprezentuje model używany podczas tokenizacji (np. BPE lub Word Piece lub Unigram).

public abstract class Model
type Model = class
Public MustInherit Class Model
Dziedziczenie
Model
Pochodne

Konstruktory

Model()

Reprezentuje model używany podczas tokenizacji (np. BPE lub Word Piece lub Unigram).

Metody

GetTrainer()

Pobiera obiekt trenera do użycia w trenowaniu modelu.

GetVocab()

Pobiera tokeny mapowania słownika na identyfikatory.

GetVocabSize()

Pobiera rozmiar słownika mapujący tokeny na identyfikatory.

IdToString(Int32, Boolean)

Reprezentuje model używany podczas tokenizacji (np. BPE lub Word Piece lub Unigram).

IdToToken(Int32, Boolean)

Zamapuj tokenizowany identyfikator na token.

IsValidChar(Char)

Zwraca wartość true, jeśli znak jest prawidłowy w tokenizatorze; w przeciwnym razie zwraca wartość false.

Save(String, String)

Zapisz dane modelu w słownictwie i scala pliki.

Tokenize(String)

Tokenizowanie ciągu sekwencji do listy tokenów.

TokenToId(String)

Mapuj token na tokenizowany identyfikator.

Dotyczy