Monad (PleIAs) のトークナイザと、埋め込みベクトルを組み合わせたプロジェクトです。 英文を入力するとその文字列がトークナイズされ、それぞれのトークンの埋め込みベクトルが表示されます。 初回実行時のみ語彙とベクトルデータの読み込み時間が数秒程度あります。 ーーー〈V2アップデート〉ーーー ・多くのスクリプトにGPT-2の設定が適用されているバグを修正しました ・ベクトル保存の容量を半分ほど削減しました ーーー〈情報〉ーーー ・数値の精度:33ビット(?) ・語彙サイズ:8192 ・埋め込み次元:256 ・project.jsonサイズ:2262KB(サイズ制限の約44%)