2022-02-23から1日間の記事一覧

GPT-2を使って文のパープレキシティを計算する

とある手法の再現実装をするために学んだので覚え書き. transformersのGPT-2を使って文のパープレキシティ(perplexity)を計算するための実装について書きます. フレームワークはPyTorch,python3.8.10で試しています. インストール 一文のパープレキシ…