自動小説作成プログラム

小説の下書きのようなものを自動で作れるコードです。
話題のchatGPTの前身のようなものを使っているGPT2ベースのモデルです。
仕様の変更があり使えなくなっていたものを一部修正しました。

from transformers import T5Tokenizer, AutoModelForCausalLM

tokenizer = T5Tokenizer.from_pretrained("rinna/japanese-gpt2-medium")
tokenizer.do_lower_case = True # due to some bug of tokenizer config loading

model = AutoModelForCausalLM.from_pretrained("rinna/japanese-gpt2-medium")

prompt = """
人類は最凶の生物を倒すために、地球ごと破壊し、脱出を決意する。そして、
"""