はじめに「plamo-2-translate」はPreferred Networksによって開発された翻訳特化の大規模言語モデルです。GradioとOllamaの記事はこちらです。 touch-sp.hatenablog.comPythonスクリプトできるだけシンプルに書いてみました。 import gradio as gr import vllm # vLLMモデルの初期化 llm = vllm.LLM( model="pfnet/plamo-2-translate", trust_remote_code=True, max_model_len=8192, max_num_seqs=32, …