nri-ai

/

gpt-oss-20b-Ja-Fin-Thinking

like 8

Follow

Nomura Research Institute, Ltd. 10

素晴らしいモデルをありがとうございます。

さて、どうもサンプルコードを実行するとルーターの周りでエラーが発生するようです。
これを回避するには以下のように、output_router_logits=Falseを入力すると良いらしいです。

outputs = model.generate(
    **inputs, 
    max_new_tokens=8192, 
    output_router_logits=False
)

ご対応よろしくお願いします。