gpsnmeajp on Nostr: Gemma4 (with ...

Gemma4 (with llama.cpp)がシステムプロンプト工夫しようと何しようと、システムプロンプト長かったりターンが長くなると思考を止めて即生成に入ってしまう問題を、「思考するまで即時リトライする」という力技で強制的に解決する簡易なプロキシ作りました。
リトライ回数増えると、ユーザープロンプトに<|think|>を追加するという荒業を入れながら叩き続けます。
https://github.com/gpsnmeajp/force_reasoning_proxy/