Join Nostr
2026-10-24 10:02:18 UTC
in reply to

狐桜 on Nostr: ...

prefill1000tok/sでも240Kとかコンテキスト埋まってくるとキャッシュが無い場合4分もかかるからコーディング用途だとキャッシュ良い感じにしないと死