Как же это, пилять, удобно - иметь локальную модель и лёгкий харнесс! Вот вернулся я к проекту, где у claude code была долгая сессия, забитый контекст, а осталось только закоммитить изменения. А контекст уже не в кэше - одно сообщение и всё это полетит в антропик, и слетят лимиты.
Так запустил локальную модельку, сказал проанализировать незакоммиченые изменения и написать мне commit message.
Справилась за 40 секунд, включая загрузку модели в VRAM и префилл всего.
#LLM #development
⚛️Revertron
npub138…rv2ra
2026-09-19 20:22:39 UTC
Author Public Key
npub138c428zyn8mhrtaudvl9stwzl2s9xhxmu42g3dhhvsg96vsdyhzswrv2raSeen on
wss://nostr.twinkle.lolPublished at
2026-09-19 20:22:39 UTCEvent JSON
{
"id": "7bfff58c961d334f2322cbcd574c69ccf751b8f2254a207e6a4a02a96f06f64e",
"pubkey": "89f1551c4499f771afbc6b3e582dc2faa0535cdbe55488b6f764105d320d25c5",
"created_at": 1789849359,
"kind": 1,
"tags": [
[
"t",
"development"
],
[
"t",
"llm"
],
[
"proxy",
"https://zhub.link/users/Revertron/statuses/117299567638492651",
"activitypub"
]
],
"content": "Как же это, пилять, удобно - иметь локальную модель и лёгкий харнесс! Вот вернулся я к проекту, где у claude code была долгая сессия, забитый контекст, а осталось только закоммитить изменения. А контекст уже не в кэше - одно сообщение и всё это полетит в антропик, и слетят лимиты.\nТак запустил локальную модельку, сказал проанализировать незакоммиченые изменения и написать мне commit message.\nСправилась за 40 секунд, включая загрузку модели в VRAM и префилл всего.\n\n#LLM #development",
"sig": "1c250f7e9bc6348a8a081ebaa5c2267a2ec259ae334be13e51626b7a7830a4e889ac408a0a47c46eed4ca00ef3bb7ad4fe2a7c6e8f6aaba3d13387fe611e7b05"
}