Join Nostr
2026-05-02 07:37:46 UTC
in reply to

bestest on Nostr: Sit noi tokenit... Eli miten paljon merkkejä kielimalli joutuu käsittelemään ja ...

Sit noi tokenit... Eli miten paljon merkkejä kielimalli joutuu käsittelemään ja tulostamaan. Kulutus on ihan valtavaa. Omalla koneella ja pienellä modelilla lähes ilmaista, mutta en yhtään ihmettele miten ihmiset saa tuhlattua valtavat määrät rahaa yksinkertaisten asioiden tekemiseen.

Homma on todella epätehokasta. Sen sijaan, että asiat tehdään kerralla oikein, tehdään x kertaa huonosti ja sit käytetään resursseja tarkastuksiin ja korjauksiin. Silti tuosta iteroinnista menee roskaa läpi (3/x)