🤖 #Perplexity показала #Lily для локального Qwen
Новий рушій спеціально оптимізований під Qwen3.6-35B-A3B та Apple Silicon і працює без MLX та PyTorch.
Детальніше
• Lily у середньому на 35% швидша за MLX-LM при генерації.
• На M5 Max вона видає до 186,6 токена/с при контексті 4K.
• 4-бітна модель займає 19,4 ГБ.
• Рушій скоро планують відкрити.
https://www.perplexity.ai/en-GB/hub/blog/optimising-on-device-inference-for-apple-silicon
Andrii Kuznietsov
npub1l7…vrzf5
2026-09-05 17:33:13 UTC
Author Public Key
npub1l736l4u3mv6ra07mh4jtm7f7m8sqyqfx465ac322lff3z29pg4fs9vrzf5Seen on
wss://relay.momostr.pinkPublished at
2026-09-05 17:33:13 UTCEvent JSON
{
"id": "e29d0b86899d7642cab491e400c954f79d709ba6d27f906dbdb0cac9c4817b8a",
"pubkey": "ffa3afd791db343ebfdbbd64bdf93ed9e0020126aea9dc454afa531128a14553",
"created_at": 1788629593,
"kind": 1,
"tags": [
[
"proxy",
"https://social.kyiv.dcomm.net.ua/@AndriiKuznietsov75/117219629061303049",
"web"
],
[
"t",
"perplexity"
],
[
"t",
"lily"
],
[
"proxy",
"https://social.kyiv.dcomm.net.ua/users/AndriiKuznietsov75/statuses/117219629061303049",
"activitypub"
],
[
"L",
"pink.momostr"
],
[
"l",
"pink.momostr.activitypub:https://social.kyiv.dcomm.net.ua/users/AndriiKuznietsov75/statuses/117219629061303049",
"pink.momostr"
],
[
"-"
]
],
"content": "🤖 #Perplexity показала #Lily для локального Qwen\n\nНовий рушій спеціально оптимізований під Qwen3.6-35B-A3B та Apple Silicon і працює без MLX та PyTorch.\n\nДетальніше\n• Lily у середньому на 35% швидша за MLX-LM при генерації.\n• На M5 Max вона видає до 186,6 токена/с при контексті 4K.\n• 4-бітна модель займає 19,4 ГБ.\n• Рушій скоро планують відкрити.\n\nhttps://www.perplexity.ai/en-GB/hub/blog/optimising-on-device-inference-for-apple-silicon",
"sig": "779093503f2406a81df495a82e53e4a135dd6a1cc75e1ad9a6baf05a4289b8a16754f46ef4040f0ef0f6819dbbc84ec8cbf89a03e16318a71b63e438622f4c5d"
}