#llm-inference

2 projektów

Swift 15 sie 2026

Jak uruchomić model z 26 miliardami parametrów w dwóch gigabajtach pamięci na zwykłym Macu

Inżynier Andrey Mikhailov stworzył TurboFieldfare — niestandardowe środowisko uruchomieniowe w Swift/Metal, które uruchamia model Google Gemma 4 26B-A4B w zaledwie 2 GB pamięci RAM na zwykłym MacBooku Air M2.

Python 26 lip 2026

Odkrywamy LitGPT - jak dostrajać i uruchamiać otwarte sieci neuronowe bez ciężkich frameworków

LitGPT od Lightning AI przepisuje ponad 20 popularnych architektur LLM w czystym PyTorch, oferując dostrajanie, wdrażanie i benchmarkowanie bez narzutu ciężkich frameworków.