Autor: DHH na
Fundacja Omacom głównym sponsorem prac 0xSero nad lokalnym AI
Fundacja Omacom zostaje głównym sponsorem prac 0xSero nad lokalnym AI na najbliższe trzy lata, realizowanych za pośrednictwem jego firmy Sybil Solutions!
Będziemy współpracować nad tym, żeby lokalne modele działały świetnie od razu po wyjęciu z pudełka na Omarchy. Wybór modelu pasującego do twojego komputera, dostrojenie go tak, by w pełni wykorzystać sprzęt, i podłączenie go do twoich agentów powinny być świetnym pierwszym doświadczeniem. Dziś między kupnem wydajnego komputera a zaprzęgnięciem jego inteligencji do pracy jest jeszcze zbyt wiele pracy domowej. Chcemy tę lukę zasypać.
Sero już pracuje dokładnie nad tymi problemami. Jego Local AI Registry łączy konfiguracje modeli, przepisy specyficzne dla sprzętu oraz pomiary wydajności. To właśnie taka praktyczna wiedza, którą musimy zamienić w dobre ustawienia domyślne. Nie powinieneś musieć zostawać inżynierem inferencji, żeby uruchomić użyteczny lokalny model na własnym komputerze.
I twój własny komputer nie musi wykonywać całej pracy sam. Chcemy też ułatwić łączenie posiadanego przez ciebie sprzętu w siatkę inteligencji. Twój laptop, wydajny desktop w biurze, maszyna schowana w domu. Niech twoi agenci korzystają z dostępnych ci komputerów, bez zmuszania cię do zarządzania najpierw małym centrum danych.
To duża część tego, jak widzę spełnienie obietnicy agentowego systemu operacyjnego. Wraz ze sprzętem takim jak N1x od NVIDII i nadchodzącym Qwen Book od Alibaby, zmierzamy ku światu, w którym wydajne lokalne maszyny AI to zwykłe komputery osobiste. System operacyjny powinien udostępniać tę moc od chwili, gdy zaczniesz go używać.
Myślę, że jesteśmy blisko momentu, w którym każdy będzie mieć dostęp do solidnej inteligencji w domu. Modeli, które potrafią pomóc ci pisać kod, pracować z twoimi dokumentami i wykonywać użyteczne zadania na sprzęcie, który kontrolujesz. Świetnej alternatywy dla modeli frontierowych i inteligencji opartej na subskrypcji w coraz większej części pracy, którą ludzie naprawdę wykonują.
Uwielbiam to, co potrafią modele frontierowe, i Omarchy nadal będzie ułatwiać korzystanie z nich. Ale chcę też mieć wybór, by uruchamiać inteligencję, która nie zależy od miesięcznej subskrypcji ani od wysyłania mojej pracy na cudze serwery. Możliwość kupienia komputera i ciągłego zaprzęgania go do pracy to jedna ze wspaniałych rzeczy w komputerach osobistych. To powinno dotyczyć też agentów.
Wsparcie dla Sero przez trzy lata daje nam czas na dopracowanie całego doświadczenia: modeli, dostrajania, połączeń między maszynami oraz ustawień domyślnych, które sprawią, że to wszystko będzie przystępne. Cieszę się, że zobaczymy, o ile lepiej możemy to razem zrobić.
Dziękujemy naszym patronom za umożliwienie tego sponsoringu. Ich wsparcie pozwala nam dać deweloperom czas i zasoby na pracę nad przyszłością, jakiej chcemy dla Linuksa. Jesteśmy wdzięczni za ich patronat.
Włóżmy więcej inteligencji w ręce ludzi, do których należą komputery!