Technologia
z konkretnym zadaniem.
MobileLLM jest podstawą aplikacji uruchamiających modele lokalnie na Androidzie i iOS. Wspólny rdzeń obsługuje strumieniowaną rozmowę, obrazy, audio, narzędzia oraz generowanie ustrukturyzowanych ćwiczeń. Korzystają z niego produkty edukacyjne FluentFox i CSharpFox.
Od czego
się zaczęło.
Lokalne AI musi zmieścić się w pamięci telefonu, reagować na przerwanie zadania i współpracować z różnymi natywnymi środowiskami. Aplikacja edukacyjna potrzebuje dodatkowo przewidywalnej struktury ćwiczeń zamiast dowolnego tekstu modelu.
Jak działa
rozwiązanie.
Rdzeń .NET udostępnia wspólne kontrakty rozmowy, pobierania modeli i generowania danych. Osobne bindingi łączą go z LiteRT-LM na Androidzie i iOS, a interfejs MAUI Blazor Hybrid współdzieli komponenty. Pobieranie modeli wspiera wznawianie i kontrolę integralności. Wyniki ćwiczeń przechodzą walidację struktury.
Co zostało
zbudowane.
Powstał wspólny silnik z natywnymi adapterami i osobnymi aplikacjami edukacyjnymi. Po pobraniu odpowiedniego modelu mobilna ścieżka przetwarzania może działać lokalnie. Dostępność funkcji zależy od urządzenia i modelu; projekt jest rozwijany i nie jest tu przedstawiany jako gotowa premiera sklepowa.
Porozmawiajmy
o Twoim projekcie.
Dobry punkt wyjścia to cel, użytkownicy i to, co dziś utrudnia im pracę. Technologię dobierzemy do zadania.
Opowiedz o pomyśle ↗