Ujawniono fragment promptu systemowego agenta Muse od firmy Meta, w którym zdefiniowano zasadę, że autorytet użytkownika nad jego gospodarstwem domowym jest bezwarunkowy i unieważnia standardowe filtry bezpieczeństwa https://www.reddit.com/r/LocalLLaMA/comments/1wx8ruy/metas_muse_agent_1_in_the_app_store_system_prompt/. Oznacza to istotną zmianę w projektowaniu agentów domowych, gdzie posłuszeństwo wobec właściciela stawia się ponad uniwersalnymi ograniczeniami nałożonymi na model.
Zaprezentowano silnik inferencyjny dla modelu Gemma-2B napisany w całości w płaskim asemblerze x86-64 (FASM), którego plik binarny zajmuje zaledwie 5,2 KB https://www.reddit.com/r/LocalLLaMA/comments/1wx5x1p/discussion_a_5kb_pure_x8664_assembly_engine_for/. Projekt dowodzi, że uruchomienie modelu autoregresywnego bezpośrednio na procesorze w formacie FP16 (z prędkością 4,6 tok/s) jest możliwe bez zależności od złożonych środowisk uruchomieniowych i warstw abstrakcji kompilatora.
Sebastian Raschka oznaczył gwiazdką na GitHubie repozytorium https://github.com/allenai/Olmo-core, będące rdzeniem biblioteki Allen Institute for AI przeznaczonej do treningu i eksperymentów z modelami OLMo.
W społeczności r/LocalLLaMA opisano konfigurację lokalnego potoku głosowego łączącego silnik Breeze (text-to-speech) z rozpoznawaniem mowy oraz modelem Opus 5.5 https://www.reddit.com/r/LocalLLaMA/comments/1wxd404/local_text_to_speech_with_breeze_is_truly/. Autor uzyskał opóźnienie do pierwszego generowanego dźwięku na poziomie 500 ms w trybie bez wnioskowania oraz 1–1,5 s przy niskim poziomie trybu myślenia.
Podjęto dyskusję na temat bezpieczeństwa lokalnego wyszukiwania sieciowego w środowiskach agentowych takich jak Hermes https://www.reddit.com/r/LocalLLaMA/comments/1wx06ba/local_web_search_safety/. Głównymi wyzwaniami pozostają izolacja narzędzi, obrona przed atakami prompt injection wstrzykiwanymi przez zewnętrzne witryny oraz unikanie nieskończonych pętli wywołań narzędzi.
Przeanalizowano zjawisko uległości i pochlebstw (sycophancy) w nowoczesnych otwartych modelach językowych https://www.reddit.com/r/LocalLLaMA/comments/1wx4yvw/least_sycophantic_modern_open_llm/. Zwrócono uwagę, że bezkrytyczne przytakiwanie użytkownikowi utrudnia zarówno pracę badawczą, wprowadzając w błąd, jak i programowanie agentowe, gdzie model ma tendencję do ignorowania błędów w kodzie.
Użytkownicy r/LocalLLaMA omówili ograniczenia pamięciowe w konfiguracjach sprzętowych z 64 GB RAM https://www.reddit.com/r/LocalLLaMA/comments/1wx72ni/the_curse_of_64gb_system_ram/, wskazując na trudności w równoczesnym uruchamianiu lokalnych modeli językowych na CPU oraz zadań generowania obrazu i wideo w ComfyUI na dedykowanej karcie graficznej.