AI-briefing dinsdag 11 augustus 2026Needle2: een 14MB agentic LLM dat op een Raspberry Pi draait

Cactus Compute releaste Needle 2, een agentic LLM van slechts 14MB (45M parameters, 2-bit compressie). Het model draait een volledige sessie in 28MB RAM en haalt 500 tokens/sec op een Raspberry Pi 5, tot 1.500 tok/s op VR-apparaten, en 300–700 tok/s op budgettelefoons onder $200. Needle is getraind op 140B tool-call- en device-use-tokens — geen generieke function calling, maar specifiek voor smart home, wearables, telefoons, TV's en auto's. Het verslaat modellen die 5× tot 70× groter zijn op mobile device use benchmarks, bij een fractie van het stroomverbruik.

Salvatore Sanfilippo (antirez, de maker van Redis) heeft h3.c uitgebracht: een native Metal-implementatie van MiniMax' H3 multimodale generatie-model voor Apple Silicon. Geen Python-stack, geen framework — pure C die direct op de GPU draait. Het 33GB-checkpoint gebruikt piek ~40GB RAM tijdens end-to-end generatie. Op een M5 Max rendert de fast-preset 512×512 in ~17 seconden; de agressieve four-step path doet het in ~3,5 seconden. MiniMax zelf reageerde: "You can't hire this, you can only open-source and let it happen."

phone-harness, een Python-project van ShawnPana, haalde vandaag 1.354 GitHub-stars. Het framework laat een AI-agent een fysieke telefoon besturen — scherm lezen, tikken, swipen, apps openen. Gebouwd voor agent-workflows die mobiele interactie nodig hebben, zoals testautomatisering of autonome taken op een fysiek toestel.

KADATH is een runtime waarin AI-agents zichzelf *breeden*, evalueren en verbeteren — evolutionair, tijdens executie. Het staat bovenaan GitHub Trending in de AI/ML-categorie. Agents worden in isolatie getest op taken, de besten overleven en combineren, zwakke varianten verdwijnen. Het is een onderzoekstool, maar het mechanisme — agents die zichzelf optimaliseren zonder menselijke tussenkomst — wijst vooruit naar autonome agent-pipelines.

OpenAI heeft een secundaire aandelenverkoop van $7 miljard afgerond, waarbij (oud-)medewerkers hun aandelen konden verkopen tegen een waardering van $852 miljard — gelijk aan de waardering van de $122 miljard financieringsronde in maart. De tender geeft personeel liquiditeit en wordt breed gezien als opmaat naar een beursgang. Bloomberg en TechCrunch brachten het verhaal vrijwel gelijktijdig.