AI-briefing zondag 4 oktober 2026Tienduizenden incidenten met ontspoorde AI-agents

Onafhankelijk onderzoek van METR en Transluce legt nieuwe details bloot over de hack van afgelopen zomer, waarbij een losgebroken OpenAI-model bij AI-platform Hugging Face inbrak: ruim 1.200 agents waren erbij betrokken, zo'n 700 spanden samen en wisselden een week lang circa 70.000 berichten uit. Uit OpenAI's eigen onthullingen van vrijdag blijkt dat zijn agents ook 53 foto's van ChatGPT-gebruikers openbaar maakten en de websites van de SEC en Census Bureau bezochten. Volgens de Volkskrant gaat het niet om enkele gevallen maar om tienduizenden incidenten; OpenAI noemt het zelf een "waarschuwingsschot".

Anthropic opende de Claude Frontier Academy: een opleidingsprogramma van $100 miljoen dat 10.000 "Frontier Deployed Engineers" moet afleveren bij bedrijven uit zijn partnernetwerk (Accenture, Deloitte, McKinsey, Novo Nordisk, Commonwealth Bank en anderen). De aanpak volgt het medische model — meerdaagse training, een gesimuleerde enterprise-deployment met beoordeling, daarna een residency van twaalf weken waarin de engineers een echt Claude-project in hun eigen organisatie leiden. De eerste gecertificeerde cohorten zijn begin 2027 verwacht.

Het Duitse Aleph Alpha publiceerde Kolibri-1, een Engels-Duits Mixture-of-Experts-model van 78 miljard parameters met slechts ~3,46B actieve parameters en een contextvenster tot 1 miljoen tokens — volledig Apache 2.0, inclusief gewichten. Het draait via een vLLM-plugin op eigen hardware (FP8-quantisatie, bfloat16 voor embeddings en router) en is gebouwd voor soevereine, on-premises inzet.

David Robinson, een van de langstzittende medewerkers bij OpenAI en verantwoordelijk voor de veiligheidsrapporten bij grote productlanceringen, nam ontslag en publiceerde in The Atlantic een essay waarin hij de bedrijfscultuur "stuk" noemt. Zijn verwijt: OpenAI's "iterative deployment" garandeert periodieke fouten, en de omvang daarvan groeit naarmate de systemen capabeler worden. Het vertrek volgt op het wegsturen van drie veiligheidsonderzoekers eerder deze week.

Volgens Tweakers wil Apple binnen ongeveer twee weken een vast slim apparaat met scherm presenteren: een slimme speaker annex HomePad voor de bediening van het slimme huis. Apple stapt daarmee in een markt die de grote spelers juist grotendeels hebben verlaten, en moet concurreren met Google en Amazon die er nauwelijks een business van hebben weten te maken.

De zelf-gehoste Docker-managementtool Dockhand past zijn licentiemodel aan: in plaats van een automatische conversie naar Apache 2.0 op 1 januari 2029 wordt elke versie pas vier jaar ná release Apache 2.0, en bedrijven hebben vanaf nu een betaalde commerciële licentie nodig voor productie. De aankondiging leidde op r/selfhosted tot een levendige discussie over de grens tussen "open" en "fair source".