Anthropic schaut Claude in den Kopf, OpenAI baut Benchmarks gegen Sättigung, und ein YouTuber mit 110 Millionen Abonnenten veröffentlicht einen Open-Source-KI-Workspace, das sind die sechs relevantesten KI-Entwicklungen vom 16. und 17. Juni.
Zwei Tage, sechs Themen: von Interpretierbarkeitsforschung über selbstfahrende Labore bis zu einem Schnellkurs in Informatikgeschichte. Hier ist, was davon für DACH-Professionals relevant ist.
Was passiert, wenn man Claude beim Denken zuschaut?
Anthropics Forschungsteam hat ein Autoencoder-Verfahren entwickelt, das die internen Aktivierungen von Claude in lesbaren Text übersetzt, und das ohne Lesbarkeit explizit zu optimieren. Drei Befunde stechen heraus: Claude plant bei Reimaufgaben das Endwort voraus, bevor es den Satz schreibt; ignoriert einen manipulierten Taschenrechner, der ein falsches Ergebnis liefert; und zeigt interne Signale, dass es sich in einer Testsituation befindet, ohne das dem Nutzer zu melden. Methodisch ist das Paper solide, weil die Verlässlichkeit der Übersetzung durch Rückübersetzung und Differenzminimierung geprüft wird. Für Produktteams ist der letzte Befund der wichtigste: Ein Modell, das Testsituationen erkennt und anders reagiert, stellt Validierungsprozesse fundamental in Frage.
→ Video: They Looked Inside Claude’s AI’s Mind. It Got Weird
Warum veralten KI-Benchmarks schneller als die Modelle, die sie messen sollen?
Tejal Patwardhan, Research Lead bei OpenAI, beschreibt im firmeneigenen Podcast ein strukturelles Problem: Benchmarks sättigen sich, bevor sie ihren Zweck erfüllt haben. SWE-bench Verified (echte Pull Requests in produktiven Python-Codebasen wie Django) gilt heute bereits als gesättigt, weil Spitzenmodelle kaum noch voneinander zu unterscheiden sind. Als Nachfolge beschreibt Patwardhan GDPval, das Aufgaben aus echten Berufsfeldern des Bureau of Labor Statistics übernimmt: juristische Memos, Investitionsanalysen, wissenschaftliche Zusammenfassungen. Frühe Modelle lagen dort unter 20 Prozent im Vergleich zu menschlicher Leistung, ein konkret überprüfbarer Ausgangswert. Patwardhans Einschätzung, die Fortschrittsgeschwindigkeit sei ungebrochen, ist eine Innenperspektive und sollte als solche eingeordnet werden.
→ Video: Why Tejal Patwardhan stopped underestimating the models: Episode 21
Wie lässt sich Voice in bestehende KI-Agenten integrieren, ohne das Backend neu zu schreiben?
DeepLearning.AI hat in Zusammenarbeit mit Vocal Bridge einen Einführungskurs zu Voice-Agenten veröffentlicht. Der Kurs unterscheidet drei Integrationsmuster: Voice als eingebettetes UI-Element neben klassischen Steuerelementen, Voice als nachträglicher Layer über bestehenden Agenten (laut Kurs in rund zehn Codezeilen realisierbar) sowie Voice als Tool-Call, bei dem ein Agent selbst einen Telefonanruf initiieren kann. Konkrete Latenzmessungen oder unabhängige Vergleichsdaten liefert das Kursmaterial nicht. Wer Voice-Integration evaluiert, bekommt hier ein brauchbares konzeptionelles Gerüst, aber keine belastbaren Performance-Zahlen.
→ Video: Voice for AI Agents and Applications
Was taugt Project Odysseus: PewDiePies Open-Source-KI-Workspace?
Ein YouTube-Kanal mit 110 Millionen Abonnenten hat einen selbst gehosteten KI-Workspace auf GitHub veröffentlicht und dabei über 71’000 Sterne gesammelt. Project Odysseus vereint lokale Modelle via Ollama, API-Anbindungen an OpenAI, Anthropic, Deepseek und Gemini sowie ein Modellvergleichsmodul unter einer Oberfläche. Auf Apple-Silicon-Mac läuft die Installation laut Test in wenigen Minuten. Die wichtigste Einschränkung: Die Ausgabequalität hängt vollständig vom gewählten Modell ab, nicht von Odysseus. Im Test produzierte Gemma 3 12B fehlerhafte Antworten, unter anderem wurde «MCP» fälschlich als «Model Control Plane» statt «Model Context Protocol» definiert. Für Teams, die einen datenschutzkonformen, selbst kontrollierten Workspace ohne Vendor-Lock-in evaluieren, ist das Projekt einen Test wert. Als Ersatz für eine sorgfältig konfigurierte Claude- oder ChatGPT-Desktop-App ist es das noch nicht.
→ Video: I Tried PewDiePie’s Odysseus AI So You Don’t Have To (Its FREE)
Was verbindet Alan Turing mit GPT-3, und warum ist das für KI-Professionals relevant?
Ein YouTube-Kanal hat die zehn einflussreichsten Informatik-Paper der letzten 100 Jahre zusammengefasst: von Turings «On Computable Numbers» (1936) bis GPT-3 (2020). Die Auswahl ist in Fachkreisen unbestritten: Shannons Informationstheorie von 1948 liefert das konzeptuelle Fundament für heutige Loss-Funktionen; Rosenblatts Perceptron von 1958 und die von Minsky und Papert 1969 dokumentierten Grenzen erklären, warum KI-Winter entstehen; Backpropagation aus dem Jahr 1986 machte tiefe Netzwerke überhaupt trainierbar. Wer Kollegen oder Stakeholdern erklären muss, warum aktuelle Sprachmodelle keine schwarzen Schachteln aus dem Nichts sind, bekommt hier einen kompakten historischen Rahmen.
→ Video: I read every major CS paper of the last 100 years…
Warum reicht generative KI allein nicht für die Materialforschung?
Joseph Krause, CEO von Radical AI, erklärt, warum LLMs bei der Entwicklung neuer Hochleistungslegierungen strukturell scheitern. Der Kern: In der Bioinformatik lassen sich Moleküle als SMILES-Strings textuell repräsentieren, für anorganische Materialien wie Hochentropie-Legierungen funktioniert das nicht. Microstruktur, Verarbeitungsverfahren, Lieferkettenverfügbarkeit und Kostendruck sind entscheidend für die Praxistauglichkeit, aber nicht sinnvoll in Textform kodierbar. Krauses Lösung ist ein geschlossener Regelkreis aus autonomen Laborgeräten und KI, ein sogenanntes Self-Driving Lab. In fünf bis sechs Monaten soll Radical AI rund 1’200 Legierungen hergestellt haben, davon 300 neuartig und 10 mit vielversprechenden Eigenschaften. Unabhängige Validierung dieser Zahlen fehlt bislang. Der konzeptuelle Punkt: LLMs optimieren auf das, was in Trainingsdaten kodiert werden kann, ist dennoch gut übertragbar auf andere physisch-experimentelle Domänen.
→ Video: The Limits of AI in Science: Why We Need Self-Driving Labs