AI Builders Digest · 2026-07-17

Einleitung / Editor's Note

OpenAI treibt mit Stargate und dem eigenen Chip Jalapeño den größten Infrastrukturausbau der Geschichte voran, während Lila Sciences das Labor zum Rechenzentrum erklärt und 10 Billionen wissenschaftliche Tokens produziert. Benedict Evans warnt, dass der KI-Hype mit keinem früheren Plattformwechsel vergleichbar ist – die Ungewissheit über physikalische Grenzen macht den Unterschied. Madhu Guru fordert Unternehmen auf, ihre Stack-Architektur für offene Modelle umzubauen, und Granola-Gründer Chris Pedregal ringt um das Interface der KI-nativen Arbeit. Die Botschaft des Tages: Ob Rechenzentrum, Labor oder Meeting-Workflow – die nächste KI-Welle entscheidet sich an der Verzahnung von Infrastruktur und Interface.

Theme 01

Beyond Server Racks: Labs and Tokens as Data Centers / Jenseits der Server: Labore und Tokens als Rechenzentren

Two very different projects treat physical infrastructure not as IT but as an industrial-scale factory for intelligence – one for scientific discovery, the other for raw compute.

Latent Space Podcast

@LatentSpacePod

Andy Beam und Rafa Gómez-Bombarelli (Lila Sciences) haben ein vollautomatisches KI-gesteuertes Labor gebaut, das 10 Billionen experimentell validierte wissenschaftliche Tokens produziert.

Das Labor ist wie ein Rechenzentrum aufgebaut: Instrumente sind Knoten, ein Magnetschwebetransport ist der ‚PCI-Bus‘ und die Orchestrierung läuft wie eine Slurm-Queue.

Andy Beam and Rafa Gómez-Bombarelli (Lila Sciences) built a fully automated AI-guided lab that generates 10 trillion experimentally validated scientific reasoning tokens.

The lab is architected like a data center: instruments are nodes, a magnetic-levitation transport layer is the ‘PCI bus’, and orchestration runs like a Slurm queue.

Quelle / Source →

The MAD Podcast FirstMark Podcast

@mattturck

Sachin Katti (OpenAI) verrät, dass Stargate 50-Milliarden-Dollar-Supercomputer und den maßgeschneiderten Chip ‚Jalapeño‘ umfasst, intern entwickelt, um Tokens pro Watt zu maximieren.

Inferenz dominiert jetzt den Rechenbedarf; KI-Rechenzentren brauchen überall Flüssigkühlung, und OpenAI sieht das größere Risiko darin, nicht schnell genug zu bauen.

Sachin Katti (OpenAI) reveals Stargate involves $50 billion supercomputers and the custom chip ‘Jalapeño’, designed in-house to maximize tokens per watt.

Inference now dominates compute demand; AI data centers need liquid cooling everywhere, and OpenAI considers the bigger risk not building fast enough.

Quelle / Source →

Theme 02

Enterprise AI: Hype Check and Practical Playbook / KI im Unternehmen: Hype-Check und praktischer Leitfaden

One analyst challenges the platform-shift analogy while a practitioner lays out the exact steps enterprises need to survive open-weight model proliferation.

Madhu Guru: Offene Modelle wie Kimi und GLM erzwingen ein Umdenken im Enterprise-KI-Stack – maximiert Modell-Optionalität durch schnelle, strenge Evals (Regression + ambitionierte Anwendungsfälle).

Model-Routing ist eure Aufgabe; kein Anbieter versteht euer Geschäft so gut wie ihr selbst. Kombiniert das mit einem modellagnostischen Harness, damit ein Modellwechsel nur neue Evals braucht.

Madhu Guru: Open-weight models like Kimi and GLM demand an enterprise AI stack rethink — maximize model optionality with fast, rigorous evals (regression + aspirational).

Model routing is your job; no vendor understands your business like you. Pair it with a model-agnostic harness so switching models needs only fresh evals.

Quelle / Source →

Unsupervised Learning Redpoint Podcast

@RedpointAI

Benedict Evans hält Vergleiche von KI mit früheren Plattformwechseln für nutzlos – der entscheidende Unterschied: Wir kennen die physikalischen und wissenschaftlichen Grenzen von KI nicht.

Coding wurde zum ersten echten Enterprise-Anwendungsfall, weil es skalierbare Verifikation bietet; für die meisten anderen Workflows müssen erst noch KI-native Lösungen erfunden werden.

Benedict Evans argues that comparing AI to past platform shifts is useless — the crucial difference is we don’t know AI’s physical or scientific limits.

Coding became the first enterprise AI use case because it offers scalable verification; most other workflows still need entrepreneurs to invent AI-native solutions.

Quelle / Source →

Theme 03

The Interface Layer: Meeting Context and Platform Integration / Die Interface-Schicht: Meeting-Kontext und Plattform-Integration

Two product stories show how the battle for AI-native workflows is moving from the model layer to the context and platform layer.

AI & I Every Podcast

@every

Chris Pedregal (Granola) sammelte 125 Millionen Dollar bei einer Bewertung von 1,5 Milliarden ein und wettet darauf, dass der eigentliche Kampf um das Interface für KI-native Arbeit geht – nicht um Meeting-Notizen.

Granola erzeugt Millionen von Meeting-Briefings im Voraus und öffnet eine API/MCP-Schicht, damit jeder Agent Meeting-Kontext für Vorbereitung, Aktion und Nachbereitung nutzen kann.

Chris Pedregal (Granola) raised $125M at $1.5B valuation and is betting the real fight is over the interface for work in an AI-native world, not meeting notes alone.

Granola pre-generates millions of meeting briefs and will open an API/MCP layer so any agent can use meeting context to prepare, act, and follow up.

Quelle / Source →

Claude Blog Product Blog

@AnthropicAI

Claude ist jetzt als Swift-Paket für Apples Foundation-Models-Framework verfügbar; iOS-/macOS-Entwickler können von On-Device-Modellen an Claude übergeben, sobald mehrstufiges Reasoning oder Code-Generierung nötig ist.

Die Integration nutzt @Generable-Annotationen für typisierte Swift-Werte und ermöglicht nahtloses Streaming, Tool-Aufrufe und strukturierte Antworten innerhalb von SwiftUI-Views.

Claude is now available as a Swift package for Apple’s Foundation Models framework, letting iOS/macOS developers hand off from on-device models to Claude for multi-step reasoning and code generation.

The integration uses @Generable annotations for typed Swift values, enabling seamless streaming, tool calls, and structured responses inside SwiftUI views.

Quelle / Source →

Theme 04

Model Quick Hits: Retrieval Wins and a New Entrant / Modell-Kurzmeldungen: Retrieval-Sieg und ein Neuzugang

Brief updates on a benchmark-leading embedding model and the first launch from a closely watched AI lab.

NVIDIA Nemotron 3 Embed belegt Platz 1 im RTEB-Benchmark und zielt auf agentische Retrieval-Szenarien.

NVIDIA Nemotron 3 Embed achieved #1 overall on the RTEB benchmark, targeting agentic retrieval scenarios.

Quelle / Source →

Thinking Machines Lab, gegründet von Ex-OpenAI-CTO Mira Murati, veröffentlichte sein erstes Modell Inkling, ab Tag null auf Together AI verfügbar.

Thinking Machines Lab, founded by ex-OpenAI CTO Mira Murati, launched its first model Inkling, available day zero on Together AI.

Quelle / Source →