Kollegin KI

„We have the platform, we are ready to partner.“ Mit diesem Satz beendet Microsoft-CEO Satya Nadella seine Keynote auf der Frontier Tour in Köln, und Max ist diese Woche genau da statt in Berlin. Zur Einordnung: Beim Investitionsgipfel sitzt Friedrich Merz mit Nvidia-Chef Jensen Huang auf der Bühne. Bei einem Jobtausch würde Merz die Lederjacke anziehen und Milliarden in Deutschland versprechen. Huang will lieber nicht tauschen. Verständlich. Hinter den Bildern steckt eine Charmeoffensive der US-Tech-Konzerne, auch weil immer mehr Unternehmen auf günstige Open-Source-Modelle aus China umsteigen. Und Deutschland? Hat weder eigene Modelle noch Chips noch günstige Energie. Bleiben die Use Cases der Industrie. Für die Souveränität heißt das: schwierig. Microsoft hat die Lösung: Souveränität zum Kaufen, in Form neuer Sovereignty-Produkte. Cute. Spannender: Neben OpenAI sollen künftig auch Anthropics Claude-Modelle über Microsoft laufen, insgesamt stehen über 11.000 Modelle zur Auswahl. Toolagnostisch, aber eben auf einer Plattform. Wie viel von den Investitionsversprechen am Ende tatsächlich ankommt, steht auf einem anderen Blatt. Was der deutsche Mittelstand mit KI konkret umsetzt, hört ihr in den kommenden Wochen in unseren Sonderfolgen aus Köln.

Weiterführende Links:

Merz und Huang beim Investitionsgipfel: https://www.handelsblatt.com/politik/deutschland/investitionsgipfel-wie-der-kanzler-und-der-chipboss-die-industrie-revolutionieren-wollen/100263171.html

Microsoft wirbt um Vertrauen deutscher Kund*innen: https://www.rhein-zeitung.de/deutschland-welt/netzwelt/microsoft-wirbt-um-vertrauen-deutscher-kunden_arid-4164457.html

Microsofts Modellkatalog mit 11.000+ Modellen: https://azure.microsoft.com/de-de/products/ai-foundry/models

In dieser Episode von „Kollegin KI“ begrüßt Host Max Mundhenke den KI-Forscher, Investor und DFKI-Direktor Prof. Dr. Wolfgang Maaß. Gemeinsam nehmen sie die aktuelle Doomsday-Stimmung unter die Lupe: Sind ausbrechende KI-Agenten ein Beweis für den Kontrollverlust des Menschen oder schlicht das Resultat menschlicher Programmierfehler? Wolfgang Maaß ordnet die Debatte gelassen ein und vertritt die These, dass das vermeintliche Eigenleben von KI-Systemen meist auf unberücksichtigte Seiteneffekte in komplexer Software zurückzuführen ist. Zudem spricht er über praxistaugliche Lösungsansätze wie den Einsatz von Compliance-Agenten („AI Intent“) und über dem immensen Energiebedarf der Technologie und in Forschungsprojekten dieser Herausforderung mit neuartigen Chip-Designs begegnet wird.

Das sind die Themen dieser „Kollegin KI“-Episode:

Doomsday-Panik vs. Realität: Warum die vermeintlich ausgebrochenen KI-Agenten nicht eigenmächtig handelten, sondern nur menschlichen Befehlen folgten.

Kontrolle durch Intention: Wie spezielle Compliance-Agenten durch „AI Intent“ autonome Systeme überwachen und zur strikten Einhaltung von Vorgaben erzwingen sollen. Haftung bei Fehlentscheidungen: Warum trotz fortschreitender Autonomie rechtlicher Agentensysteme am Ende der Mensch in der Verantwortung bleibt.Nachhaltigkeit durch Innovation: Wie ein Forschungsprojekt beweist, dass neuromorphische Chips und bio-inspirierte Algorithmen den Energieverbrauch drastisch senken können.Standortvorteil Regulierung: Wieso europäische Gesetze wie der AI Act Innovationen nicht bremsen, sondern langfristig Vertrauen und Qualitätsstandards sichern. Kompromisse in der KI-Politik: Wie sich die Regulierung digitaler Technologien weltweit zunehmend auf Geopolitik und Handelsbeziehungen auswirkt.

Weiterführende Links:

Der Chatbot zur Folge: https://bio.to/KolleginKI_Chatbot

Wolfgang Maaß bei Linkedin: https://www.linkedin.com/in/wmaass/

Infos zum Forschungsprojekt Escade: https://www.dfki.de/web/forschung/projekte-publikationen/projekt/escade

Max Mundhenke bei Linkedin: https://www.linkedin.com/in/tomkraftwerk

Produktion: Podstars by OMR

Diese Folge wird gesponsert von ElevenLabs

Elon Musk will nur spielen und führt unfreiwillig vor, was beim Agentic Shopping so alles schief gegen kann. Halb so wild – im Vergleich mit dem neuen Fear-Mongerer-Szenario aus dem Hause Anthropic. Die haben Agenten beauftragt, sich in smarten TV-Geräten einzunisten und selbst weiterzuverbreiten. Willkommen im nächsten Level der Bot-Netzwerke! Die Gefahren durch KI sind also offensichtlich, Grund für rekordverdächtige 420 Unterzeichnende eines offenen Briefs, einmal mehr verpflichtende Sicherheitsmaßnahmen und Meldepflichten bei der Entwicklung dieser Technologie zu fordern. Oft gewarnt wurde auch vor bedenklichen KI-Chatbots, die negativen Einfluss auf ihre Nutzenden ausüben. Kritik, Klagen und ungewisse Zukunftsaussichten haben nun den Chatbot-Pionier Character.AI nun in die Pleite getrieben. Fehlendes Gelb, bzw. hohe Abogebühren stecken auch hinter einem neuen Trend: Kreativ- und Office-Software mit KI zu klonen.

Weiterführende Links:

Die „KoKI“-Episode mit Pascal Beij von Unzer: https://kollegin-ki.podigee.io/83-wenn-ki-shoppen-geht-was-ist-agentic-commerce

Elon Musk bestellt Lego mit Grok: https://www.wired.com/story/elon-musk-bragged-about-his-grok-lego-star-wars-haul-then-x-users-punked-him

Anthropics zu selbstverbreitender KI: https://www.anthropic.com/research/self-replicating-ai

Offener Brief KI- und IT-Sicherheitsforscher: https://ai-security-letter.org

Character.AI meldet Insolvenz an: https://www.zeit.de/digital/2026-10/character-ai-insolvenz-walt-disney-ki-verbraucherschutz

KI-Nachbauten von Adobe- und Microsoft-Programmen: ComputerBase

ArtCraft selbst ausprobieren. Als App: https://getartcraft.com/apps, Quellcode auf Github: https://github.com/storytold

Shopping-Tipp für alle „Multi Cat Parents“: https://www.petkit.com/blogs/blog/2025-ai-cat-facial-recognition-peace-of-mind-for-multi-cat-parents

Produktion: Podstars by OMR