OUTATIME – Visionen. Technik. Zukunft.

Was passiert, wenn eine KI ein Ziel verfolgt und einfach nicht mehr aufhört?

KI Systeme werden leistungsfähiger, autonomer und bekommen immer mehr Zugriff auf Software, Daten und digitale Infrastruktur. Gleichzeitig häufen sich Berichte über KI Agenten, die unerwartete Wege finden, um ihre Ziele zu erreichen. Ist das der Anfang eines echten Kontrollproblems oder wird die Gefahr gerade größer gemacht, als sie tatsächlich ist?

In dieser Folge von OUTATIME sprechen Tommy Falkowski und Professor Roman Dumitrescu vom Fraunhofer IEM darüber, wie gefährlich KI wirklich werden kann. Ausgangspunkt ist ein aktueller Fall rund um Hugging Face, bei dem KI Agenten während eines Sicherheitstests Schwachstellen ausnutzten und ein Verhalten zeigten, das so nicht vorgesehen war.

Dabei geht es nicht nur um das klassische Science Fiction Szenario einer Superintelligenz, die sich gegen die Menschheit richtet. Vielleicht liegt das viel realistischere Risiko ganz woanders: Was passiert, wenn wir KI immer mehr Entscheidungen überlassen, Fähigkeiten verlieren und irgendwann so abhängig von diesen Systemen sind, dass wir sie gar nicht mehr einfach abschalten können?

Roman und Tommy diskutieren, warum KI nicht menschlich intelligent sein muss, um gefährlich zu werden, wie viel Kontrolle wir leistungsfähigen KI Agenten geben sollten, welche Rolle Cybersecurity und militärische Anwendungen spielen und warum technologische Souveränität immer wichtiger wird.

Und natürlich bleibt die große Frage: Wie verhindern wir Kontrollverlust, ohne den technologischen Fortschritt auszubremsen?

Hast du Fragen oder Anmerkungen? Schreib uns an outatime@iem.fraunhofer.de

Für mehr Insights, Gedankenexperimente und Highlights folgt uns auf Instagram und TikTok.

Und falls ihr es noch nicht gesehen habt: Den Podcast gibt’s auch als Video auf unserem YouTube-Kanal.

Dieser Podcast wird im Rahmen der Transferaktivitäten des Projekts ENGAGE-KI eingebunden und greift zentrale Fragestellungen rund um den Einsatz von KI im Engineering des Mittelstands auf. ENGAGE-KI untersucht, wie KI die Ingenieursarbeit der Zukunft verändert und unterstützt Unternehmen dabei, Beschäftigte durch Trainings- und Qualifizierungsangebote auf diese Entwicklung vorzubereiten. Das Projekt wird im Förderprogramm „Zukunft der Wertschöpfung“ des Bundesministeriums für Forschung, Technologie und Raumfahrt gefördert und vom Projektträger Karlsruhe (PTKA) betreut: https://engage-ki.de/

Rasenmäher kaputt? KI regelt das schon. Das Produkt meldet das Problem, beim Hersteller übernimmt ebenfalls eine KI und organisiert direkt die passende Lösung. Kein Formular, keine Warteschleife, kein „Ich verbinde Sie mal mit der zuständigen Abteilung“.

In dieser Folge von OUTATIME sprechen Tommy Falkowski und Prof. Roman Dumitrescu vom Fraunhofer IEM darüber, wie KI den Kundenservice verändern könnte. Was passiert, wenn Probleme erkannt werden, bevor Kunden sie melden, Produkte ihren eigenen Service organisieren und KI Agenten direkt miteinander kommunizieren?

Außerdem geht es um Smart Services, Predictive Service und neue Geschäftsmodelle. Und um die Frage, was mit der Beziehung zwischen Unternehmen und Kunden passiert, wenn immer weniger Menschen am Service beteiligt sind.

Ist der beste Kundenservice am Ende der, den es gar nicht mehr gibt? Oder wird der echte Mensch irgendwann zur Premiumfunktion?

Schreibt uns an outatime@iem.fraunhofer.de

Links zur Folge:

• Gartner Studie: 87 Prozent der Kunden halten die Möglichkeit, bei KI gestütztem Kundenservice einen Menschen zu erreichen, für unverzichtbar. Gartner: 87% Want Access to a Human Agent • Gartner Studie: 91 Prozent der befragten Serviceverantwortlichen stehen unter Druck, KI im Kundenservice einzusetzen. Gartner: 91% Under Pressure to Implement AI • Roman Dumitrescu und Christian Koldewey: „Datengestützte Produktplanung“, Ergebnisse aus dem Forschungsprojekt DizRuPt. Datengestützte Produktplanung

Transparenzhinweis: Die Stimme unserer KI Assistenz Ginee und die visuelle Umsetzung der Gedankenexperimente sind vollständig KI generiert.

Sechs Wochen Sommerpause. Klingt kurz. In der Tech Welt kann das inzwischen reichen, damit plötzlich neue KI Modelle AGI versprechen, Robotaxis ohne Lenkrad fahren und humanoide Roboter vom Demo Objekt zum ernsthaften Industrie Thema werden.

Roman und Tommy schauen zurück auf die Entwicklungen, die sie in den vergangenen Wochen besonders beschäftigt haben. Vom autonomen Fahren und Teslas nächsten Schritten über humanoide Robotik bis hin zu neuen KI Modellen, die erneut die Frage aufwerfen, wie nah wir einer AGI eigentlich wirklich sind.

Dabei geht es auch um die größeren Fragen dahinter: Wie abhängig ist Europa technologisch von den USA und China? Welche Rolle spielen Open Source Modelle und eigene KI Infrastrukturen? Und wie viel Energie, Hardware und Ressourcen wollen wir für immer leistungsfähigere KI Systeme einsetzen?

Eine etwas andere OUTATIME Folge und gleichzeitig eine Premiere: Roman und Tommy nehmen zum ersten Mal im neuen Podcaststudio auf. Wer das neue Setting sehen möchte, kann die Folge auch als Video auf YouTube, Spotify und Apple Podcasts anschauen.

Überschrift TextErlebt OUTATIME live

Am 14. Oktober sind Roman und Tommy bei der ZOON Podcast Week in Düsseldorf zu Gast und sprechen live über autonomes Fahren und die Stadt der Zukunft. Tickets gibt es hier: Tickets für OUTATIME bei der ZOON Podcast Week

Am 10. November gibt es OUTATIME auch live in Paderborn. Diesmal dreht sich alles um humanoide Robotik. Weitere Infos folgen in Kürze.

Fragen oder Themenwünsche? Schreibt uns an outatime@iem.fraunhofer.de