In KI-Projekten geht es immer um Effizienz und eingesparte Personalkosten - aber fast nie um die Frage, wie es den Menschen damit geht. Nutzt KI den Menschen, oder ist es nicht oft genau umgekehrt? Wie konkret ist die Angst vor Jobverlust, und wo liegt das eigentliche Problem? Was muss ein Unternehmen ab morgen anders machen, wenn es KI einsetzt? Und läuft es auf Koexistenz mit der KI hinaus, oder ist der Mensch am Ende raus?

Die exponentielle Entwicklung agentischer KI-Systeme erreicht wöchentlich neueEinsatzgebiete, die noch zum Jahresanfang unerreichbar schienen - ein Ende ist nicht abzusehen. Dass KI dies kann, liegt zumindest heute noch am intensiven Feedback und Training durch die Menschen, die perspektivisch damit ihre eigene berufliche Daseinsberechtigung abschaffen. Vorher aber sollen sie als "human in the loop" das überwachen, was KI im Sekundentakt ausspukt - von übermenschlich genial bis zu völlig banalem Unfug.

Die Frage, was wir mit KI eigentlich erreichen wollen und was nicht, stellt sich also immer dringender. Mal abgesehen von den etwas merkwürdigen Warnungen der AI Frontier Labs, die vorgeblich die Menschheit vor genau ihren Produkten schützen wollen, die sie ja selber bauen.

Also: Was wollen wir Menschen eigentlich, und was wollen wir in den Unternehmen? Die Beantwortung dieser Frage will die Human Friendly Automation Alliance vorantreiben, indem sie Unternehmen und die Sozialpartner zusammenbringt, um gemeinsame Werte und Prämissen zu formulieren.

Hanjo Gergs und Lars Schatilow sind Co-Initiatoren dieser Initiative mit Sitz in Düsseldorf. Beide verbindet eine langjährige Karriere in der klassischen Industrie, bei Audi und IBM. 2020/21 haben sie bereits die erste Charta entwickeln, und nun skizzieren sie in ihrem Buch „Human Friendly Automation: Arbeit und Künstliche Intelligenz neu denken“ (mit Tobias Kämpf und Barbara Langes) die Eckpunkte einer KI, die eine Koexistenz von Mensch und Maschine möglich macht.

🔗 LinkedIn Lars: https://www.linkedin.com/in/larsschatilow/ 🌐 Website: https://www.humanfriendlyautomation.com/ 🔗 LinkedIn Hanjo: https://www.linkedin.com/in/hans-joachim-dr-gergs-6b99282a/ 🌐 Website: https://www.gfeo.eu

digdeep ist stolzes Mitglied der Brand Eins Podcast-Familie!

Unser Live-Podcast auf der herCareer in München findet am 22.10.2026 statt. Mehr Infos hier: https://www.her-career.com/kopf/digdeep/

Und unsere Brand Eins Familie könnt ihr auf der Work Awesome Messe in Berlin am 26.11.2026. Alle Infos hier: https://www.brandeins.de/t/kategorie/konferenzen/work-awesome

Die Medizin hat schon immer nach demselben Muster gearbeitet: Krankheit finden, Krankheit behandeln - find and fix. Doch das könnte sich nun ändern. Denn während bislang der Arzt nur einen Schnappschuss unseres gesundheitlich relevanten Lebens sieht, produzieren wir immer mehr Daten: beim Sport mit Fitness-Trackern, beim Schlafen, bei der Analyse unser DNA oder durch die Aufzeichnung der Faktoren, die uns stressen.

Erleben wir also in Zukunft irgendwann den letzten Patienten? Dr. André Nemat ist Ingenieur und Arzt und geht in seinem Buch genau dieser Idee nach. Als ehemaliger Chefarzt der Thoraxchirurgie forscht er nun an der Universität Witten/Herdecke zur menschenzentrierten Digitalisierung.

In der Industrie ist der "digitale Zwilling" schon lange in Arbeit. Ein möglichst detaillierter, konsolidierter Blick auf digitale Daten soll es ermöglichen, nicht nur Fehler zu erkennen, sondern auch in Simulationen Fehler erst zu vermeiden. Aus "analytic" und "predictiv" wird "prescriptive".

Warum also nicht auch beim komplexesten System, mit dem wir uns beschäftigen? Wenngleich ein vollständiger digitaler Zwilling des Menschen noch weit entfernt scheint, so ergeben sich ständig neue Möglichkeiten: Welche Chemotherapie wird für diese DNA am besten funktionieren? Aber vor allem auch: Welchen Risikofaktor sollte ich vermeiden, um überhaupt zu erkranken?

André Nemat denkt die Idee des "letzten Patienten" weiter und entwirft zwei Zukünfte: eine Utopie, in der niemand mehr an einer vermeidbaren Krankheit stirbt, und eine Dystopie, in der der Mensch in der Technik aufgeht und am Ende vergeblich nach menschlicher Zuwendung sucht.

Der Weg von "find & fix" zu "predict & prevent" wird mit immer mehr Daten und immer intelligenteren Maschinen ohne Zweifel weitergehen. Am Ende steht eine klare Unterscheidung: Auf eine Maschine kann man sich verlassen, vertrauen kann man nur einem Menschen.

Hört rein, wenn ihr wissen wollt, warum die letzte Meile der Medizin menschlich bleiben wird.

🔗 LinkedIn: https://de.linkedin.com/in/dr-andre-t-nemat 🌐 Website: https://derletztepatient.de/

Unser Live-Podcast auf der herCareer in München findet am 22.10.2026 statt. Mehr Infos hier: https://www.her-career.com/kopf/digdeep/

Und unsere Brand Eins Familie könnt ihr auf der Work Awesome Messe in Berlin am 26.11.2026. Alle Infos hier: https://www.brandeins.de/t/kategorie/konferenzen/work-awesome

2011 hatte Marc Andreesen prognostiziert: "Software eats the world". Nun macht eine neue Schlagzeile die Runde: Bedeutet KI das Ende der bisherigen Software-Geschäftsmodelle, und damit auch von den großen Playern wie SAP & Co?

SaaS steht für SW as a Service. Software wird nicht mehr gekauft, sondern nur noch genutzt, und die monatlichen Mietgebühren pro Benutzer sind ein extrem lukratives Geschäft, sobald der Kunde am Haken ist. Bislang.

Der bisherige Einkaufsprozess für Software: Lastenhefte schreiben, Lieferanten auswählen, Angebote einholen, Preise verhandeln, die Implementierung abwarten, testen und nochmals anpassen. Ein Prozess, der viele Monate dauert und dementsprechend teuer ist.

Mit den neuen Modellen wie Astra oder Fable wird dieser Prozess auf den Kopf gestellt. Nun ist es möglich, ganze SW-Suites mit nur wenigen Prompts selber zu entwickeln, coden und hosten. Und nicht etwas durch spezialisierte IT-Dienstleister, sondern mit Bordmitteln und beschränkten IT-Kenntnissen.

Doch stimmt diese Erzählung auch wirklich? Wird in Zukunft jeder Schreiner sein ERP-System selber prompten? Unser Studiogast Ulrich Hutter hat seine eigenen Erfahrungen damit gemacht. Er hat sein erstes Software-Projekt für Kunden mit 13 geschrieben und baut mit seiner Firma GMS Software in Salzburg spezialisierte Software für Gastronomie, Hotels und das Gesundheitswesen.

Seine besten Programmierer schreiben inzwischen kaum noch eine Zeile Code selbst – die KI übernimmt bis zu 80 Prozent. Trotzdem ist er überzeugt, dass gute Entwickler wichtiger werden statt überflüssig. Und wir fragen kritisch nach: Wenn Menschen im „Human in the Loop" nur noch "weiter" klicken, ist dann überhaupt noch jemand am Steuer?

Hört rein in eine spannende Folge über die Zukunft des Software-Business mit Ulrich Hutter! 🔗 LinkedIn: https://www.linkedin.com/in/ulrich-hutter-4783346b/ 🌐 Website: https://www.gms.info/

digdeep ist stolzes Mitglied der Brand Eins Podcast-Familie: https://www.brandeins.de/podcasts