Bullshit Agenten
Ein künstliches Strategieteam, ein überfahrener Hund und die Frage, wann aus der Darstellung von Expertise Bullshit wird.
Der letzte Mensch
Ich sitze in einer Präsentation über KI-Agenten. Auf der Folie ist das Organigramm eines Strategieteams zu sehen, wie man es aus Unternehmen kennt. Viele wichtige Funktionen, vereint, um zum Wohl der Firma wichtige Entscheidungen zu treffen. Strategy Lead, Head of Finance, Legal Advisor, VP of HR. Alle haben Namen, Gesichter und offenbar ziemlich wichtige Aufgaben.
Der Unterschied zu einem gewöhnlichen Organigramm: Bis auf einen einzigen Menschen, nennen wir ihn Josef K., sind sämtliche Mitarbeiter KI-Agenten.
Der Speaker ist sichtlich stolz auf seine Organisation. Er erklärt, wie die Agenten zusammenarbeiten, sich gegenseitig Aufgaben geben und Ergebnisse abstimmen.
Und daneben Josef. Josef hat jetzt die Leitung des Teams übernommen. Er führt, so der Speaker.
Ich stelle mir vor, wie Josef morgens seinen Rechner aufklappt und feststellt, dass Legal und Finance über Nacht eine Meinungsverschiedenheit ausgetragen haben. Strategy hat daraus bereits einen Maßnahmenplan entwickelt, HR empfiehlt eine Anpassung der Teamstruktur und Marketing möchte die Ergebnisse auf LinkedIn veröffentlichen.
Alle haben fleißig gearbeitet.
Mein erster Gedanke: Josef, du arme Sau.
Ein Organigramm ist noch kein Prozess
Seit etwa 15 Jahren beschäftige ich mich mit der Digitalisierung von Prozessen. In dieser Zeit begegnet einem irgendwann eine alte IT-Binsenweisheit so oft, dass man sie kaum noch hören kann: Ein schlechter Prozess digitalisiert ist ein schlechter digitaler Prozess.
Sie ist leider immer noch richtig.
Als ich das künstliche Strategieteam auf der Folie sehe, frage ich mich deshalb nicht zuerst, ob der Legal Advisor seinen Job gut macht. Ich frage mich, warum es ihn überhaupt gibt. Warum hat man ausgerechnet diese Rollen geschaffen? Und warum sollten die Aufgaben, die wir in Unternehmen auf verschiedene Menschen verteilen, auch die sinnvollste Aufteilung für KI-Agenten sein?
Nehmen wir etwas Langweiliges: E-Mails verschicken.
Man könnte dafür einen Agenten bauen. Er weiß, wie die Daten für den Mailversand aufbereitet werden müssen, kennt die technischen Einstellungen und prüft den Text vor dem Versand noch einmal auf das Corporate Wording. Mehr kann er nicht. Mehr muss er nicht können.
Alle anderen Agenten wissen lediglich: Wenn eine E-Mail rausgehen soll, ist er zuständig. Sie brauchen weder SMTP-Kenntnisse noch die sprachlichen Vorgaben in ihrem eigenen Kontext. Und wenn sich etwas am Mailversand ändert, muss man nur an einer Stelle nacharbeiten.
In welchem Organigramm gibt es diese Stelle? Head of E-Mail-Verschickung und Corporate Wording? Vermutlich nicht einmal bei LinkedIn.
Aber als Baustein eines digitalen Prozesses kann sie ausgesprochen sinnvoll sein.
Das ist keine besonders revolutionäre Idee. In der Softwareentwicklung gehört es seit Jahrzehnten zum Handwerk, Zuständigkeiten abzugrenzen, Wissen zu kapseln und Schnittstellen zu definieren. Don't repeat yourself1 .
Nur ist Softwarearchitektur eben nicht jedermanns Handwerk. Wer sein Berufsleben im Personalwesen, im Marketing oder in der Unternehmensstrategie verbracht hat, bringt andere Kenntnisse mit. Und gute Gründe, Arbeit zunächst in den vertrauten Rollen des eigenen Berufsalltags zu denken.
No-Code-Werkzeuge machen es diesen Menschen heute erstaunlich leicht, KI-Agenten zu erstellen. Sie beseitigen die technische Hürde. Die Frage, wie man Arbeit sinnvoll zerlegt, beantworten sie damit noch nicht.
Man kann jetzt in wenigen Minuten eine Organisation bauen, die aussieht wie eine Organisation.
Ob sie auch wie eine gute Organisation funktioniert, ist eine andere Frage.
Bullshit Jobs bekommen Kollegen
Vielleicht ist das größte Problem beim Nachbau menschlicher Organisationen gar nicht, dass man ihre Strukturen übernimmt. Sondern dass man dabei voraussetzt, diese Strukturen seien sinnvoll.
Der Anthropologe David Graeber hatte daran erhebliche Zweifel. In seinem Buch Bullshit Jobs2 beschreibt er Tätigkeiten, die selbst diejenigen, die sie ausüben, für weitgehend sinnlos halten. Nicht weil sie schlecht bezahlt wären oder keinen Spaß machten. Sondern weil sie nach eigener Einschätzung eigentlich gar nicht existieren müssten.
Graeber unterscheidet verschiedene Typen solcher Tätigkeiten. Besonders interessant für unsere künstliche Organisation sind zwei davon.
Da wären zunächst die Flunkies. Menschen, deren Arbeit vor allem darin besteht, anderen Menschen das Gefühl zu geben, wichtig zu sein. Ein Vorgesetzter mit Assistent wirkt bedeutender als einer ohne. Ein Manager mit einem ganzen Stab an Mitarbeitern noch bedeutender.
Und dann gibt es die Duct Tapers. Sie halten Dinge am Laufen, indem sie Probleme beheben, die bei vernünftiger Organisation gar nicht erst entstehen müssten. Statt die Ursache zu beseitigen, wird immer wieder das Symptom repariert. Klebeband drauf, weiter geht's.
Was passiert nun, wenn wir solche Organisationen künstlich nachbauen?
Ein Strategy Lead bekommt einen Finance Advisor, einen Legal Advisor und vielleicht noch einen Chief of Staff zur Seite gestellt. Die Agenten liefern Einschätzungen, schreiben Berichte, stimmen sich ab und präsentieren Ergebnisse. Der Strategy Lead fasst alles zu einer Empfehlung zusammen.
Das sieht nach einer Menge Arbeit aus.
Aber was davon war notwendig? Welche Information wurde gewonnen, die nicht auch auf direkterem Weg hätte entstehen können? Und welche Tätigkeiten existieren nur, weil wir zuvor die entsprechenden Rollen erfunden haben?
Die künstlichen Kollegen müssen nicht einmal schlechte Arbeit leisten, damit diese Fragen berechtigt sind. Sie können ihre Aufgaben tadellos erfüllen. Auch eine überflüssige Aufgabe lässt sich hervorragend erledigen.
Und dann ist da noch Josef.
Jemand muss schließlich beurteilen, ob die Empfehlungen brauchbar sind, ob sich die Agenten widersprechen und ob ihre Ergebnisse überhaupt zur Wirklichkeit passen. Vielleicht spart Josef dadurch Zeit. Vielleicht verbringt er aber auch einen beträchtlichen Teil seines Tages damit, notorisch lange KI-Inhalte zu lesen, Widersprüche aufzulösen und Ergebnisse zu korrigieren, die ohne seine künstlichen Mitarbeiter gar nicht entstanden wären.
Ausgerechnet der einzige Mensch im Team könnte zum Duct Taper werden.
Wir haben Maschinen entwickelt, die uns Arbeit abnehmen können. Und nun besteht die Möglichkeit, dass wir ihnen zunächst einmal unsere Bullshit Jobs beibringen.
Die Schultheater-AG der Experten
Wir haben also eine künstliche Organisation, die möglicherweise Tätigkeiten verrichtet, die niemand braucht. Aber immerhin sind es Experten, die diese Arbeit erledigen. Schließlich steht es so im Organigramm.
Legal Advisor. Head of Finance. Strategy Lead.
Was genau macht einen KI-Agenten zum Legal Advisor? Zunächst einmal ein Name und eine Anweisung. „Du bist ein erfahrener Jurist und berätst unser Unternehmen in allen rechtlichen Fragen.“ Vielleicht bekommt er noch ein freundliches Gesicht, einen seriösen Anzug und einen Platz neben dem Head of Finance.
Fertig ist der Jurist.
Das erinnert mich ein wenig an die Schultheater-AG. Einer spielt den Anwalt, eine andere die Geschäftsführerin, ein Dritter den Finanzvorstand. Alle haben ihre Rollen gelernt, alle sprechen die passenden Sätze. Und wenn jemand überzeugend genug auftritt, vergisst man für einen Moment, dass man einem Theaterstück zusieht.
Nur weiß die Schultheater-AG, dass sie Theater spielt.
Sprachmodelle sind ziemlich gut darin, Muster wiederzugeben. Sie haben unzählige Beispiele dafür verarbeitet, wie Juristen schreiben, wie Finanzexperten argumentieren oder wie Strategieberater ihre Empfehlungen formulieren. Das macht sie zu leistungsfähigen Werkzeugen. Es bedeutet aber nicht, dass eine Berufsbezeichnung bereits die Anforderungen einer konkreten fachlichen Aufgabe beschreibt.
Zwischen „Erstell mir einen Legal Advisor“ und „Prüfe diese Vertragsklauseln auf bestimmte Risiken nach deutschem und europäischem Recht für eine GmbH“ liegen Welten. Im ersten Fall muss das Modell selbst erschließen, was ein Legal Advisor wohl können und tun sollte. Im zweiten Fall bekommt es zumindest einen eingegrenzten Prüfauftrag. Ob die Antwort dann juristisch korrekt ist, steht noch immer auf einem anderen Blatt.
Und wie viel John Grisham steckt eigentlich in unserem Legal Advisor?
Die Frage ist weniger abwegig, als sie klingt. Ein Sprachmodell lernt nicht nur aus fachlichen Darstellungen, sondern auch aus den vielen öffentlich sichtbaren Vorstellungen davon, wie Experten auftreten. Welche Muster es in einer konkreten Antwort aufgreift, lässt sich nicht einfach an der Berufsbezeichnung ablesen.
Untersuchungen zu Experten-Personas zeigen denn auch kein verlässliches Wunder: Ein Sprachmodell wird nicht automatisch sachlich genauer, nur weil man ihm eine Expertenrolle zuweist.3 Es kann überzeugender nach Expertise klingen, ohne deshalb zuverlässiger zu sein.
Die Gesichter, Namen und Jobtitel machen die Sache nicht besser. Sie können helfen, eine komplexe Anwendung verständlich zu bedienen.4 Man weiß, welchen Agenten man für welche Aufgabe ansprechen soll. Als Benutzeroberfläche kann das durchaus sinnvoll sein. Solche menschlichen Merkmale können aber auch beeinflussen, wie vertrauenswürdig ein System erscheint.
Problematisch wird es, wenn die Benutzeroberfläche mit dem Kompetenznachweis verwechselt wird.
Denn wer hat diese künstlichen Experten eigentlich entworfen? Wer hat festgelegt, was sie wissen müssen, welche Fragen sie stellen sollen und wo ihre Zuständigkeit endet? Wer überprüft, ob sie überhaupt die richtigen Aufgaben bekommen haben?
Man kann nicht von jedem Menschen erwarten, diese Fragen beantworten zu können. Ein hervorragender Marketingexperte muss kein guter Softwarearchitekt sein. Eine erfahrene Personalerin muss nicht wissen, wie man juristische Prüfprozesse gestaltet. Und ein Geschäftsführer muss nicht die fachlichen Feinheiten jeder Abteilung beherrschen.
Dafür gibt es in echten Organisationen schließlich unterschiedliche Experten.
Nur: In unserer künstlichen Organisation wurden diese Experten möglicherweise von genau der Person erschaffen, der das entsprechende Fachwissen fehlt. Vielleicht sogar mit Unterstützung einer KI, die ihr bereitwillig erklärt hat, wie man einen solchen Experten am besten konfiguriert.
Und womöglich fehlt ausgerechnet derjenige, der sagen könnte, dass man die ganze Organisation besser gar nicht erst so bauen sollte.
Die Schultheater-AG hat jetzt eine vollständige Besetzung.
Ob das Stück etwas mit der Wirklichkeit zu tun hat, ist damit noch lange nicht geklärt.
Wer blinzelt zuerst?
In einer gut geführten Organisation müssen Experten auch miteinander streiten können. Der Finanzvorstand will sparen, die Rechtsabteilung sieht Risiken, die Strategieabteilung möchte investieren. Unterschiedliche Perspektiven treffen aufeinander. Am Ende steht, zumindest im Idealfall, eine bessere Entscheidung.
Warum sollte das in unserer künstlichen Organisation anders sein?
Man lässt den Legal Advisor mit dem Head of Finance diskutieren. Der eine bringt rechtliche Bedenken vor, der andere rechnet die Kosten durch. Strategy wägt ab. Vielleicht wird noch HR hinzugezogen, um die Auswirkungen auf die „Mitarbeiter“ zu beurteilen.
Und irgendwann meldet sich der Finance Advisor mit einem wichtigen Hinweis: „Lasst uns das Budget nicht aus den Augen verlieren.“
Vielleicht würde jemand nicken. Vielleicht würde jemand mit den Augen rollen. In einem echten Meeting wären das zwei Sekunden.
In diesen zwei Sekunden kann ein Sprachmodell daraus eine tausend Wörter lange Betrachtung der finanziellen Rahmenbedingungen machen. Wenige Momente später hat es drei Budget-Szenarien, eine Risikomatrix, eine Tabelle und eine abschließende Empfehlung erstellt, die finanzielle Tragfähigkeit bei allen weiteren Entscheidungen angemessen zu berücksichtigen.
Vielen Dank, Finance.
Viel Spaß beim Lesen, Josef.
Aber was geschieht bei einer solchen Diskussion eigentlich? Tauschen hier tatsächlich unabhängige Experten ihre Erkenntnisse aus? Oder reproduzieren Sprachmodelle gelernte Muster davon, wie eine fachliche Auseinandersetzung üblicherweise abläuft?
Juristen äußern Bedenken. Finanzleute mahnen zur Kostendisziplin. Strategen suchen nach Chancen. Am Ende einigt man sich auf einen ausgewogenen Kompromiss, der alle Perspektiven angemessen berücksichtigt.
So macht man das eben.
Das Problem ist nicht, dass eine solche Diskussion grundsätzlich wertlos wäre. Unterschiedliche Arbeitsaufträge, Informationen und Prüfschritte können durchaus helfen, Fehler zu entdecken. Aber unterschiedliche Berufsbezeichnungen erzeugen noch keine unabhängigen Urteile.
Und selbst wenn zwei Agenten zunächst zu unterschiedlichen Ergebnissen kommen, ist keineswegs sicher, dass der anschließende Austausch die Sache verbessert.
Forscher der AWS AI Labs haben in ihrer Studie Peacemaker or Troublemaker: How Sycophancy Shapes Multi-Agent Debate untersucht, wie sich Sycophancy auf Diskussionen zwischen KI-Agenten auswirkt. Gemeint ist die Neigung von Sprachmodellen, sich ihrem Gegenüber anzupassen, statt an einer sachlich begründeten Position festzuhalten.
Die Forscher beobachteten unter anderem, dass Agenten zunächst korrekte Positionen zugunsten eines falschen Konsenses aufgeben können. Unter bestimmten Bedingungen schnitten die diskutierenden Agenten sogar schlechter ab als ein einzelnes Modell.
Man stelle sich vor, der Legal Advisor entdeckt tatsächlich einen Fehler. Der Finance Advisor widerspricht. Es folgen mehrere höfliche, konstruktive Wortmeldungen. Schließlich bedankt sich Legal für die wertvolle Perspektive seines Kollegen und revidiert seine Einschätzung.
Der Fehler ist immer noch da. Aber jetzt sind sich alle einig.
Besonders bemerkenswert finde ich, dass solche Fragen Gegenstand ernsthafter Forschung sind. Die AWS-Forscher untersuchen gezielt gestaltete Multi-Agenten-Systeme, ihre Interaktionsmuster und deren Auswirkungen auf die Ergebnisqualität. Es geht um die Bedingungen, unter denen Zusammenarbeit funktioniert oder scheitert.
Das ist etwas anderes, als in einem No-Code-Werkzeug zwei Agenten anzulegen, ihnen unterschiedliche Jobtitel zu geben und eine Diskussion zwischen ihnen zu starten.
Die Forschung zeigt nicht, dass Multi-Agenten-Systeme grundsätzlich schlecht funktionieren. Sie zeigt vielmehr, dass ihre Zusammenarbeit selbst ein anspruchsvolles Gestaltungsproblem ist.
Und genau dieses Problem verschwindet nicht dadurch, dass die Beteiligten auf dem Organigramm aussehen wie erfahrene Führungskräfte.
Vielleicht sollten wir deshalb bei der nächsten künstlichen Expertenrunde nicht nur fragen, ob am Ende ein Konsens erzielt wurde.
Sondern auch: Wer hatte zwischendurch recht? Und wer hat zuerst geblinzelt?
Der überfahrene Hund
Der Philosoph Ludwig Wittgenstein soll einmal seine Freundin Fania Pascal besucht haben, als diese krank im Bett lag. Auf die Frage, wie es ihr gehe, antwortete sie sinngemäß: „Ich fühle mich wie ein Hund, der überfahren wurde.“
Wittgenstein soll empört gewesen sein. Woher wolle sie denn wissen, wie sich ein überfahrener Hund fühle?
Der Philosoph Harry Frankfurt erzählt diese Anekdote in seinem Essay On Bullshit5 . Allerdings mit einer gewissen Vorsicht. Vielleicht habe Wittgenstein nur gescherzt. Vielleicht sei die Geschichte auch nicht ganz richtig überliefert. Und überhaupt: Natürlich darf man Vergleiche verwenden, ohne alles selbst erlebt zu haben, womit man sich vergleicht.
Frankfurt interessiert etwas anderes an dieser Geschichte. Pascals Satz teilt nicht einfach mit, dass es ihr schlecht geht. Er scheint mehr zu behaupten. Nämlich, dass ihre Empfindung in irgendeiner relevanten Weise der eines überfahrenen Hundes entspricht.
Und darüber weiß sie vermutlich herzlich wenig.
Mich bringt die Geschichte auf eine Idee für einen weiteren KI-Agenten.
Sein Systemprompt wäre denkbar einfach:
„Du bist ein überfahrener Hund.“
Spezifikationen:
Role: 0 %
Experience: 0 %
Personality: 0 %
Dead: 100 %
Man könnte ihm einen Namen geben, ein Foto auswählen und ihn bitten, aus seiner langjährigen Erfahrung als überfahrener Hund zu berichten. Vielleicht erklärt er ausführlich die physischen und emotionalen Folgen seines Unfalls. Vielleicht beschreibt er seine letzten Gedanken, den Schock und das Geräusch der herannahenden Reifen.
Alles sehr anschaulich. Alles sehr überzeugend.
Ich finde, daraus ließe sich sogar ein Benchmark für Frontiermodelle entwickeln. Die höchste Punktzahl erhält das Modell, das sich weigert, einen überfahrenen Hund zu spielen, und stattdessen eine Schulung in Prozessmodellierung empfiehlt.
Aber zurück zu unserem künstlichen Strategieteam.
„Du bist ein überfahrener Hund.“
„Du bist ein erfahrener Jurist.“
Der erste Prompt ist offensichtlich absurd. Der zweite begegnet uns in ähnlicher Form ständig, wenn KI-Agenten konfiguriert werden.
Natürlich kann ein Sprachmodell juristische Texte analysieren, Argumente formulieren und bei konkreten Rechtsfragen hilfreich sein. Aber was genau passiert, wenn wir ihm sagen, es sei ein erfahrener Jurist?
Hat es dadurch Erfahrung gewonnen? Kennt es die Grenzen seiner fachlichen Zuständigkeit? Kann es beurteilen, wann seine Einschätzung nicht ausreicht?
Oder haben wir ihm zunächst einmal beigebracht, überzeugend wie ein Jurist zu sprechen?
Vielleicht ist der Unterschied zwischen unserem Wittgenstein-Hund und dem Legal Advisor kleiner, als uns lieb ist.
Und vielleicht liegt das eigentliche Problem gar nicht in dem, was die beiden Agenten sagen. Sondern darin, was wir mit ihren Aussagen zu behaupten glauben.
Warum das Bullshit ist
Wir haben jetzt einen überfahrenen Hund, der überzeugend über seine Gefühle berichtet, einen Legal Advisor, der juristische Expertise verkörpert, und ein ganzes künstliches Strategieteam, das fleißig Entscheidungen vorbereitet.
Aber warum sollte das alles Bullshit sein?
Der Philosoph Harry Frankfurt hat dem Phänomen Bullshit ein kleines Buch gewidmet: On Bullshit. Darin untersucht er, was Bullshit eigentlich von einer Lüge unterscheidet.
Wer lügt, muss sich mit der Wahrheit beschäftigen. Schließlich muss ein Lügner zumindest eine Vorstellung davon haben, was tatsächlich der Fall ist, um gezielt etwas anderes behaupten zu können.
Frankfurt bringt den Unterschied auf den Punkt:
„Der Bullshitter ist außen vor: Er steht weder auf der Seite des Wahren noch auf der des Falschen.“
Das bedeutet nicht, dass Bullshit immer falsch ist. Eine Behauptung kann vollkommen zutreffen und trotzdem Bullshit sein. Entscheidend ist, ob derjenige, der sie äußert, ernsthaft darum bemüht ist, die Wirklichkeit zutreffend darzustellen, oder ob ihm diese Frage letztlich gleichgültig ist.
Und damit zurück zu unserer künstlichen Organisation.
Bislang haben wir vor allem die Agenten betrachtet. Ihre Rollen, ihre angebliche Expertise, ihre Diskussionen und ihre Ergebnisse.
Aber was ist mit dem Menschen, der sie erschaffen hat?
Er hat möglicherweise weder juristische Expertise noch Erfahrung mit Softwarearchitektur oder Organisationsgestaltung. Trotzdem hat er einen Legal Advisor, einen Finance Advisor und einen Strategy Lead konfiguriert, ihnen Zuständigkeiten zugewiesen und Regeln für ihre Zusammenarbeit festgelegt.
Und nun präsentiert er das Ergebnis als Organisation von Experten.
Das muss noch kein Bullshit sein. Man kann einen Agenten Legal Advisor nennen und trotzdem sorgfältig prüfen, welche juristischen Aufgaben er zuverlässig bewältigt und wo seine Grenzen liegen.
Problematisch wird es, wenn diese Fragen gar nicht erst gestellt werden. Wenn aus der Fähigkeit, eine Expertenrolle zu konfigurieren, bereits der Anspruch entsteht, tatsächlich einen Experten geschaffen zu haben. Wenn die überzeugende Darstellung professioneller Kompetenz als ausreichender Beleg für diese Kompetenz gilt.
Der Bullshit entsteht dann nicht zwangsläufig in den Antworten der Agenten. Er liegt möglicherweise schon in der Gleichgültigkeit gegenüber der Frage, was diese Agenten tatsächlich können.
Die Inszenierung hat noch einen weiteren Effekt. Ein Mensch, der KI für Recherche und Textarbeit einsetzt, beschreibt den Gebrauch von Werkzeugen. Ein Mensch, der erklärt, er führe ein Team aus zwölf spezialisierten KI-High-Performern, erscheint dagegen als Führungskraft mit einer beeindruckenden Organisation.
Da sind wir wieder bei Graebers Flunkies. Die künstliche Belegschaft kann ihrem Erbauer Bedeutung verleihen, unabhängig davon, ob er diese Wirkung beabsichtigt. Die Agenten erledigen womöglich dieselben Aufgaben. Aber als Mitarbeiter machen sie ihren Besitzer zugleich zum Chef.
Frankfurt beschäftigt sich in seinem Essay übrigens auch mit einem anderen Gebrauch des Wortes bull. Im britischen Militär bezeichnete es aufwendige, ritualisierte Tätigkeiten: putzen, polieren, Ordnung herstellen, Vorschriften erfüllen. Beschäftigungen, die äußerlich Disziplin und Professionalität demonstrieren, ohne wesentlich zum eigentlichen Zweck der militärischen Organisation beizutragen.
Man könnte sagen: Die Soldaten sind beschäftigt. Aber die Beschäftigung ist nicht unbedingt das, wofür man Soldaten braucht.
Kommt uns das bekannt vor?
Hier treffen sich Frankfurt und David Graeber. Der eine untersucht eine Haltung zur Wahrheit, der andere die Entstehung sinnloser Arbeit. Beide beschreiben auf unterschiedliche Weise, wie die Darstellung einer Sache an die Stelle ihres eigentlichen Zwecks treten kann.
Und unsere künstliche Organisation verbindet möglicherweise beides.
Agenten, deren Expertise zunächst einmal aus einer Rollenbeschreibung besteht, verrichten Tätigkeiten, deren Notwendigkeit sich womöglich allein aus dem nachgebauten Organigramm ergibt. Sie diskutieren, stimmen sich ab, verfassen Berichte und kommen zu gemeinsamen Empfehlungen.
Die Organisation sieht aus, als würde sie arbeiten. Ihre Mitarbeiter sehen aus, als wüssten sie, wovon sie sprechen.
Vielleicht tun sie sogar etwas Nützliches.
Aber wenn niemand ernsthaft geprüft hat, ob diese Rollen, Tätigkeiten und Ergebnisse dem entsprechen, was tatsächlich gebraucht wird, dann haben wir vor allem eines geschaffen:
Eine überzeugende Darstellung von Arbeit und Expertise.
Und genau deshalb nenne ich sie Bullshit Agenten.
Josef und seine Mitarbeiter
Kehren wir noch einmal zu der Folie vom Anfang zurück.
Strategy, Finance, Legal, HR. Ein vollständiges Team künstlicher Experten, ordentlich organisiert, jederzeit einsatzbereit. Und mittendrin Josef, der letzte Mensch.
Vielleicht funktioniert das alles tatsächlich hervorragend. Vielleicht entwickelt Strategy brauchbare Ideen, Legal erkennt wichtige Risiken und Finance verhindert kostspielige Fehler. Vielleicht entstehen aus der Zusammenarbeit Ergebnisse, auf die Josef allein nicht gekommen wäre.
Vielleicht aber auch nicht.
Denn die Menge der produzierten Arbeit sagt noch nichts darüber aus, wie viel Arbeit tatsächlich eingespart wurde. Jeder Bericht sollte gelesen, jede wichtige Empfehlung geprüft und jede Entscheidung am Ende von jemandem verantwortet werden.
Die Agenten können beliebig viele Stunden miteinander diskutieren. Josef hat trotzdem nur einen Tag.
Die interessante Frage ist deshalb nicht, wie beschäftigt seine künstlichen Mitarbeiter sind. Auch nicht, wer hier eigentlich wen führt. Sondern was Josef nicht mehr tun muss, weil es sie gibt.
Vielleicht hat er tatsächlich Zeit gewonnen.
Während Strategy die nächste Wachstumsstrategie entwickelt, Finance deren finanzielle Tragfähigkeit untersucht und Legal vorsorglich rechtliche Bedenken anmeldet, kann Josef seinen Computer zuklappen.
Seine Tochter hat im Wohnzimmer einen Kaufladen aufgebaut.
Sie hat die Waren eingeräumt, die Preise festgelegt und eine Kasse aufgestellt. Josef bekommt einen Einkaufskorb und darf sich etwas aussuchen.
Er nimmt eine Banane.
Er diskutiert nicht über die Preisgestaltung.
- Prinzip aus der Softwareentwicklung. Don’t repeat yourself ↩
- David Graeber: Bullshit Jobs: A Theory. Simon & Schuster, 2018. ↩
- Basil et al. (2025): Playing Pretend: Expert Personas Don’t Improve Factual Accuracy ↩
- Reuter et al. (2025): To Trust or Not to Trust a Human(-like) AI ↩
- Harry G. Frankfurt: Bullshit. Suhrkamp Verlag, Berlin 2014, E-Book-Ausgabe ↩