Ein weiterer Meilenstein für @motherduck. Jetzt in der EU verfügbar!

"think" ist ein Schlüsselwort im Claude-Code. Es ist wie das Gespräch mit einem Kollegen. Ich habe gefragt, was denkst du? Claude sagt *denke nach* das Skeuomorphismus ist verrückt.

Sie rufen die Fluggesellschaft an, um Ihren verspäteten Flug zu ändern. Der Agent sagt, er könne nicht helfen – der Computer lasse es nicht zu. Sie bitten darum, mit seinem Vorgesetzten zu sprechen. Sie sagt dasselbe. Sie eskalieren zu ihrem Vorgesetzten. Gleiche Antwort. Jeder möchte Ihnen helfen. Niemand kann. Das System hat entschieden, und das System erklärt sich nicht. Das ist es, was Dan Davies in The Unaccountability Machine als Verantwortlichkeitsversenkung bezeichnet. Verantwortlichkeitsversenkungen sind Systeme, die so gestaltet sind, dass, wenn etwas schiefgeht, kein einzelner Mensch zur Verantwortung gezogen werden kann, um es zu beheben. Er argumentiert, dass "Entscheidungen einem komplexen Regelwerk oder einer Reihe von Standardverfahren delegiert werden, was es unmöglich macht, die Quelle von Fehlern zu identifizieren, wenn sie auftreten." Das passiert oft, je größer die Organisation wird. Es ist eine Taktik, um Risiken zu streuen. Mit KI wird sich diese Dynamik wahrscheinlich verschärfen. Zitiert aus dem Buch: "In der Zukunft wird 'Ich beschuldige das System' etwas sein, an das wir uns gewöhnen müssen, und es wörtlich meinen." Ich beschuldige die KI. Wenn diese Worte ausgesprochen werden, bringt es die Welt zum Stillstand, wie ein Waymo, das mitten in einer belebten Kreuzung anhält. Was ist der nächste Schritt? Es ist also günstig, dass die Gründer-Modus-Ethik gleichzeitig mit der Schuldzuweisung an das KI-System entstanden ist. Das Wesen des Gründer-Modus ist das Gegenteil von Verantwortlichkeitsversenkungen. Alle Verantwortung fällt auf eine Person. "Das Maß, in dem Sie in der Lage sind, eine Entscheidung zu ändern, ist genau das Maß, in dem Sie dafür verantwortlich sein können." Daher bedeutet die Gestaltung verantwortlicher Organisationen, Rollen und Systeme für Menschen zu definieren, in denen sie verantwortlich sind und die Ausgabe des Systems übersteuern können. Darüber hinaus plädiert Davies für Feedback-Schleifen von unten nach oben. Skip-Level-Meetings, bei denen der Vorgesetzte eines Vorgesetzten mit einem Teammitglied spricht, sind ein Beispiel. Aber im Zeitalter der KI ist das nicht genug. Die digitalen Informationsströme, die durch eine Organisation rasen, könnten zu viel sein, um Schritt zu halten. Wenn Verantwortlichkeitsversenkungen zuvor ein Problem waren, stellen Sie sich die Auswirkungen danach vor. Die Neugestaltung von Rollen und KI-Systemen mit menschlichen Übersteuerungen wird entscheidend sein, um Verantwortlichkeit sicherzustellen. Zumindest für jetzt benötigt jede wichtige Entscheidung immer noch eine Person dahinter, und vielleicht ist das genug, um schnell genug umzubuchen, um rechtzeitig zum Abendessen nach Hause zu kommen.