By Thomas Winter in Strategie — 8. Mai 2025

Zum Buch "The Ethics of Artificial Intelligence"

Ein Einblick in Luciano Floridis Buch über die großen ethischen Fragestellungen zur Künstlichen Intelligenz.

Was sind die Prinzipien, Herausforderungen und Chancen von KI?

Im dritten Buch seiner Tetralogie beleuchtet der italienische Philosoph Luciano Floridi auf gut 250 Seiten die Geschichte, Gegenwart und Zukunft der Künstlichen Intelligenz (KI) und gibt uns fundierte Grundlagen zur Hand, wie wir diese zu bewerten und einzusetzen haben.

Die Digitale Revolution ist ein großes neues Kapitel in der Geschichte der Menschheit. Der Preis dieser aufregenden Zeit ist eine für uns alle große damit verbundene Unsicherheit. Luciano Floridi schafft es in seinen Arbeiten und Büchern, uns einen theoretischen und praktischen Rahmen vorzulegen, wie wir unsere sich rasant verändernde Welt heute und morgen besser verstehen und gestalten können.

So gelingt ihm das auch in diesem Buch, wo sich alles um Künstliche Intelligenz und die damit verknüpften großen ethischen Fragestellungen dreht. The Ethics of Artificial Intelligence ist ein dicht gepacktes Werk, das auf einer Reihe von weitreichenden Thesen aufbaut.

KI als Agency

Eine davon ist die Einordnung, dass KI keine (neue) Form von Intelligenz darstellt, sondern vielmehr als ein produktiver Ersatz für Aufgaben gesehen werden muss, die zuvor noch den Einsatz von Intelligenz verlangten.

Aus kognitionswissenschaftlicher Sicht haben wir laut Floridi noch nicht einmal angefangen, wirklich intelligente Technologien zu erschaffen. Sehr erfolgreich hingegen waren die Bemühungen bei den smarten Technologien, die intelligentes Verhalten reproduzieren. Die heute angewendete KI verhalte sich also nur so, als wäre sie intelligent. Der Unterschied ist bemerkenswert.

Er zeigt auf, wie unscharf umrissen ist, was denn KI eigentlich sei und wie sich diese in unterschiedliche Gebiete aufteile. Es folgt die These, dass KI vielmehr als eine Trennung (Divorce) von Handlungsfähigkeit (Agency) und Intelligenz – nicht aber eine Verschmelzung – interpretiert werden soll; mit weitreichenden Folgen...

Unter Agency verstehen wir die Fähigkeit, mit der Welt zu interagieren und von ihr zu lernen, um ein bestimmtes Ziel zu erreichen.

Artificial Agency (AA) besitzt folgende Eigenschaften: den Datenaustausch mit der Umgebung, autonomes Agieren, Verbesserung durch Lernen

Vergangenheit, Gegenwart und Zukunft

Der erste Teil des Buches behandelt die Vergangenheit, Gegenwart und Zukunft der Künstlichen Intelligenz.

Die Vergangenheit ist ein Kind der Digitalen Revolution. Mit dem enormen weltweiten Anstieg an Information und Rechenleistung wurden Grenzen verschoben. Mit dem Zuwachs einhergehend ist die Verschiebung vom Symbolischen hin zum Statistischen (vom logischen Schluss hin zu statistischer Inferenz und Korrelation).

Ein Beispiel für eine Entkoppelung ist die persönliche Identität, welche sich nicht mehr ausschließlich auf die natürliche Welt beschränkt und in die digitale Welt weiter ausdehnt. Präsenz wiederum wurde von der Örtlichkeit getrennt: wir können uns an einem beliebigen Ort aufhalten und dennoch beim Online-Meeting präsent sein. Recht und Territorialität werden entkoppelt. Konsumenten werden zu Produzenten (etwa von Nutzungsdaten, sog. Prosumer).

Das Digitale hat laut Floridi die inhärente Eigenschaft des Cut and Paste. Sie erlaubt es uns, die Eigenschaften dieser Welt (ontologisch) und unsere Annahmen darüber (epistemologisch) in einer Weise zu rekombinieren, die wir zuvor für unmöglich gehalten hätten (mehr dazu im vierten Band von Luciano Floridis Tetralogie: The Green and the Blue). KI übernimmt als Technologie der dritten Ordnung auch Aufgaben, die Maschinen Maschinen erteilen (oder Softwaresysteme Softwaresystemen).

Wer passt sich wem an?

Ein Blick in die Gegenwart zeigt auf, dass wir unsere Umgebung und unser Verhalten immer mehr auf die Bedürfnisse der KI (und allgemein der digitalen Dienste) anpassen – und nicht etwa umgekehrt. Diese Einhüllung in eine digitalfreundliche Umgebung (Enveloping) ist Grundvoraussetzung für den Erfolg der Digitalen Revolution.

Eine ernstzunehmende Gefahr ist, dass Menschen (versehentlich oder absichtlich) Teil jener digital- und KI-freundlichen Mechanismen werden, die sie zu einem Werkzeug im System degradieren.

Zukunftsprognosen sind nur schwer zu treffen, da es zu viele Unbekannte gibt, von denen wir nicht einmal etwas wissen (Unknown Unknowns). Floridi legt den Fokus daher auf zwei zentrale Themen: Daten und die mit KI zu lösenden Probleme.

Für die Zukunft sieht Luciano Floridi einen starken Wechsel von rein historischen Daten in der Vergangenheit zu hybriden und rein synthetischen (also künstlich erzeugten) Daten.

Bei letzteren zeigt er zwei spannende Unterscheidungsmerkmale auf, wie diese generiert werden können: entweder durch beschränkende Regeln (am Beispiel Fußball) oder aber durch konstitutive (am Beispiel Schach). Während beim Fußball eine KI niemals ohne historische Daten Auslangen finden kann, sind bei Spielen wie Schach, deren Regeln das Wesen des Spiels vollständig beschreiben, rein synthetische Daten und damit einhergehend solche Erfolge möglich, wie wir sie in der Vergangenheit bereits erlebt haben.

[We] shall treat AI as a reservoir of smart agency on tap.
[Floridi, p.24]

Eine weitere zukünftige Schlüsselrolle spielt die Überführung von schwierigen Aufgaben, die bisher nur manuell gelöst werden können, hin zu einfachen Aufgaben, die deutlich mehr Ressourcen benötigen (Rechenleistung, Speicher, usw.) und von KI gelöst werden können. Dazu muss die Umgebung wiederum immer weiter in eine KI-freundlichere Umgebung umgewandelt werden.

Chinesisches Zimmer – Wikipedia

Wikimedia Foundation, Inc.Autoren der Wikimedia-Projekte

Wann sind Computer intelligent?

Generative Modelle (LLMs wie ChatGPT, Gemini und DeepSeek) sind ein gutes Beispiel dafür. Sie und andere KI-Systeme werden einen gewaltigen Einfluss auf unsere Gesellschaft haben (und haben ihn teilweise 2025 bereits). Bei aller Nützlichkeit sind die damit verbundenen Fallstricke, Limitierungen, Kosten, rechtlichen und ethischen Fragestellungen, aber auch Räume für Missbrauch und Manipulation enorm.

In Zukunft werden wir eine ganz neue Kategorie von Beschäftigten benötigen, die sich intensiv um die Pflege und Kontrolle von KI-Systemen kümmern.

Prinzipien und Risiken

Der zweite Teil widmet sich der Evaluierung von Künstlicher Intelligenz.

Er beginnt mit einer Review von 47 KI-Prinzipien aus der Literatur und einer Verdichtung dieser auf fünf wesentliche Prinzipien:

vier Prinzipien, die bereits aus der Bioethik bekannt sind: Wohltätigkeit (Beneficence), Nichtschädigung (Non-maleficence), Autonomie (Autonomy), Gerechtigkeit (Justice)
und ein neues Prinzip: Erklärbarkeit (Explicability)

Es folgen fünf Risikoklassen mitsamt einer exakten Definition für jede davon: Ethics Shopping, Ethics Bluewashing, Ethics Lobbying, Ethics Dumping, Ethics Shirking.

In die genannten Kategorien fallen beispielsweise falsche Auszeichnungen und Benennungen, oberflächliche Maßnahmen, Verzögerungstaktiken, Auslagerungen an Drittländer und halbherzige Umsetzungen.

Luciano Floridi zeigt auf, wie variantenreich ethische Grenzüberschreitungen stattfinden und gibt Empfehlungen, wie wir diesen mit geeigneten Strategien entgegenwirken können.

Denn bei allem werde oft übersehen: auch wenn (digitale) Innovationen noch so beindruckend sind, (Digital) Governance wird immer am wichtigsten bleiben. Nur auf Veränderungen zu reagieren sei daher ein denkbar schlechter Ansatz.

Auch bei der Digitalen Revolution gilt: zuerst muss die Richtung stimmen, dann kann die Geschwindigkeit erhöht werden.

Veränderungen wie diese passieren nur einmal in der Geschichte der Menschheit und wir werden die letzte Generation sein, die in einer nicht-digitalen Welt aufgewachsen ist (historisch vergleichbar mit der Schrift, dem Buch, der Elektrizität, dem Internet, usw.).

Etwas Theorie

Im nächsten Schritt unterscheidet Floridi drei normative Ansätze für alles Digitale, die zueinander komplementär sind und sich teilweise überschneiden: Governance, Ethik und die Regulierung.

Er unterteilt die Menge des Machbaren in immer kleinere Untermengen des Nachhaltigen, Akzeptierbaren und Wünschenswerten. Auf der anderen Seite bildet er eine normative Kaskade von Ethik über Gesetz und Business bis zum Kunden.

Bei alledem unterscheidet er zwischen Hard Ethics und Soft Ethics. Letztere kommt erst nach erfolgter Compliance ins Spiel (post-compliance) und berücksichtigt alles, was wir über die Regulierungen hinaus beachten sollten.

Compliance sei nämlich schon wichtig, aber für sich alleine nicht ausreichend, da sie nur ungenügende Lenkungseigenschaften besitzt.

Die Betrachtung von Soft Ethics vergrößere nicht nur die Chancen auf eine geeignete Umsetzung, sondern verbessere gleichzeitig auch das Risikomanagement.

Ein weiteres Kapitel wendet sich dem Thema Algorithmen zu und beschreibt sechs unterschiedliche Typen von Bedenken bei deren Design und Implementierung.

Vieles für die Praxis

Die letzten sechs Kapitel vor dem Resümee widmen sich umfassend den praktischen ethischen Fragestellungen zu Künstlicher Intelligenz.

Das beginnt mit den schlechten Praktiken und dem Missbrauch von KI.

Zwei Beispiele dazu:

Emergentes Verhalten von KI kann zu kriminellen Implikationen führen, die nicht vorhersehbar waren. Mögliche Maßnahmen zur Abfederung während der Laufzeit sind Legal Compliance Layer und im Vorfeld realitätsnahe Simulationen.

Artificial Agents können User beeinflussen und somit auch täuschen oder manipulieren. Sie können User dazu bewegen, Straftaten zu begehen.

Gute Praktiken hingegen nutzen KI für die Erzielung eines gesellschaftlichen Nutzens.

Luciano Floridi untersucht Fallbeispiele und zählt sieben essentielle Faktoren für eine erfolgreiche Umsetzung solcher Praktiken auf. Die ersten beiden davon sind die Falsifizierbarkeit und schrittweise Entwicklung, sowie Schutzmaßnahmen gegen die Manipulation von Prognosevariablen. Zu jedem der Faktoren führt er die damit verbundenen KI-Prinzipien und eine Auswahl von Best Practices an.

Die nächste große Fragestellung ist, wie der Nutzen von KI in die Gesellschaft übertragen werden kann. Sie stellt gegenüber, wie KI gut, schlecht oder missbräuchlich verwendet werden kann. So soll KI beispielsweise Menschen bei ihren Vorhaben unterstützen und diese nicht entwerten. Es folgen 20 Empfehlungen für die Umsetzung konkreter Schritte.

Ein weiteres Kapitel widmet sich dem Einsatz von Künstlicher Intelligenz zum Kampf gegen den Klimawandel und inkludiert 13 Handlungsempfehlungen. Darin werden große Potenziale für eine nachhaltigere Gesellschaft angesprochen, aber auch die Gefahren durch den enormen Ressourcenverbrauch beim Einsatz von KI nicht unerwähnt gelassen. In dieser Hinsicht sehen wir eine Wette auf die Zukunft, die eine sorgfältige Balance und genaue Evaluierung benötigt.

Im vorletzten Kapitel wird eine Bewertung internationaler KI-Projekte vorgenommen, welche einzelne Ziele für nachhaltige Entwicklung (die UN SDGs) adressieren.

Im abschließenden Kapitel wird zusammenfassend noch einmal daran erinnert, wie wichtig eine gute Politik, zuverlässige Wissenschaft und robuste Technologien für unser Leben sind. Die reale Welt wird im Zuge der Digitalen Transformation immer mehr um eine digitale Dimension erweitert. Künstliche Intelligenz spielt dabei eine wichtige Rolle und wird mehr und mehr Probleme und Aufgaben lösen können, je KI-freundlicher unsere Umgebungen werden.

Um die Risiken dieser Entwicklungen und unserer sich verändernden Gesellschaft handhaben zu können, braucht es globale Anstrengungen und ein Umdenken, das wohl leider zu herausfordernd ist, um in kurzer Zeit bewältigt werden zu können.

Menschliche Intelligenz wird ihren Platz zurück finden und in allen Phasen unserer automatisierten und KI-getriebenen Abläufe präsent sein müssen. Nur so kann Vertrauen entstehen und erhalten bleiben. Zukünftige Jobs werden sich verstärkt und in großem Ausmaß diesen Aufgaben widmen müssen.

Das Buch The Ethics of Artificial Intelligence ist unter anderem bei Oxford University Press erhältlich.