Sollten wir Kriegsroboter verbieten oder sind sie eigentlich wünschenswert? Was sagen Computerspiele über unsere Moralvorstellungen aus?

Ist es in Ordnung, einen Roboter zu lieben?

Was ist eigentlich ethisches Design in der digitalen Welt?

Welche Regeln brauchen wir für Algorithmen, die unser Leben beeinflussen? Die digitale Transformation stellt unsere Moralvorstellungen auf die Probe

und führt zu neuen Fragen in allen Bereichen des Lebens: Politik, Wirtschaft, soziales Zusammenleben, Kommunikation, Unterhaltung. In zwanzig Beiträgen stellen sich Expertinnen und Experten aus Europa, Amerika und Asien der Herausforderung, Antworten auf die Fragen zu finden, die auf uns zukommen. Die Autorinnen und Autoren bieten neue Perspektiven auf Themen wie Pflegeroboter, autonome Fahrzeuge, persönliche Drohnen oder Datenethik.

Sie präsentieren ihre Ideen, wie wir als Gesellschaft mit den digitalen Herausforderungen unseres Wertesystems umgehen können. Ihre Beiträge liefern Einblicke in aktuelle Überlegungen, was ethisch richtiges Handeln in der digitalen Zeit ausmacht. Vor allem aber sind sie eine Einladung zum Nachdenken und Mitdiskutieren.

Inhalt

Die Neuerfindung der Ethik ist unsere Aufgabe!
Vorwort von Philipp Otto und Eike Gräf

Digitalisierung als ethische Herausforderung
Interview mit Rafael Capurro

Die Mangroven-Gesellschaft
Die Infosphäre mit künstlichen Akteuren teilen
Luciano Floridi

Sexroboter und Robotersex aus Sicht der Ethik
Oliver Bendel

Algorithmen, die wir brauchen
Überlegungen zu neuen technopolitischen Bedingungen der Kooperation und des Kollektiven
Felix Stalder

Ethische Systementwicklung im Zeitalter emotionaler Schadsoftware
Fake News, maschinelles Lernen und die Erzeugung von Transparenz in einer Zeit des Misstrauens in großen Netzwerken
Caroline Sinders

Private Drohnen und Value Sensitive Design
David Hendry

Die Sprechstunde fällt aus
Die Verdrängung der werteorientierten Medizin durch Algorithmen
Brent Mittelstadt

Ethische Roboter für die Altenpflege
Susan Leigh Anderson und Michael Anderson

Autonome Fahrzeuge: Die Notwendigkeit moralischer Algorithmen
Ryan Jenkins

Terminator-Ethik: Sollten Killerroboter verboten werden?
Jean-Baptiste Jeangène Vilmer

Tod, Gewalt, Sex: Die Sache mit der Moral in Spielen
Stephan Petersen und Benedikt Plass-Fleßenkämper

Skinner-Boxen bis hin zur Singularität
Tom Chatfield

Dürrezeit für Freiheit im Rahmen von Recht und Gesetz?
Blockchain, Transaktionssicherheit und das große Versprechen automatisierter Rechtsdurchsetzung
Karen Yeung

Anthropomorphismus-Phobie
Eine Erkundung der Grauzone zwischen Mensch und Produkt
Koert van Mensvoort

Datenethik: Eine neue Geschäftsethik entwickeln
Gry Hasselbalch und Pernille Tranberg

Das Internet ist nicht genderneutral
Über Geschlechterethik in Netzöffentlichkeiten
Hu Yong

Internetzugang als Menschenrecht
Ein Schritt in Richtung einer gerechteren Gesellschaft?
Interview mit Kosta Grammatis

Datenschutz und Ethik
Giovanni Buttarelli

Die Bedeutung von Digitalisierung für die Zukunft unserer Energiesysteme
Rafaela Hillerbrand, Christine Milchram, Jens Schippl

Von Robotern und Menschen: wo liegt die wahre Gefahr?
Interview mit Kate Darling

Autorinnen und Autoren

Herausgeber

Anmerkungen

Impressum

Die Neuerfindung der Ethik ist unsere Aufgabe!

Vorwort von Philipp Otto und Eike Gräf

Unsere Welt hat sich gewandelt. Die Digitalisierung ändert tiefgreifend, wie wir arbeiten, spielen, leben, kommunizieren und miteinander umgehen. Fast jeder Aspekt unseres Lebens hat heute eine digitale Komponente, um ihn schneller zu machen, effizienter, nachhaltiger, ihn zu automatisieren oder vorauszuplanen. Wir erheben Daten über unsere Tätigkeiten, analysieren sie, erstellen Statistiken, suchen Korrelationen und Kausalitäten und passen daraufhin an, wie wir uns in Zukunft verhalten. Smarte Energienetze geben detailliert Auskunft darüber, wie viel Energie Städte, Viertel, Straßenzüge und einzelne Haushalte verbrauchen; Fitnesstracker loggen unsere körperliche Aktivität; Browser analysieren unser Surfverhalten; soziale Netzwerke beobachten Anzeichen von Depressionen; Navigationsapps schlagen die beste Route vor; Autos warnen Fahrer bei Anzeichen von Müdigkeit. Manchmal verwenden wir selbst die Informationen, um unser Verhalten zu ändern, manchmal verwenden andere sie, um ihren Umgang mit uns anzupassen und manchmal dienen kollektive Daten als Entscheidungsgrundlage für größere politische und wirtschaftliche Vorhaben. Auf der Basis von digital erzeugten und übermittelten Informationen – ob richtig oder falsch, verlässlich oder unzuverlässig, enthüllend oder irreführend – organisieren wir unsere sozialen Systeme oder andere komplexe Prozesse und Situationen. Die Daten, die wir sammeln und auswerten, haben – verpackt in automatisierte Verarbeitungsvorgänge – einen direkten Einfluss auf unser Verhalten oder unsere Handlungsspielräume. Experten warnen davor, dass datenbasierte Empfehlungen oft nicht so neutral und objektiv sind, wie sie scheinen, sondern Vorurteile und Ungerechtigkeiten mit einschließen, die in unseren Gesellschaften existieren und derer wir uns oft nicht bewusst sind. Außerdem kann die Automatisierung von Abläufen Entscheidungen verbergen (wortwörtlich im Backend, dem Unterbau unserer informationsverarbeitenden Systeme), die wir ansonsten aktiv treffen und unserem Gewissen unterwerfen müssen. Heute kann es sehr verlockend sein, moralisch schwierige Entscheidungen damit zu rechtfertigen, dass „die Daten“ sie als richtig erscheinen lassen.

Ethik ist der Teilbereich der Philosophie, der sich mit den Voraussetzungen und der Bewertung menschlichen Handelns befasst. Ethik ist nichts, was wir je nach Stimmung beachten oder ignorieren können. Unser Wertesystem ist in unseren Handlungen immer präsent – bewusst oder unbewusst. Gleichzeitig benötigt es viel Sorgfalt und tiefgehende Überlegungen, um explizit und begründet herauszuarbeiten, was ethisch erstrebenswert ist und was nicht. Die Digitalisierung bringt hierfür viele Möglichkeiten und Fallstricke – und sie konfrontiert uns mit vielen Fragen.

–Sollten wir Kampfroboter verbieten?

–Warum ist es ratsam, respektvoll mit unserer digitalen Umgebung umzugehen?

–Wie sollen sich Drohnen und andere Agenten des Internet der Dinge im Umgang mit Menschen verhalten?

–Anhand welcher Kriterien bestimmen Roboter, wie sie sich in moralisch komplizierten Situationen verhalten?

–Ist es in Ordnung, einen Roboter zu lieben?

–Ist künstliche Intelligenz eine Bedrohung für die Menschheit?

–Welche Anforderungen stellen wir an Algorithmen, die unser Leben beeinflussen?

–Wollen wir unsere Regeln und deren Durchsetzung automatisieren?

–In welchen Zusammenhängen brauchen wir eine Möglichkeit, die Regeln zu brechen?

Wir müssen uns gründlich mit diesen Fragen befassen, um unsere Lebenswelt so zu gestalten, dass sie uns ein moralisches Leben erlaubt. Und wir müssen gemeinsam definieren, was wir uns in der digitalen Gesellschaft unter diesem moralischen Leben vorstellen. Wann immer wir Entscheidungen treffen, die eine ethische Dimension beinhalten, sollten wir über unserer Beschäftigung mit Daten und Zahlen nicht den jeweiligen Kontext aus den Augen verlieren. Der moralische Wert jeder Entscheidung hängt von dem Zusammenhang ab, in sie getroffen wurde. Dieser Zusammenhang lässt sich selten auf ein paar Rahmendaten reduzieren. Anstatt dass wir uns immer mehr darauf verlassen, dass uns Datensätze sagen, wie sich Menschen verhalten, sollten wir die Personen und Gruppen, die von einer bestimmten Frage betroffen sind, zu einem Dialog über die richtige Vorgehensweise einladen.

Ethik kann helfen, Lösungen für gesellschaftliche Probleme und Herausforderungen zu finden. Sie kann Orientierung geben, wie wir unsere Werkezuge und Verfahren gestalten und grundsätzlich dabei helfen, verschiedene Situationen und unser Verhalten als Einzelpersonen oder Gruppen zu reflektieren. In dieser Hinsicht kann Ethik Teil eines sehr politischen Prozesses sein. Ethik kann und sollte die Grundlage für Regeln und Gesetze sein. Und wir brauchen neue Regeln, um mit den Neuerungen der digitalen Welt umzugehen. Die Regeln, die momentan unser Leben bestimmen, unsere Gesetze und Bräuche, wurden mehrheitlich in der Zeit vor dem Internet entwickelt. Die Zusammenhänge, Situationen und unser Leben an sich haben sich verändert.

Wir haben zwanzig Themen ausgewählt, die Ethiker, Wissenschaftler diverser Disziplinen, Politiker und Bürger in Atem halten und von denen wir glauben, dass sie eine lebhafte Debatte verdienen. Wir haben verschiedene Experteninnen und Experten eingeladen, jeweils eines dieser Themen gemäß ihrer eigenen Ideen und Ansichten zu bearbeiten. Wir haben sie gebeten, ihren persönlichen Standpunkt darzulegen, eine provokative Beobachtung zu präsentieren oder eine Aussage, die eine Debatte entfacht. Und das taten sie. Wir haben inspirierende Beiträge erhalten, von sehr unterschiedlichen Autorinnen und Autoren, mit verschiedenen Hintergründen, aus diversen Fachgebieten und Ländern und mit sehr unterschiedlichen Denkweisen und Schreibstilen. Wir danken allen Autorinnen und Autoren für ihre wertvolle Arbeit, für ihre Gedanken zu den jeweiligen Themen und für ihre Freundlichkeit und Hilfsbereitschaft, ohne die dieses Buch nicht hätte entstehen können.

Wir sind der Auffassung, dass die Themen in dieser Sammlung für unsere Zukunft von Bedeutung sind. Und wir hoffen, dass die Beiträge eine Dynamik entfachen und Teil einer breiten Diskussion werden, die über den akademischen und Expertendiskurs hinausgeht. Die Welt verändert sich mit einer unglaublichen Geschwindigkeit. Wo auch immer die Realität unser bestehendes Wertesystem herausfordert, ist die Disziplin der Ethik besonders wichtig, um uns in unseren Handlungen eine Orientierung zu bieten. Wir finden, dass jede und jeder Einzelne eingeladen werden sollte, an der Debatte über Ethik für die digitale Zeit teilzunehmen.

Wir müssen sehr spezifische Kontexte definieren, um Handlungen, Abläufe, Anwendungen, Organisationen und Systeme moralisch zu bewerten und um ethisch wünschenswerte Wege zu entwickeln, sie zu gestalten oder umzugestalten. Manchmal handelt es sich um völlig neue Situationen. Manchmal stehen wir vor den selben alten Kompromissen und Dilemmata wie vor Hunderten von Jahren, nur unter einer neuen Schicht Technologie versteckt. So wird es beispielsweise immer schwieriger, angesichts der Personalisierung von Onlineinhalten die Grenze zwischen einer Empfehlung im Interesse einer Person und einem unmoralischen Manipulationsversuch zu erkennen. Wir müssen genau begreifen, womit wir es zu tun haben, bevor wir einen ethischen Standpunkt zu einer bestimmten Frage entwickeln können. Wir hoffen, dass dieses Buch dabei hilfreich ist.

Digitalisierung als ethische Herausforderung

Interview mit Rafael Capurro

Herr Capurro, die Digitalisierung erfasst und verändert immer mehr Lebensbereiche. Tangiert sie auch unser über Jahrhunderte hinweg gewachsenes ethisches Verständnis? Hat sich bereits so etwas wie eine digitale Ethik herausgebildet?

Wenn Sie unter Ethik unsere eingefleischten Sitten und Gebräuche verstehen, dann lautet die Antwort auf diese Frage ja. Die im Lateinischen als „mores“ bezeichneten Verhaltensweisen sind ja nicht in Stein gemeißelt, sondern unterliegen seit jeher einem Wandel. Wir passen sie an, wenn sich unsere Lebensbedingungen verändern.

Die digitale Revolution ist mit dem Wandel der Neuzeit in Gesellschaft, Wirtschaft, Politik, Kunst, Wissenschaft und Technik vergleichbar, die in Europa im 16. Jahrhundert begann, im 19. Jahrhundert mit der industriellen Revolution einen Höhepunkt erreichte und sich mit den wissenschaftlichen, technischen, politischen, ökonomischen und kulturellen Umwälzungen im 20. Jahrhundert fortsetzte. Jener Wandel betraf das europäische Selbstverständnis. Nicht mehr Gott stand im Mittelpunkt, sondern der Mensch. Dieser war nicht mehr Gottes Geschöpf, sondern ein autonomes, das heißt sich selbst bestimmendes und seine Welt gestaltendes Wesen. Er verstand sich als Subjekt, demgegenüber alles, einschließlich sich selbst, zum Objekt empirischer quantifizierbarer Forschung wurde. Damit nahm der ambivalente Siegeszug der modernen Technik seinen Gang. Die Subjekt-Objekt-Dichotomie ist es, was den europäischen modernen Menschen neu prägte und seine wissenschaftliche und technische Welteroberung und -ausbeutung ermöglichte. Es ging dabei nicht nur darum, die Natur aufgrund technischer Erfindungen zu nutzen und auszubeuten, sondern zugleich alle Völker politisch, wirtschaftlich und kulturell zu beherrschen. Dafür musste auch das von Antike und Mittelalter übernommene Gerüst an Moralvorstellungen und die darauf basierenden Formen rechtlicher und politischer Legitimation, geändert werden. Wie ist eine Moral ohne Religion möglich? Worauf legitimiert sich staatlicher Gewalt, wenn es keinen König von Gottes Gnaden mehr gibt? Wie ist das Verhältnis zwischen Staat und Kirche aufzufassen ohne die Einheit von Thron und Altar? Welche Möglichkeiten und Grenzen seines Handelns setzt sich der europäische Mensch, wenn es keine von nicht hinterfragbaren, von höheren Instanzen dogmatisch verordneten Gebote und Verbote mehr gibt? Aufgrund welcher Verfahren und durch welche Institutionen werden sie ermittelt, begründet, bewertet und durchgesetzt?

Was mit der Digitalisierung und insbesondere mit der digitalen Weltvernetzung seit zwanzig Jahren stattfindet, ist eine neue anthropologische und kulturelle globale Revolution, die sich in atemberaubendem Tempo ausbreitet. So wie der neuzeitliche europäische Mensch sich als Subjekt konstituierte, so verstehen wir uns – aber wer sind „wir“? –, paradox ausgedrückt, als vernetzte Subjekte und Objekte. Dadurch verändert sich die Frage nach Freiheit und Autonomie, wie sie in der Neuzeit bezüglich der Abhängigkeit von staatlicher und kirchlicher Fremdbestimmung sowie von der Fremdbestimmung einer als deterministisch verstandenen Natur gestellt wurde.

Eine digitale Ethik im Sinne einer kritischen Reflexion über das gute Leben in einer von der Digitalisierung geprägten Welt entstand übrigens bereits in den vierziger Jahren des vorigen Jahrhunderts. Man sprach seinerzeit von Computerethik und meinte damit oft eine professionelle Ethik für Informatiker – obwohl klar war, dass es sich um die gesamtgesellschaftlichen Auswirkungen der Computertechnologie handelte. Der Ausdruck digitale Ethik freilich ist neueren Datums. Ich verwende ihn seit 2009, das Institut für Digitale Ethik an der Hochschule der Medien Stuttgart hat 2014 seine Arbeit aufgenommen.

Die informationsethische Debatte aber ist nicht nur akademischer Natur …

Nein, die zunehmende Berichterstattung in den Medien zeigt, dass es eine gesamtgesellschaftliche Diskussion gibt, weil die Digitalisierung die Lebensweise der Menschen lokal und global erfasst und verändert. Den Ausdruck Ethik aber sollten wir für jene philosophische Disziplin reservieren, deren Gegenstand die mores im Sinne gelebter Sitten und Gewohnheiten sind. Sonst besteht die Gefahr, dass man die Reflexion mit ihrem Gegenstand verwechselt. Ein bekanntes Beispiel dafür sind die Wirtschaftswissenschaften und die Wirtschaft. Die Aufgabe der Ethik ist das Problematisieren von Moral.

Per Definition soll Ethik uns eine Hilfestellung geben, um sittliche Entscheidungen treffen zu können. Wie gut funktioniert das in einer immer schneller immer unüberschaubarer werdenden digitalen Welt?

Die Art von Hilfestellung, welche die Ethik geben kann, das heißt die ethischen Theorien und Analysen, die in unterschiedlichen Kulturen und Epochen entwickelt wurden, ist die einer Erhellung bezüglich Handlungsoptionen und ihrer Auswirkungen auf den oder die Handelnden in seiner/ihrer jeweiligen Welt. Allein der Reichtum an ethischer Reflexion in der abendländischen Geschichte seit mehr als zweieinhalbtausend Jahren zeigt, wie komplex diese Disziplin ist und wie unterschiedlich die Erhellungen sind, die sie anbieten kann, wenn sie Vorurteile aufdeckt, eine scheinbar eindeutige Begrifflichkeit problematisiert, Handlungsoptionen und ihre Auswirkungen analysiert, auf andere Perspektiven als die der eigenen Sprache und Kultur eingeht und vor allem, den Handelnden nicht die Verantwortung abnimmt, wenn es darum geht, in die eine oder andere Richtung zu gehen und Vor- und Nachteile für sich und andere sowie für andere Lebewesen und für die Natur abzuwägen.

Entscheidend ist, dass Ethik niemandem die Verantwortung dafür abnimmt, welche Richtung er einschlägt oder welche Vor- und Nachteile sein Handeln für sich selbst und für andere haben wird. Sie stellt keinen Freibrief aus.

Das gilt umso mehr, wenn die Zusammenhänge, welche das Leben der Menschen bestimmen, sich schnell ändern, sodass die geltende Moral und die rechtlichen Normen (…) plötzlich dysfunktionale Zustände aufweisen.

Wenn unsere Annahmen und Festlegungen bezüglich des guten Lebens aufgrund technischer oder sozialer Veränderungen problematisch werden, dann ist es Zeit für eine ethische Reflexion, die dem Einzelnen, der Gesellschaft und dem Gesetzgeber zu denken geben sollte. Wenn wir krank sind, sind wir froh, dass wir medizinische Forschung, gute Ärzte und Krankenhäuser haben, die uns auch empfehlen, wie wir anders leben sollten. Wenn wir nicht mehr wissen, wie wir mit dem digitalisierten Leben zurecht kommen, brauchen wir gut fundierte ethische Forschung. Das kann man nicht auf Knopfdruck erzeugen. Denken braucht Zeit.

Stichwort Privacy: Welche Folgen kann es haben, wenn Unternehmen, Arbeitgeber, Freunde und Bekannte alles über uns wissen? Ist unsere Freiheit in Gefahr? Welche Kehrseite hat zu viel Überwachung?

Es kommt immer darauf an, wer mit „uns“ beziehungsweise mit „unserer Freiheit“ gemeint wird. Privacy ist weder ein Relikt aus der bürgerlichen Gesellschaft noch ein hoffnungsloser Kampf gegen Windmühlen in einer rastlosen und an Daten nimmersatten Informationsgesellschaft. Gemeint ist vielmehr ist das Verhältnis von Öffentlichkeit und Privatheit im Sinne eines offenen sozialen Spiels von Sichverbergen und -offenbaren. Sie scheint mir eine Konstante mit vielen Varianten aller menschlichen Kulturen zu sein, die es sich lohnt genauer zu analysieren.

Wir brauchen dringend globale Regeln des Fair Play für die digitale Weltvernetzung sowie entsprechende nationale und internationale Agenturen, die für deren Einhaltung sorgen. Das kann nicht ein für allemal geschehen, da die technische Entwicklung immer neue Fragen aufwirft. Wir brauchen unterschiedliche Formen und Institutionen des politischen Dialogs und begleitende akademische Forschung zu ethischen und rechtlichen Fragen der Informationsgesellschaft. Was auf dem Spiel steht, wenn wir (…) von Privatheit und Öffentlichkeit sprechen, ist nicht mehr und nicht weniger als die Ausgestaltung menschlicher Freiheit im 21. Jahrhundert (…).

Wir posten und tweeten heute rund um die Uhr. Ist die intensive Nutzung von sozialen Netzen und Online-Plattformen ein Ausdruck für das menschliche Bedürfnis nach Anerkennung?

Das ist sie ohne Frage, aber eben nicht nur. Mir scheint, dass die Möglichkeiten, die uns soziale Netze und Online-Plattformen bieten, oft Anlass zu Narzissmus, Exhibitionismus und Voyeurismus geben. Fest steht aber auch, dass mit den interaktiven Medien Möglichkeiten der Selbstdarstellung gegeben sind, die es früher nicht gab. Die heutige Realität der sozialen Medien und Onlineplattformen ist komplexer nicht nur bezüglich des Ge- und Missbrauchs von persönlichen Daten, sondern auch wegen der unterschiedlichen moralischen und rechtlichen Normen, die diesen Medien zugrunde liegen und von politischen, ökonomischen, rechtlichen und kulturellen Interessen und Rahmenbedingungen abhängen.

Bei einer Analyse der Ambivalenz sozialer Medien im afrikanischen Kontext konnte ich feststellen, dass diese Netzwerke einem ethischen Imperativ folgen. Er lautet: Kommuniziere ununterbrochen alles allen! Dieser Imperativ bleibt selbst dann wirksam, wenn die Betreiber versprechen, personenbezogene Daten nicht ohne die Zustimmung der Nutzer an Dritte weiterzugeben – was spätestens seit Edward Snowden widerlegt ist. Die scheinbare totale Kommunikation führt paradoxerweise zu einem Zustand, den die amerikanische Soziologin Sherry Turkle „gemeinsam einsam“ („alone together“) genannt hat. Menschliche Freiheit bedeutet die Freiheit zu verbergen oder zu offenbaren, wer wir sind. Ein Imperativ des totalen Offenbarens ist genauso unmenschlich wie ein des totalen Verbergens.

Offenbar kann die Vorstellung eines Online-Lebens als einer von der physischen Existenz getrennten Welt zu pathologischen Zuständen führen. Das kommt der Abhängigkeit von Drogen wohl sehr nahe. Wir brauchen ethische und medizinische Forschung über die Pathologien des Informationszeitalters.

Demnach ist unser Online-Leben nicht von der physischen Welt getrennt?

Mir scheint offensichtlich zu sein, dass wir es nicht mit zwei Welten zu tun haben, einer physischen und einer digitalen. Die digitale Weltvernetzung prägt das Leben in der physischen Welt in immer stärkerem Umfang. Als Stichwort nenne ich das Internet der Dinge.

Durch die digitale Vernetzung der physischen Dinge, sind diese Dinge dann nicht mehr dieselben, die sie vor ihrer digitalen Vernetzung waren. Wenn die Seinsweise der Dinge sich verändert, verändern wir uns auch selbst. Aus dem neuzeitlichen menschlichen Subjekt, dem gegenüber Objekte oder Gegenstände standen, werden jetzt digital vernetzte Menschen und Dinge, lebendige und nicht-lebendige. Grundsätzliche Fragen stellen sich neu: Was bedeuten Autonomie und Fremdbestimmung? Wie ändert sich das Verhältnis zwischen Privatheit und Öffentlichkeit? Wie sind die Auswirkungen der Digitalisierung auf die Umwelt – Stichwort Elektroschrott? Welche Möglichkeiten eröffnen sich für eine Transformation der Demokratie im 21. Jahrhundert? Was bedeuten Bildung und Ausbildung im digitalen Zeitalter? Kurz, wir suchen Antworten auf die Frage: Was ist digitale Aufklärung?

Besteht die Möglichkeit, dass die zunehmende Vernetzung von Menschen mit Smartphones (…) ein wenig der Büchse der Pandora gleicht?

Das Leben – Arbeiten, Herstellen, Handeln – findet heute immer mehr in hybrider Form statt. Es ist oft lebenswichtig, von der ständigen digitalen Erreichbarkeit, privat und beruflich, zeitweilig Abstand zu nehmen und sich digitalfreie Räume und Zeiten zu verschaffen. Das Digitalsein ist also eine Weise des In-der-Welt-Seins und keine von der physischen Welt getrennte Sphäre. Ich glaube nicht, dass alles Böse sich in einer Büchse oder, wie es vermutlich im Mythos hieß, in einem Krug befindet, es sei denn, wir meinen damit, die auf ihre Auswirkungen hin offenen und ambivalenten Möglichkeiten menschlichen Handelns. Weder den Smartphones noch der Maschine-zu-Maschine-Kommunikation haften gute oder schlechte Eigenschaften an. Diese entstehen immer im sozialen und historischen Kontext, sind damit also Eigenschaften zweiter Ordnung.

Sie sprechen offen von einer Robotisierung des Menschen. Wo verorten Sie derzeit die größten Gefahren?

Wir sollten bedenken, wer mit der Rede von „den Menschen“ gemeint ist, die jeweils veranlassen, dass Roboter die Werkhallen der Industrie verlassen und in den Lebensalltag „der Menschen“ Einzug finden. Wie und wozu werden Roboter in Bereichen wie Haushalt, Krankenhäuser, Hotels, Pflegeheime, Kitas, Restaurants, Schulen oder Universitäten eingesetzt und nach welchen ethischen und rechtlichen Maßstäben wird dieser Einsatz bewertet? Das Gelingen oder Misslingen hängt unter anderem von der Rücksicht auf die jeweiligen Sitten und Gewohnheiten ab, auf die mores also, nicht weniger als auf die Gesetze. Die Formulierungen „Robotisierung des Menschen“ und „größte Gefahren“ lassen erkennen, dass Ihrer Fragestellung eine europäisch-abendländische Perspektive zugrunde liegt. Sie ist dann wirtschaftlich relevant, wenn es darum geht, das Vertrauen oder Misstrauen potenzieller Käufer im sogenannten Westen ernst zu nehmen. In östlichen Kulturen wie zum Beispiel in Japan sieht das anders aus: Dort hängt die Geschichte der Roboter mit der von Spielzeug und Marionetten sowie mit einer anderen, vom Buddhismus geprägten Auffassung des Selbst zusammen. Tatsächlich kennt auch die europäische Moderne eine solche spielerische Perspektive – man denke nur an die mechanischen Automaten an den europäischen Höfen der Renaissance. Dennoch zeichnet sich der neuzeitliche europäische Mensch durch eine strikte Trennung von Subjekt und Objekt aus. Die von Europa ausgehende und sich über den ganzen Globus ausbreitende Selbstbestimmung hat eine Immunisierung gegenüber Mechanisierung und Robotisierung gebildet und den besonderen Schutz der Menschenwürde betont. Jetzt, in der Epoche der digitalen Weltvernetzung, wird dieser europäische Anthropozentrismus plötzlich fragwürdig.

Damit ist die Frage aber noch nicht beantwortet: Ist Robotik nun gefährlich oder nicht?

Nun, die gegenwärtige Robotikdebatte findet auch in Zusammenhang mit dem Einsatz von Kriegsdrohnen sowie mit einer immer stärker werdenden Überwachung der Gesellschaft statt. Die auf den Fall bezogene Güterabwägung zwischen Freiheit und Sicherheit kann die grundsätzliche Ambivalenz des Einsatzes solcher Technologien nicht aufheben. Im Alltag lautet die Frage: Wie weit und aus welchen Gründen will ich meine Freiheit und Selbstverantwortung an einen Algorithmus delegieren? Wann und für wen ist diese Fremdbestimmung eine gute Entscheidung? Wann sollte ich auf sie verzichten und selber die Zügel in die Hand nehmen? Die ethische Abwägung, ob eine Technologie wie die Robotik die individuelle und soziale Freiheit belastet oder entlastet, ist alles andere als trivial. Wir müssen tief denken.

Automobilhersteller auf der ganzen Welt arbeiten mit Hochdruck daran, das autonome Fahren zu ermöglichen. Damit kommt ein weiterer großer Vernetzungsschub auf uns zu, der durchaus ethische Fragen aufwirft. Wer muss dafür sorgen, dass ein begleitender Diskurs in Gang kommt?

Die digitale Vernetzung wirft die Frage auf: Was ist ein Automobil im 21. Jahrhundert, wenn die Rede vom autonomen Fahren ist? Es geht dabei um eingebaute Normen, die eigene Mobilität und die der anderen – das alles muss am Ende ja im Einklang stehen.

Normen und Regeln fallen nicht vom Himmel. Sie haben sich entsprechend dem jeweiligen Verkehrs- und Transportmittel oder zum Beispiel auch nach geografischen Gegebenheiten gebildet und verändert. Manchmal ist die Rede von der Einprogrammierung ethischer Regeln in die autonomen Fahrzeuge. Dann wären sie aber keine solchen, weil ihnen die Regeln, die ihr Verhalten bestimmen, ja von anderen gegeben sind. Dieser Gebrauch des Autonomiebegriffs steht im Gegensatz zum einflussreichen Autonomiebegriff in der europäischen Neuzeit, zum Beispiel bei Kant: Er definiert Autonomie im Sinne von Freiheit als Kern der Menschenwürde. Ethik im Sinne einer kritischen Reflexion über Moral lässt sich naturgemäß nicht programmieren. Man kann nur festgelegte moralische Regeln und Gesetze algorithmisieren. Damit aber stehen wir vor der Aufgabe einer Interpretation – und die kann ein Regeln befolgendes autonomes Automobil wohl kaum leisten. Nicht diese Werkzeuge, sondern ihre Hersteller, Programmierer und Käufer stehen vor einem moralischen wie rechtlichen Dilemma, das nur schwer lösbar sein wird.

Haben Sie einen Ratschlag zur Hand?

In Hölderlins Gedicht „An die Deutschen“ heißt es: „Oh ihr Guten! Auch wir sind tatenarm und gedankenvoll!“ Ich wünsche uns, wir wären mehr gedankenvoll. Die strikte Trennung der philosophischen Welt von Wirtschaft und Politik ist unheilvoll.

Welches Rüstzeug müssen Schulen und Bildungseinrichtungen der Generation der Digital Natives an die Hand geben, damit nicht allein Technik deren Weltbild bestimmt?

In einer globalisierten Welt sind Fremdsprachenkenntnisse unerlässlich. Nur dann kann man die eigene Weltsicht relativieren, zum anderen hingehen und direkt von ihm lernen. Die Wissenschaftsgeschichte macht uns auf die Offenheit und Revidierbarkeit von Theorien und Begriffen aufmerksam. Und aus der Technikgeschichte kann man lernen, wie und warum etwas nicht funktioniert – nicht nur, weil eine Maschine kaputt ist, sondern auch, weil die zugrundeliegende Idee und ihre Verwirklichung Risse zeigen. Wenn Letzteres in Bezug auf die neuere IT-Geschichte gelehrt wird, müsste manchem Schüler ein Licht aufgehen, was Erfindergeist heißt. Man lernt dann Geschichte von der Zukunft her zu verstehen. Egal aus welchen Quellen sich Schüler informieren und wie sie ihre Erkenntnisse mit anderen teilen: Wichtig ist, dass sie offen diskutieren. Das Wort Ethik muss dabei nicht notwendigerweise fallen. Die Devise aber ist eine doppelte: für die Zukunft lernen und sozial Benachteiligte unterstützen. Ethische Fragen sind immer Lebensfragen.

Das Interview mit Rafael Capurro führten Hilmar Dunker und Ralf Bretting. Es erschien in kürzerer Form im Magazin „business impact – Digitale Wirtschaft“, Ausgabe 4/2015; www.businessimpact.eu

Die Mangroven-Gesellschaft

Die Infosphäre mit künstlichen Akteuren teilen

Luciano Floridi

Die Autoindustrie war von Anfang an Vorreiter bei der digitalen Revolution – erst mit Industrierobotern und mittlerweile mit KI-gestützten fahrerlosen Autos. Beide Phänomene sind miteinander verknüpft und bieten wichtige Erkenntnisse hinsichtlich der Koexistenz menschlicher und künstlicher Akteure in unserer neuen Welt.

Schauen wir uns zuerst Industrieroboter an, etwa einen Roboter, der Fahrzeugbauteile in einer Fabrik lackiert. Der dreidimensionale Raum, der die Grenzen definiert, innerhalb derer ein solcher Roboter erfolgreich arbeiten kann, wird als Freiheitsgrad bezeichnet. Im Englischen spricht man von einer envelope, einer Umhüllung. Einige unserer technischen Geräte, etwa Spül- oder Waschmaschinen, erfüllen ihre Aufgaben, weil ihre Umgebungen um die grundlegenden Fähigkeiten des Roboters in ihrem Inneren herum aufgebaut sind. Man baut keine Droiden wie C-3PO aus Star Wars, damit sie das Geschirr auf genau die gleiche Weise spülen, wie wir dies tun würden. Stattdessen umhüllen wir einfache Roboter mit Mikro-Umgebungen, um ihren begrenzten Fähigkeiten gerecht zu werden, diese auszuschöpfen und trotzdem das gewünschte Ergebnis zu erzielen.

Die Umhüllung war früher entweder ein eigenständiges Phänomen (man kaufte den Roboter mit der erforderlichen Umhüllung, etwa eine Spül- oder Waschmaschine) oder sie wurde innerhalb von Werkshallen der Industrie angewandt, wobei die Umhüllung sorgfältig auf ihre künstlichen Bewohner zugeschnitten wurde. Heute – und damit kommen wir zum zweiten Punkt, der durch fahrerlose Autos thematisiert wurde – umhüllen wir gesamte Umgebungen zur einer technikfreundlichen Infosphäre. Wenn die Rede von smarten Städten ist, meint man eigentlich, dass gesellschaftliche Lebensräume in Orte verwandelt werden, in denen Roboter erfolgreich tätig werden können.

Die Umhüllung hat begonnen, die Realität in all ihren Facetten zu durchdringen, und tritt täglich überall zutage. Ohne es richtig zu merken, haben wir die Welt seit Jahrzehnten um Informations- und Kommunikationstechnik (IKT) herum gebaut. In den 1940ern und 1950ern war der Computer ein Raum, den Alice betrat, um damit zu arbeiten. Programmiert wurde mit dem Schraubenzieher. Bei der Mensch-Maschine-Interaktion handelte es sich um eine somatische (körperliche) Beziehung. In den 1970ern trat Alices Tochter aus dem Computer heraus und stellte sich vor ihn. Die Interaktion zwischen Mensch und Computer wurde zu einer semantischen (bedeutungshaften) Beziehung, die später durch das DOS-Betriebssystem (Disk Operating System) und Textzeilen, eine graphische Benutzeroberfläche (Graphic User Interface – GUI) und Symbole noch verstärkt wurde. Heute hat Alices Enkeltochter wieder das Innere des Computers betreten, und zwar in Gestalt einer umfassenden Infosphäre, die sie – oft nicht wahrnehmbar – umgibt. Wir entwickeln die ultimative Umhüllung, in der die Interaktion zwischen Mensch und Computer wieder eine somatische wird, mit Touchscreens, Sprachsteuerung, Aufnahmegeräten, gestengesteuerten Anwendungen, Lokalisierungsrastern und so weiter. Wie gewohnt treiben Unterhaltungs- und Militäranwendungen den Fortschritt voran, doch der Rest der Welt hinkt nur geringfügig hinterher. Wenn fahrerlose Fahrzeuge sich immer müheloser fortbewegen können und die Warenauslieferung bei Amazon in Kürze durch eine Flotte unbemannter Drohnen ausgeführt wird, dann liegt das nicht daran, dass endlich echte Künstliche-Intelligenz-Anwendungen mit Robotern auf den Markt gekommen sind, die denken, verstehen oder fühlen wie Sie und ich, wenn nicht sogar besser. Der Grund ist vielmehr, dass sich die Umgebung, in der sie sich bewegen müssen, für künstliche Intelligenzen (KI) und ihre äußerst begrenzten Möglichkeiten zunehmend besser eignet.

Wenn man die Welt umhüllt, indem man eine feindliche Umgebung in eine digitalisierungsfreundliche Infosphäre verwandelt, dann teilt man damit seinen Lebensraum nicht nur mit Naturkräften und Tieren, sondern auch – und teilweise sogar vornehmlich – mit künstlichen Akteuren. Das soll nicht heißen, dass bereits die Aussicht auf echte künstliche Akteure besteht. Wir verfügen nicht über Technologien mit semantischer Kompetenz – Akteure, die Dinge verstehen oder sich über etwas Sorgen machen oder einer Sache Leidenschaft entgegenbringen. Deshalb sind die falsche Maria aus „Metropolis“ (1927), Hal 9000 aus „Odyssey im Weltraum“ (1968), C-3PO aus „Star Wars“ (1977), Rachael aus „Blade Runner“ (1982), Data aus „Raumschiff Enterprise“: „Das nächste Jahrhundert“ (1987), Agent Smith aus „Matrix“ (1999) oder die körperlose Samantha aus „Her“ (2013) reine Science Fiction, und dabei wird es auch bleiben. Viel wichtiger ist, dass der fehlgeschlagene Anbruch des KI-Zeitalters keine Rolle spielt. Es gibt so viele Daten, so viele dezentrale, miteinander kommunizierende IKT-Systeme, so viele damit verbundene Menschen, so gute statistische und algorithmische Werkzeuge, dass rein syntaktisch arbeitende Technologien die Herausforderung, die das sinnhafte Erfassen und das Verstehen darstellen, umgehen und trotzdem das Benötigte bereitstellen können: eine Übersetzung, das richtige Bild eines Orts, das bevorzugte Restaurant, das interessante Buch, einen guten Song, der unseren musikalischen Vorlieben entspricht, ein Ticket zu einem besseren Preis, ein besonders günstiges Schnäppchen, den unerwarteten Artikel, von dem wir selbst nicht wussten, dass wir ihn brauchen, die richtige Deutung einer Röntgenaufnahme und so weiter. Sie sind nicht schlauer als ein alter Kühlschrank und dennoch können unsere smarten Technologien besser Schach spielen, besser einparken und Störungen bei einer Maschine besser voraussagen als wir. Künstliche Speicher (in Form von Daten und Algorithmen) erzielen bei einer wachsenden und grenzenlosen Zahl an Aufgaben bessere Ergebnisse als die menschliche Intelligenz. Uns – vielmehr unserer Fantasie – sind bei der Entwicklung und beim Einsatz unserer smarten Technologien keine Grenzen gesetzt.

Deshalb zeigt sich nun, dass einige unserer heutigen Probleme – insbesondere im Bereich E-Health, auf den Finanzmärkten, in Sicherheitsfragen und bei Konflikten – bereits innerhalb stark umhüllter Umgebungen auftreten.

In den 1990ern wurde man noch gefragt, ob man online beziehungsweise „im Netz“ war. Heute ist diese Frage in vielen hochentwickelten Informationsgesellschaften bedeutungslos geworden. Stellen Sie sich vor, Sie werden von jemandem gefragt, ob Sie online sind, und zwar während Sie mit dieser Person über Ihr Smartphone sprechen, das mittels Bluetooth mit dem Soundsystem Ihres Wagens verbunden ist, während Sie am Steuer sitzen und den Anweisungen eines GPS-Geräts folgen, das außerdem in Echtzeit Verkehrsinformationen herunterlädt. In Wahrheit sind wir weder on- noch offline, sondern onlife: Wir leben zunehmend in diesem besonderen Raum, der sowohl analog als auch digital, sowohl online auch auch offline ist. Deutlicher wird dies vielleicht mit einer Analogie. Stellen Sie sich vor, jemand fragt, ob an der Stelle, an der ein Fluss ins Meer mündet, Süß- oder Salzwasser fließt. Dieser Mensch hat den besonderen Charakter dieses Ortes nicht begriffen. Unsere Informationsgesellschaft befindet sich an diesem Ort. Und unsere Technologien sind im perfekten Entwicklungsstadium, um sich diesen Ort zunutze zu machen, vergleichbar mit Mangroven in brackigem Wasser.

In einer umhüllten Welt, in der Mangroven-Gesellschaft, sind alle relevanten (und teilweise die einzig verfügbaren) Daten maschinenlesbar. Entscheidungen und Maßnahmen können automatisch getroffen beziehungsweise durchgeführt werden, über Sensoren, Aktoren und Anwendungen, die Befehle ausführen und die entsprechenden Prozesse vollziehen – von der Benachrichtigung oder dem Scannen eines Patienten bis hin zum An- und Verkauf von Aktien. Es ließen sich problemlos noch zahlreiche weitere Beispiele finden.

Die Umhüllung der Welt mit dem Ziel, diese in einen IKT-freundlichen Ort zu verwandeln, hat zahlreiche Konsequenzen. Eine davon ist jedoch besonders bedeutsam und folgenreich. Der Mensch könnte unbeabsichtigt Teil des Mechanismus werden. Genau davor hat Kant immer gewarnt: Menschen als Mittel und nicht als Zweck zu behandeln. Doch dies geschieht bereits, und zwar hauptsächlich auf zweierlei Weise.

Erstens wird der Mensch zu einem neuen Mittel digitaler Produktion. Es ist ganz einfach: Manchmal muss unsere IKT Vorgänge verstehen und interpretieren. Dafür benötigen sie semantische Maschinen, wie wir es sind. Dieser noch recht junge Trend ist unter dem Begriff human-based computation (menschengestützte Datenverarbeitung) bekannt. Ein klassisches Beispiel ist der Dienst Mechanical Turk von Amazon. Der Name stammt von dem berühmten Schachautomaten, der von Wolfgang von Kempelen (1734 – 1804) Ende des 18. Jahrhunderts gebaut wurde. Der Automat erlangte Berühmtheit, weil er unter anderem Napoleon Bonaparte und Benjamin Franklin im Schach schlug und sich auch gegen einen Meister wie François-André Danican Philidor (1726 – 95) gut behauptete. Doch es war ein abgekartetes Spiel, denn in einem Spezialfach im Inneren des Automaten war ein menschlicher Spieler verborgen, der dessen mechanischen Betrieb steuerte. Der mechanische Türke wendet einen ähnlichen Trick an. Amazon beschreibt ihn als eine „künstliche künstliche Intelligenz“. Es handelt sich um einen Crowdsourcing-Webdienst, der es sogenannten „Anfragenden“ erlaubt, sich die Intelligenz menschlicher Arbeiter zunutze zu machen, die als „Dienstanbieter“ oder salopper als „Türken“ bezeichnet werden. Diese führen sogenannte HIT (Human Intelligence Tasks) aus – Aufgaben, denen Computer bislang noch nicht gewachsen sind. Ein Anfragender veröffentlicht einen HIT, etwa die Transkription einer Tonaufnahme oder die Markierung negativer Inhalte in einem Film (hierbei handelt es sich um aktuelle Beispiele). Die „Türken“ können die bestehenden HIT durchstöbern und sie für ein von dem Anfragenden festgelegtes Entgelt erfüllen. Zum Zeitpunkt der Abfassung dieses Texts konnten Anfragende überprüfen, ob die „Türken“ über bestimmte Qualifikationen verfügen, bevor ihnen ein HIT zugeteilt wird. Sie können das von dem „Türken“ übermittelte Ergebnis annehmen oder ablehnen, was sich auf dessen Reputation auswirkt. „Human inside“ wird gerade zum Slogan der Zukunft. Das Erfolgsrezept ist simpel: smarte Maschine + menschliche Intelligenz = schlaues System.

Viele Menschen können es sich nicht erlauben, Arbeit abzulehnen. Es besteht die Gefahr, dass sich durch KI in unserer Gesellschaft die Polarisierung zwischen Reichen und denen, die es nie zu Geld bringen werden, noch verstärkt, wenn wir die Auswirkungen nicht kontrollieren. Es ist nicht schwer, sich eine gesellschaftliche Hierarchie der Zukunft vorzustellen, in der einige wenige Patrizier sowohl über den Maschinen als auch über einer riesigen neuen Unterschicht aus Plebejern stehen. Doch mit den Jobs werden auch die Steuereinnahmen verschwinden, und die von der KI profitierenden Unternehmen dürften nicht freiwillig in die Bresche springen, um sich für angemessene Sozialhilfeprogramme für ihre ehemaligen Angestellten einzusetzen.

Der zweite Weg, über den der Mensch in den Mechanismus integriert wird, ist über beeinflussbare Kunden. Für die Werbebranche ist ein Kunde eine Schnittstelle zwischen einem Anbieter und einem Bankkonto (genau genommen sollte man von einem „Kreditrahmen“ sprechen; denn es geht nicht nur um das verfügbare Einkommen: Die Kunden geben mehr aus, als sie haben, beispielsweise mit ihrer Kreditkarte). Je reibungsloser die Beziehung zwischen den beiden funktioniert, desto besser. Deshalb muss Einfluss auf die Schnittstelle genommen werden. Um diese zu beeinflussen, benötigt die Werbeindustrie so viele Informationen wie möglich über den Kunden beziehungsweise die Schnittstelle. Doch solche Informationen bekommt man nur, wenn man dem Kunden dafür im Gegenzug etwas bieten kann. An dieser Stelle kommen die „kostenlosen“ Online-Dienste ins Spiel. Mit dieser Währung werden Informationen über Kunden beziehungsweise Schnittstellen „gekauft“. Letztlich geht es darum, gerade so viele „kostenlose Dienste“ – die in Wahrheit teuer sind – anzubieten, dass man alle erforderlichen Informationen über den Kunden beziehungsweise die Schnittstelle erhält, um den Kunden in einem Umfang beeinflussen zu können, der dem Anbieter unbegrenzten und uneingeschränkten Zugriff auf dessen Bankkonto erlaubt. Wegen der Wettbewerbsvorschriften kann dieses Ziel unmöglich von einem einzelnen Betreiber erreicht werden. Doch dank der gemeinsamen Anstrengungen der Werbebranche und der liefernden Industrie werden die Kunden zunehmend als Mittel zum Zweck angesehen: Bankkonten-Schnittstellen, an denen gezerrt und die angestupst und gelockt werden können.

Mit jedem Tag sind mehr Online-Nutzer, mehr Dokumente, mehr Werkzeuge, mehr miteinander kommunizierende Geräte, mehr Sensoren, mehr RFID-Tags, mehr Satelliten, mehr Aktoren, mehr Daten zu allen denkbaren Übergängen sämtlicher Systeme, mehr Algorithmen und mehr smarte Gegenstände – mit anderen Worten, mehr Umhüllung – verfügbar. Um noch einmal meine frühere Analogie zu bemühen: Die Flussmündung verbreitert sich schnell, und mehr und mehr Menschen leben onlife, in brackigen Gewässern, die den natürlichen Lebensraum unserer Digitaltechnologien bilden. Für die Zukunft von KI-Anwendungen im Allgemeinen lässt all dies hoffen. Ihre Nützlichkeit und Wirksamkeit steigt exponentiell mit jedem Schritt, den wir bei der Ausweitung der Infosphäre unternehmen. Mit einer Katastrophe, wie sie in der Science Fiction beschworen wird, hat das nichts zu tun. Denn wir spekulieren hier nicht über eine Super-KI, die in absehbarer Zeit die Weltherrschaft übernimmt. Diese Schauergeschichten sind im Hinblick auf unser derzeitiges und absehbares Verständnis von KI und EDV absolut unrealistisch. Kein künstlicher Spartacus wird eine große IKT-Revolte anführen. Science-Fiction-Szenarien sind auch deshalb verantwortungslos, weil sie von den echten Problemen ablenken, die zu bewältigen sind. Denn wir haben festgestellt, dass die Umhüllung der Welt einige schwerwiegende Herausforderungen mit sich bringt. Mit einer kleinen Parodie lassen diese sich vielleicht besser zusammenfassen.

Die Menschen A und H sind verheiratet und entschlossen, eine funktionierende Beziehung zu führen. A tut zunehmend mehr im Haushalt, ist unflexibel, stur, Fehlern gegenüber intolerant und wird sich wahrscheinlich nicht ändern. H ist das Gegenteil, wird aber zunehmend fauler und abhängiger von A. Die Folge ist ein ungleiches Kräfteverhältnis, bei dem A am Ende die Beziehung prägt und faktisch, wenn auch unbeabsichtigt, für eine Verzerrung des Verhaltens von H sorgt. Wenn die Ehe funktioniert, dann weil sie sorgsam auf A zugeschnitten ist. Heute kommt den smarten Technologien die Rolle von A zu, während die menschlichen Nutzer eindeutig durch H repräsentiert werden. Wir riskieren, dass unsere Technologien durch die Umhüllung der Welt unsere physischen und begrifflichen Umgebungen prägen und uns bei ihrer Anpassung behindern, weil das der beste, leichteste oder manchmal vielleicht sogar der einzige Weg ist, damit die Dinge funktionieren. Schließlich sind die smarten Maschinen der dumme, aber fleißige Ehepartner und die Menschheit der intelligente, aber faule. Wer wird sich also wem anpassen, wenn eine Scheidung nicht in Frage kommt? Sie werden sich vermutlich an viele Situationen aus Ihrem echten Leben erinnern, in denen etwas überhaupt nicht bewerkstelligt werden konnte, oder nur auf einem umständlichen oder albernen Weg, weil das die einzige Möglichkeit war, das Computersystem dazu zu bringen, das zu tun, was es sollte.

Wie kann man mit solchen Risiken umgehen? Indem man ein stärkeres kritisches Bewusstsein hinsichtlich der Macht unserer Digitaltechnologien, die Umgebung zu formen, entwickelt, wehrt man womöglich die schlimmsten Formen von Verzerrung ab. Zumindest können wir sie so vielleicht bewusster tolerieren, vor allem, wenn sie keine Rolle spielen oder es sich um eine vorübergehende Lösung handelt, während ein besseres Design erarbeitet wird. Im letzteren Fall könnte es bei der Entwicklung technischer Lösungen, mit denen die anthropologischen Kosten gesenkt und die Umweltvorteile gesteigert werden, hilfreich sein, sich vorzustellen, wie die Zukunft aussehen könnte und welche Anforderungen die Technologie an die Anpassungsfähigkeit der Nutzer stellen wird. Kurz gesagt – intelligentes menschliches Design sollte gemeinsam mit künftigen technischen Gegenständen und der Infosphäre, die wir mit ihnen und miteinander teilen, eine wichtige Rolle bei der Gestaltung unserer künftigen Interaktion spielen. Schließlich ist es ein Zeichen von Intelligenz, Dummheit für sich arbeiten zu lassen.

Seit einiger Zeit stößt der Cyberspace durch die Kluft zwischen Mensch und Maschine an seine Grenzen. Doch heute befinden wir uns in der Infosphäre. Wie stark diese alles durchdringt, hängt davon ab, wie weit wir ihre Digitalität als integralen Bestandteil unserer Realität, der für uns transparent ist, akzeptieren, und zwar in dem Sinne, dass sie nicht mehr als präsent wahrgenommen wird. Entscheidend ist weniger, Bits anstelle von Atomen zu bewegen – dabei handelt es sich um eine überholte, kommunikationsgesteuerte Auffassung der Informationsgesellschaft, die sich zu stark auf die Soziologie der Massenmedien stützt. Weitaus maßgeblicher ist die Tatsache, dass sich unser Verständnis und unsere Konzeptualisierung des Wesens und Gefüges von Realität verändert. Tatsächlich haben wir begonnen, zu akzeptieren, dass das Virtuelle teilweise real und das Reale teilweise virtuell ist. Die Informationsgesellschaft sollte besser als Fertigungsgesellschaft der neuen Art betrachtet werden, in der Rohstoffe und Energie durch Daten und Informationen abgelöst wurden, das neue digitale Gold und der echte Ursprung der Wertschöpfung. Die Schlüssel, um unsere missliche Lage richtig zu begreifen und eine nachhaltige Infosphäre zu entwickeln, sind deshalb nicht nur Kommunikation und Transaktionen, sondern auch die Erschaffung, Entwicklung und Verwaltung von Informationen. Für ein solches Verständnis brauchen wir ein neues Narrativ, eine neue Geschichte, die wir uns selbst über unser Dilemma und unser angestrebtes Menschheitsvorhaben erzählen können. Dies mag auf den ersten Blick wie ein Anachronismus wirken, der in die falsche Richtung führt. Bis vor Kurzem wurden große Gesellschaftsentwürfe – vom Marxismus und Liberalismus bis hin zum sogenannten „Ende der Geschichte“ – stark kritisiert. Doch in Wahrheit war auch diese Kritik nur ein anderes Narrativ, das nicht funktionierte. Eine systematische Kritik großer Narrative ist unweigerlich Teil des Problems, das man damit zu lösen versucht. Zu verstehen, warum es Narrative gibt, was sie rechtfertigt und welche besseren Narrative an ihre Stelle treten könnten, ist weniger kindisch und ein lohnenderer Schritt nach vorn. IKT erschafft die neue Informationsumgebung, in der künftige Generationen einen Großteil ihrer Zeit verbringen werden. Frühere Revolutionen zur Schaffung von Wohlstand, insbesondere in Landwirtschaft und Industrie, haben zu makroskopischen Veränderungen unserer gesellschaftlichen und politischen Strukturen, aber auch unserer architektonischen Umgebungen geführt, häufig, ohne große Vorausschau und normalerweise mit tiefgreifenden begrifflichen und ethischen Konsequenzen. Die informationelle Revolution – ob sie nun den Zweck hat, Wohlstand zu schaffen oder ein neues Konzept unserer Selbst zu entwickeln  inforgs