Kabinett des Schreckens

Der Aufstieg der Maschinen und die Machtergreifung der künstlichen Intelligenz. Eine Welt der vollständigen Überwachung und sozialen Kontrolle. Atomkrieg und die Degeneration der Zivilisation. Viele düstere Zukunftsvisionen, die vor vielen Jahren gemalt wurden, sollten heute wahr werden. In der Zwischenzeit blicken wir zurück und es scheint, dass sie nie existiert haben. Sind sie sicher?

Es gibt ein ziemlich stereotypes Populärrepertoire dystopische Prophezeiungen (in Bezug auf die schwarze Vision der Zukunft). Neben den häufigsten Problemen im Zusammenhang mit der Zerstörung der natürlichen Umwelt und Ressourcen wird allgemein angenommen, dass neue Technologien schädlich für die zwischenmenschliche Kommunikation, Beziehungen und die Gesellschaft sind.

Der virtuelle Raum ist ein trügerischer Ersatz für die reale Teilhabe an der Welt. Andere dystopische Ansichten betrachten die technologische Entwicklung als einen Weg, die soziale Ungleichheit zu vergrößern und Macht und Reichtum in den Händen kleiner Gruppen zu konzentrieren. Die hohen Anforderungen moderner Technologie konzentrieren Wissen und Fähigkeiten in engen Kreisen privilegierter Personen, verstärken die Überwachung von Menschen und zerstören die Privatsphäre.

Nach Ansicht vieler Zukunftsforscher können höhere Produktivität und größere sichtbare Wahlmöglichkeiten die Lebensqualität eines Menschen beeinträchtigen, Stress verursachen, Arbeitsplätze gefährden und uns dazu bringen, die Welt immer materialistischer zu betrachten.

Einer der berühmten technologischen „Dystopisten“, James Gleick, nennt das scheinbar triviale Beispiel einer TV-Fernbedienung als klassische Erfindung, die kein einziges wesentliches Problem löst, sondern viele neue hervorbringt. Gleick zitiert einen Technikhistoriker Edward Tenner, schreibt, dass die Möglichkeit und Leichtigkeit, mit der Fernbedienung den Kanal zu wechseln, in erster Linie dazu dient, den Zuschauer immer mehr abzulenken.

Anstelle von Zufriedenheit sind die Menschen zunehmend unzufrieden mit den Kanälen, die sie sehen. Statt Bedürfnisse zu befriedigen, herrscht ein Gefühl endloser Enttäuschung.

Werden uns Maschinen auf Reservierungen halten?

Werden wir in der Lage sein, diese unvermeidliche und wahrscheinlich bald auftretende Sache unter Kontrolle zu bringen? Über künstliche Intelligenz? Wenn das so sein muss, wie viele dystopische Visionen behaupten, dann nein. (1).

Es ist schwierig, etwas zu kontrollieren, das um ein Vielfaches stärker ist als wir. wenn die Anzahl der Aufgaben zunimmt. Vor zwanzig Jahren hätte niemand geglaubt, dass sie die Emotionen in der Stimme und im Gesicht eines Menschen viel genauer erkennen könnten, als wir es selbst können. Mittlerweile sind dazu bereits trainierte Algorithmen in der Lage, die Mimik, Klangfarbe und unsere Sprechweise analysieren.

Computer zeichnen Bilder, komponieren Musik und einer gewann sogar einen Poesiewettbewerb in Japan. Sie schlagen schon lange Menschen beim Schach und erlernen das Spiel von der Pike auf. Gleiches gilt für das viel komplexere Spiel Go.

es gehorcht den Gesetzen immer schnellerer Beschleunigung. Was KI in den letzten Jahrzehnten – mit menschlicher Hilfe – erreicht hat, wird sich in den nächsten Jahren, vielleicht nur Monaten, verdoppeln, und dann wird es nur noch Wochen, Tage, Sekunden dauern …

Wie sich kürzlich herausstellte, sind die Algorithmen, die in Smartphones oder auf Flughäfen zur Analyse von Fotos allgegenwärtiger Kameras eingesetzt werden, nicht nur in der Lage, jemanden in verschiedenen Bildern zu erkennen, sondern auch äußerst intime psychologische Merkmale zu identifizieren. Zu sagen, dass dies ein großes Risiko für die Privatsphäre darstellt, ist eine Untertreibung. Dabei geht es nicht um einfache Überwachung, die Überwachung jedes Schritts, sondern um Informationen, die durch das äußere Erscheinungsbild eines Menschen entstehen, um seine verborgenen Wünsche und persönlichen Vorlieben. 

Algorithmen können dies relativ schnell lernen, indem sie Hunderttausende Fälle analysieren, was weit mehr ist, als selbst der klügste Mensch in seinem Leben erkennen kann. Ausgestattet mit einem solchen Erfahrungsschatz sind sie in der Lage, eine Person genauer zu scannen als selbst der erfahrenste Psychologe, Körpersprache- und Gestenanalytiker.

Die wirklich erschreckende Dystopie besteht also nicht darin, dass Computer Schach spielen oder gegen uns spielen, sondern dass sie unsere Seele tiefer als jeder andere als uns selbst sehen können, voller Verbote und Blockaden beim Erkennen dieser oder anderer Neigungen.

Элон Маск glaubt, dass sich „Intelligenz“ irgendwo weiterentwickeln könnte, wenn KI-Systeme beginnen, in immer größerem Maßstab zu lernen und zu denken tief in Webschichten, von uns unbemerkt.

Laut einer 2016 veröffentlichten amerikanischen Studie hat künstliche Intelligenz eine 45-prozentige Chance, den Menschen innerhalb der nächsten 50 Jahre bei allen Aufgaben zu übertreffen. Prognostiker sagen, dass KI das Krebsproblem lösen, die Wirtschaft verbessern und beschleunigen, für Unterhaltung sorgen, die Lebensqualität und -länge verbessern und uns so erziehen wird, dass wir ohne sie nicht leben können, aber es ist möglich, dass dies eines Tages der Fall sein wird Hass, der nur auf logischer Berechnung basiert, entfernt uns einfach. Dies ist möglicherweise physisch nicht möglich, da es sich in jedem System lohnt, Ressourcen anzusammeln, zu archivieren und zu speichern, die „sich eines Tages als nützlich erweisen könnten“. Ja, das ist die Ressource, die wir für KI werden können. Geschützte menschliche Reserven?

Optimisten trösten sich damit, dass es immer die Möglichkeit gibt, den Stecker aus der Steckdose zu ziehen. Allerdings ist nicht alles so einfach. Schon jetzt ist das menschliche Leben so sehr von Computern abhängig, dass ein radikaler Schritt gegen sie für uns katastrophal wäre.

Schließlich schaffen wir zunehmend Entscheidungssysteme auf Basis von KI, geben ihnen das Recht, Flugzeuge zu steuern, Zinssätze festzulegen, Kraftwerke zu verwalten – wir wissen, dass Algorithmen dies viel besser können als wir. Gleichzeitig verstehen wir nicht ganz, wie diese digitalen Entscheidungen getroffen werden.

Es gibt Befürchtungen, dass superintelligente Befehlssysteme wie „Reduce Congestion“ sie zu dem Schluss verleiten könnten, dass der einzig wirksame Weg, die Aufgabe zu erledigen, darin besteht, die Bevölkerung um ein Drittel oder sogar die Hälfte zu reduzieren.

Ja, es lohnt sich, der Maschine die wichtigste Anweisung zu geben wie „Erst einmal Menschenleben retten!“ Doch wer weiß, ob die digitale Logik dann zur Gefangenschaft der Menschheit führt oder in eine Scheune, in der wir zwar sicher, aber sicher nicht frei sind.

Cyberkriminalität als Dienstleistung

Früher spielten Dystopien und Bilder der postapokalyptischen Welt in Literatur und Kino meist in der postnuklearen Ära. Heute scheint die nukleare Vernichtung für die Katastrophe und Zerstörung der Welt, wie wir sie kennen, nicht notwendig zu sein, wenn auch nicht so, wie wir sie uns vorstellen. Es ist unwahrscheinlich, dass es die Welt zerstört wie in "Terminator", wo es mit nuklearer Vernichtung kombiniert wurde. Wenn sie es täte, wäre sie keine Superintelligenz, sondern eine primitive Kraft. Schließlich hat selbst die Menschheit das globale Szenario eines verheerenden Nuklearkonflikts noch nicht erkannt.

Eine echte Maschinenapokalypse ist möglicherweise weitaus weniger beeindruckend.

Cyberkrieg, Virenangriffe, Systemhacking und Ransomware, Ransomware (2) legt unsere Welt ebenso effektiv lahm und zerstört wie Bomben. Wenn ihr Ausmaß zunimmt, könnten wir in eine Phase eines allumfassenden totalen Krieges eintreten, in der wir Opfer und Geiseln von Maschinen werden, obwohl diese nicht verpflichtet sind, autonom zu handeln, und es ist möglich, dass immer noch Menschen hinter allem stehen.

Im vergangenen Sommer bezeichnete die US-amerikanische Cyberspace and Infrastructure Security Agency (CISA) Ransomware-Angriffe als „die größte Bedrohung für die Cybersicherheit“.

CISA argumentiert, dass viele Aktivitäten, bei denen ein Cyberkrimineller die Daten einer Person oder Organisation abfängt und verschlüsselt und dann Lösegeld dafür erpresst, nie gemeldet werden, weil das Opfer die Cyberkriminellen bezahlt und nicht bereit ist, Probleme mit ihren unsicheren Systemen öffentlich zu machen. Auf der Mikroebene zielen Cyberkriminelle häufig auf ältere Erwachsene ab, denen es schwerfällt, zwischen ehrlichen und unehrlichen Inhalten im Internet zu unterscheiden. Sie tun dies mithilfe von Malware, die in einen E-Mail-Anhang oder ein Popup-Fenster auf einer infizierten Website eingebettet ist. Gleichzeitig nehmen Angriffe auf Großkonzerne, Krankenhäuser, Behörden und Regierungen zu.

Letztere gerieten aufgrund ihrer sensiblen Daten und der Möglichkeit hoher Lösegeldzahlungen besonders ins Visier.

Einige Informationen, beispielsweise Gesundheitsinformationen, sind für den Eigentümer viel wertvoller als andere und können Kriminellen mehr Geld einbringen. Diebe können große Blöcke klinischer Daten, die für die Patientenversorgung wichtig sind, wie beispielsweise Testergebnisse oder Medikamenteninformationen, abfangen oder unter Quarantäne stellen. Wenn Leben auf dem Spiel stehen, gibt es im Krankenhaus keinen Verhandlungsspielraum. Ein amerikanisches Krankenhaus wurde im vergangenen November nach dem Terroranschlag im August endgültig geschlossen.

Wahrscheinlich wird es mit der Zeit nur noch schlimmer. Im Jahr 2017 gab das US-Heimatschutzministerium bekannt, dass Cyberangriffe auf kritische Infrastrukturen wie Wasserversorgungsunternehmen abzielen könnten. Und die zur Durchführung solcher Aktionen erforderlichen Tools stehen zunehmend auch kleineren Betreibern zur Verfügung, denen sie Ransomware-Kits wie Cerber- und Petya-Software verkaufen und nach erfolgreichen Angriffen eine Lösegeldgebühr verlangen. Basierend auf Cyberkriminalität als Dienstleistung.

Gefährliche Störung im Genom

Eines der beliebten Themen der Dystopie ist Genetik, DNA-Manipulation und Züchtung von Menschen – zudem noch richtig „programmiert“ (durch Behörden, Konzerne, Militär).

Die moderne Verkörperung dieser Ängste ist eine Methode der Popularisierung CRISPR-Genbearbeitung (3). Besorgniserregend sind vor allem die darin enthaltenen Mechanismen. Erzwingen gewünschter Funktionen in nachfolgenden Generationen und ihre potenzielle Ausbreitung auf die gesamte Bevölkerung. Einer der Erfinder dieser Technik, Jennifer Doudna, forderte kürzlich sogar ein Moratorium für solche Techniken zur Keimbahnbearbeitung aufgrund der möglicherweise katastrophalen Folgen.

Erinnern wir uns daran, dass vor ein paar Monaten ein chinesischer Wissenschaftler Er Jiankui wurde vielfach dafür kritisiert, dass sie die Gene menschlicher Embryonen manipulierte, um sie gegen das AIDS-Virus zu immunisieren. Der Grund dafür war, dass die von ihm vorgenommenen Änderungen mit unvorhersehbaren Folgen von Generation zu Generation weitergegeben werden konnten.

Besonders besorgniserregend sind die sogenannten d (Gene Rewriting, Gene Drive), d.h. Gentechnischer Mechanismus, der darin besteht, ein Editierungssystem in der DNA eines bestimmten Individuums zu kodieren CRISPR/CAS9-Genom mit der Einstellung, diese Variante des unerwünschten Gens zu bearbeiten. Dadurch schreiben Nachkommen automatisch (ohne Beteiligung von Genetikern) die unerwünschte Genvariante durch die gewünschte um.

Allerdings kann der Nachwuchs eine unerwünschte Genvariante als „Geschenk“ des unveränderten anderen Elternteils erhalten. Der Gene Drive ermöglicht es Ihnen also, zu brechen Mendelsche ErbgesetzeDies deutet darauf hin, dass die Hälfte der dominanten Gene von den Nachkommen eines Elternteils geerbt wird. Kurz gesagt: Dies wird letztendlich dazu führen, dass sich die betreffende Genvariante in der gesamten Bevölkerung verbreitet.

Biologe an der Stanford University Christina Smolke, warnte bereits 2016 auf einer Podiumsdiskussion zum Thema Gentechnik, dass dieser Mechanismus schädliche und im Extremfall schreckliche Folgen haben könnte. Ein Gene Drive hat die Fähigkeit, im Laufe der Generationen zu mutieren und genetische Störungen wie Hämophilie oder Hämophilie zu verursachen.

Wie wir in einem in Nature Reviews von Forschern der University of California, Riverside veröffentlichten Artikel lesen, kann dasselbe vererbbare Merkmal schädlich sein, wenn es auf irgendeine Weise in eine andere Population eingeführt wird, selbst wenn ein Trieb in einer Population eines Organismus wie vorgesehen funktioniert. die gleiche Ansicht.

Es besteht auch die Gefahr, dass Wissenschaftler Gene Drives hinter verschlossenen Türen und ohne Peer-Review entwickeln. Wenn jemand absichtlich oder unabsichtlich einen schädlichen Gene Drive in das menschliche Genom einführt, wie etwa denjenigen, der unsere Widerstandskraft gegen Influenza zerstört, könnte dies sogar das Ende der Spezies Homo Sapiens bedeuten ...

Überwachungskapitalismus

Eine Version der Dystopie, die sich ehemalige Science-Fiction-Autoren kaum hätten vorstellen können, ist die Realität des Internets und insbesondere der sozialen Medien mit all seinen weithin beschriebenen Auswirkungen, die die Privatsphäre, Beziehungen und psychologische Integrität der Menschen zerstören.

Diese Welt wird nur durch neuere künstlerische Darbietungen gefärbt, wie wir sie beispielsweise in der TV-Serie Black Mirror in der Folge „The Dive“ (2016) von 4 sehen konnten. Shoshana Zuboff, ein Harvard-Ökonom, nennt diese Realität völlig abhängig von sozialer Selbstbestätigung und völlig „entprivatisiert“. Überwachungskapitalismus ()und gleichzeitig die Krönung von Google und Facebook.

4. Szene aus „Black Mirror“ – Folge „Dive“

Laut Zuboff ist Google der erste Erfinder. Darüber hinaus baut es seine Überwachungsaktivitäten ständig aus, beispielsweise durch scheinbar harmlose „Smart City“-Projekte. Ein Beispiel ist das Projekt „World’s Most Innovative District“ von Sidewalk Labs, einer Tochtergesellschaft von Google. пристань in Toronto.

Google plant, mithilfe allgegenwärtiger Überwachungssensoren jede Minute Daten über das Leben der Anwohner am Wasser, ihre Bewegungen und sogar ihre Atmung zu sammeln.

Es ist auch schwierig, eine Internet-Dystopie auszuwählen, die auf Facebook nicht in Frage kommt. Der Überwachungskapitalismus wurde vielleicht von Google erfunden, aber es war Facebook, das ihn auf eine ganz neue Ebene brachte. Dies geschah durch soziale und emotionale virale Mechanismen und die unermüdliche gezielte Ausrichtung auch auf Nichtnutzer der Zuckerberg-Plattform.

Geschützte KI, eingetaucht in die virtuelle Realität, lebend mit UBI

Nach Ansicht vieler Zukunftsforscher wird die Zukunft der Welt und der Technologie durch fünf Akronyme angezeigt: AI, AR, VR, BC und UBI.

Leser von MT wissen wahrscheinlich gut, was sie sind und woraus die ersten drei bestehen. Wenn wir verstehen, wovon wir reden, erweist sich auch das Bekannte als das Vierte, „Sonne“. Und der fünfte? UBD ist eine Abkürzung für das Konzept mit der Bedeutung „Universelles Grundeinkommen“ (5). Hierbei handelt es sich um eine von Zeit zu Zeit postulierte staatliche Leistung, die im Zuge der Weiterentwicklung anderer Technologien, insbesondere der KI, jeder arbeitslosen Person gewährt wird.

5. Universelles Grundeinkommen – UBI

Die Schweiz brachte die Idee letztes Jahr sogar zu einem Referendum, aber ihre Bürger lehnten sie ab, aus Angst, dass die Einführung eines garantierten Einkommens das Land mit Einwanderern überschwemmen würde. BGE birgt auch eine Reihe anderer Gefahren, darunter das Risiko, dass bestehende soziale Ungleichheiten aufrechterhalten werden.

Jede der technologischen Revolutionen hinter dem Akronym (siehe auch:) hat – sofern sie sich verbreitet und in die erwartete Richtung entwickelt – gewaltige Folgen für die Menschheit und unsere Welt, darunter natürlich eine gewaltige Dosis Dystopie. Es wird beispielsweise angenommen, dass es vierjährige Wahlzyklen ersetzen und zu Referenden zu unzähligen Themen führen könnte.

Die virtuelle Realität wiederum ist in der Lage, einen Teil der Menschheit von der realen Welt „auszuschließen“. So erging es beispielsweise der Koreanerin Chan Ji Sun, die nach dem Tod ihrer Tochter im Jahr 2016 an einer unheilbaren Krankheit ihren Avatar seitdem in VR trifft. Der virtuelle Raum schafft auch neue Arten von Problemen oder überträgt alle altbekannten Probleme in eine „neue“ Welt oder sogar in viele andere Welten. Teilweise können wir dies bereits in sozialen Netzwerken beobachten, wo es vorkommt, dass zu wenige Likes auf Beiträgen zu Depressionen und Selbstmord führen.

Mehr oder weniger prophetische Geschichten

Denn die Geschichte dystopischer Visionen lehrt auch Vorsicht bei der Formulierung von Vorhersagen.

6. Cover von „Inseln im Netz“

Ridley Scotts gefeiertes Science-Fiction-Meisterwerk“Android Hunter» Seit 1982. Man kann über die Erfüllung vieler spezifischer Elemente diskutieren oder nicht, aber es ist unbestreitbar, dass die wichtigste Prophezeiung über die Existenz intelligenter, humanoider Androiden, die den Menschen in vielerlei Hinsicht überlegen sind, in unserer Zeit noch nicht Wirklichkeit geworden ist.

Wir wären bereit, noch viele weitere prophetische Treffer zuzulassen.“Neuromanten“das heißt, Romane William Gibson seit 1984, was das Konzept des „Cyberspace“ populär machte.

Allerdings erschien in diesem Jahrzehnt ein etwas weniger bekanntes Buch (in unserem Land fast vollständig, da es nicht ins Polnische übersetzt wurde), das die heutigen Zeiten viel genauer vorhersagte. Ich spreche vom Roman“Inseln im Web„(6) Bruce Sterling von 1988, spielt im Jahr 2023. Es zeigt eine Welt, die in etwas eingebettet ist, das dem Internet ähnelt und als „Web“ bekannt ist. Es wird von großen internationalen Konzernen kontrolliert. „Inseln des Netzes“ zeichnen sich durch die Kontrolle, Überwachung und Monopolisierung des vermeintlich freien Internets aus.

Es ist auch interessant, militärische Einsätze mit unbemannten Luftfahrzeugen (Drohnen) gegen Online-Piraten/Terroristen vorherzusehen. Tausende Kilometer entfernte Betreiber mit sicheren Desktops – woher wissen wir das? In dem Buch geht es nicht um den endlosen Konflikt mit dem islamischen Terrorismus, sondern um den Kampf gegen die Kräfte, die sich der Globalisierung widersetzen. Die Welt von Islands in the Net ist auch voller Verbrauchergeräte, die Smartwatches und smarten Sportschuhen sehr ähnlich sehen.

Es gibt ein weiteres Buch aus den 80er Jahren, das, obwohl einige der Ereignisse phantastischer erscheinen, unsere modernen dystopischen Ängste gut illustriert. Das "Georadar-Software", Geschichte Rudiego Rucker, die im Jahr 2020 stattfindet. Die Welt, der Zustand der Gesellschaft und ihre Konflikte scheinen dem, womit wir es heute zu tun haben, unglaublich ähnlich zu sein. Es gibt auch Roboter, sogenannte Bopper, die sich ihrer selbst bewusst geworden sind und in Städte auf dem Mond geflohen sind. Dieses Element ist noch nicht eingetreten, aber die Revolte der Maschinen wird zu einem ständigen Refrain schwarzer Vorhersagen.

Auch die Visionen der Bücher über unsere Zeit sind in vielerlei Hinsicht auffallend zutreffend. Octavia Butler, besonders inGleichnisse vom Sämann"(1993). Die Geschichte beginnt im Jahr 2024 in Los Angeles und spielt in einem Kalifornien, das von Überschwemmungen, Stürmen und Dürren aufgrund des Klimawandels heimgesucht wird. Familien aus der Mittel- und Arbeiterklasse treffen sich in geschlossenen Wohnanlagen und versuchen, mithilfe von Suchtmitteln und Virtual-Reality-Kits der Außenwelt zu entfliehen. Neue Religionen und Verschwörungstheorien entstehen. Eine Flüchtlingskarawane zieht nach Norden, um dem ökologischen und sozialen Zusammenbruch zu entgehen. Ein Präsident kommt an die Macht, der den Wahlkampfslogan „Make America Great Again“ (das ist Donald Trumps Slogan) verwendet…

Butlers zweites Buch,Gleichnis von den Talenten„, erzählt, wie Mitglieder eines neuen religiösen Kults die Erde in einem Raumschiff verlassen, um Alpha Centauri zu kolonisieren.

***

Welche Lehre ziehen wir aus dieser ausführlichen Betrachtung der vor Jahrzehnten gemachten Vorhersagen und Visionen, die unser tägliches Leben beeinflussen?

Vielleicht liegt es daran, dass Dystopien häufig vorkommen, aber meist nur teilweise.