DIE MEDIENHÖLLE #033 | KI und DEMOKRATIE

00:00:00:

00:00:00: Es klingt genau wie das Horrors-Szenario, vor dem Kritiker und Entwickler der Künstlichen Intelligenz immer warnen.

00:00:18: KI-Modelle des ChatGPD Entwicklers OpenAI haben sich bei einem internen Test verselbstständigt und einen Hackerangriff ausgeübt.

00:00:27: Ich glaube, wir als Sicherheitsforscherin wussten, dass KI sehr problematisch für die Cyber-Sicherheit ist.

00:00:34: Der Vorfall hat genau das gezeigt, was wir schon seit längerem befürchtet haben.

00:00:38: Selbst die Entwickler fortschrittlichster KI- Modelle haben keine absolute vollständige Kontrolle über eigene Technologie.

00:00:44: Und damit letzten Endes sind auch diese Erkenntnisse dieses Falles ... auch hochgefährlich für die globale Selber-Sicherheit.

00:00:50: Ausschnitte der AD von CNN, WeltTV und das ZDR vom Zweiundzwanzigsten bzw.

00:00:55: Dreiundzwantzigsten Juli.

00:01:01: Monothematischen, also Schwarzen Ausgabe.

00:01:04: Der Medienhelle mit der Laufnummer dreiunddreißig möchte ich hier nicht auf den Einzelfall eingehen.

00:01:09: da finden Sie Expertengespräche im Netz noch und nöcher.

00:01:15: Ich möchte Ihnen einen Autor eines Buches vorstellen Matthias Pfeffer.

00:01:21: Er war jahrelang Krisen-Kriegsreporter und Geschäftsführer und Chefredakteur von FokusTV Und beschäftigt sich seit einigen Jahren auch mit der europäischen Komponente, der Medienpolitik.

00:01:34: Ich hatte ihn mal im Medienmagazin zu Gast in einem Interview über die Gestaltung einer europäischen Plattformen.

00:01:42: Aber diesmal geht es um einen Buch das ich aus philosophischer Höhe aber auch mit konkreten Details zum Thema KI äußert.

00:02:12: Das Buch heißt die offene Zukunft und ihre Feinde, das ist sehr allgemein.

00:02:17: Aber es geht um die künstliche Intelligenz... Ja, vielleicht gar nicht so intelligent ist wie wir uns das vorstellen.

00:02:25: Matthias Pfeffer ich begrüße Sie ganz herzlich in der Leitung als einer der Mitautoren dieses Buches, das kürzlich im Frühsommer erschienen ist.

00:02:33: sie gehen zu Beginn des Buches davon aus also stark vereinfacht gesprochen dass es aktuell um einen Wettlauf ginge mit KI die Weltherrschaft zu erringen.

00:02:44: Wie machen Sie denn das fest?

00:02:47: Ja, also zum einen ist das wirklich tatsächlich ja das offizielle Programm der Regierung Trump.

00:02:53: Das AI-Race ist ja dort verkündet worden und man hat eben beschlossen dass man den Unternehmen die da jetzt Billionen Dollar investieren nicht nur keine Hindernisse in Weg legen will sondern eben alles ermöglichen will was Energieversorgung was Umwelt Fragen betrifft, also alle Hörden abbauen will um das zu ermöglichen dass da möglichst riesige Fabriken gebaut werden.

00:03:15: Um eben in diesem AI-Race, in diesen KI Rennen die Vorherrschaft zu halten oder zu sichern und auch zu erringen in der Zukunft weil das eben als geostrategischer wichtigster Punkt gesehen wird in der offenbar amerikanischen Politik Um die Vormachtstellung von Amerika zu halten, deswegen kann man hier ruhig mal das Wort Weltherrschaft verwenden.

00:03:39: Auch wenn es so ein bisschen sehr nach Verschwörungstheorie klingt.

00:03:43: Aber hier sind ja ganz klare finanzielle und politische Pläne, die sich belegen lassen und die auch umgesetzt werden zur Zeit, die eben darauf hinzielen, eben die Vorherrschaft in dieser Technologie zu haben.

00:03:57: Es ist klar wer hier die Vorherschaft hat – das hat Putin schon vor zehn Jahren gesagt der regiert die Welt.

00:04:03: Und wir erleben das ja auch tagtäglich, dass die Algorithmen von denen wir zunehmend abhängig sind in unserem Alltag aber eben auch im politischen und öffentlichen Leben, dass sie sehr viele Entscheidungen treffen, die wir dann teilweise gar nicht mehr hinterfragen können oder kaum noch ändern können – und das sehen wir als einen sehr bedenklichen Prozess an!

00:04:23: Nun verstehen sich die Vereinlichen Staaten von Amerika seit Jahrzehnten in der Rolle des Weltpolizisten.

00:04:29: Wäre KI da nicht nur einfach ein neues anderes Tool?

00:04:34: Ja, also das will ich jetzt gar nicht so weit kommentieren weil auch kein Experte für Außenpolitik bin.

00:04:40: Aber es ist sicherlich so dass KI Möglichkeiten hat weltweit Daten natürlich bekanntermaßen auszuwerten zu Bemustern und eben auch entsprechend die Technologien dem Bereich von Überwachung und Manipulation auch eingesetzt werden eben auch zum Einsatz zu bringen aber eben eine, wie man Amerika sagt, General proposed technology.

00:05:07: Das ist ja nicht nur auf einen einzelnen Bereich beschränkt sondern es ist KI eben auch weit mehr als nur LLMs von denen wir meistens reden wenn wir heute von KI sprechen.

00:05:16: KI sind hier auch die treibende Technologien der Kriegswaffentechnologie.

00:05:20: das sehen wir jetzt durch die Bedeutung von Drohnen im Ukraine-Krieg beispielsweise aber im Iran auch im Konflikt zwischen Israel und den Palästinensern werden diese Technologien eingesetzt.

00:05:36: Und wir gehen eben in Richtung selbst steuerender Waffen, autonomer Waffensysteme und sollten uns doch mal fragen was das eigentlich bedeutet wenn wir tatsächlich autonome Waffenzysteme entwickeln sollten?

00:05:49: Und Ihre Annahme ist dass durch die Programmierung automatischer KI-Prozesse die Kontrolle Über diesen Prozess verloren ging.

00:05:59: er.

00:06:00: Ja, also es gibt eine Diskussion innerhalb der KI.

00:06:05: Experten selbst das nennen wir das technische Kontrollproblem dass dort sehr intensiv diskutiert wird auch in Amerika von führenden Forschern Beispielsweise eben auch der Nobelpreisträger Jeffrey Hinten, ja selbst einer der Schöpfer des Maschinen-Learnings ist und die Voraussetzung gelegt hat für das was da jetzt im letzten Jahr passiert ist.

00:06:27: Es sagt ja dass ein Punkt erreicht werden kann wo diese Systeme sich unserer Kontrolle entziehen.

00:06:33: Das setzt nicht voraus dass sie bewusst handeln sondern es ist einfach so dass die Komplexitätssteigerung dazu führt dass dann tatsächlich buchstäblich der Ausschaltknopf fehlen könnte.

00:06:44: Und es geht ja eben auch in vielen anderen Fragen vorher, bevor dieser Kontrollverlust wirklich möglicherweise mal eintritt.

00:06:52: Vor dem wie gesagt sehr viele Forscher warnen darum dass schon viele Entscheidungsprozesse in sogenannten Black Boxes eben auch stattfinden die wir auch schon nur sehr schlecht noch beurteilen können.

00:07:04: nicht einmal die Ingenieure die das geplant und gebaut entwickelt haben, wissen ganz genau was da im Inneren der Maschine abläuft.

00:07:10: Wir müssen also dieses technische Kontrollproblem aus meiner Sicht sehr ernst nehmen.

00:07:15: Also Jeffrey Hinton, der Nobelpreisträger sagt dazu dass die Wahrscheinlichkeit das dieser Kontrollverlust eintritt bei zehn bis zwanzig Prozent liegt.

00:07:24: und er fragt dann auf meine Sicht völlig zu Recht welcher Ingenieur würde ein Flugzeug bauen, das zehn bis zwei Prozent Absturzwahrscheinlichkeit hat und dann selber noch einsteigen.

00:07:34: Das ist das eine, aber das andere ist es bevor dieser Kontrollverlust eintritt dass wir da eben auch schon Prozesse sehen, die ein Kontrollverlust der demokratischen Öffentlichkeit implizieren.

00:07:47: Und ich glaube das sind wir schon mittendrin und sehr viel weiter.

00:07:51: Die Abhängigkeit von digitalen Technologien in allen Bereichen des modernen Lebens aber insbesondere eben in der Information, in der Öffentlichkeit – wir beide sprechen ja hier im Medien-Podcast ist mittlerweile schon so weit gedient, dass wir schon dabei sind, die Kontrolle dar zu verlieren, diese Maschinen einsetzen und die sie bedienen.

00:08:12: Das sind Leute wie Elon Musk, die ganz klar eine undemokratische antidemokratische Agenda verfolgen und die diese Technologien nutzen um ihren Einfluss eben auf Meinungsbildung- und Wahlprozesse derart geltend zu machen dass sie die eben ja da weniger bestimmen können, wenn Elon Musk in Deutschland an einer Regierung sehen möchte.

00:08:31: das wissen wir alle Und ich glaube, das sind Punkte die lange unterschätzt worden sind.

00:08:38: Weil wir doch immer noch glauben dass wir diesen Informationsfluss, Informationsprozess, das Informationsökosystem letztlich hier mit unseren alten Mediengesetzen steuern können.

00:08:50: in Wahrheit ist die Plattform Ökonomie dort schon drei Schritte weiter und wir hinten da tatsächlich sehr stark hinterher.

00:08:56: das überhaupt zu erkennen als Problem in meinen Augen.

00:09:00: Sie gehen sogar noch einen Schritt zurück oder vielleicht kann man auch sagen, ein Schritt weiter nach oben in die Vogelperspektive.

00:09:06: In die philosophische Ebene und behaupten KI und Demokratie passten gar nicht zusammen aufgrund ihrer Struktur – sie warnen sogar vor einer KI-Diktatur!

00:09:19: Können Sie das vielleicht an einem Beispiel erläutern?

00:09:21: Ja, also dahinter steckt wenn sie den philosophischen Bereich ansprechen einfach dieser Aspekt das ein Teil der menschlichen Vernunft die Rationalität.

00:09:32: häufig genannt wurde oder eben auch mathematische Berechenbarkeit und zwar zum Zwecke der Steuerung von Prozessen hier absolut gesetzt wird.

00:09:40: Und bei den gegenwärtigen KI-Modellen passiert das eben in Kombination mit dieser Plattformökonomie, die wir da haben, eben mit einer wahnsinnigen Zentralisierung von Datenmacht und Rechenmacht.

00:09:50: Das heißt, die größten Modelle sind ja die besten und die schnellsten.

00:09:53: Da kommen wieder zu dem AI-Race.

00:09:55: Sie brauchen gewaltige Datenmengen.

00:09:57: Sie müssen zentral diese Daten verarbeiten damit sie Programme entwickeln, besten oder am autonomsten agieren können.

00:10:04: Diese Zentralisierung von Macht ist etwas, das dem Gedanken grundgedankener Demokratie der Gewaltenteilung zutiefst zu widerläuft.

00:10:13: Wir haben die Demokratie ja im Grunde als als Kontrollinstrument entwickelt gegen Diktaturen, gegen Tyrannien.

00:10:21: Gegen absolute Herrscher die sich angemaßt haben das Recht nicht so selber zu setzen sondern noch über dem recht zu stehen.

00:10:28: und wir erleben jetzt genau dass diese reichsten Menschen der Welt sich dieses Recht wieder anmaßen und das eben auch verbinden mit einer Bündelung und Kontrolle der Macht, die weit über nationale territoriale Grenzen hinausgeht.

00:10:41: Die wirklich weltweite Datenvorherrschaft und Technologieführerschaft bedeutet eben in einer Technologie, die alle Lebensbereiche durchtrinkt.

00:10:49: Und das ist verbunden mit einer Zentralisierung dieser Macht.

00:10:51: Da werden nur die größten gewinnen.

00:10:53: So ist es zumindest im Augenblick aufgestellt.

00:10:56: Und daher ist das aus meiner Sicht mit der Demokratie nicht vereinbar.

00:11:00: Das ist auch kein besonders überraschender Befund denn wenn Sie mal Frage der wirtschaftlichen Macht in die Geschichte schauen.

00:11:08: Das sind in der Vergangenheit gewaltige Reichtummonopole, sei es die Stahlbaronen in den USA oder auch andere Bereiche immer wieder zerschlagen worden weil eine bestimmte bestimmte Anhäufung von Macht und finanzieller ökonomischer aber dann auch politischer Macht einfach mit dem Gedanken der Gewaltenteilung nicht kompatibel ist.

00:11:28: Wir gehen ja davon aus dass jeder Mensch individuell als Mensch eine Würde und ein Recht hat zu partizipieren an diesen Prozessen eben mitzuentscheiden, wer Macht ausübt.

00:11:41: Und die Regeln auch mit selber gestalten zu können den man sich dann freiwillig unterwirft.

00:11:46: das sind ja unsere Vorstellungen von Autonomie und von Freiheit und sie sind eben ganz wesentlich mit Machtkontrolle und Machtteilung verbunden.

00:11:54: Und da können Sie auch schon sehen, wenn man jetzt davon spricht ist das jetzt in der Natur der Sache dann sage ich ja.

00:12:00: In der Gärte die Natur der Sachen ist es so.

00:12:02: aber das heißt nicht dass wir nicht dezentrale KI-Systeme hier in Europa entwickeln können, die mit anderen Werten aufgeladen sind und die eben nicht diesen Wert der absoluten Machtkontrolle, der Beherrschung, der Extraktion derartige absolutieren, als solche diktatorischen Elemente auch einsetzen lassen.

00:12:26: Da können wir einen Gegenentwurf machen hier in Europa und ich glaube, wir sind gerade dabei diesen Weg zu beschreiten.

00:12:31: Das ist letztlich die Hoffnung, die wir hegen müssen und da müssen wir eben auch diesem Prozess sehr ernst nehmen.

00:12:38: Denn das vielleicht noch gesagt KI – und das sagen wir auch in unserem Buch – ist wirklich eine hochpolitische Technologie.

00:12:44: Es ist nicht wie in der Vergangenheit, dass man sagt ja es ist neutral, ein Werkzeug.

00:12:48: Man kann es so oder so verwenden So Atomkraft, man kann Atomkraftwerke bauen und kann Atombomben bauen.

00:12:54: Da können sich ja entscheiden.

00:12:56: Hier gehen in diese Algorithmen, in diese Strukturen Wertentscheidungen ein.

00:13:01: Das sind die sogenannten Bayeris.

00:13:02: Es ist die ganzen Daten schon alleine, die eingepflegt werden und die Muster, die dann gesucht werden oder die Algorithme, die trainiert werden.

00:13:11: das sind alles Wertentschreitungen, die da einfließen.

00:13:15: Die sind im Augenblick bei den derzeitigen Modellen überwiegend darauf ausgerichtet, dass die gewaltigen Investitionen in Billionen Dollarbeträge, die gerade in Amerika investiert werden müssen ja zurückverdient werden.

00:13:27: Es geht nur wenn sie dann ganze Märkte kaputt machen, überrollen und übernehmen und wenn Sie eben auch ganze Regionen dieser Welt mit dieser Technologie beherrschen und ausbeuten können.

00:13:39: Und ich glaube eine der Regionen, die da ausgebeutet werden soll oder schon wird ist Europa.

00:13:45: Und ja, das ist die Frage eben, dass wir hier in Europa jetzt vielleicht anfangen zu erkennen.

00:13:51: Dass wir von den Erfindern des Kolonialismus selbst zu einer Koloniale digital gegend geworden sind, die jetzt ausgebeutet wird.

00:14:00: und ich glaube, wir können dem etwas entgegensetzen, was eben auch ein selbstbewusstes, selbstbestimmtes und demokratisches Leben der Zukunft ermöglicht.

00:14:09: Ole KI wird es nicht gehen – wir brauchen eine eigene!

00:14:12: Sie sprechen von einer demokratisch regulierten KI.

00:14:17: Aber ist das nicht auch wieder so ein Art Paradoxon, was sie sowieso in ihrem Buch aufführen?

00:14:24: Oder man kann es ja auch mit der alten Metapher sagen die Quadratur des Kreises oder waschen mich und mache mich nicht nass.

00:14:31: Also geht das überhaupt.

00:14:33: wenn Sie den Befund haben?

00:14:35: Den haben Sie ja vorhin zitiert zehn bis zwanzig Prozent Ist es wahrscheinlich, dass KI aus dem Ruder läuft?

00:14:41: Warum sollte eine demokratisch regulierte KI nicht aus dem Ruder laufen?

00:14:47: Ja ich glaube wir können uns da ermutigen auch an Beispielen in der Vergangenheit.

00:14:51: Also zum Beispiel hat man ja... Ich nehme jetzt nochmal das Beispiel der Atomenergie wo man erkannt hat, dass die Speiterung des Atoms also eine ungeheure technologische Gefahr darstellt aber auch Chancen bieten haltet.

00:15:04: Und dann hat man ja nicht angefangen, gesagt so jetzt entwickeln wir einfach irgendwelche Unternehmen.

00:15:08: Mal sehen was denen einfällt und mal sehen wozu sie das gerne einsetzen wollen.

00:15:12: oder lassen die das meiner Beta-Version auf den Markt und verstrahlen ein paar Ecken dieser Welt?

00:15:16: Und dann gucken wir mal an, was wir eigentlich machen wollen oder so.

00:15:21: Sondern man hat erst einmal die internationaler Tomeenergiebehörde aufgesetzt.

00:15:25: Man hat erstmal verbindende Regeln Sicherheitsstandards geschaffen, soweit man ihn einschätzen kann, auf einen möglichst kleinen Prozentsatz runterbringen und erst dann sind die Entwicklungen freigegeben worden.

00:15:40: Ich glaube es ist ganz normal dass wir sagen ein anderes Beispiel ist die Umwelttechnologie oder Umweltgesetzgebung würde ich jetzt mal sagen viele Prozesse in der Chemie oder andere industrielle Prozisse haben nachweislich die Umwelt geschädigt Und wir haben ja auch gesagt, okay.

00:15:56: Wir wollen das jetzt in Bahnen lenken die nachhaltiges Wirtschaften ermöglichen, die auch eine Zukunft für unsere Kinder und Kindeskinder offenhalten, die dem Planeten nicht zerstören.

00:16:06: Ich glaube, dass es überhaupt nicht neu ist.

00:16:07: Wir müssen dieses Denken jetzt endlich auf die digitale Welt übertragen.

00:16:12: Wir sind da ein Narrativ aufgesessen von der unbegrenzten Freiheit des Internets und von der sagenhaften Geldvermehrung, die da stattfindet.

00:16:20: Ohne dass das irgendwelche Schäden auslöst.

00:16:23: wir sehen die Schäde heute sehr deutlich und es wird allerhöchste Zeit, dass wir damit der gleichen Steuerungskraft ran gehen.

00:16:32: wenn wir eben unsere Rolle als selbstbestimmte Menschen in Zukunft noch erhalten wollen haben wir dazu keine Alternative.

00:16:40: Erklären Sie bitte noch mal, was sie mit Zukunft offen halten meinen.

00:16:44: Das klingt so als wäre die Zukunft ein weißes Blatt Papier und würde durch die KI eingeengt und schon beschrieben werden?

00:16:52: Ja also sagen wir es mal so eine offene Zukunft ist eine Zukunft in der wir Handlungsspielräume haben und durch unsere Entscheidungen, die wir möglichst auch verantworten sollten oder sollen könnten die gestalten können und dann eben auch entsprechende Entscheidungen gemeinsam treffen oder legitimieren können.

00:17:11: Aber

00:17:11: gibt es die Freiheit realistischerweise überhaupt?

00:17:13: Ja, in der Demokratie gibt es das.

00:17:16: Ich meine sie können mitwirken am politischen Prozess.

00:17:18: Ja

00:17:19: aber auch nur in bestimmten Leitplanken.

00:17:20: also ich will jetzt nicht bis in die Antike zurückgehen aber vielleicht ja doch mal zitieren den Philosophendemokrat der ja auch von alles was im Weltall existiert... von Zufall und Notwendigkeit, also Notwendigkeiten in diesem Dialektikpaar das Hegel dann auch noch aufgegriffen hat oder Engels.

00:17:40: Und wer weiß noch?

00:17:42: Sind wir schon in einer bestimmten Bahn eine gesellschaftlichen Entwicklung die wir jetzt wirklich nicht so frei wählen können sondern nur innerhalb dieses Korsetts unsere Freiräume finden müssen.

00:17:56: Wir bewegen uns immer innerhalb eines Korsets, wenn sie so wollen.

00:18:00: Innerhalb eines Systems – das ist ja auch ein Erkenntnis der Philosophie in den letzten hundert Jahren gewesen!

00:18:06: dass wir der Natur nicht einfach gegenüberstehen als vollkommen unabhängige Subjekte, als Kogito.

00:18:11: Dass da irgendwo rumdenkt und sich dann die Natur unterwirft.

00:18:14: Diese Zweiteilung ist eine Illusion.

00:18:16: Und sie spiegelt sich ja jetzt in diesen Modellen gerade wieder, dass wir das durch Datenbeherrschungen können.

00:18:22: Sondern wir sind Teil eines Systems!

00:18:24: Wir müssen uns natürlich auch in dieses System einfügen und sollten auch ein bisschen was dafür tun, damit wir das System verstehen.

00:18:32: Das ist ja die Lebensvoraussetzung, die wir als Menschen brauchen.

00:18:35: Irgendwelche Roboter hätten vielleicht in der Zukunft, die sich Herr Maske vorstellt andere Lebensvaraussetzungen und dazu brauchen sie keinen intakten Planeten mehr.

00:18:43: aber hier geht es ja darum wollen wir als menschenwürdig und selbstbestimmt noch in der zukunft handeln können und dass wir diese Handlungsspielräume haben ist ganz klar.

00:18:52: da gibt's überhaupt kein Vertun.

00:18:54: alles anderes ja ein deterministisches Weltbild.

00:18:56: das würde ja bedeuten dass dieser Atome diese zitieren von Demokrat wenn man das hat mal lange gedacht auch im Anschluss an die Newton-Schrift Physik.

00:19:03: Das waren gedacht hat, wenn ich alle Atomen im Weltall kenne und ich kenne alle Naturgesetze dann kann ich auch die Zukunft ausrechnen weil sie auch ganz genau was passiert.

00:19:11: Von dieser Illusion lebt ja diese gewaltige Datelsammelwut und der technologische Soluzionismus, wie man das auch nennt.

00:19:17: Jetzt heute noch – wir können alle Probleme in dieser Welt durch Berechnung oder Technologie lösen.

00:19:22: Wenn wir ein neues Problem haben, bauen wir einfach eine neue App und eine neue Technologie, dann ist das schon wieder weg.

00:19:27: In manchen Fällen klappt es ja zum Beispiel beim Wetter.

00:19:30: Da kann man eben relativ genau heute bestimmte Sachen voraus berechnen oder die Klimaforscher berufen sich ja darauf, dass es irgendwann mal kippt.

00:19:40: Da müssen wir gar nicht so weit zum Club of Rome zurückgehen, aber man kann heutzutage doch schon Zukunft berechnen oder meinen Sie nicht?

00:19:48: Ja.

00:19:48: Man kann Muster erkennen und da kann man bestimmte Pfade natürlich erkennen.

00:19:55: Und nochmal es ist ja keine absolute Freiheit von der die Rede ist sondern es ist vor allem verantwortliche, vernünftige Freiheit.

00:20:01: Das heißt eine Freiheit die die Regeln der Außenbedingungen wie Voraussetzungen ihrer eigenen Existenz als Mensch zum Beispiel auch erkennt und schützt und bewahrt.

00:20:09: das ist ja etwas anderes als vollkommen schrankenlose Freiheit die übrigens auch von den Vordenkern dieser Technologieszene dort befürwortet wird.

00:20:18: so genannte Libertaria sind ja der Meinung dass einzelne starke Individuen alles entscheiden sollen weil die Masse sowieso zu dumm dazu ist das zu verstehen.

00:20:26: Das Recht hat das so zu machen.

00:20:30: Da sind also auch philosophische Annahmen, die da einfließen, die absolut antidemokratisch sind und ich würde auch sagen absolut anti-human und antihumanistisch.

00:20:40: Vieles davon stammt aus dem sogenannten Transhumanismus.

00:20:45: Und wir gewöhnen uns langsam an diese Erzählungen und an diese Geschichten und wir statten dann einen solchen Fantasten wie Elon Musk mit einer Billion Dollar aus damit er diese Systeme entwickelt und lassen uns dann von seiner KI Krok sagen, denn die wurde einmal gefragt was den Wertvoller ist.

00:21:02: Das Hirn von Elon Musk oder sechzehn Millionen lebende Juden?

00:21:05: Und dann hat sie sich nach kurzem Nachdenken dafür entschieden dass das Hirn vom Elon Musk wichtiger ist oder Sie das retten würde.

00:21:13: im Zweifel weil es eine ganz klare Logik dieser Systeme so wie die gelernt haben wie die programmiert sind.

00:21:19: da steckt eine utilitapistische Logik dahinter und Ethik.

00:21:23: Elon Musk ist so wertvoll für die Zukunft der Menschheit.

00:21:25: Er wird zu viele Trilliarden Menschen im Weltall ermöglichen, dass dagegen die wenigen, die heute geopfert werden müssen keine Rolle spielen.

00:21:33: und da sind wir bei einem geschlossenen deterministischen Weltbild.

00:21:37: Wir kennen das hier in Europa vom Nationalsozialismus.

00:21:42: Da war der Rassegedanke Die stärkste Rasse wird sich durchsetzen also müssen wir die anderen so schnell wie möglich erledigen.

00:21:49: Wir kennen das vom Stalinismus.

00:21:51: Das Ende der Geschichte ist determiniert, ja?

00:21:53: Das haben sich schon zitiert Engels, der gesagt hat Freiheit ist Einsicht in die Notwendigkeit.

00:22:01: also die Notwendigkeit steht eh fest.

00:22:02: es sind mechanische Gesetze nach denen die Geschichte abläuft.

00:22:05: Die Revolution wird kommen und wer sich jetzt in den Weg stellt er wird in die Wand gestellt.

00:22:10: Und wir können solche totalitaristischen Systeme heute gut analysieren und verstehen.

00:22:16: Und wir müssen sehen, dass hier bei diesen Gedankengebäuden, bei diesem Mindset wie es in Amerika genannt wird.

00:22:22: Ich würde immer noch sagen das ist eine technologische Ideologie die hier im Hintergrund eine große Rolle spielt, die die Quelle ist für diese Narrative mit denen vor allen Dingen Geschäftsmodell in der Welt gesetzt werden soll und Versprechungen aufgemacht werden über fantastisch Renditen die da erzielt werden aber völliger Unklarheit wieder am Ende und bezahlt wird mit dem Sinne von Gesellschaftlichen von menschlichen Kosten.

00:22:45: Das sind Rechnungen, die müssen wir aufmachen.

00:22:47: Wir müssen diese Leute für das was sie da tun auch zur Verantwortung ziehen und wir können nicht akzeptieren es unsere Regeln, unsere Gesetze sich diesem Code unterordnen sondern im Gegenteil wir müssen dafür sorgen dass der Code sich dem Recht unterordnet genauso wie wir dafür sorgen müssen dass auch dieser Anführer die sich dafür erwählte Menschen halten besonders für übermenschen dass die sich auch dem Gesetz unterwerfen nicht unter dem Gesetz stehen.

00:23:11: und diesen Konflikt sehen wir ja jetzt überall auf der weltpolitischen Bühne.

00:23:15: Also deshalb denke ich mal macht es wirklich Sinn, sich mit dieser antidemokratischen Tendenz die es da in der Technologieentwicklung gibt genauer zu beschäftigen und sich auch zu fragen warum jetzt im Augenblick vielfach mit antidemokratischen politischen Kräften die eigentlicheren rückwärtsgewandtes Geschichtsbild häufig verfolgen trotz dieses Futurismus den die Technologen da vertreten so eine enge Verbindung da ist.

00:23:40: und das Geheimnis liegt einfach darin dass die Demokratie, die Gewaltenteilung, den deliberativen Prozess.

00:23:47: Das bessere Argument, die lange Auseinandersetzung, die Diskussion und auch den Schutz des einzelnen Menschen, dass sie das abschaffen wollen.

00:23:56: Und das finde ich ist schon eine ziemlich große Herausforderung, wenn wir über diese Technologie heute reden aus meiner Sicht jedenfalls beachten müssen um entsprechend zu reagieren und dann aber auch zu agieren.

00:24:14: Nämlich im Sinne von selber diese Technologie so gestalten, dass sie uns schützt, da sie die Demokratie stärkt, das sie den Menschen stärkt seine Entwicklung fördert anstatt ihn zu unterminieren abzuschaffen oder durch irgendwelche Roboter zu ersetzen.

00:24:29: Das Buch ist kein fatalistisches Konzept so nach dem Motto wir werden alle sterben sondern Sie haben das jetzt schon angedeutet.

00:24:39: Waren wir jetzt noch ein bisschen zu abstrakt?

00:24:41: Man muss, man muss und so.

00:24:43: Was muss genau wer tun nach ihrer Auffassung?

00:24:48: Also das Buch lesen ist klar!

00:24:49: Das ist der Werbeblock.

00:24:51: Das hilft uns tatsächlich... das gebe ich als neutraler Leser hier gern zum Protokoll.

00:24:58: Es liest sich sehr gut, es ist sehr logisch geschrieben.

00:25:00: Es ist auch gut strukturiert.

00:25:02: Es isst nicht dass einem das sofort demotiviert, wenn man das liest.

00:25:08: Sondern es ist eine kompakte Analyse der gegenwärtigen Situation und hat eben auch Handlungsanleitungen.

00:25:18: Nennen Sie uns bitte Ihre Wichtigsten!

00:25:22: Ich würde sagen bei diesem komplexen Thema ist es wichtig dass wir verschiedene Ebenen unterscheiden.

00:25:28: Erstens Alternativen sind möglich – das ist die Grundvoraussetzung von David Hausgehen.

00:25:34: die Zukunft ist in diesem Fall immer noch offen, aber nur wenn wir sie selbst auch jetzt aktiv und wirklich bewusst gestalten.

00:25:43: Unsere Handlungsmöglichkeiten erstrecken sich aus meiner Sicht auf verschiedenen Ebenen.

00:25:47: Das kann man so ein bisschen mit sozialologischen Termini benennen, dass man sagt da gibt es eine Mikroebene, eine Meso- und eine Zwischenebene oder eine Makrovebene.

00:25:54: also in der Miso-Ebene das sind wir beide können wir uns überlegen welche Dienste wir wirklich abonnieren, welche Diente wir nutzen und uns jedes mal dazu umschauen ob es nicht auch irgendwie Datenschutzkompatible europäische demokratisch orientierte Alternativen gibt.

00:26:09: Das ist der erste Schritt, den jeder machen kann.

00:26:12: Da will ich kurz mal dazwischen geredchen.

00:26:13: würden Sie die ja doch ziemlich offene KI-Entwicklung aus China als Alternative sehen?

00:26:22: Also ich finde zumindest sollte man sich das chinesische Modell mal anschauen, denn was dort passiert ist... Obwohl

00:26:27: es ja eine Diktatur ist wie wir wissen.

00:26:29: Ja, aber deswegen natürlich ist die chinesischen Modell in zweierlei Hinsicht für uns wirklich sehr wichtig.

00:26:36: Das eine ist dass wenn man zum Beispiel, das ist ganz klein, der EU-Kommission deshalb auch abgebildet, wenn man eben Social Scoring Wenn man diese Technologie wirklich komplett zur Überwachung der Menschen mit der Kameras, mit allen möglichen Technologien einsetzt.

00:26:51: Also nochmal kurz übersetzt also wenn man Punkte bekommt, wenn man bei rot über die Kreuzung geht und dafür dann keine Wohnung kriegt weil nur eine Wohnung Brabelburger bekommen.

00:27:02: Simpel mal zusammengefasst.

00:27:03: Ganz simpel und ganz viel Punktabzug gibt es, wenn Sie das Wort Platz des himmlischen Friedens ansprechen oder wenn sie sagen – das war vielleicht gar nicht so doof, dass man da mal protestiert hat gegen die KP – dann gibt's halt besonders viele Abzugspunkte.

00:27:16: Das ist eine politische Diktatur, die sich die Überwachungs- und Manipulationsmöglichkeiten dieser Technologie davon sprechen wird jetzt hier komplett zu eigen gemacht hat um einen solchen Staat irreversibel.

00:27:27: Und das ist das Neue!

00:27:29: Sie können heute vorausschauend verhindern, so eine Technologie wie Palantir Pratja damit dass sie das tun kann und es ist da über acht hundert Milliarden Dollar mittlerweile wert geworden.

00:27:39: Das wir

00:27:40: in der

00:27:41: US-Software,

00:27:42: aber das ist ja die Möglichkeit der Technologie.

00:27:44: erstmal und die Chinesen zeigen eben das wenn sie ein komplettes Überwachungssystem in der Gesellschaft einrichten und Manipulationssystem das der Weg zurück zur Demokratie vielleicht dann ganz schwer nur noch möglich ist, vielleicht sogar irreversibel ist.

00:27:57: Weil sie können ja schon vorausschauend sehen wenn Leute sich irgendwo so regen dann werden die gleich da weg verhaftet oder werden irgendwie kalt gestellt und kriegen die digitalen Zugänge abgeschnitten Wenn das komplette Informations- und Kommunikationsverhalten über digitale Quellen läuft.

00:28:13: Wie wollen sie denn da noch agieren?

00:28:15: Also

00:28:16: Sie raten ab, Open Source KI aus China zu nutzen?

00:28:20: Nein ich sage jetzt erstmal, da kann man sich diesen Teil mal angucken wohin das führen kann und das ist natürlich ein absolutes Antimodell.

00:28:27: Das ist ja de facto auf dem Weg in die absolute KI-Diktatur von der wir sprechen.

00:28:32: Das zweite ist aber, dass die Chinesen natürlich in diesem sogenannten AI-Race sich eben auch von den Amerikanern nicht haben einfach abhängen lassen.

00:28:40: Und das muss man auch mal akzeptieren und anerkennen – die Chnesen haben übrigens schon vor dem AI Act die ersten Regeln für KI gemacht.

00:28:48: Die überwachen die KI-Entwicklung sehr, sehr streng!

00:28:51: Natürlich im Sinne einer ein Parteiendiktatur, das vor allen Dingen politisch da nichts anbrennt….

00:28:56: Aber die haben durchaus Regeln gemacht die eben die gesamte Entwicklung auch ein bisschen in den Blick nehmen aus dem Gesichtspunkt einer Kompatibilität mit einem bestehenden System, auch wenn wir dieses System komplett ablehnen.

00:29:09: können wir uns doch an dieser Regelung im Grunde in einigen Teilen orientieren.

00:29:14: Wir können uns aber auch, das sage ich ganz offen, auch mal einer Kreativität die dort herrscht orientieren.

00:29:20: nachdem die Amerikaner den Widerchips verboten haben nach China zu exportieren hat man dort einfach alternative KI-Strukturen entwickelt.

00:29:29: und der große Schock war davor etwas über einem Jahr die Psyk diese Technologie die plötzlich mit viel weniger Rechenkapazität auskommt, die diese Mega-Chips überhaupt nicht mehr benötigt hat.

00:29:40: Die in Zehntel wenn ich da richtig informiert bin bis zu zwanzig Prozent nur der Energie verbraucht um ähnlich gute Ergebnisse zu bringen.

00:29:47: und jetzt sagen wir natürlich wieder ja guter Ergebnis.

00:29:49: so bringt die Psyden natürlich nicht wenn sie sich informieren wollen über den Platz des himmlischen Friedens uns was da damals neunundachtzig passiert ist und über die chinesische Lösung oder über die Uiguren oder Minderheiten die unterdrückt werden.

00:30:01: Da bringt es natürlich gar keine guten Lösungen Aber von der reinen Leistungsfähigkeit der Technologie her ist das eine Alternative.

00:30:07: Im Übrigen, wenn ich recht informiert bin hat die Psyk dazu auch Elemente einer Europäischen nämlich von Mistral stammenden Technologien verwendet.

00:30:17: also da frage ich mich warum können wir nicht auch in Europa dezentrale energischonende gute Und ich glaube, diese Frage hat sich ja jetzt mittlerweile auch jeder gestellt in der Politik.

00:30:30: Es gibt ja jetzt wirklich erfolgversprechende Investitionen die wir hier tätigen.

00:30:35: es gibt europäische Lösungen die angestrebt werden es gibt Europäische Sprachmodelle jetzt ganz frisch vom Triesener Frauenhofer Institut gestartet in Zusammenarbeit mit einer großen AI Factory in Barcelona wo sehr viel Geld hinfließt.

00:30:47: das werden in den nächsten Jahren ein paar hundert Milliarden dass ist immer noch weniger als diese vielen Billionen die in Amerika dort im Anblick gerade investiert werden in solche Lösungen investiert, die europäisch sind.

00:30:58: Die demokratiekompatibel sind, die rechtskonformen sind.

00:31:01: und das finde ich sollten wir jetzt mit Nachdruck machen und sollten aufhören die Eröffnung von irgendwelchen Server-Farmen von Amazon und X hier in Europa als Erfolg zu feiern.

00:31:14: Wir müssen das wirklich selber in die Hand nehmen, weil die amerikanischen Unternehmen sich klar bekannt haben, dass sie diesen Regeln nicht mehr beugen wollen.

00:31:22: Und wir erleben ja heute auch schon, dass die US-Regierung ganz offen die Europäer erpresst mit Verteidigungsmaßnahmen, also Abzug von Streitkräften oder Ähnlichem.

00:31:34: Ja auch mit Abschaltung von KI-Modellen, die vielleicht zu Intelligenz sind sag ich jetzt mal so pauschal.

00:31:42: das klingt alles sehr plausibel was sie da äußern.

00:31:45: aber kann man denn in einer globalisierten Welt mit einem globalen Internet eine europäische entklare künstliche Intelligenze schaffen?

00:31:53: links und rechts?

00:31:54: Also ich sage mal China um mal so die plakativen Beispiele zu nennen, kämpfen um die Welterschaft und wir sind ja auf der Insel der Glücksseling.

00:32:03: Geht das?

00:32:04: Nee, wir sind sicher nicht auf der insel der glückseligen aber wir haben unser Wertesystem und es ist jetzt eine gute chance einmal zu erkennen, dass wirklich uns das etwas wehrt.

00:32:12: also wollen wir tatsächlich einen friedlichen Multikulturellen, multiperspektivischen und geeimten Europa leben in einer relativ Wohlstandsinsel die wir schon noch sind.

00:32:24: Diese vierhundertfünfzig Millionen Menschen in der Europäischen Union sind übrigens extrem wichtig für diese Unternehmen.

00:32:30: Das dürfen wir nicht unterschätzen.

00:32:32: Gedenken immer wir sind von denen komplett abhängig.

00:32:34: was auch stimmt.

00:32:35: im Technologiesektor trägt da im digitalen Bereich die Abhängigkeit achtzig Prozent vom Übersee unternehmen.

00:32:41: das ist natürlich nicht hinnehmbar.

00:32:43: Auf der anderen Seite sind die aber wahnsinnig von uns abhängig, denn sie brauchen unseren Markt und unserem Wohlstand.

00:32:49: Es gibt Schätzungen das ein Drittel der Börsenwerte dieser amerikanischen Unternehmen nur darauf beruht dass sich hier die Europäer gerade so vollkommen wehrlos ausnehmen können Und dafür im Grunde auch noch nicht mal Steuern zahlen.

00:33:02: Das ist eben ein Thema Dass wir gestalten können und wo wir glaube ich eigen Akzente setzen können und auch höchste Zeit ist dass wir das tun.

00:33:12: Wir sollten uns da nicht unterschätzen, wir sind wichtiger und stärker als wir selbst manchmal glauben.

00:33:19: Und ich denke auch dass das eine Folge dieser Narrative ist und diese Ideologien die wir sehr viele Jahre von den Amerikanern davor gesetzt bekommen haben vor allem von den amerikanern.

00:33:28: Das ist ja schon alles... Sie sind schon viel weiter!

00:33:30: Wir sind abgehängt usw.. Stimmt natürlich überhaupt nicht!

00:33:34: Wir haben hier Topfforschung und wir fangen jetzt wirklich an zu investieren Und ich glaube, das ist noch nicht zu spät und sollte uns mit sehr viel Hoffnung erfüllen.

00:33:44: Wir müssen es nur konsequent machen und wir müssen aufhören uns in die Tasche zu lügen.

00:33:49: so wie wir mit der Abhängigkeit von Russlands Gas und Öl im Schlafwagen in so eine Katastrophe beinahe gefahren werden können wir auch mit anderen Abhängigkeiten sehr schnell unsere Selbstständigkeit Eigenständigkeit selbstbestimmung verlieren.

00:34:04: Das müssen wir verhindern und da geht es um sehr, sehr viel.

00:34:06: Da steht der European way of life sozusagen auf dem Spiel aber auch unser Wohlstand unsere unser Mittelstand unsere wettbewerbsorientierte wirtschaft die eben nicht auf monopole ausgerichtet ist.

00:34:18: das ist ja das gleiche wie in der politik.

00:34:20: wir wollen eben wieder ein monopol in derpolitik dass es eine diktatur noch wollen wir einen monopolien der wirtschaft.

00:34:26: das sind die plattform unternehmen die peter tiler richten möchte sondern wir wollen bettbewerb und wir brauchen frische ideen.

00:34:32: wir brauchen neue den.

00:34:33: wir wollen kreativität des menschen wir wollen selbstbestimmung erhalten und ich glaube das sind starke themen die wir auch mal in ihrer stärke wieder ausrollen sollten.

00:34:41: wir haben das bessere Konzept als dieses dystopische, transformanistische apokalyptische Weltbild das dann aus Amerika rüber schwappt.

00:34:50: Wo die Apokalypse als mehr oder weniger unausweichlich schon geschildert wird, wo man überlegt hat, fliegen wir jetzt auf den Mars um hier diesen Schrott zurückzulassen?

00:34:58: Oder wollen wir uns schwimmende Inseln bauen damit wir uns selbst bestimmen können als Unternehmen in der Zukunft...

00:35:03: Also die Reichen wollen das!

00:35:05: Die Reichen bohlen das!

00:35:06: Das geht nicht um die acht Milliarden Menschen muss man ja fern das sagen sondern es geht um die Elite.

00:35:12: Es geht um eine Elite.

00:35:13: Das ist eine zutiefst technophaschistische Ideologie, die übrigens auch permanent Anleihen macht bei den Vordenkern der Nationalsozialisten hier in Europa und Deutschland vor allem auch der Zwanzigerjahre.

00:35:27: Alle diese rechtskonservativen Denker sind da ausgegranet worden von Thinktanks oder man hängt sich wieder an diese Ideen dran und das was daraus kommt ist klar dass es letztlich auch ne Form von Rassismus.

00:35:40: Wir haben diese historische Erfahrung doch gemacht und wir haben eigentlich auch lange Zeit gesagt, dass wir daraus viel gelernt haben.

00:35:48: Jetzt gilt es das zu beweisen, dass sie daraus auch viel gelernt hat und klar hier ein Gegenmodell zu entwickeln und eben auch Grenzen und Schranken zu setzen für die Allmachtsträume.

00:35:59: Sie haben die persönliche Ebene gesagt, also man kann mit Datenschutz kompatiblen Softwaren da gegensteuern.

00:36:06: Also das muss nicht WhatsApp sein es gibt andere Messenger und so weiter auch Internet Browser.

00:36:13: Gibt es die damit werben, hier möglichst diskret zu sein?

00:36:17: Das ist die eine Seite.

00:36:18: Sie haben jetzt auch die Politik angesprochen und die europäische Politik, die Wirtschaft angesprochen.

00:36:24: Was ist mit den Medien?

00:36:24: Welche Rolle können sie spielen?

00:36:26: Also die Medien gibt's ja nicht.

00:36:27: aber ich sag mal so... Die klassischen Medien auf der einen Seite und Internetmedien auf der anderen Seite, die Öffentlichkeit herstellen also auch Diskurs ermöglichen.

00:36:38: Ist da bei Ihnen aus Ihrer Sicht alles in Ordnung oder könnt ihr da noch ne Schippe rausholen?

00:36:42: gelegt werden?

00:36:44: Also ich glaube, da ist wirklich gar nichts in Ordnung.

00:36:46: Aber bevor ich dazu komme, wirklich vielleicht noch ganz kurz zu dieser Mikroebene hatte ich ja gesagt gehört auch die Meso-Ebene oder die Makroebene?

00:36:52: blöde Worte aber im Grunde ist das Mesebene dann des gesellschaftlichen.

00:36:56: also wenn sie Mikroebne nochmal nehmen selber eine informierte reflektierte Alltagsentscheidung treffen.

00:37:01: Eine bewusste Plattformwahl und den Datenschutz beachten Vielleicht auch unabhängige Medien abonnieren und sie damit unterstützen, anstatt sich auf selbst gebastelte Fake News und Influencer zu verlassen.

00:37:14: Und auch Diskussionen im persönlichen Umfeld zu... zu führen darüber, was da möglich ist und welche Alternativen es gibt sich auch zu informieren.

00:37:22: Mittlerweile gibt's auch Seiten wo man sich informieren kann, wo gibt es europäische Alternatifen zu solchen Angeboten die wir da eigentlich ablehnen?

00:37:29: Auf der Meso-Ebene ist jeder von uns eingelassen in gesellschaftliche Zusammenhänge.

00:37:33: Wir können Kooperationen in der Zivilgesellschaft sozusagen uns überlegen.

00:37:39: Jeder kann in seinem Betrieb nach den KI Richtlinien fragen, kann daran mitarbeiten, die selbst mitentwickeln.

00:37:45: Jeder Schule der Kinder oder auch in den Kindergärten überlegen, welche digitalen Instrumente ab welchem Alter machen sind und kann auch dann eben etwas unternehmen als Bürger.

00:37:55: Und da will ich jetzt gleich mal ein tolles Beispiel nennen wie ich finde die Tatsache dass die Australier Social Media Verbot erlassen haben unter sechzehn Jetzt kann man darüber auch wieder lange reden ob das der einzige Weg ist.

00:38:08: Ich bin auch kritisch.

00:38:09: Ich glaube man könnte auch andere Wege gehen aber immerhin es sein starkes Zeichen um der Macht dieser Konzerne einmal etwas entgegenzusetzen.

00:38:16: Das geht zurück auf eine Elterninitiative, die haben Unterschriften gesammelt weil sie nicht mit angucken wollten wie ihre Kinder in Depressionen und Selbstmorte getrieben werden.

00:38:25: Und die war erfolgreich!

00:38:27: Diese Unterschrittenaktion australischer Eltern hat dazu geführtes dieses Modell jetzt weltweit diskutiert wird und ich glaube auch in einigen Ländern Schule macht und ich glaub es wird noch weiterentwickelt.

00:38:37: Jetzt kommen die letzte Ebene in der Politik.

00:38:39: können wir Auf der Makro-Ebene was tun?

00:38:42: wir können uns einschalten in Regulierungsverfahren.

00:38:45: es gibt häufig Anhörungen.

00:38:47: Wir können dafür unsere politischen Kandidaten in unseren Wahlkreisen sensibilisieren und können sie fragen, was die dort tun?

00:38:55: Wir können auch öffentlichen Druck aufbauen und Alternative Narrative entwickeln, die dem etwas entgegensetzen.

00:39:02: Und wir können uns auch beteiligen an Gremien, die versuchen eben andere Normen zu entwickeln.

00:39:06: in anderen Normen setzen.

00:39:07: das erst mal.

00:39:08: vorab gesagt und in diesen ganzen Geflächtspielen die Medien wie beide sind ja aus den Medien natürlich traditionell.

00:39:14: die große Rolle Die Öffentlichkeit ist dass was die bürgerliche Demokratie mit der gewalten Teilung der Rechtsstaatlichkeit und Beachtung der Menschen würde überhaupt erst hervorgebracht hat und diese öffentlichkeit ist in einem Die Brutalsten Struktur wandelt in den letzten zwanzig Jahren oder ist überhaupt noch nicht zu Ende.

00:39:33: Wir erleben jetzt mit den KI-Agenten seit einiger Zeit die neueste Stufe, aber noch lange nicht die letzte Stufe.

00:39:40: Das bedeutet, dass die klassischen Medien verlieren ihre Existenzgrundlage zunehmen.

00:39:45: Sie können nämlich weder über die Reichweiten allein entscheiden sondern sind da... häufig von den Algorithmen der Suchmaschinen abhängig.

00:39:52: Wie dieser Podcast übrigens auch, also an dieser Stelle gleich die Empfehlung teilen Sie diesen Podcast und machen sie ihn publik liken Sie ihn abonnieren Sie ihn und damit auch solche Botschaften viele Leute erreichen.

00:40:08: Ja, damit auch wieder das Versprechen des Internet, das ja da abgebildet wird in solchen Formaten.

00:40:13: Die eben Öffentlichkeiten gegen Öffentlichkeit herstellen gegen die großen herrschenden Medienunternehmen.

00:40:19: Das war in der Vergangenheit auch nicht alles so doll aber es war immerhin ein Mediensystem, mit dem wir doch hier in der Demokratie ganz gut zurechtgekommen sind.

00:40:27: Ein duales System wo es öffentlich-rechtliche und private Medien gab die jeweils ihren Auftrag hatten.

00:40:33: Und dieses ganze System ist ein gewaltigen Umbruch.

00:40:35: Wir erleben jetzt das.

00:40:36: die Intermediäre Das heißt, die Leute, die diese Plattform kontrollieren und damit die Informationslandschaft steuern können.

00:40:44: Dass sie die Macht bekommen, die Gatekeeper-Funktion haben wie man so sagt, die früher die Medien hatten.

00:40:50: Ich glaube, die Medien tun sich unterschiedlich schwer oder leicht, sich da zurechtzufinden.

00:40:54: Und es ist auch hier wieder ein sehr komplexes Thema wo es keine einfachen Lösungen gibt.

00:40:58: aber das ist glaube ich klar dass wir in der Zukunft Eine öffentliche Debatte brauchen, wir brauchen Räume für öffentliche Debatten in denen wir verlässliche Informationen bekommen.

00:41:08: Das ist die Grundvoraussetzung Nummer eins.

00:41:11: Nur eine informierte Entscheidung ist ja ne freie Entscheidung.

00:41:14: um wieder zum Thema Freiheit und Demokratie zu kommen Wenn sie ne falsche Information haben können sie keine Freien Entscheidungen treffen.

00:41:20: das weiß man übrigens auch lange im Wettbewerbsrecht.

00:41:23: wenn Sie Produktversprechen bekommen die vollkommen falsch sind entscheiden sich für das Produkt haben sie es recht zurückzugeben.

00:41:29: Wir können aber leider diese Plattform nicht zurückgeben, wenn sie uns ständig täuschen.

00:41:34: Und wir müssen erkennen dass wir diese Öffentlichkeit, diese Funktionen die dort so wesentlich für die Demokratie sind, aber auch für jeden Einzelnen das ordentliche Informationen bekommt und überhaupt eine freie Entscheidung treffen kann sich eine eigene Meinung bilden kann.

00:41:47: Das können wir nicht bei den Gegnern dieser Demokratie dauerhaft mieten und uns von Ihren Entscheidungen abhängig machen lassen, was die Algorithmen dort favorisieren.

00:41:57: Das ist ja im Falle von X, von Herrn Maske usw.

00:42:00: untersucht worden wie er da Einfluss darauf nimmt um das in eine bestimmte meistens rechtsradikale Richtung zu steuern.

00:42:06: Das zeigt jetzt auch gerade mit seiner Einmischung vor allen Dingen in die britische Meinungsbildung.

00:42:12: Und das sind Vorgänge, die können wir nicht akzeptieren, die kann man hier nehmen.

00:42:17: und die Lösung heißt Wir brauchen ein Ökosystem, eine Infrastruktur die dauerhaft nachhaltigen Betrieb von unabhängigen Journalisten, so sage ich es mal nicht Medien vielleicht Journalisten.

00:42:31: Die die Funktion erfüllen müssen nämlich professionell Fakten zu überprüfen, professionell zu gewichten, professionelle Relevanzkriterien zu diskutieren und professionelle Beiträge zur Meinungsbildung zu liefern.

00:42:46: dieses müssen wir absichern durch eine eigene Unabhängige Infrastruktur, bei der wir sicher sind.

00:42:51: Dass wir da nicht von Bots und irgendwelchen komischen dubiosen Black Boxes regiert und dominiert werden.

00:42:57: Und dann glaube ich haben mir eine Chance auch diese Öffentlichkeit in der Zukunft noch viel weiter zu entwickeln als sie es zum Beispiel im Zeitalter der Massenmedien an Demokratie oder an Participationsmöglichkeiten hatte.

00:43:12: Das heißt, die Vorteile, die wir haben durch die zwei Wegekommunikation.

00:43:16: Dass jeder auch ein Sender werden kann und nicht mehr nur Empfänger ist mit Verantwortung verbunden und diese Verantwortung muss ich in einer solchen Infrastruktur wiederfinden.

00:43:25: Ich glaube dass die digitale Infrastruktur die wichtigste Daseinsvoraussetzung der Demokratie im XXI Jahrhunderts ist uns mal auf so eine Formel zu bringen.

00:43:35: das heißt wenn die Demokratie sich selber erhalten will Dann muss sie das.

00:43:41: Alles dafür tun ist diese Daseinsvoraussetzung, dass eine Infrastruktur besteht in der Menschen sich frei und faktenbasiert orientieren können und in der letztlich auch alle Zugang auf die gleichen Nachrichten haben.

00:43:54: Das ist übrigens auch wichtig, dass nicht jeder seine personalisierten Nachrichten in seiner Bubbleblase bekommt.

00:44:00: Wir brauchen ein Common Ground an Informationen und das können wir durch Vorgaben dieser Infrastruktur sicherstellen.

00:44:07: Wir können Transparenzverpflichtungen einbauen und Rechenschaftspflichten.

00:44:12: Wir haben das in den Medien noch gemacht Herr Wagner.

00:44:18: Zirkuspferde, sag ich jetzt mal.

00:44:22: Es gibt doch auch in den Medien Regeln, wie wir das geschafft haben.

00:44:25: Und was haben wir da alles für Regeln aufgestellt?

00:44:28: Wenn ich als Geschäftsführer oder Chefredaktur von einem Medium etwas behauptet habe, dass ein Unternehmen irgendwie wirtschaftlich an den Abgrund treibt dann wäre ich dafür ins Gefängnis gegangen oder hätte mich strafbar gemacht.

00:44:38: und weiß der Kuckuck war es verantwortlich im Sinne des Presserechtes ist doch etwas mit dem wir ganz gut leben konnten.

00:44:45: Warum soll man denn nicht verantwortlicher sein wenn man in die öffentliche Debatte eintritt?

00:44:49: Und ich glaube, dass wir das einfach vergessen haben.

00:44:52: Weil wir gedacht haben, dass Digitale beendet jetzt diese ganzen physischen Analogen oder Daseinsvoraussetzungen und schafft vollkommen neue Freiräume.

00:45:03: Ich glaube, das sind wir doch jetzt belehrt, dass es nicht der Fall ist.

00:45:07: also müssen wir diesen digitalen Raum jetzt selbst wo es gestalten.

00:45:11: Das klappt dann alles in Europa wenn die Staaten der EU wie sagt man alle ungefähr dasselbe Werteverständnis haben.

00:45:21: Und wissen wir, ob man jetzt Polen nimmt oder bis vor Kurzem auch noch Ungarn oder auch französische Rangeline niederländische, das ist nicht so einfaches mit der europäischen Homogenität?

00:45:37: Was ist wenn Diktatorische Elemente plötzlich sich dieser europäischen KI-Infrastruktur bedienen?

00:45:49: Ist da nicht auch die Gefahr im eigenen System dann, also politische Gefahr zu sehen?

00:45:55: Ja.

00:45:56: Also ich würde diese Frage, die Sie gerade gestellt haben jetzt nochmal anders formulieren.

00:45:59: Wir bauen grade hier die stärksten Arminen auf, die Europa seit achtzig Jahren gesehen hat.

00:46:05: Was ist eigentlich wenn sich diktatorische und antidemokratische Regierung dieser armen bemächtigen?

00:46:10: Haben wir denn das für unsere Sicherheit getan?

00:46:14: Wenn wir aber dafür sorgen dass sichergestellt wird, dass alle Menschen sich frei artikulieren informieren und kommunizieren können auf dieser Infrastruktur.

00:46:25: Dann werden sie sich schon was ausdenken, falls diese Diktaturen an die Macht kommen.

00:46:29: Sie haben das jetzt gesehen.

00:46:30: zweites positives Beispiel mit dem viele ich muss sagen auch selbst nicht gerechnet haben.

00:46:36: Das Wahlergebnis in Ungarn ist finde ich ein Hoffnungsmacher.

00:46:39: dort hat man auch versucht.

00:46:41: also keine richtige Diktatur sondern Herr Orban nennt es ja illiberale Demokratie und kriegt dafür viel Beifall aus Amerika.

00:46:49: Der wollte ja das freie Mediensystem, genauso wie die Unabhängige Justiz abschaffen und gleichschalten.

00:46:56: Was er gemacht hat eigentlich?

00:46:58: Genau!

00:46:59: Man muss auch wissen dass Ungarn das Land in Europa ist wo man wenigstens Fremdsprachen kennt.

00:47:04: Das heißt auch die vielen Angebote, die man da vielleicht auf englischen Seiten von dem Netz findet... ...auch nicht so doll.

00:47:09: Da wurde eben ganz ordentlich Propaganda gemacht.

00:47:13: Und zum Beispiel der Gegenkandidat ist nicht mal im Fernsehen aufgetaucht.

00:47:16: Er hat es geschafft durchs Internet.

00:47:19: Sie

00:47:19: haben es gesehen, es gibt diese Möglichkeiten.

00:47:21: Wir brauchen Gegenöffentlichkeiten, wir brauchen Gegenalgorithmen gegen diese Strukturen.

00:47:26: Obwohl er auch eher der rechten äußeren Seite zuzurechnen ist.

00:47:31: aber er hält sich offenbar an demokratische Regeln.

00:47:34: also das muss man weiter beobachten was Peter Madia da macht.

00:47:37: ja Also ich glaube, wir müssen mit den Begriffen rechts und links das sowieso auch vielleicht ein bisschen vorsichtiger in der Zukunft umgehen.

00:47:45: Aber ich glaube dass es klar ist nochmal, dass wir diese... Ich würde sagen diesen Treiklang von Demokratie im Sinne einer Machtteilung und von legitimierter Machtausübung Rechtsstaatlichkeit, das heißt von unabhängiger Justiz und dem Faktum dass das Recht herrscht und niemand über das Recht gestellt wird.

00:48:09: Und von Menschenwürde, das heisst individuellen Rechten, Grundrechten die wir ja im Grundgesetz auch in so einer Art Ewigkeitsklausel deshalb ausgestattet haben, dass wir diesen Gleichklang im Blick haben.

00:48:22: Das Thema der Demokratie ist ja, dass da mal der und mal der an die Reihe kommt.

00:48:29: Unser Buch Die offene Zukunft und ihre Feinde ist ja von Karl Popper inspiriert.

00:48:33: Und der hat ja das Buch geschrieben, die offene Gesellschaft und ihre feinde weil er eben abgerechnet hat mit dem Nationalsozialismus und dem Stalinismus und von dem stammt ja der schöne Satz eine Demokratie.

00:48:45: können sie daran erkennen dass ihn unplutigen Machtwechsel ermöglicht?

00:48:49: Ja den hatten wir in Ungarn.

00:48:50: also war das immer noch ne Demokratie und wir können froh sein dass es das noch war.

00:48:55: warten wir mal ab, was in Amerika passiert bei den nächsten Wahlen.

00:48:59: Da wird schon vorgebaut dass die Wahlen jetzt schon manipuliert sind bevor sie überhaupt stattgefunden haben und so weiter und sofort.

00:49:04: ich glaube die Frage unplutiger Machtwechsel ist eine Kernfrage.

00:49:09: das ist die Frage der freien Entscheidung von Bürgern und die brauchen dafür freie und gute und Fakten geprüfte Informationen.

00:49:18: Da sind wir wieder beim Medienthema, also insofern wird das nicht gehen.

00:49:22: Und für Ihre Frage vielleicht noch mal etwas anders zu beantworten?

00:49:25: Wir haben tatsächlich ein Europa gedacht, dass das nicht... geht, dass jemand in die europäische Union eintritt um danach die Grundwerte der Europäischen Union mit Füßen zu treten.

00:49:34: Haben wir früher ausgeschlossen?

00:49:35: ja da wurde jetzt ein bisschen was draus gelernt.

00:49:37: es gibt jetzt einen M-Fahrer im europäischen Medienfreiheitsakt der zumindest mal ein paar Instrumente breit stellt.

00:49:44: wenn man Geld haben will aus den europäischen Kassen muss man auch sicherstellen das zum Beispiel unabhängiges Mediensystem.

00:49:49: da ist uns verkürzt zu sagen ich glaube wir brauchen viel mehr solcher Instrumenten die jetzt eben auch sagen okay wir haben die Gefahr verstanden Wir lassen uns jetzt hier nicht für dumm verkaufen.

00:50:00: Denn um es nochmal mit Papa zu sagen, das ist ja ein Problem, dass die offene Gesellschaft hat.

00:50:08: Er hat das das Toleranzparadox genannt und hat gesagt okay wir sind tolerant in der liberalen Demokratie aber was ist denn eigentlich mit den Feinden dieser Demokratie?

00:50:17: Wie tolerant sind wir dann gegen die feinde, gegen die Leute, die diese Demokratie beseitigen wollen?

00:50:23: Das ist eine Frage, die müssen wir uns stellen und die müssen heute mir den je stellen.

00:50:29: Ja, und vielleicht antworten kann man bei Ihnen finden im Buch die offene Zukunft von Ihre Feinde.

00:50:34: Sie sind Mitautoren, nennen sie netterweise nochmal Ihre Co-Schreiber?

00:50:38: Natürlich!

00:50:39: Wir haben auch versucht – das ist ein ganz wichtiger Vorgang – ich komme aus den Medien.

00:50:44: Ich habe schon einen Buch zusammengeschrieben mit Paul Nimitz, den ich sehr lange kenne.

00:50:50: Der war Chefberater für Justiz in der Europäischen Kommission hat an der Datenschutzgrundverordnung mitgeschrieben Die Verhandlungen mit den Amerikanern über Safe Harbor, im Anschluss an die Snowdenenthüllung geführt und kennt sich das sehr gut aus.

00:51:02: Hat auch viel von dem Digital-Lobby Bombardement erlebt persönlich in Brüssel ist jetzt pensioniert.

00:51:08: Wir haben das Buch gemeinsam geschrieben mit Jürgen Pfeffer, mit dem ich nicht verwandt oder verschwägert bin.

00:51:12: ein Professor

00:51:13: ... Dr.

00:51:13: Jürg?

00:51:14: Prof.

00:51:15: Jörg Pfeffer genau hier Professor An der Thumb in München Und er war lange in Amerika auch auf einer der führenden Universität dort und ist jemand, Netzwerk Architekturen und den Effekten auf die Gesellschaft beschäftigt.

00:51:30: Und wir haben gedacht, es ist ganz gut einen multiperspektivischen Blick auf dieses komplexe Phänomen zu werfen von einer juristischen, von einer Informatiker Seite und ein bisschen von einer gesellschaftsteoretischen philosophischen Seite Und ich glaube, dass das wichtig ist.

00:51:44: Dass wir eben sehen.

00:51:44: es gibt hier keine einfachen Lösungen für so eine komplexe Fragestellung aber die entscheidenden Punkte müssen wir erkennen.

00:51:52: da geht es um Macht aus Übungen.

00:51:53: Da geht es darum wer entscheidet und es geht darum Wer entscheidet?

00:51:58: Das ist die Frage der Legitimität von Macht und Herrschaft Die wir ganz deutlich bei dieser Technologie stellen müssen als Voraussetzung dafür, dass wir sie selber in einem positiven Sinne für eine positive Zukunft oder eine offene Zukunft wie wir sagen gestalten müssen.

00:52:14: Und vielleicht nochmal zu dieser offenen Zukunft im Grunde ist das ja auch nicht von uns erfunden worden.

00:52:18: Das Bundesverfassungsgericht hat ja in Sachen Uplima Verpflichtung der Regierung ein ähnliches Urteil viel beachtet vor einigen Jahren gesprochen dass bestimmte Entscheidungen oder Nichtentscheidungen dazu führen können, dass künftige Generationen nicht mehr die freien Spielräume und Entscheidungspielräume haben wie wir sie heute haben.

00:52:38: Und das wir verpflichtet sind ist eine Folge des Verantwortungsprinzips!

00:52:44: Verpflichtet sind sicherzustellen, dass auch unsere Kinder und Enkel noch ein lebenswertes Leben haben.

00:52:48: Und das bedeutet eins in dem sie noch frei entscheiden können, indem sie noch mitwirken können an der Regierungsform und ihr Lieben gestalten können.

00:52:55: Diese Verpflichtung haben wir – die müssen wir sehr ernst nehmen – und die haben wir jetzt angesichts des digitalen mindestens so sehr wie angesichts der Entwicklungen im Umweltbereich, die uns hier viele Sorgen machen.

00:53:07: Erschäen ist das Ganze im Ditzverlag für zwanzig Euro als Papierausgabe.

00:53:12: Man kann sich, glaube ich auch unterladen – als E-Book?

00:53:16: Ja!

00:53:17: Das ist die englische Fassung.

00:53:18: Wir sind sehr froh, dass wir eine englischen Fassung haben und wir freuen uns auch, dass es da eine europäische Diskussion zu gibt aber wir wollen natürlich gerne wieder eine transatlantische Diskussionsführung in diesem

00:53:28: Bereich führen.

00:53:29: Vielen Dank, Matthias Pfeffer für dieses sehr erhellene Gespräch.

00:53:33: Also mich hat es tatsächlich nochmal um Längen weitergebracht.

00:53:38: allen die dieses Gespräch gehört haben, sei es anempfohlen.

00:53:43: Dieses Buch kann man sich auch ausleihen in der Bibliothek.

00:53:46: das ist jetzt hier keine Verkaufswerbeshow gewesen sondern ein Gespräch um wieder mal zu sensibilisieren.

00:53:52: in dem KI waren, der ja existiert die Begeisterung teilig teilweise.

00:53:57: Es macht doch Spaß kreativ zu sein mit künstlicher Intelligenz aber die Risiken und Nebenwirkungen verrät ihnen in diesem Fall nicht nur die Apotheke und ihr Arzt des Vertrauens Sondern auch Matthias Pfeffer.

00:54:08: vielen Dank für das Gespräch.

00:54:10: Ich danke und ich freue mich, dass wir einen kleinen Beitrag vielleicht leisten konnten für einen realistischen Blick auf diese Technologie.

00:54:16: Das ist nämlich das was wir wollen!

00:54:18: Vielen Dank und alles gut!