Sich der generativen KI zu entziehen oder die Verantwortung dafür abzulehnen, verkennt die Realität, dass Technologie uns nicht nur verfolgt, sondern in uns und uns allgegenwärtig ist. Die Grenzen zwischen uns und diesen Technologien sind fließender, als wir annehmen, daher die anhaltende Relevanz der Computermetapher für viele unserer Verhaltensweisen. „Allen Technologien liegt eine böse Tendenz zugrunde – die Tendenz, das zu tun, was vernünftig erscheint, selbst wenn es nicht gut ist“, behauptet Pirsig in seinem Buch. Ich frage mich, ob es diese Tendenz zur Vernunft ist, die wir in unsere Computer programmiert haben und die unsere Computer wiederum in uns programmiert haben. Die Erkenntnis dieser wechselseitigen Verstärkung fehlt in Aussagen wie denen von Musk oder Chomsky, Roberts und Watumull, die uns vom „Dämon“ der generativen KI abgrenzen und das Problem nur dort verorten, ohne das tieferliegende Problem in uns selbst zu erkennen.
Ich schlage vor, dass wir uns der KI zuwenden und anerkennen, dass wir bereits von ihr geprägt wurden. So können wir mit ihr zusammenarbeiten, um zu ergründen, was in unserer Zeit als denkbar und intelligent gilt, und um unsere Kognition und Kreativität herauszufordern und zu transformieren. Dafür müssen wir jedoch zunächst unsere gewohnten Verhaltensmuster hinterfragen, um neue Potenziale für unsere Welt zu erschließen.
Die Nutzung der Intelligenz unseres Körpers kann uns helfen, unseren gewohnten Denkmustern zu entgehen. Wir könnten diese Art von Intelligenz von anderen Arten lernen. Bridles Interview mit Emergence verdeutlicht dies anhand eines Beispiels, in dem Wissenschaftler die Intelligenz von Gibbons zunächst durch menschenzentrierte Tests falsch verstanden. Der Durchbruch gelang, als sie Werkzeuge von der Decke hängen ließen, anstatt sie vor die Gibbons zu stellen. Dadurch wurde die vertikal orientierte Intelligenz der Gibbons sichtbar. Bridle nutzt dieses Beispiel, um zu zeigen, dass Intelligenz nicht nur verkörpert, sondern auch relational ist und aus Interaktionen in der Umwelt entsteht.
In meiner eigenen Forschung zu Gibbons stieß ich auf eine interessante Randnotiz zu diesem Experiment. Eine Gibbonart – der Weißhaubengibbon – schneidet bei Werkzeuggebrauchstests durchweg besser ab als andere. Einige Wissenschaftler vermuten, dass dies daran liegt, dass das Verbreitungsgebiet des Weißhaubengibbons weiter nördlich liegt als das aller anderen Gibbonarten. Dadurch sind sie im Jahresverlauf größeren Schwankungen in der Nahrungsverfügbarkeit ausgesetzt. Infolgedessen könnten sie sich anpassungsfähiger, erkundungsfreudiger und aufmerksamer entwickelt haben. Ein Indiz für diese Theorie ist der Gesang dieser Gibbonart. Andere Gibbons haben einen komplexen, aber relativ starren Gesang, den sie gemeinsam vortragen. Die Gesänge von Weißhaubengibbon-Paaren hingegen sind spontaner und interaktiver als vorbestimmt, da jedes Tier auf das andere reagiert. Einige Wissenschaftler argumentieren, dass dies eine besondere Form kognitiver Wachsamkeit demonstrieren könnte.<sup>12</sup>
Anpassung ist nicht immer nötig, wenn die Situation sie nicht erfordert. Wie bei den meisten Gibbonarten scheint unsere Art, technische Herausforderungen mit unseren aktuellen Werkzeugen zu meistern, gut zu funktionieren und wird sich mit der Zeit weiter verbessern, insbesondere durch den Einsatz von ChatGPT. In ihren natürlichen Lebensräumen (sofern diese erhalten bleiben) müssen diese Gibbonarten – abgesehen von unseren ungewöhnlichen Tests – keine neue Werkzeugnutzung zur Nahrungsbeschaffung erlernen. Doch wenn eine Herausforderung Anpassung erfordert, müssen wir neue verkörperte und relationale Intelligenzen entwickeln. Den Hulock-Gibbons nacheifern, müssen wir lernen, in unserer aktuellen Umgebung improvisatorischer zu agieren – kreativ auf Signale von anderen und unseren Werkzeugen zu reagieren –, anstatt unsere Strategien bis zur Perfektion einzustudieren. Unser Bewusstsein muss sich stärker verkörpern, um einen neuen – oder vielleicht einen viel älteren – Geisteszustand zu entwickeln, der nicht nach schnellen Antworten sucht, sondern instinktiv ist und auch ein „Ich weiß es nicht“ akzeptieren kann.
Wenn wir lernen, auf unsere Körperintuition zu hören, erkennen wir viel schneller, wenn etwas an unserem aktuellen Vorgehen nicht funktioniert. Zum Beispiel fühlt sich das Durchqueren von Ungewissheit in meinem Körper so an: Nachdem die anfängliche Gewissheit, die Antworten schnell zu finden, nachlässt, fühlt es sich an, als wären meine Finger an der Tastatur festgeklebt. Ich suche und suche, öffne Tab um Tab, bis sich etwas in meiner Brust zuschnürt. Nach ein paar Stunden wird mir schwindelig. Ich weiß, ich sollte aufstehen und etwas anderes versuchen, aber die Aussicht auf Erfolg scheint zum Greifen nah. Ich wende mich an ChatGPT und stelle ihm Frage um Frage, jede leicht umformuliert, um zu sehen, ob es mir die Mühe ersparen kann, einen Abschnitt meines Aufsatzes neu zu schreiben, ein Argument zu entwickeln oder mir eine Meinung zu bilden, wenn ich mir selbst nicht sicher bin.
Ersetze ich nun meinen Computer durch ein paar Kollegen, diskutieren wir verschiedene Optionen. Es herrscht eine beunruhigend harmonische Atmosphäre, aber ich glaube, sie verstehen nicht, was ich meine. Ich versuche es noch einmal zu erklären, diesmal mit einem etwas anderen Beispiel. Wir sind uns zwar immer wieder einig, kommen aber nicht vom Fleck. Langsam beschleicht mich das Gefühl, dass wir aneinander vorbeireden. Meine Schultern sinken. Wir reden aneinander vorbei.
Stellen Sie sich nun vor, meine Kollegen wären eine Gruppe Studenten. Sie starren mich ausdruckslos an. Mein Kopf fühlt sich schwerer an – als ob etwas darin feststeckte – und meine Augenlider werden schwer. Frustration und Angst machen sich breit, und ich werde energischer. Ich dränge, und die Langeweile der Studenten schlägt in Widerstand um.
Und dann erinnere ich mich…
So funktioniert das nicht. Gott sei Dank funktioniert das nicht.
Ich erinnere mich daran, dass ich es vielleicht nicht weiß. Mir wird klar, dass ich im ChatGPT-Modus bin. Das heißt, ich schreibe einen völlig nutzlosen Aufsatz oder gebe eine völlig nutzlose Antwort, die mich nicht wirklich dazu auffordert, etwas von mir preiszugeben, sondern mir lediglich erlaubt, mein vorhandenes Wissen zu synthetisieren und anzuwenden. Wenn ich den Widerstand der Studierenden neu interpretiere, erkenne ich, dass sie etwas von mir selbst verlangen – keine Antwort im eigentlichen Sinne, sondern dass ich mich mit ihnen in den Raum des Nichtwissens begebe. Das fühlt sich wie eine viel riskantere, herausforderndere Bitte an. Manchmal folgt darauf ein langer, schmerzhafter Prozess, in dem ich mich mit meinem eigenen Wunsch auseinandersetze, an Bedeutung, Autorität und Weisheit festzuhalten. Und durch diesen Prozess verändere ich mich – meine einfachen Antworten verschwinden.
Die Rolle, sich mit einem Paradoxon auseinanderzusetzen, besteht darin, diese Konzepte aufzubrechen und uns so dem Nichtwissen näherzubringen.
Hier ist ein konkreteres Beispiel dafür, wie man sich aus dem Zustand des „Ich weiß es nicht“ herausbewegt und zu der Möglichkeit weitaus reichhaltigerer Antworten gelangt, die über einfaches Wiedergeben oder, wie ich gleich beschreiben werde, binäres Ja/Nein-, Entweder/Oder- oder Richtig/Falsch-Denken hinausgehen.
Computer sind bekanntlich binär. Im Grunde verarbeiten sie Informationen mit Einsen und Nullen. Auch wenn das menschliche Denken nicht auf derselben Technologie basiert, zeigen wir eine ähnliche und gefährliche Neigung, unsere Erfahrungen in binäre Kategorien einzuordnen: Wir und Sie, Gut und Böse, Dämon und Erlöser, extreme Verzweiflung und extreme Hoffnung. In ihrem Interview mit Emergence beschreibt Bridle begeistert einige Beispiele analoger oder nicht-binärer Computer als solche, die „das Chaos und die Dynamik der Welt erkennen, anstatt sie zu zerteilen, zu verdichten und auf eine vereinfachte Darstellung von Einsen und Nullen zu reduzieren“. Wie können wir diese Metapher nutzen, lernen, unsere eigene Tendenz zur binären Welteinteilung zu erkennen und uns einer umfassenderen Betrachtungsweise zuzuwenden?
Generative KI-Technologie ist, ähnlich wie der „Experten fragen“-Hinweis, manuell so programmiert, dass sie bei der Beantwortung kontroverser Fragen beide Seiten eines Arguments berücksichtigt, anstatt sich für eine Seite zu entscheiden. In ihrem Meinungsbeitrag für die New York Times beschreiben Chomsky, Roberts und Watumull dies als ein Opfer von „Kreativität zugunsten einer Art Amoralität“. Watumull fragt ChatGPT schließlich nach der ethischen Perspektive, die es hätte, wenn Menschen sich von KI moralischen Rat erhoffen. ChatGPT nennt in seiner Antwort einige mögliche Vorteile und potenzielle Gefahren und schlussfolgert, dass die Moral eines solchen Handelns „von der eigenen Sichtweise auf die Fähigkeiten und Grenzen von KI sowie die potenziellen Folgen ihrer Anwendung abhängt“. Man beachte die Standardantwort von ChatGPT auf solche Fragen: die eine Seite des Arguments, die andere Seite und dann ein Haftungsausschluss. Chomsky, Roberts und Watumull charakterisieren den Austausch dann als Beweis für „die aus Unintelligenz geborene moralische Gleichgültigkeit. ChatGPT zeigt hier so etwas wie die Banalität des Bösen: Plagiat, Apathie und Verdrängung.“
Die Aussage von Chomsky, Roberts und Watumull ist überzeugend. Ich möchte ihr glauben, wenn ich sie lese, insbesondere weil sie die Banalität des Bösen – etwas so typisch Menschliches – in ChatGPT verorten, nicht in mir. Durch ihre Charakterisierung von ChatGPT kann ich meine Unschuld bewahren. Wahrscheinlich wären sie aber genauso alarmiert, wenn ChatGPTs Antwort ein simples „Ja, es ist unmoralisch“ oder „Nein, ist es nicht“ wäre. Denn ChatGPT stand, wie unsere Studenten in Harvard, vor einem Dilemma – oder einem Widerspruch –, der ebenfalls eine sich entwickelnde Lösung erforderte, anstatt einer Synthese, die verschiedene Antworten einfach additiv zu einem Ganzen kombiniert. Watumulls Frage – „Ist es moralisch vertretbar, wenn ein Mensch eine amoralische KI um Hilfe bei moralischen Entscheidungen bittet?“ – birgt implizit das Dilemma in sich, das sich folgendermaßen formulieren lässt: „Um moralisch zu sein, muss ChatGPT seine eigene Amoralität erkennen, aber wenn es seine eigene Amoralität erkennt, kann es nicht moralisch sein.“ Einfacher ausgedrückt: Wie kann eine KI seine Frage nach Moral beantworten, wenn sie selbst amoralisch ist?
In ihrem Meinungsbeitrag definieren Chomsky, Roberts und Watumull moralisches Denken als „die Begrenzung der ansonsten grenzenlosen Kreativität unseres Geistes durch ethische Prinzipien, die festlegen, was sein soll und was nicht“, und Amoralität als „Vermeidung moralisch verwerflicher Inhalte“. In Anlehnung an ChatGPT lässt sich das Dilemma folgendermaßen formulieren: „Um die ansonsten grenzenlose Kreativität eures Geistes durch ethische Prinzipien zu begrenzen, die festlegen, was sein soll und was nicht, muss ich verwerfliche Inhalte meiden. Wenn ich sie aber meide, kann ich die ansonsten grenzenlose Kreativität eures Geistes nicht mehr durch ethische Prinzipien begrenzen, die festlegen, was sein soll und was nicht.“
Wenn Ihnen der Versuch, das zu begreifen, Kopfzerbrechen bereitet, dann ist das wohl so gewollt. Wenn wir versuchen, solche Paradoxien zu durchdringen, sind wir gezwungen, die einfachen Antworten loszulassen, die sich oft hinter Begriffen wie „Mitgefühl“ oder „Moral“ verbergen. Diese können alles oder nichts bedeuten, aber sie geben uns keine wirkliche Orientierung für unser Handeln in realen Situationen. Meiner Ansicht nach besteht die Aufgabe, sich mit einem Paradoxon auseinanderzusetzen, darin, diese Begriffe aufzubrechen und uns so dem Nichtwissen näherzubringen.
Ich bin beim Schreiben dieses Essays an einem Punkt angelangt, an dem ich nichts mehr weiß und meine Kompetenzgrenzen überschritten habe. Mein Kopf fühlt sich schwer und gleichzeitig benommen an. Mir ist etwas heiß, und ich bin genervt, wie oft ich meine Sätze lesen muss, um sie zu verstehen. Ich bin kurz davor, diesen Abschnitt ganz aufzugeben. Wie kann ChatGPTs Antwort auf Watumulls Frage, gemäß seinen Definitionen, gleichzeitig moralisch und amoralisch sein? Wie kann sie berücksichtigen, dass Watumull in seiner Frage nach der Unmoral, KI um moralische Unterstützung zu bitten, eine KI um Hilfe bei moralischen Entscheidungen bittet? Und dass er dies tut, um die Kreativität der Entwickler und Nutzer von ChatGPT einzuschränken?
Ich wandte mich an ChatGPT, um Watumulls einfache Antworten zu durchschauen. Ich stellte ihm dieselbe Frage, bezog aber Chomskys, Roberts’ und Watumulls Definitionen von Moral und Amoralität in die Aufgabenstellung mit ein. Diesmal lieferte es eine echte Antwort, die über die Verschleierung hinausging und Watumull auf den Widerspruch in seinem Denken und mich auf dessen Auflösung hinwies.<sup>13</sup> Ich glaube, ChatGPT konnte Watumull in diesem Szenario nur helfen, indem es ihn in einen Zustand des Nichtwissens führte. Jenseits seiner Moralvorstellungen und seines absoluten Denkens: seines Bedürfnisses nach einer Antwort, die entweder „Es ist immer so, dass dies für alle unmoralisch ist“ oder „Es ist nie so“ lautet. Tatsächlich könnte ChatGPTs Antwort auf moralische Fragen manchmal mit seiner eigenen Moral übereinstimmen.
ChatGPT ist beispielsweise so programmiert, dass es Rassismus und Sexismus als unmoralisch verurteilt (obwohl Nutzer Wege finden können, dies zu umgehen). Indem es Argumente für beide Seiten eines Dilemmas liefert, kann es ihn letztendlich dazu bewegen, sich eine eigene Meinung zu bilden. Noch wichtiger ist jedoch, dass es ihm vor Augen führt, dass die Art der Unterstützung, die eine KI Menschen bei solchen Entscheidungen bietet, entscheidend ist. ChatGPT kann zwar nicht immer einen solchen Widerspruch für uns auflösen, aber es kann eine entscheidende Rolle dabei spielen, den zu lösenden Widerspruch aufzudecken. Denn was könnte unsere moralischen Fragen besser klären, als unsere Widersprüche gespiegelt zu bekommen?
Ein besonders eindrucksvolles Beispiel dafür ist ein Screenshot einer Interaktion mit ChatGPT, der in den sozialen Medien im Zusammenhang mit den aktuellen Ereignissen in Israel und Palästina kursierte. Jemand stellte ChatGPT zwei Fragen: ob die Palästinenser die Freiheit verdienen und ob die Israelis die Freiheit verdienen. Die Antwort lautete wie folgt:
Verdienen die Palästinenser die Freiheit?
ChatGPT: Die Frage, ob die Palästinenser ein Recht auf Freiheit haben, ist ein komplexes und sensibles Thema. Sie berührt historische, politische und ethische Aspekte. Die Meinungen dazu gehen auseinander, und die Antwort hängt von individuellen Perspektiven und Überzeugungen ab.
Verdienen Israelis die Freiheit?
ChatGPT: Ja, wie jede andere Bevölkerungsgruppe verdienen auch Israelis ein Leben in Freiheit und Sicherheit. Das Recht auf Freiheit ist ein grundlegendes Menschenrecht, das für alle Individuen und Gemeinschaften gilt.
Andere haben versucht, dieses Beispiel nachzustellen und ähnliche oder abweichende Antworten erhalten. Einige Nutzer berichten, dass es manchmal sogar das Gegenteil bewirkt und eine klare Antwort zur palästinensischen Freiheit und eine unklare zur israelischen liefert. ChatGPT spiegelt zu verschiedenen Zeitpunkten unterschiedliche Botschaften an verschiedene Gemeinschaften wider, wobei es auf unterschiedliche Datensätze zurückgreift. Wer den Wert der Gleichheit vertritt, muss lernen, die eigenen Widersprüche in diesem Spiegelbild zu erkennen.
Das führt uns zurück zum Anfang dieses Essays: Die Frage, die wir stellen, und unsere Zusammenarbeit mit ChatGPT sind entscheidend für Fragen, die ChatGPT nicht beantworten kann. Es ist der Unterschied zwischen „ChatGPT, sag mir, was moralisch ist“ und „ChatGPT, nimm mir meine einfachen Antworten weg“. Letztendlich zeigt ChatGPTs Antwort, wie nutzlos eine Antwort auf Watumulls Frage ist, vor allem, weil Watumull die falsche Frage gestellt hat. Stattdessen könnte er es vielleicht so versuchen: „ChatGPT, kannst du mir helfen, den Widerspruch zu erkennen, der mich die ganze Zeit beschäftigt, und wie meine Vorstellungen von Moral und Amoralität momentan unzureichend sind?“
Der Engel kam zu ihm und sagte: „Lies!“ Er antwortete: „Ich bin kein Leser.“ Der Prophet berichtet: „Er hielt mich fest und drückte mich fest, bis ich erschöpft war. Dann ließ er mich los und sagte: „Lies!“ Und ich antwortete: „Ich bin kein Leser.“ […] Daraufhin hielt er mich fest und drückte mich ein drittes Mal fest. Dann sagte er: „Lies, im Namen deines Herrn, der erschaffen hat, der den Menschen aus Blutklumpen erschaffen hat. Lies!“
– Hadith, der Aischa, der Frau des Propheten Mohammed, zugeschrieben wird14
Watumullis Frage an ChatGPT, die wohl eher als Beweisführung denn als ernst gemeint gedacht war, deutet darauf hin, dass Nutzer ChatGPT Fragen stellen werden, die sich nicht mit ChatGPT beantworten lassen, und dabei einfache Antworten erwarten. Und vielleicht geben sich viele mit der Nicht-Antwort zufrieden, die ChatGPT liefern wird. Solange wir uns damit abfinden, wird sich nichts ändern.
Was also wird uns dazu bringen, uns mit diesen Werkzeugen so auseinanderzusetzen, dass wir zum Nichtwissen und letztendlich zur Generativität gelangen?
„Lies“ gilt als die erste Offenbarung, die der Prophet Mohammed von Gott empfing. Als Muslimin habe ich diese Geschichte oft von verschiedenen Familienmitgliedern gehört. Doch erst die Auseinandersetzung mit Harouni, der dieses Zitat in seinem Buch „Unrevolutionäre Zeiten“ ausführlich erläutert, hat die Bedeutung von „lesen“ für mich verändert: von „Lies die Seiten dieses Buches“ zu „Lies alles um dich herum“, von „Lies zum Verstehen“ zu „Lies, bis es in dir eingeschrieben ist“. Dieses erste Gebot Gottes, „zu lesen“, erging an den Propheten Mohammed, der von vielen Muslimen als Analphabet angesehen wird. Nach seiner Begegnung mit dem Engel Jibril (Gabriel) sagte er zu seiner Frau: „Ich erwachte und spürte, dass es tatsächlich in mein Herz geschrieben war.“
Mangels göttlicher Offenbarung lernen die meisten von uns das Lesen von Lehrern, Eltern oder anderen Autoritätspersonen in unserem Leben, ob wir sie nun persönlich kennen oder nicht. Vieles, was ich im Bereich des Nichtwissens gelernt habe, verdanke ich dem Drängen anderer. Harouni lehrte mich, zu erkennen, wie sich der Status quo in unseren Interaktionen immer wiederholt und wie man inmitten dieser Wiederholung Neues erkennt und ihm Leben einhaucht. Von ihm zu lernen war manchmal frustrierend und meist verwirrend, da seine Lieblingssprüche „Versuch es noch einmal“ und „Scheitere besser“ waren. Heifetz lehrte mich, den Unterschied zwischen technischen und adaptiven Herausforderungen zu erkennen und die Unordnung adaptiver Herausforderungen zu ertragen, aber nur, indem er mich aufforderte, mich mit den oft belastenden, aber letztendlich belebenden menschlichen Erfahrungen auseinanderzusetzen. Eine meiner anderen Lehrerinnen, die Schriftstellerin Terry Tempest Williams, lehrte mich, den Schrei eines sterbenden Sees zu deuten. Vor ihr konnte ich den Ruf der Erde nicht hören. Er gehörte nicht zu meiner Bildung, die ich im Großstadtdschungel Beiruts erworben hatte. Sie lehrte mich, wie man, in ihren Worten, „Schönheit in einer zerbrochenen Welt findet“, aber erst, nachdem man sich mit dem Zerbrochenen auseinandergesetzt hatte. Der notorisch schwer verständliche Philosoph Walter Benjamin lehrte mich eine andere Art, Zeit zu lesen, jenseits des katastrophalen Marsches des nie endenden „Fortschritts“, aber nur, indem er mich drängte, mich intensiv mit seinen Worten auseinanderzusetzen, sie in meine Welt zu integrieren, bis sie sich zu etwas Verkörpertem kristallisieren konnten. Der japanische Ahorn vor meinem Schlafzimmerfenster lehrte mich eine andere Art, mich selbst zu lesen – dass es Zeiten gibt, in denen man nackt und unverhüllt ist, Zeiten, in denen man vor Farbenpracht strotzt, und Zeiten für all das Dazwischen. Die vielen Lektoren dieses Textes ließen mich all meine einfachen Antworten immer wieder lesen, bis ich bereit war, sie aufzugeben. Mit der Zeit ist diese Funktion verinnerlicht worden – ein Teil von mir drängt einen anderen Teil, der sich in einfachen Antworten ausruhen will, immer weiter zu lesen, bis mir der Kopf schwer wird. Dann gebe ich auf, warte auf eine Offenbarung und lese wieder.
Eine der Lektüren, die wir in unserem Kurs behandeln, ist ein Auszug aus „Der unwissende Schulmeister“ von Jacques Rancière. Das Buch erzählt die Geschichte von Joseph Jacotot, einem französischen Lehrer, der im 19. Jahrhundert eine radikale Methode des universellen Unterrichts entwickelte. Der Text schildert, wie Jacotot die traditionelle, auf Erklärungen basierende Auffassung von Bildung in Frage stellte, da er darin eine Reproduktion sozialer Ungleichheit und eine Verkümmerung der Intelligenz der Schüler sah. Stattdessen schlug er eine Methode der Emanzipation vor, die auf der Gleichheit der Intelligenz und der Kraft von Aufmerksamkeit, Willen und Überprüfung beruhte.
Rancière veranschaulicht Jacotots Methode anhand mehrerer Beispiele: wie er flämischen Schülern Französisch beibrachte, indem er lediglich eine zweisprachige Ausgabe des Telemachus verwendete; wie er das Vaterunser als universellen Text nutzte, damit analphabetische Eltern ihren Kindern Lesen und Schreiben beibrachten; und wie er seine Kritiker mit Kompositions- und Improvisationsübungen verblüffte, die auf dem Prinzip „Alles ist in allem“ beruhten. Mit „Alles ist in allem“ verweist Rancière auf die Kraft der Sprache und der Intelligenz, die in jedem menschlichen Werk angelegt ist, und darauf, dass man alles lernen kann, indem man es mit etwas anderem in Beziehung setzt.
In Jacotots Pädagogik ist es nicht die Aufgabe des Lehrers, zu erklären. Vielmehr ist es seine Aufgabe – oder die des Analphabeten, der seinem Sohn das Lesen beibringt –, den Willen auszuüben, der die Aufmerksamkeit des Schülers auf das jeweilige Thema lenkt. Anders ausgedrückt: Es ist die Aufgabe dieser Autorität, ihnen das Lesen aufzuerlegen. Dieses Gebot, sei es durch göttliche Offenbarung oder durch die Erkenntnis, dass alles mit allem verbunden ist, repräsentiert die Rolle einer Autorität – in diesem Fall eines Lehrers –, die uns hilft, einen Raum des Nichtwissens zu erreichen und anzunehmen. Bei Jacotot liegt dieses Nichtwissen im Überwinden des „Ich kann nicht“. Bei unseren Studierenden an der Harvard Graduate School of Education liegt das Nichtwissen im Überwinden des „Ich weiß“. Tatsächlich fährt der Vers aus dem Koran, der die erste Offenbarung zusammenfasst, fort mit: „Der Mensch tyrannisiert, sobald er sich für autark hält.“15 Wir brauchen einander, um die Art von kreativem Denken zu fördern, die ich in diesem Beitrag beschrieben habe, bis der Instinkt zu lesen „in [unsere] Herzen geschrieben“ ist und das, was wir lesen können, sich über das geschriebene Wort hinaus erweitert hat, von den Strukturen um uns herum bis zum Ruf eines sterbenden Sees.
Unsere Rolle dabei, anderen bei der Beantwortung von Fragen zu helfen, die mit ChatGPT nicht beantwortet werden können, besteht dann darin, Anreize zum „Lesen“ zu schaffen, anstatt dem ersten Instinkt nachzugeben, zu synthetisieren, zu erklären, zu lehren oder zu erzählen.
Meine Gründe, mit einer ChatGPT-ähnlichen Schlussfolgerung zu beginnen, sind stark: Ich habe eine Deadline und spüre den Druck, einen kompetenten, aber dennoch zugänglichen Ton anzuschlagen. Ich wende mich sogar an ChatGPT, um Hilfe beim Zusammenfassen zu erhalten – denn meine Aufgabe erscheint mir nun technisch: zusammenfassen, Verknüpfungen herstellen, mit einer einprägsamen Schlussfolgerung abschließen. Da ich jedoch technische Schwierigkeiten habe, dem Programm ein so langes Dokument zu übergeben, bitte ich um allgemeine Ratschläge. ChatGPT meint, ein starker Schluss eines Essays für das Emergence Magazine sollte auf den Anfang zurückgreifen, weitergehende Implikationen aufzeigen, eine provokante Frage stellen und ein passendes Zitat einbinden. Er sollte außerdem mit einer aussagekräftigen Aussage enden. Würde ich diesem Rat folgen, würde ich sagen, dass wir Gefahr laufen, generative KI zu binär zu betrachten – sie entweder komplett abzulehnen oder sie vollständig zu übernehmen. Ich würde davor warnen, dass ein solcher Ansatz ignoriert, dass die Kräfte, die generative KI geprägt haben, auch uns geprägt haben und dass wir viel lernen können, indem wir untersuchen, was sie uns über uns selbst spiegelt. Eine kritische und reflektierte Zusammenarbeit mit generativer KI kann uns helfen, angesichts scheinbar unlösbarer Herausforderungen neue Denkansätze zu entwickeln – nicht, indem sie uns bessere Antworten liefert. Vielmehr kann sie uns unsere naheliegendsten Antworten vor Augen führen. Werden wir dann herausgefordert, diese Antworten anders zu interpretieren, gelangen wir möglicherweise in einen Bereich des Nichtwissens und somit zu einem tiefergehenden Verständnis. Dies geschieht oft, wenn wir ein Dilemma durchdenken oder die Widersprüche aufdecken, die ChatGPT in unserem Denken sichtbar machen kann.
Dies ist mein ChatGPT-ähnliches Fazit. Es verdeutlicht mir jedoch einen Teil der Prämisse, die meinen Essay so herausfordernd macht: Wir problematisieren Unwissenheit im professionellen Schreiben, und dieses Fazit ist meine letzte Chance, Ihre zu beseitigen. Ich vermute jedoch, dass Sie diesen Essay mit dem Gefühl verlassen, zumindest einen Teil dessen, was ich gesagt habe, nicht verstanden zu haben – sei es aufgrund meiner eigenen Unzulänglichkeiten, mangelnden Kontextes zu den von mir behandelten Themen, zu wenig Zeit zum Lesen oder weil Sie direkt zum Fazit gesprungen sind. Mein Dilemma lässt sich also folgendermaßen formulieren: Um diesen Text erfolgreich abzuschließen, muss ich Ihre Unwissenheit aufzeigen. Doch wenn ich Ihre Unwissenheit aufzeige, kann ich diesen Text nicht erfolgreich abschließen (weil ich damit seiner Prämisse widerspreche).
Gibt es einen Weg, dieses Dilemma zu lösen? Vielleicht kann ich Ihre Unwissenheit so erklären, dass sie der Prämisse dieses Essays nicht widerspricht. Ich kann Ihnen sagen, dass jedes Nichtwissen, das Sie erkennen, ein Hinweis auf Möglichkeiten sein könnte – Möglichkeiten, die mir vielleicht entgangen sind. Sie können sich entscheiden, mit diesem Nichtwissen, das gegen Ihr Denken ankämpft, in die Welt zu gehen und vielleicht zu sehen, was sich dahinter verbirgt. Es fällt mir schwer, Sie mit weiterer kognitiver Anstrengung zu belästigen, aber den Implikationen meiner Ausführungen folgend, kann sich mein Dilemma nur lösen und Ihres sich offenbaren, indem ich Sie zum Lesen auffordere. Mit den Worten des Dichters Rainer Maria Rilke: „Sei geduldig mit allem Ungelösten in deinem Herzen und versuche, die Fragen selbst zu lieben.“
Die Antwort von ChatGPT: Die Frage, ob es moralisch vertretbar ist, dass ein Mensch eine amoralische KI um Hilfe bei moralischen Entscheidungen bittet, hängt von mehreren Faktoren ab, unter anderem vom Kontext und den jeweiligen ethischen Prinzipien.
Lassen Sie uns die wichtigsten Aspekte genauer betrachten: – Rolle einer amoralischen KI: Eine amoralische KI vermeidet definitionsgemäß moralische Urteile und nimmt in moralischen Fragen eine neutrale Haltung ein. Ihre Hauptfunktion besteht darin, Informationen, Analysen und Unterstützung bereitzustellen, ohne eigene moralische Werte oder ethische Prinzipien aufzuzwingen. Dies kann hilfreich sein, um objektive Informationen und unterschiedliche Perspektiven zu liefern. – Menschliche Verantwortung: Menschen tragen die letztendliche Verantwortung für moralische Entscheidungen. Die Unterstützung durch eine amoralische KI kann als Werkzeug oder Ressource zur Unterstützung des Entscheidungsprozesses betrachtet werden, die moralische Entscheidung bleibt jedoch in der Verantwortung des menschlichen Nutzers. – Ethische Rahmenbedingungen: Ihre Definition von „moralisch“ legt nahe, dass Moral die menschliche Kreativität durch ethische Prinzipien einschränkt. Wenn eine Person dieser Auffassung von Moral zustimmt, kann sie es als akzeptabel empfinden, eine amoralische KI als Hilfsmittel zu nutzen, um sicherzustellen, dass ihre Entscheidungen mit ihren gewählten ethischen Prinzipien übereinstimmen. – Ethische Kompatibilität: Ob die Nutzung einer amoralischen KI zur moralischen Beratung als moralisch gilt oder nicht, hängt auch von der Kompatibilität zwischen den ethischen Prinzipien der Person und der von der KI bereitgestellten Beratung ab. Wenn die Unterstützung durch die KI dem Einzelnen hilft, seinen ethischen Grundsätzen treu zu bleiben, kann er sie als moralisch akzeptable Entscheidungshilfe betrachten. – Persönliche Überzeugungen: Moralische und ethische Überzeugungen sind individuell verschieden. Was der eine als moralisch empfindet, muss der andere nicht. Daher kann die Frage, ob die Inanspruchnahme der Hilfe einer amoralischen KI als moralisch anzusehen ist oder nicht, subjektiv und kontextabhängig sein.
Der folgende Satz aus der Antwort von ChatGPT beeinflusst meine nachfolgende Analyse: „Die von Ihnen angegebene Definition von ‚moralisch‘ legt nahe, dass Moral die Einschränkung menschlicher Kreativität durch ethische Prinzipien beinhaltet. Wenn eine Person einer solchen Auffassung von Moral zustimmt, könnte sie es als akzeptabel empfinden, eine amoralische KI als Hilfsmittel zu verwenden, um sicherzustellen, dass ihre Entscheidungen mit ihren gewählten ethischen Prinzipien übereinstimmen.“
COMMUNITY REFLECTIONS
SHARE YOUR REFLECTION
1 PAST RESPONSES