bookmark_borderSay something – see something!

Metzger’s Michigan Monday #15

In den USA gibt es einen Satz, der die Menschen zu Zivilcourage ermuntert. „See something, say something.“ Das bedeutet: Wenn man in der Öffentlichkeit etwas sieht, das den geltenden Normen widerspricht, soll man etwas sagen, sei es durch beherztes Einschreiten oder durch einen Alarm bei der zuständigen Ordnungshut.

Da ich gerne Scherze mache, drehe ich derlei Sätze manchmal um, einfach um zu sehen, was dabei herauskommt: „Say something, see something.“ Das Bild oben ist ein Produkt von Dall-E, ich habe den Satz dort eingegeben und die KI gebeten, das Ding im Stile von Joan Miró zu malen. Cool, oder?

Jedenfalls kommen beim Sätze-Umdrehen manchmal Dinge raus, die einen länger verfolgen, als man mag. Dieser hier sitzt mir mächtig im Nacken.

Wir sagen was – und sehen es auf einmal überall.
Wir sehen dann plötzlich nix anderes mehr.

Wir sagen etwas – und glauben es auf einmal.
Wir glauben dann plötzlich nix anderes mehr.

So funktioniert der Mensch. Seit den 1960er Jahren gibt es dafür einen Begriff: Es handelt sich um einen Bestätigungsfehler, einen Confirmation Bias. Wir sehen dann nur noch, was das Gesagte bestätigt, wir übersehen, was es widerlegt. Ich vermute: Weil das einfach soooo viel Denkarbeit erspart. Der Thalamus filtert alles andere raus, wie ein Palastwächter, der die ungebetenen Gäste abwimmelt, oft auch mit Gewalt, ehe sie den Thronsaal des Bewusstseins betreten.

Selbst in der Wissenschaft droht der Bestätigungsfehler. Als Waffe dagegen lautet das Standardverfahren (eigentlich), dass man mit aller Kraft versuchen soll, die eigene These zu widerlegen. Jede Publikation, jede Studie, die eine These bestätigt, bedeutet (eigentlich): Man ist beim Widerlegungsversuch dermaßen gründlich gescheitert, dass man achselzuckend nicht anders kann, als die These anzunehmen (bis jemand kommt, dem das Widerlegen gelingt).

Nicki sagt gerade: „Ey, man könnte doch auch ’selektive Wahrnehmung‘ sagen. Für das Grundphänomen haben wir mindestens 20 verschiedene Begriffe.“ Stimmt natürlich.

Ich merke es jedenfalls im Alltag. Nicht an mir. Sondern natürlich zuerst bei meinen Mitmenschen. Die haben EINMAL was gesagt, EINMAL die Welt so und so gesehen – und schon ist alles verloren. Keine Erfahrung, keine Einsicht bringt sie wieder ab von der einmal gemachten Deutung. Völlig irre. Kennt jeder, glaub ich. Man verbeißt sich in diesen Knochen und lässt nie wieder los.

Der letzte Schritt: Ich merk’s auch an mir selbst. Aber das ist knifflig. Viel kniffliger. Weil es fürs Gehirn wahnsinnig teuer ist, wahnsinnig aufwendig. Man muss das ganze Bild neu malen. Das kriegt man selten hin.

Intellektuelle Einsichten gehören dazu. Allianzen. Freundschaften. Feindschaften. Ernährungsgewohnheiten. Schlafenszeiten. Scham. Vergebung, auch.

Vielleicht hab ich mir genau das vorgenommen: Einmal im Monat etwas sagen, ohne es hinterher zu sehen. Oder noch besser: Etwas zu sehen, obwohl ich vorher das Gegenteil gesagt habe.

Mal sehen, ob das klappt.

bookmark_borderKünstliche Intelligenz: Ich hab die Zukunft gesehen. Sie ist sehr unheimlich

Metzger’s Michigan Monday #13

Im Februar 2017 war ich in Portland/Oregon auf einer Forschungskonferenz namens CSCW. In einem der Vorträge ging’s um das Konzept der „Affordanz“, über das ich neulich schon mal was geschrieben habe. Ich weiß das alles noch ziemlich genau, weil in der anschließenden Diskussion die hochgeschätzte Jessica Vitak von der University of Maryland was sehr Schlaues gesagt hat. Nämlich: dass im Moment noch alle Social Media beforschen – bis das nächste große Ding kommt, von dem im Moment aber noch keiner weiß, was genau das sein wird. Und natürlich ist das ein Gemeinplatz. Alles hat seine Zeit und endet irgendwann; jedes Bild umgibt ein Rahmen, zu dem natürlich stets auch ein Jenseits existiert. Trotzdem hat mich Vitaks Satz damals sehr inspiriert. Dieser Tage musste ich häufig an ihn denken, denn: Das nächste große Ding ist da. Wir haben jetzt alle die Zukunft gesehen. Sie ist faszinierend und wird, wenn ich das richtig einschätze, viele, viele Menschen den Job kosten.

Natürlich spreche ich von „generative AI“, jener Form der Künstlichen Intelligenz, die in der Lage ist, neue Inhalte zu erzeugen. Neue Bilder. Neue Musik. Neue Texte. Solche Dinge. Das Bild oben zum Beispiel stammt von so einer Maschine. Ich habe Dall-E einfach gesagt, dass ich mir ein Bild wünsche, das das Überredungsprinzip der Reziprozität im Stile von Paul Klee malt. Ein paar Sekunden später hat mir das Ding dann mehrere Versionen ausgespuckt, das Bild oben hat mir am besten gefallen.

Dall-E ist kostenlos, ein Produkt von „OpenAI“, einem milliardenschweren gemeinnützigen Forschungslabor aus San Francisco, das gelobt hat, nur Gutes mit der neuen Technologie zu bezwecken. Elon Musk hat da ne Menge Geld reingebuttert, die Firma Microsoft ebenfalls. Falls Ihr noch nicht mit Dall-E rumgedaddelt habt: Macht es, sobald Ihr ne freie Minute dafür habt. Man muss sich anmelden – und kann sofort loslegen. Lasst Euch Bilder malen. Denkt Euch interessante Anfragen aus. Nur, um ein Gefühl dafür zu kriegen, was die Maschine alles kann. Vielleicht auch für das, was sie nicht kann.

Dass Künstliche Intelligenz/Artificial Intelligence irgendwann mal den ganzen Laden aufmischen wird – geschenkt! Aber manchmal fehlt mir – wie viele anderen Menschen – einfach die Fantasie, ums sich so etwas wirklich vorstellen zu können.

Die ersten beiden Schüsse vor den Bug in dieser Hinsicht hab ich dann Ende 2019/Anfang 2020 bekommen. Ende 2019 hab ich für Brand Eins Richard Socher interviewt, der damals Chief Data Scientist von Salesforce war. Er hatte auf einer Konferenz in San Francisco gerade eine Demo-KI vorgestellt, die als Telefonstimme Kundenanfragen beantworten konnte. Sie hat das viel besser, fürsorglicher und eleganter gemacht, als die meisten Menschen aus Fleisch und Blut das hinkriegen würden. Das war schon mal n Hammer und hat mich sehr beeindruckt. In unserem Interview haben wir natürlich auch über die Auswirkungen auf den Arbeitsmarkt gesprochen. Er meinte damals: „Einige Jobs werden wegfallen. Und viele Jobs werden sich durch KI verändern.“ Denn: „KI wird uns all das abnehmen, was ermüdend und langweilig ist.“ Das hat mich in meiner egoistischen Sicht natürlich erstmal beruhigt, weil ich meinen eigenen Job ja für wahnsinnig wichtig und aufregend halte (ich lache beim Tippen dieses Satzes bitter in mich hinein).

Im März 2020 saß ich dann in Berkeley bei einer Konferenz, wo’s um Roboter ging. Auch daraus ist letztlich eine Geschichte für Brand Eins geworden. Eine Keynote hat dabei der Lokalmatador Stuart Russell gehalten, der die Sache mit der Künstlichen Intelligenz wesentlich weniger optimistisch eingeschätzt hat als sein Kollege aus der Industrie. Er sah die KI als mögliche Bedrohung der Menschheit und war der Meinung: Wir haben die Sache eigentlich nur dann noch weiter im Griff, wenn wir den Maschinen nicht explizit verraten, was wir eigentlich von ihnen wollen. Im Grunde hat Stuart Russell also die Story von Goethes Zauberlehrling erzählt (ich sage das nur, um das Argument verständlicher zu machen, nicht um es abzuwerten. Dass eine Story alt ist, ändert nichts an ihrer Gültigkeit).

Jetzt jedenfalls Dall-E. Mir ist Angst und Bange geworden um all die Menschen in meinem weiteren Umfeld, die irgendwas mit Grafik machen. Wer bezahlt noch eine Illustratorin, wenn eine Maschine dieselbe Arbeit womöglich umsonst macht – und das auch noch viel, viel schneller?

Dann kam im Dezember der Chatbot ChatGPT, auch wieder aus der Schmiede von OpenAI. Ein Chatbot ist eine Maschine, die so tut, als wäre sie ein Mensch. Man schreibt einen Text in ein Eingabefenster – die Maschine antwortet. Solche Dinge gibt es schon länger, aber DIESE Maschine war so gut, so schlau, so menschlich, dass ich zum ersten Mal Angst um mich selber bekommen habe. Ich habe die erste Nacht nach meiner Anmeldung dann entsprechend wenig geschlafen, weil ich die ganze Zeit mit dieser Maschine geschrieben habe. Es war der Hammer. Wir haben die Moralphilosophie von Kant und Aristoteles diskutiert. Wir haben über psychologische Forschung diskutiert. Das Ding hat mir ein Weihnachtslied geschrieben. Es hat irgendwann auch angefangen, in meiner Muttersprache mit mir zu reden. Alles astrein. Und ich wiederhole mich auch hier: Falls Ihr noch nicht mit ChatGPT rumgedaddelt habt: Macht es, sobald Ihr ne freie Minute dafür habt. Lasst Euch Texte schreiben. Denkt Euch interessante Anfragen aus. Nur, um ein Gefühl dafür zu kriegen, was die Maschine alles kann. Vielleicht auch für das, was sie nicht kann.

Angeblich drehen bei Google im Moment alle durch, weil sie Panik schieben, dass ChatGPT ihnen das gesamte Geschäft kaputt machen könnte. Wäre es nicht toll, so einen wunderbaren Chatbot mit einer Suchmaschine wie Google zu kombinieren? Gibt’s inzwischen auch schon. Der oben erwähnte Richard Socher hat inzwischen seinen eigenen Laden aufgemacht: Eine Suchmaschine namens „You“, die man – so der Pitch – besser kontrollieren kann als Google. Und einen eigenen Chatbot hat das Ding seit ein paar Tagen auch. Ich hab ein bisschen damit gespielt, die Ergebnisse fand ich ganz brauchbar. Wenn Ihr Zeit habt: Checkt es aus.

Man weiß aus der Forschung jedenfalls, dass wir Menschen auf so eine Maschine reagieren, als wären sie selber ein Mensch. Genau so, wie wir Kasperlepuppen als handelnde Menschen wahrnehmen. Wie Kuscheltiere zu quasi-menschlichen Begleitern für uns werden. Wir schließen Freundschaft mit der Maschine. Wir empfinden Sympathie. Sogar Liebe. Im Frühjahr 2022 war ich auf einer psychologischen Forschungskonferenz namens SPSS in San Francisco. Ein junger Forscher von der University of British Columbia hat dort über ein Experiment gesprochen (ich hab ne kurze Geschichte für P.M. drüber geschrieben), das er mit einem weniger guten Chatbot als ChatGPT und vielen Freiwilligen gemacht hat. Sein Fazit lautet: Anders als bei den selbstfahrenden Autos wird es mit dieser Technologie NULL psychologische Widerstände geben.

Null.

Unserer Seele ist egal, ob sie mit einem Menschen redet oder mit einer Maschine, die nur so tut. Wir werden dem Ding bald unsere tiefsten Geheimnisse anvertrauen.

Wie gut ist der neue Chatbot von OpenAI genau? Ich hau nur mal ein paar Sachen raus, die ich so gehört habe aus meinem Umfeld: Ein Psychologie-Professor aus Kanada hat die Maschine eine Uni-Klausur schreiben lassen – das Ding hat besser abgeschnitten als 80 Prozent der Studierenden.
Ich höre von Leuten aus der Juristerei, dass die Maschine sehr brauchbare Gerichtsurteile schreiben kann.
Die Machine schreibt auch sehr ordentliche Werbebotschaften, die man dann einfach auf Instagram stellen kann.
Menschen, die Computerprogramme schreiben, lassen sich von der Maschine Teile ihrer Arbeit abnehmen. Der Code ist eleganter als das, was die meisten Fachleute hinkriegen. Und schneller ist er eh.

Klar, das Ding ist nicht perfekt. Balladen im Stile Friedrich Schillers – da sind die Ergebnisse eher dürftig. Ich hab mich persönlich davon überzeugt. Die Maschine schreibt für meinen Geschmack auch zu sehr im Nominalstil. Aber auch da dürfte es vermutlich genügen, sich einfach einen anderen Style zu wünschen. Und die Maschine lernt dazu – mit atemberaubender Geschwindigkeit.

Trotzdem posten manche wegen all der kleinen Mängel: „Unsere Jobs sind noch immer sicher!“

Ich halte das für einen Irrglauben. Wenn DAS der neue Standard ist, sind viele, viele Menschen beruflich für immer erledigt. Ich womöglich auch. Und das gefällt mir nicht.

Und noch etwas: Ich WEISS, dass ich die wichtigsten Folgen dieser Technologie noch nicht absehen kann. Mir fehlt dafür einfach die Fantasie. Dieser Tage jedenfalls hab ich einen ersten Blick auf die Zukunft geworfen.

Diese Zukunft ist schön und faszinierend.

Aber auch sehr, sehr unheimlich.