Black Mirror-Schöpfer Charlie Brooker über KI, Technologie und Kreativität

Abgelegt unter:

Ein Gespräch mit Charlie Brooker über KI, Kreativität und warum Technologie wie ein zusätzliches Glied sein kann.

Es ist schwer, sich daran zu erinnern, aber im Jahr 2011 hatten viele von uns ein ziemlich gutes Gefühl gegenüber unseren Oberherren im Silicon Valley. Das iPhone wurde vollständig zum Mainstream, Facebook fühlte sich wie ein unterhaltsamer Ort an, um Ideen auszutauschen, und Twitter würde uns irgendwie von Tyrannen befreien.

Das war auch das Jahr, in dem „Black Mirror“ in Großbritannien debütierte (fünf Jahre später erschien es in den USA auf Netflix) und bot eine andere Sichtweise: Was wäre, wenn all diese glänzenden neuen Sachen überhaupt nicht gut für uns wären?

Seitdem haben wir eine echte Auseinandersetzung mit der Technologie geführt – oder zumindest sind unsere Ansichten über Technologie viel komplizierter geworden.

Es stellt sich heraus, dass Charlie Brooker, der Schöpfer von Black Mirror, schon immer zu diesem Thema gedacht hat: „Ich liebe Technologie, ich liebe Computer“, sagte er mir diese Woche im Recode Media-Podcast. „Aber ich bin auch ein natürlicher Angsthase. Ich bin jemand, der im Handumdrehen eine Katastrophe auslöst. Deshalb mache ich mir oft Sorgen, wenn eine neue Entwicklung oder ein neues Gerät uns Macht und die damit verbundene Verantwortung verleiht. Und wie leicht es ist, das oder die unbeabsichtigten oder offensichtlich unbeholfenen Konsequenzen zu missbrauchen. ... Normalerweise geben unsere Technologien mit einer Hand nach und schlagen uns mit der anderen sozusagen auf den Hinterkopf.“

Brooker wird oft dafür gelobt, dass er Drehbücher erstellt hat, die unheimlich vorausschauend zu den Themen wirken, mit denen wir gerade konfrontiert werden, und das gelang ihm erneut mit der neuesten Staffel von Black Mirror, die Anfang des Sommers debütierte. In der ersten Folge, die auf Netflix ausgestrahlt wurde, gerade als Autoren und Schauspieler sich Sorgen machten, dass Hollywood sie durch KI ersetzen wollte, geht es um eine Tech-Führungskraft, die herausfindet, dass ihr Leben in eine Netflix-ähnliche Show verwandelt wurde, die vollständig von einer KI erstellt wurde .

Peter Kafka berichtet über die Kollision von Medien und Technologie.

Überprüfen Sie Ihren Posteingang auf eine Willkommens-E-Mail.

Hoppla. Etwas ist schief gelaufen. Bitte geben Sie eine gültige E-Mail-Adresse ein und versuchen Sie es erneut.

Es überrascht nicht, dass Brooker kein großes Interesse daran hat, KI zur Erstellung seiner Shows einzusetzen. Aber wie wir besprochen haben, gibt es da ein paar Nuancen: Aktuelle generative KI-Technologie nutzt vorhandene Bilder und Texte, um neue oder zumindest neue Dinge zu erstellen. Und Schriftsteller wie Brooker haben sich schon immer von der Arbeit anderer Menschen inspirieren lassen. Oder in seinen Worten: „etwas parasitär aufsaugen“, schrieb jemand anderes. Aber ich würde in absehbarer Zeit keine ChatGPT-Version von Black Mirror erwarten.

Unten können Sie Auszüge aus unserem Gespräch lesen, die aus Gründen der Länge und Klarheit bearbeitet wurden, und Sie können das Ganze hier anhören.

Was halten Sie von der Tatsache, dass Menschen Black Mirror als Abkürzung für „Tech-Dystopie“ verwenden?

Einerseits bin ich natürlich begeistert. Es ist kostenlose Werbung für die Show. Aber auch auf menschlicher Ebene ist es oft deprimierend, dass wir oft mit solchen Dingen konfrontiert werden.

Aber es geht nicht immer um Technologie. Wenn Leute das sagen, meinen sie manchmal eine beschissene Situation. „Schwarzer Spiegel“ wird oft als Abkürzung für eine beschissene Situation verwendet. Wenn Sie sich unsere allererste Folge mit dem Premierminister und dem Schwein ansehen, ist das die Definition einer Art beschissener Situation.

Was halten Sie von der Tatsache, dass Sie diese Show seit mehr als einem Jahrzehnt machen und sie sehr beliebt ist, sodass die Leute im Silicon Valley sie offensichtlich gesehen haben? Und Sie sagen: „Diese Zukunftsvision, die ich habe, ist schlecht.“ Das ist nicht gut." Und dann kommen [Tech-Führungskräfte] heraus und sagen: „Wir finden das großartig.“ Wir werden das produzieren.“ Ob VR-Brillen oder KI-generierte Menschen oder was auch immer. Was halten Sie von dieser Trennung?

Eine Sache, die ich sagen würde, ist, dass ich in der Show manchmal ganz klar etwas hervorhebe und sage: „Das ist schlecht.“ Normalerweise ist jedoch nicht die Technologie der eigentliche Übeltäter. Wir haben eine Episode mit autonomen Roboter-Killerhunden gemacht, die herumlaufen und Menschen töten.

Nicht positiv.

Das ist nicht wirklich eine positive Lektüre. Aber in dieser Geschichte wurden sie vermutlich immer noch von einem Menschen erschaffen.

Aber meistens, wenn eine Episode klassisch „Black Mirror“ ist, hat man etwas, das tatsächlich ziemlich wundersam ist. Dass man als Zuschauer erkennen kann, wie wünschenswert es ist. Sie können sehen, warum es nützlich wäre, Sie können sehen, warum es transformativ und in vielerlei Hinsicht äußerst positiv wäre. Und normalerweise sind es die Menschen, die chaotischen Menschen, die dieses Zeug in der Geschichte verwenden, die es schaffen, die Dinge durcheinander zu bringen.

Und ich denke, dass das widerspiegelt, wie ich über viele Dinge denke. Im wirklichen Leben bin ich ein ziemlicher Geek und Technikfreak. Ich war früher Videospieljournalist und liebe all diese Dinge. Ich liebe Technologie, ich liebe Computer.

Aber ich bin auch ein natürlicher Angsthase. Ich bin jemand, der im Handumdrehen eine Katastrophe auslöst. Für jeden, der die Show gesehen hat, dürfte es keine Überraschung sein. Deshalb mache ich mir oft Sorgen darüber, ob neue Entwicklungen oder Dinge uns Macht und die damit verbundene Verantwortung verleihen. Und wie leicht es ist, das oder die unbeabsichtigten oder offensichtlich unbeholfenen Konsequenzen zu missbrauchen. Und das sehen wir immer wieder bei Dingen. Normalerweise geben unsere Technologien mit einer Hand nach und schlagen uns mit der anderen sozusagen auf den Hinterkopf.

Aber das war bei der Druckmaschine so, es war bei allem so. Ich möchte dieses Zeug nicht unbedingt aus der Existenz löschen.

Ihre Show begann im Jahr 2011. Damals waren wir enorm optimistisch, was die Verbrauchertechnologie angeht, sei es iPhones oder soziale Medien. Ernsthafte Menschen dachten, Twitter könnte Demokratie in den Nahen Osten bringen. Die Dinge haben sich dramatisch in die entgegengesetzte Richtung gedreht. Glauben Sie, dass das immer unvermeidlich war?

Wir haben es damals eindeutig durch eine extrem rosafarbene Brille betrachtet. Das war in gewisser Weise die Sache, die ich in meinem Kopf angezapft habe, sicherlich in einigen dieser frühen Episoden. Die meisten Apple-Werbungen sahen für mich so aus: Haben Sie Soylent Green gesehen?

Natürlich.

Charlie Brooker

Es gibt eine Situation, in der jemand eingeschläfert wird – ein alter Mann wird eingeschläfert. Und er wird in eine Art Euthanasie-Klinik gebracht und das letzte, was ihm gezeigt wird, sind Bilder der natürlichen Welt, die jetzt zerstört wurde. Und es rührt ihn irgendwie zu Tränen, und dann wird er getötet und im Grunde genommen in Essen verwandelt.

Was jemand im Silicon Valley für eine gute Marke hielt.

Na siehst du. Ich meine, das ist das ultimative Beispiel. Aber die Bilder dort – die Art von angenehmen Bildern, die diesem Kerl vor diesem extrem dystopischen schwarzen Hintergrund gezeigt wurden – das war das Gefühl, das ich damals immer durch eine Art Apple-Werbung bekam. Sie schienen einfach zu zeigen, wie alle Spaß hatten, tanzten und lächelten. Und Sie denken nur: „Warte mal einen Moment. Die Dinge sind normalerweise nicht so positiv.“

Und wenn uns plötzlich extrem mächtige Werkzeuge zur Verfügung stehen, werden wir Unglaubliches leisten. Wir werden auch unglaubliche Scheiße machen. Das schien mir also eine begründete Sorge zu sein, die meiner Meinung nach zu diesem Zeitpunkt nicht berücksichtigt wurde.

Und ich erinnere mich an die positive Stimmung rund um den Arabischen Frühling und das Gefühl der Menschen, dass Twitter Demokratie in den Nahen Osten bringt. Und jetzt erscheint mir das alles äußerst naiv. Ich denke, es war immer unvermeidlich, dass wir die Dinge etwas vermasselten.

Aber ich möchte nicht völlig zynisch sein. Die Analogie, die ich immer verwende, ist, dass es – insbesondere bei sozialen Medien – so ist, als ob uns plötzlich ein zusätzliches Glied gewachsen wäre, was erstaunlich ist, weil es bedeutet, dass man gleichzeitig jonglieren und durch sein iPhone scrollen kann. Aber es bedeutet auch, dass wir noch nicht wirklich sicher sind, wie wir es kontrollieren können.

Ich bin manchmal frustriert, wenn Leute die Show als „die Technik ist eine schlechte Show“ bezeichnen. Und ich denke, manchmal reagiere ich wahrscheinlich zu sehr darauf.

Sie haben zu Beginn dieses Gesprächs KI erwähnt. Innerhalb eines Jahres dachten wir: „Sehen Sie sich diese interessante KI-Kunst an, ist das nicht cool oder abgefahren?“ zu „Oh, KI könnte ein Drehbuch mit Chat GPT schreiben“ zu „Jetzt wird KI vielleicht einen ganzen Film oder eine Fernsehsendung machen.“ Betrachten Sie KI als Werkzeug und/oder als Bedrohung?

Ich denke, es ist irgendwie beides. Was mich eigentlich fast mehr als alles andere deprimiert, ist: Ich habe zwei Kinder und eines davon ist 9 Jahre alt und fängt an zu zeichnen und es geht ihm gut. Wirklich gut, vor allem für sein Alter. Er zeichnet und kritzelt voller Stolz. Und ich schaute mir das an und ermutigte ihn, gut gemacht. Und dann war der nächste Gedanke: „Ja, aber ich meine, Illustrator zu sein, das ist heutzutage kein Karriereweg, oder?“

Und dann interessiert sich unser Ältester wirklich fürs Programmieren. Und ich denke, ja, aber lernst du? Ist das so, als würde man Mathematik lernen, und jetzt kommen die Taschenrechner und machen das so, als würde eine Maschine einfach die kniffligen Teile des Programmierens für Sie erledigen.

Daher mache ich mir große Sorgen darüber, welche Auswirkungen dies auf die Beschäftigung im Allgemeinen haben wird.

Ich habe mit all diesen Dingen herumgespielt, Midjourney und so, wie jeder andere auch. Und es ist aufschlussreich – die Bilder, die viral gehen, so etwas; Die Dinge, die ansprechend sind, sind allesamt Mashups, nicht wahr? Es sind alles Kombinationen von Dingen. Also tippte ich ein: „Zeig mir Jack the Ripper im Great British Bake Off-Zelt“ oder so ähnlich. „Zeigen Sie mir, wie Boris Johnson am Set von Seinfeld Paddington Bear die Hand schüttelt.“ Weil es parasitär ist, Dinge aufzusaugen, die wir Menschen gemacht oder erschaffen haben oder sind. Die KI-Kunst hatte also ziemlich schnell etwas Generisches. Entweder handelte es sich um Riffs einer bestehenden IP, oder es war irgendwie zu glatt, wie ein automatisch abgestimmter Gesang.

Ja, man kann es sehen.

Und bei Dingen wie Chat GPT kann ich durchaus erkennen, wie wertvoll es ist, es als eine Art hyperpowered Google zu verwenden. „Oh, schnell: Listen Sie 10 Jobs auf, die jemand im viktorianischen England hätte erledigen können.“ Das kann ich mir als Schreibgerät vorstellen. Und das Beängstigende ist, dass ich mir vorstellen kann, dass Leute damit etwas erzeugen, von dem sie dann behaupten, es zu besitzen, was nicht gut genug ist, um tatsächlich die Prüfung zu bestehen, und dass man dann zu einem günstigen Preis einen Menschen einstellen müsste, um es auf Vordermann zu bringen .

Es sollte wie die Werkzeuge in Photoshop sein. Die meisten Werkzeuge in Photoshop machen mir keine Angst. Ich denke, dass sie für Künstler super nützlich sind.

Ein Ergebnis ist hoffentlich, dass wir unser Spiel verbessern können. Es ist im Moment interessant, dass wir viele formelhafte Filme und so hatten. Ich möchte Superheldenfilme nicht kleinreden – es gibt nur viele davon.

Und das Publikum wirkt erschöpft.

Erschöpft. Weil ich denke, dass es sich tatsächlich so anfühlt, als könnte man zu Chat GPT sagen: „Mach die Beats eines Superheldenfilms aus.“ Sie wissen, wie die Story-Beats aussehen werden.

Können Sie sich vorstellen, es zu benutzen? Ich habe mit Leuten gesprochen, die sagen: „Ja, es ist gut, einen schrecklichen ersten Entwurf zu machen, denn ich schaue mir lieber einen schlechten ersten Entwurf an als eine leere Seite“, oder: „Ich kann Hunderte Ideen mit mir herumwerfen.“ wird schlecht sein, aber einer wird gut sein. Und das ist nützlich für mich.“

Ich glaube nicht, dass es an dem Punkt angelangt ist, an dem man einen auch nur brauchbaren Erbrochenen-Trank schreiben könnte. Ich weiß nicht, ob ich seiner Fähigkeit vertraue, eine Idee hervorzubringen. Spielen Sie jetzt über eine Idee nach, die Sie selbst haben? Das kann ich möglicherweise erkennen.

Aber weil es die Sachen anderer Leute aufsaugt ... Eine andere Sache, die ich [mit Chat GPT] gemacht habe, war: „Geben Sie mir eine Idee für eine Black Mirror-Episode.“ Und es kam sofort mit Dingen zurück, die ... ziemlich allgemein waren. Sie waren die Vorstellung einer Emulationssoftware davon, was eine Black Mirror-Geschichte ist. Und das hat mir einfach das Gefühl gegeben, selbstparasitär zu sein.

Es saugt mich einfach aus. Und ich wäre ziemlich sauer, wenn jemand anderes es benutzen würde, um mich auszubluten. Man hat wahrscheinlich irgendwo gesehen, dass „Black Mirror“ ein bisschen wie „Twilight Zone“ ist, also saugt es wahrscheinlich Rod Serling aus. Es geht wahrscheinlich um RoboCop, Starship Troopers – all diese brillanten Dinge, die ich sehr einflussreich fand …

Und das hast du als Mensch getan. Du hast das ganze Zeug mitgenommen …

Also, ja, ich meine, ich kann dieses Argument auch verstehen. Sicherlich gibt es Episoden von Black Mirror, die direkt inspiriert sind … Wir haben eine Episode namens „USS Callister“ gemacht, die eine Art Star Trek-Geschichte ist. Und es ist sehr direkt von einer Episode von The Twilight Zone mit dem Titel „It's a Good Life“ inspiriert, in der es einen extrem mächtigen 6-jährigen Jungen gibt, der …

Es ist erschreckend.

Es ist erschreckend und es hält bis heute an, und es ist absolut gruselig und erschreckend. Und seltsamerweise versuchte ich mir eine ganz andere Story-Idee auszudenken, die mit Menschen am Arbeitsplatz zu tun hatte und die in ein Musical, etwa ein virtuelles Musical, wie „Grease the Musical“, umgesetzt werden sollte. Und sie wüssten nicht, was ihre Rolle sei. Ich könnte also Sandy sein und du könntest Danny sein, aber wir würden es nicht wissen – unser wahres Ich würde es nicht wissen. Ich habe mit dieser Idee herumgespielt und dann dachte ich: „Gott, du könntest so viele mächtige Dinge tun.“ Und sobald ich dachte: „Was wäre, wenn dies eine Geschichte über einen Tyrannen wäre?“ Ich erinnere mich an die Twilight Zone-Folge ...“

Das ist also ein Beispiel dafür, wie ich parasitär etwas aufsauge, was Rod Serling geschrieben hat, und es durch meine eigene kleine KI in meinem Gehirn schicke. Ich schätze, du nennst es einfach „Ich“. Daran ist nichts Künstliches. Nur mein Ich.

Und du hast etwas völlig Neues geschaffen. Es ist eine Ihrer besten und am meisten gefeierten Folgen.

Ich bin sehr stolz auf diese Folge. Aber hoffentlich ist das ein anderer Prozess, denn ich sage, dass ich Rod Serling da etwas schulde. Es gab einen starken Einfluss. Ich nehme an, [KI] hat das Gefühl, dass dies im industriellen Maßstab gelingt.

Und Sie schrecken davor zurück. Wie Sie wissen, gibt es derzeit im Rahmen des Schauspieler- und Autorenstreiks eine Debatte darüber, wie viel KI wir in unsere Unterhaltung zulassen werden. Glauben Sie, dass das eine echte Angst für Autoren und Schauspieler ist – dass Studios wirklich KI nutzen wollen, um einen Großteil ihrer Arbeit zu ersetzen?

Ich denke, es ist eine echte Angst. Ich denke, die Angst beim Schreiben besteht darin, dass das Studio damit kotzige Entwürfe von Dingen erstellen und dann menschliche Autoren engagieren könnte, um sie deprimierend umzuschreiben. Und mach es menschlich. Und das ist ein sehr deprimierender Zustand.

Aber lassen Sie mich für eine Sekunde den Advokaten des Teufels spielen. Weil es in Ihrem Unternehmen ganz normal ist, dass jemand einen Entwurf schreibt, diese Person dann entlassen und dann mehrmals mehrere Leute hinzugezogen werden, um den Entwurf zu verbessern. Oder oft noch schlimmer.

Das ist sehr zynisch! Ich bin im alten Großbritannien aufgewachsen, wo es hier ganz anders ist – die rücksichtslose Hollywood-Seite des Schreibens erscheint mir erschreckend! Ich hatte ein sehr glückliches Leben als Schriftsteller. Vielleicht habe ich die Aussicht zu rosa gefärbt.

Werden Sie den erklärenden Journalismus von Vox unterstützen?

Die meisten Nachrichtenagenturen verdienen ihr Geld mit Werbung oder Abonnements. Aber wenn es um das geht, was wir bei Vox zu erreichen versuchen, gibt es ein paar große Probleme, wenn wir uns auf Werbung und Abonnements verlassen, um den Betrieb am Laufen zu halten. Erstens schwanken die Werbeausgaben mit der Wirtschaft. Wir wissen oft erst in wenigen Monaten, wie hoch unsere Werbeeinnahmen sein werden, was eine Vorausplanung erschwert. Zweitens sind wir nicht im Abonnementgeschäft tätig. Vox ist hier, um allen zu helfen, die komplexen Probleme zu verstehen, die die Welt prägen – nicht nur den Menschen, die es sich leisten können, für ein Abonnement zu bezahlen. Wir glauben, dass dies ein wichtiger Teil des Aufbaus einer gleichberechtigteren Gesellschaft ist. Und das können wir nicht tun, wenn wir eine Paywall haben. Es ist wichtig, dass wir mehrere Möglichkeiten haben, Geld zu verdienen, genauso wie es für Sie wichtig ist, über ein diversifiziertes Altersvorsorgeportfolio zu verfügen, um die Höhen und Tiefen des Aktienmarktes zu überstehen. Deshalb suchen wir auch nach Zuschüssen und Leserunterstützung, auch wenn Werbung nach wie vor unsere größte Einnahmequelle ist. (Und unabhängig davon, wie unsere Arbeit finanziert wird, haben wir strenge Richtlinien zur redaktionellen Unabhängigkeit.) Wenn Sie auch der Meinung sind, dass jeder Zugang zu vertrauenswürdigen, hochwertigen Informationen verdient, würden Sie Vox heute ein Geschenk machen? Jeder Betrag hilft.

95 $/Jahr

120 $/Jahr

250 $/Jahr

350 $/Jahr

Wir akzeptieren Kreditkarten, Apple Pay und Google Pay. Sie können auch über beitragen

Jede Woche erforschen wir einzigartige Lösungen für einige der größten Probleme der Welt.

Überprüfen Sie Ihren Posteingang auf eine Willkommens-E-Mail.

Hoppla. Etwas ist schief gelaufen. Bitte geben Sie eine gültige E-Mail-Adresse ein und versuchen Sie es erneut.