Die Google Story | Code Red | 4

00:00:01: Januar, in London.

00:00:08: Großbritannien.

00:00:10: In einem unscheinbaren Büro eines der damals spannendsten Start-ups der Welt.

00:00:15: Deep Mind.

00:00:17: Deep mind arbeitet an künstlicher Intelligenz einer Technologie die es noch in den Kinderschuhen steckt.

00:00:25: Das Büro ist vollgestellt mit Whiteboards und Schreibtischen.

00:00:29: auf einem Bildschirm läuft ein altes Atari Videospiel namens Breakout.

00:00:34: Dabei muss man mit einem kleinen weißen Balken verhindern, dass der Ball ins Aus fliegt.

00:00:40: Sie wird immer besser!

00:00:42: Ja sie lernt.

00:00:44: Vor dem Bildschirm sitzt Google Gründer Larry Page Neben ihm Dennis Hessebis Mitgründer und CEO von DeepMind.

00:00:53: Hessebus ist ein ehemaliges Schachwunderkind Und jetzt Neuro-Wissenschaftler und Spielerentwickler.

00:01:00: Wir haben der KI nicht erklärt, was ein Ball ist oder ein Punkt.

00:01:03: Oder wie das Spiel funktioniert?

00:01:04: Sie probiert aus, verliert und probiert es wieder Und irgendwann versteht sie das Spiel Wenn sie genug Zeit hat und genug Rechenleistung.

00:01:15: Aber DeepMind will mehr entwickeln als eine KI die Computerspiele spielt, oder?

00:01:21: Unser Ziel ist einer allgemeine künstliche Intelligenz Eine KI, die nicht nur eine einzelne Aufgabe beherrscht sondern Wissen auf neue Probleme übertragen kann.

00:01:32: Page Mustard Hazibis Der schaut noch immer auf den Bildschirm Denn es um das zu schaffen braucht ja einen starken Partner.

00:01:40: Google kann euch helfen Mit Rechenzentren?

00:01:44: Mit Rechenzentren mit Geld mit den besten Köpfen.

00:01:48: Ihr müsst eure Modelle nicht auf ein paar Maschinen in London quetschen.

00:01:52: Ich weiß nicht.

00:01:54: Facebook ist auch an uns interessiert Und wenn ich offen sein darf, sie bieten mehr Geld als Google.

00:02:01: Warum verkaufst du da nicht an Facebook?

00:02:04: Weil es nicht nur ums Geld geht!

00:02:07: Genau deshalb ist Google der richtige Ort.

00:02:09: Warum?!

00:02:10: Unsere Mission war immer, Informationen zugänglich zu machen.

00:02:15: Menschen helfen die Welt besser zu verstehen.

00:02:17: Wenn man das zu Ende denkt Geht's nicht darum Wissen zu finden sondern Intelligenz zu verstärken sozusagen Den IQ der Welt erhöhen.

00:02:28: Hm, Hezebys dreht sich jetzt zu Page und schaut ihn direkt in die Augen.

00:02:34: Larry du musst verstehen dass die künstliche Intelligenz für die Menschheit eine unglaubliche Chance sein kann aber sie kann auch zu einem Fluch werden.

00:02:43: Wie meinst Du das?

00:02:44: Wir brauchen Grenzen.

00:02:46: unsere Produkte dürfen niemals militärisch genutzt werden.

00:02:49: keine Waffen Keine Geheimdienste!

00:02:52: DeepMind darf nicht zu einem Werkzeug werden, mit dem Staaten Menschen überwachen oder töten.

00:02:58: Einverstanden?

00:03:00: Larry... Ich will nicht irgendwann lesen dass unsere Forschung in einem Drohnenprogramm gelandet ist.

00:03:06: Das wird nicht passieren.

00:03:08: Okay Dann machen wir es Unter diesen Bedingungen.

00:03:17: Kurst darauf kauft Google DeepMIND für mehrere hundert Millionen Dollar.

00:03:22: Dennis Hessebis bleibt CEO Und die meint ein eigenständiges Unternehmen.

00:03:27: Aber Google bekommt Zugriff auf eines der ehrgeizigsten KI-Labore der Welt.

00:03:33: Damit steigt der Konzern in einen Rennen ein, das größer ist als Internetsuche.

00:03:38: Größer als Smartphones, größer als Werbung!

00:03:42: Das Rennen um die künstliche Intelligenz.

00:03:46: Doch die Bedingungen, die Hessebis in London stellt werden Google noch einholen.

00:03:51: Denn je mächtiger KI wird Das so schwieriger wird die Frage, wer entscheidet wofür sie eingesetzt wird.

00:04:12: Ich bin Marc-Ben Poch und das ist Imperium Die Google Story von Studio J. In der letzten Folge ist aus Google endgültig mehr als eine Suchmaschine geworden.

00:04:37: Der Konzern hat riesige Rechenzentren gebaut Gmail gestartet YouTube gekauft Und mit Android sogar Apple angegriffen.

00:04:46: Google ist zur unsichtbaren Infrastruktur des Internets geworden Suche, E-Mail, Karten, Videos, Smartphones.

00:04:56: Doch je größer Google geworden ist, desto größer wurden auch die Konflikte Datenschutz, Urheberrecht und Zensur in China.

00:05:05: Zurückgeblieben ist ein Bruch im Führungstrio.

00:05:08: Eric Schmidt ist als CEO zurückgetreten Und Larry Page hat selbst wieder übernommen.

00:05:14: Jetzt will Google sich wieder neu erfinden.

00:05:17: Der Konzern strukturiert sich um steckt Milliarden in riskante Wetten auf die Zukunft, darunter auch die künstliche Intelligenz.

00:05:25: Aber je mächtiger diese neue Technologie wird, desto bedrohlicher wird sie für Google!

00:05:31: Wie viel Kontrolle hat ein Konzern über eine Technologie, die immer weiter lernt und die niemand vollständig versteht?

00:05:39: Und was bleibt von Don't Be Evil wenn Google plötzlich an das eigene Überleben denken

00:05:44: muss?!

00:05:46: Das ist Folge vier von vier – Code Red.

00:05:59: In einer großen Werkstatthalle auf dem Google Campus liegt Google X. Intern nennt Google es die Moonshot Factory, ein Testlabor für Ideen, die eigentlich unmöglich klingen.

00:06:12: Zwischen Werkbänken, Kabeln und Prototypen geht Larry Page durch die Halle.

00:06:17: Neben ihm läuft Sunder Pichai – ein hoher Manager bei Google.

00:06:22: Pichai ist ein ruhiger, hochgewachsener Informatiker mit kurzen Haaren und einer schwarzen Brille.

00:06:28: Achtung!

00:06:30: Wenn alles funktioniert sollte er mich nicht überfahren.

00:06:34: An beiden fährt ein kleines Elektrofahrzeug vorbei.

00:06:38: Pichae dreht sich zu Page.

00:06:40: Ist das der neue Prototyp für die selbstfahrenden Autos?

00:06:43: Einer davon Und das ist Project Loon.

00:06:50: Große Balance.

00:06:51: Die Internetverbindungen.

00:06:53: abgelegene Regionen bringen sollen Internet aus der Stratosphäre?

00:06:57: Genau.

00:06:58: Sondern das hier ist der Teil von Google, der mich interessiert – die Zukunftszwecken!

00:07:03: Und was ist mit dem Rest?

00:07:05: Suche Werbung YouTube Android?

00:07:07: Der Rest bezahlt sie und genau das ist das Problem.

00:07:12: Das Kerngeschäft ist das problem?

00:07:15: Nein aber es ist zu wichtig ums nebenbei zu führen... ...und die Zukunftsprojekte sind zu unsicher um sie wie normale Produkte zu behandeln.

00:07:24: Ich will keine Meetings mehr darüber, wie man mit einem Internetballon Geld verdienen kann.

00:07:29: Irgendwann muss er aber Geld verdienen?

00:07:32: Ja, aber nicht am Anfang!

00:07:35: Ich habe darüber schon länger nachgedacht... Google ist zu groß geworden um alle Bereiche Google zu nennen.

00:07:43: Wie meinst du

00:07:43: das?!

00:07:44: Wir brauchen ein Dach über allem Eine Holding.

00:07:47: Ein Teil davon ist Google als Kerngeschäft also die Suche Videos Smartphones und so weiter Und daneben Die anderen riskanten Unternehmen.

00:07:56: Die meint selbstfahrende Autos, Medizintechnik die Internetpalance Und du würdest diese Holding führen?

00:08:04: Ja, Sergei und ich können uns dann auf das große Ganze konzentrieren!

00:08:26: Wenn du glaubst, dass ich der Richtige dafür bin.

00:08:29: Dann mach' ich es!

00:09:00: Genau deshalb kommt es.

00:09:01: im Jahr ist die große Umstrukturierung.

00:09:05: Alphabet wird gegründet.

00:09:07: Es ist der Versuch, zwei sehr unterschiedliche Logiken voneinander zu trennen.

00:09:12: Auf der einen Seite Google Die hochprofitable Maschine, die jeden Tag laufen muss.

00:09:18: auf der anderen Seite die riskanten Wetten Projekte, die Zeit brauchen Geld verbrennen und vielleicht erst in vielen Jahren zeigen ob sie überhaupt funktionieren.

00:09:29: Für Page und Brinn soll Alphabet Ordnung schaffen.

00:09:33: Jede Firma bekommt mehr Eigenständigkeit, eigene Ziele, eigene Führung.

00:09:38: Google selbst wird schlanker.

00:09:41: Doch die Umstrukturierung verändert auch die Kultur – und das zeigt sich anhand des kleinen Satzes Don't Be Evil.

00:09:48: nicht böse sein!

00:09:50: Im neuen Verhaltenskodex vom Mutterkonzern Alphabet steht nicht mehr Don't be Evil sondern Do the Right Thing.

00:09:58: Tu' Das Richtige.

00:10:01: Die offizielle Erklärung ist, Alphabet ist nicht einfach Google.

00:10:06: Unter dem neuen Dach liegen sehr unterschiedliche Firmen.

00:10:09: Jede Einheit soll ihre eigene Kultur und ihre eigenen Regeln entwickeln können.

00:10:14: Nicht alles muss unter dem alten Google-Motto laufen – doch für Kritikerinnen und Kritiker ist der Wechsel mehr als das!

00:10:26: Don't Be Evil war für Google längst unbequem geworden.

00:10:30: Der Satz tauchte immer dann wieder auf wenn der Konzern in Schwierigkeiten geriet Bei Datenschutzdebatten, bei Monopolvorwürfen – bei der China-Frage.

00:10:41: Paige und Bryn werden CEOs von Alphabet.

00:10:44: Sie wollen über dem Ganzen schweben, näher an den großen Wetten weiter weg vom Tagesgeschäft.

00:10:51: Google selbst bekommt einen neuen Chef, Sunder Pichai.

00:10:56: Pichay ist das Gegenteil vom exzentrischen Gründer.

00:10:59: Er gilt nicht als lauter Visionär wie Paige, eher als jemand, der zuhört und sortiert.

00:11:05: Er hat Google Chrome entwickelt und später Android übernommen.

00:11:10: Jetzt soll Pichai Google als riesiges System stabil halten, effizienter, disziplinierter Stärke auf Skalierung ausgerichtet.

00:11:18: Für die Börse ist das eine gute Nachricht!

00:11:21: Für viele im Unternehmen fühlt es sich aber auch an wie der nächste Schritt weg vom idealistischen Gründerprojekt hin zu einem normalen Großkonzern.

00:11:31: Und ausgerechnet in dieser Phase öffnet Google seiner künstlichen Intelligenz Ein neues Geschäftsfeld.

00:11:38: Eines, das viel Geld einbringen kann, dass aber Peaches ruhige Führung gleich vor eine Bewährungsprobe stellt.

00:11:51: März-Kalifornien.

00:11:55: Es ist Vormittags.

00:11:57: Im Googleplex arbeiten Tausend Mitarbeitende an ihren Schreibtischen.

00:12:02: Eine Mitarbeiterin sitzt vor ihrem Bildschirm und liest eine Mail, die sie gerade bekommen hat.

00:12:08: Erst überfliegt sie nur die Betreffzeile dann liest sie genauer.

00:12:13: Was zur Hölle?

00:12:15: Was ist

00:12:16: los?!

00:12:17: Ihr Kollege am Nebentisch dreht sich zu ihr.

00:12:20: Hast du das gesehen, dieses Project Maven?

00:12:23: Nie gehört!

00:12:24: Ich bin gerade eben auch nicht.

00:12:26: Anscheinend arbeiten wir mit dem Pentagon zusammen um unsere KI für Kriegszwecke zu nutzen.

00:12:31: Was!?

00:12:32: Das kann ich sein...

00:12:33: Schau mal in deine Mails.

00:12:38: Auch der Kollege hat die Mail bekommen.

00:12:41: Es ist ein Google-Interna League Der an diesem Morgen im Internet von Google kursiert.

00:12:46: Innerhalb weniger Minuten verbreitet sich die Nachricht durch das Unternehmen.

00:12:50: Project MAVEN ist ein Programm des US-Verteidigungsministeriums unter Präsident Donald Trump.

00:12:57: Das Ziel, künstliche Intelligenz soll helfen riesige Mengen Andronenvideos auszuwerben und Google liefert die Technologie dafür?

00:13:07: Anscheinend ja!

00:13:10: Wo gehst du hin?

00:13:12: Raus!

00:13:15: Die Mitarbeiterin öffnet die Tür des Büros und geht auf den Gang.

00:13:23: Auf den Fluren haben sich bereits Dutzende Mitarbeitende versammelt.

00:13:27: Die Mitarbeiterin geht zu ihrem Team.

00:13:30: Weiß jemand, wer das genehmigt hat?

00:13:32: Und warum erfahren wir erst jetzt davon?

00:13:35: Angeblich soll es nur um Objekterkennung gehen.

00:13:37: Es soll keine Drohnen steuern und keine Waffen auslösen.

00:13:41: Das soll wohl ein Witz sein!

00:13:43: Das heißt dann wir markieren einen Fahrzeug oder eine Person... ...und jemand anderes entscheidet dann zu schießen?

00:13:49: Die Mainz hat doch beim Verkauf Bedingungen gestellt Keine militärische Nutzung.

00:13:54: Und was sagt Sunder dazu?

00:13:56: Hat er das genehmigt?

00:13:58: Keine Ahnung!

00:13:59: Wir schreiben ihm...

00:14:00: Eine

00:14:01: Mail?!

00:14:02: Nein, einen offenen Brief.

00:14:11: Mehr als viertausend Google-Beschäftigte unterschreiben einen offnen Brief an den Google CEOs Sunder Pichai.

00:14:17: Meere Mitarbeitende kündigen sogar.

00:14:20: Project Maven wird zur ersten großen offenen Zerreißprobe zwischen Google und der eigenen Belegschaft.

00:14:28: In dem Brief steht Google soll nicht ins Geschäft mit dem Krieg einsteigen.

00:14:33: Die Mitarbeitenden fordern, dass Google den Mavenvertrag beendet und eine klare Regel aufstellt.

00:14:40: Google und seine Auftragnehmer dürfen niemals Kriegstechnologie bauen.

00:14:45: Google betont die eigene Technologie dienen nur der Analyse.

00:14:50: Sie markieren nur Objekte in Bildern damit Menschen sie überprüfen können.

00:14:54: Aber für viele Mitarbeiter ist genau diese Trennung zu einfach.

00:15:00: Die Drohnenbilder sortiert, ist für sie trotzdem Teil der militärischen Entscheidungskette.

00:15:07: Als Google DeepMind gekauft hat war die friedliche Nutzung von KI ein zentrales Versprechen.

00:15:13: DeepMIND ist zwar nicht direkt an Project Maven beteiligt aber dennoch wirkt es auf viele Mitarbeitende so als bewege sich der Konzern genau in die Richtung vor der DeepMine CEO Dennis Hasebis immer gewarnt hatte.

00:15:28: Für Google gibt's trotzdem starke Gründe solche Aufträge anzunehmen.

00:15:32: Künstliche Intelligenz ist nicht mehr nur ein Forschungsprojekt.

00:15:36: Sie entwickelt sich zu einem sehr lukrativen Geschäftsfeld.

00:15:40: KI und Cloud-Infrastruktur wird für Regierungen, Behörden und das Militär immer wichtiger.

00:15:47: Amazon und Microsoft verdienen längst Milliarden mit staatlichen und militärischen Aufträgen.

00:15:53: Wenn Google dort nicht mitspielt, könnte der Konzern einen wichtigen Zukunftsmarkt verlieren.

00:16:03: Sunder Pichai versucht die Lage zu beruhigen.

00:16:06: Google kündigt an, den Mavenvertrag nicht zu verlängern.

00:16:11: Kurz darauf veröffentlicht der Konzern neue KI-Regeln.

00:16:15: Darin schließt Google den Einsatz von KI für Waffen aus – hält sich aber gleichzeitig die Zusammenarbeit mit Regierungen und dem Verteidigungsministerium offen, solange die Projekte als verantwortbar gelten.

00:16:29: Project Maven zeigt wie schwer es für Google geworden ist, gleichzeitig ein ethisches KI Unternehmen und ein globaler Konzert zu sein!

00:16:38: Und nur wenige Monate später folgt der nächste Skandal.

00:16:42: Wieder geht es um die Frage, ob Google seine eigenen Werte verrät.

00:16:46: Dieses Mal geht das um China.

00:17:05: Herbst-Siehnteilzehn im Googleplex in Kalifornien.

00:17:09: In einem großen Saal sitzen Hunderte Mitarbeitende.

00:17:13: Einige haben Laptops auf den Knien und andere stehen an den Wänden.

00:17:17: Die Stimmung ist angespannt.

00:17:21: Sundar Pitschei betritt den Raum.

00:17:23: Dunkler Pullover zurückhaltender Blick Hallo.

00:17:28: Ich weiß, dass viele von euch Fragen zu Dragonfly haben.

00:17:32: Fragen?

00:17:33: Wir sind sauer!

00:17:34: Nach allem was Jahrzehntausendzehn passiert ist.

00:17:38: Nach dem Google-Zweißentzehn China verlassen hatte, arbeitet der Konzern jetzt wieder an einer zensierten Suchmaschine für China.

00:17:45: Code Name Project Dragonfly.

00:17:48: In den Berichten steht suchanfragen zum Menschenrechten Tibet oder dem Tiananmen Massaker sollen blockiert werden

00:17:55: Und warum wird so etwas im Geheimen entwickelt?

00:17:58: Es gibt noch keine Entscheidung, etwas zu starten.

00:18:01: Wir prüfen nur wie eine chinesische Version funktionieren könnte.

00:18:05: Rund zwanzig Prozent der Weltbevölkerung leben in China.

00:18:09: Unsere Mission ist es Informationen für alle zugänglich zu machen.

00:18:14: wir müssen zumindest verstehen ob wir dort Menschen helfen können

00:18:18: indem wir Informationen ausblenden.

00:18:21: Bei neunundneinzig Prozent der Suchanfragen wird nichts sensiert.

00:18:26: Und da könnten wir bessere Ergebnisse liefern als das, was die Menschen dort heute bekommen.

00:18:32: Gesundheitsfragen zum Beispiel, Informationen zu Krebsbehandlungen oder Medikamenten... ... und bei den anderen Fragen?

00:18:39: Das ist genau die schwierige Abwägung!

00:18:42: So ist es.

00:18:44: Unglaublich!

00:18:45: Genau, das nicht.

00:18:54: Ich verstehe eure Sorgen.

00:18:56: Vor acht Jahren sind wir mit großen moralischen Sprüchen aus China ausgestiegen.

00:19:00: Was hat sich geändert?

00:19:02: China hat sich verändert Das Internet hat sich verändert Und wir müssen uns fragen ob unsere Abwesenheit den Menschen dort wirklich hilft Oder ob unser Rückkehr vor allem Google hilft.

00:19:17: Wir würden nichts starten Ohne sehr sorgfältig über Datenschutz Sicherheit und Menschenrechte nachzudenken.

00:19:25: Dann stoppt das Projekt!

00:19:33: Der Protest im Unternehmen, der Druck von Menschenrechtsorganisationen und die öffentliche Kritik werden zu groß.

00:19:41: Zwei-tausendneunzehn bestätigt Google schließlich – Die Arbeit an Dragonfly ist beendet.

00:19:48: Pichai war angetreten um Google zu beruhigen Doch ohne Page & Brin an der Spitze wirkt Google nicht stabiler sondern angreifbarer.

00:19:58: Die beiden charismatischen Gründer selbst halten sich in diesen Debatten auffällig im Hintergrund.

00:20:04: Und gerade in dem Moment, in dem sich viele Mitarbeitende endlich wieder ihre Führung wünschen, ziehen sie sich noch weiter zurück und der nächste Konflikt steht bald bevor!

00:20:17: Es geht um die mächtigste Technologie des Konzerns – und um eine Forscherin, die öffentlich ausspricht was Google lieber nicht hören will….

00:20:58: Wie weit bist du?

00:20:59: Fast fertig.

00:21:06: Lies mal vor.

00:21:08: Nachdem Alphabet inzwischen gut etabliert ist und Google und die anderen Zukunftswetten weitgehend als eigenständige Unternehmen funktionieren, ist jetzt der natürliche Zeitpunkt gekommen unsere Führungsstruktur zu vereinfachen... ...zu trocken?

00:21:26: Nein!

00:21:27: Passt zu uns!

00:21:28: Kein Drama.

00:21:30: Wir Jahre zuvor haben Page and Brynn Alphabet gegründet um Googles Unternehmensstruktur to vereinfach'n.

00:21:36: Jetzt ist die Führung dran.

00:21:38: Page und Pichai als die CEOs von Alphabet & Google, und Bryn als Präsident von Alphabet.

00:21:46: Alphabet und Google brauchen nicht länger zwei CEOs und einen Präsidenten.

00:21:52: Das ist ziemlich direkt Aber es stimmt ja.

00:21:54: auch.

00:21:56: Den Schluss finde ich gut.

00:21:57: Welchen Teil?

00:21:59: Als wir, undres Server aus einem Studentenwohnheim in eine Garage brachten, hätten wir uns niemals vorstellen können welche Reise damit beginnen würde.

00:22:10: Klingt fast sentimental!

00:22:13: Ja?

00:22:14: Ein bisschen sentimental dürfen wir schon sein Okay... Und jetzt?

00:22:19: Jetzt posten wir den Text.

00:22:26: Am nächsten Tag erscheint der Blog-Post Kurz nüchtern Fast beiläufig.

00:22:32: Larry Page und Sergey Brinn verkünden darin dass sie ihre Führungsrollen abgeben.

00:22:38: Sonder Pichai bleibt damit CEO von Google und übernimmt auch Alphabet.

00:22:43: Offiziell geht es um Vereinfachung.

00:22:46: Alphabet sei etabliert, Google und die anderen Unternehmen würden eigenständig funktionieren.

00:22:52: Pichae führe Google ohnehin längst operativ – jetzt soll er auch das Dach darüber führen!

00:22:58: Es ist das Ende einer Ära.

00:23:00: Doch die beiden Gründer verschwinden nicht ganz.

00:23:03: Sie bleiben im Verwaltungsrat behalten Einfluss und Stimmrechte.

00:23:09: Aber operativ ist ihre Zeit vorbei.

00:23:13: Kein Larry Page mehr, der Google wieder schneller machen will.

00:23:15: – kein Sergey Brinn, der bei politischen Kompromissen unruhig wird!

00:23:20: Für Pichai bedeutet das?

00:23:22: Er übernimmt nicht nur einen der mächtigsten Konzerne der Welt.

00:23:25: Er erbt auch alle Konflikte die Page & Brinn hinterlassen.

00:23:34: Denn Google isst Ende-Zweißundneunzehn längst nicht mehr nur die Suchmaschine, die das Internet ordnet sondern ein globaler Konzern unter Dauerbeobachtung.

00:23:44: In Europa laufen Kartellverfahren, unter anderem wegen seiner marktbeherrschenden Stellung bei der Internetsuche.

00:23:51: Im Unternehmen protestieren Mitarbeitende gegen Project Maven, gegen Dragonfly aber auch gegen den Umgang mit Fällen sexueller Belästigung und Machtmissbrauch im Management.

00:24:02: Rund zwanzigtausend Beschäftigte sind ein Jahr zuvor weltweit deswegen auf die Straße gegangen.

00:24:08: Für viele Beobachter kommt der Rückzug, der Gründer deshalb nicht überraschend.

00:24:12: Page war schon länger kaum noch öffentlich sichtbar – Bryn ebenfalls!

00:24:16: Aber intern wirkt es für manche als hätten sich die beiden genau in den Moment zurückgezogen, in dem Google moralische und politische Führung am meisten gebrauchen könnte.

00:24:39: Ende November-Zweitausendzwanzig In der Nähe von San Francisco Tim mit Gabriel sitzt zu Hause auf dem Sofa vor sich ihr Laptop.

00:24:50: Sie arbeitet wegen der Pandemie im Homeoffice.

00:24:53: Gebro leitet bei Google das Team für KI-Ethik und ist eine der bekanntesten Wissenschaftlerinnen auf diesem Gebiet.

00:25:03: Timnit, danke dass du so kurzfristig Zeit hast!

00:25:06: Was ist los?

00:25:07: Gebro wurde kurzfristigt zu einem Meeting mit einer Google Managerin gebeten.

00:25:12: Es geht um euer Paper über die Gefahren von Large Language Models?

00:25:17: Ja

00:25:18: Gebru veröffentlicht gerade mit einigen Co-Autorinnen und Autoren ein Paper, das vor den Risiken von KI Modellen warnt.

00:25:26: Modelle die auch Google nutzt.

00:25:29: Sie warnt darin dass die künstliche Intelligenz Vorurteile und rassistische Muster aus ihren Trainingsdaten reproduzieren könnte Und dabei enorme Mengen Energie verbraucht.

00:25:40: Was genau ist das Problem an dem paper?

00:25:43: Die interne Prüfung von google hat bedenken.

00:25:46: Das Paper erfüllt in der jetzigen Form nicht unsere Standards.

00:25:49: Wir haben das frühzeitig eingereicht, wir haben Feedback eingeholt.

00:25:54: Es ist ein hochwertiges wissenschaftliches Paper.

00:25:57: Google kann die Veröffentlichung so nicht unterstützen.

00:26:00: Was heißt das?

00:26:02: Ihr müsst das Paper zurückziehen oder die Namen der Google Autorinnen und Autoren entfernen.

00:26:08: Moment!

00:26:09: Ihr wollt dass ich auch meinen Namen von meiner eigenen Forschung nehme?

00:26:13: Oder das paper zurückziehst?

00:26:15: Warum?!

00:26:17: Wer hat das für Anlass?

00:26:18: Ich kann dir keine Namen nennen.

00:26:20: Ich will wissen, wer sagt, dass die Arbeit nicht erscheinen darf und warum.

00:26:24: Timnit – Die Entscheidung steht!

00:26:27: Mit welcher Frist?

00:26:28: Bis nach Thanksgiving….

00:26:30: Das ist in ein paar

00:26:30: Tagen?!

00:26:32: Gebru sitzt da und start auf den Bildschirm...

00:26:36: Ist Google dieses Paper zu unbequem oder was?

00:26:38: Es geht nicht darum Kritik zu unterdrücken.

00:26:41: Genauso fühlt es sich aber an.

00:26:43: Google hat ein Team für KI-Ethik, das Risiken benennen soll.

00:26:48: Und wenn wir Risiken bennennen sollen wir die Arbeit zurückziehen?

00:26:51: Wir bitten dich die Entscheidung zu respektieren!

00:26:54: Dann gebt mir die Gründe.

00:26:56: wer hat das Paper kritisiert?

00:26:57: was genau soll geändert werden und warum erfahre ich das erst jetzt kurz vor der Deadline?

00:27:04: Ich kann dir dazu nicht mehr sagen.

00:27:10: Gebru weigert sich das paper zurückzuziehen.

00:27:13: sie verlangt Transparenz.

00:27:16: kurz darauf arbeitet sie nicht mehr bei Google.

00:27:19: Gebro geht an die Presse und sagt, dass sie gefeuert wurde.

00:27:23: Google sagt, Gebro habe gekündigt und man habe ihre Kündigung akzeptiert!

00:27:28: Die Diskussionen darum gehen durch die Medien.

00:27:32: Denn für viele geht es jetzt nicht nur um ein einzelnes Paper sondern um die Frage wie frei Googles eigene Ethikforschung wirklich ist.

00:27:42: Mehr als ein tausend achthundert Google-Beschäftigte und mehr als zweitausend sechshundert externe Unterstützerinnen und Unterstützer aus Wissenschaft, Techindustrie und Zivilgesellschaft unterschreiben eine Petition für Gebro.

00:27:56: Google hält dagegen!

00:27:58: Das Paper sei zu spät für die interne Prüfung eingereicht worden und erfülle nicht die Standards des Unternehmens.

00:28:05: Gebro und ihr Unterstützer sehen darin etwas anderes – den Versuch, Kritik an einer Technologie zu unterdrücken die für Google wirtschaftlich und strategisch immer wichtiger wird.

00:28:21: Der Fall trifft einen wunden Punkt, denn Gebrus Studie warnt vor den Problemen großer Sprachmodelle – also Large Language Models kurz LLMs, die bald die KI-Debatte bestimmen werden.

00:28:34: Vorurteile in Trainingsdaten, rassistische oder diskriminierende Sprache, hoher Energieverbrauch, Konzentration von Macht bei wenigen großen Konzernen.

00:28:45: Für viele Beobachter klingt Don't be Evil spätestens jetzt wie ein Satz aus einer vergangenen Google-Zeit.

00:28:52: Google wirkt nicht mehr wie ein leuchtendes Beispiel im Silicon Valley, sondern wie ein normaler Techigant – mächtig, defensiv, profitorientiert!

00:29:03: Unkünstliche Intelligenz wird für Google ein immer komplizierteres Feld.

00:29:07: Einerseits will der Konzern verantwortlich handeln und warnt selbst vor Risiken Andererseits arbeitet Google an immer größeren Modellen, integriert KI in die Produkte und versucht den Vorsprung aus der Forschung in ein Geschäft zu verwandeln.

00:29:22: Denn bis dahin war Google durch den Kauf von Dieb Mein der unumstrittene Pionier im KI-Bereich.

00:29:29: Doch jetzt kommt fast aus dem Nichts ein neuer Konkurrent – und Google muss erstmals in seiner Geschichte um seine Existenz bangen!

00:29:44: Anfang Jahrzehntausend dreiundzwanzig Mountain View Kalifornien.

00:29:49: Im Googleplex sitzt Sundar Pichai mit seinem engsten KI-Team in einem Konferenzraum.

00:29:55: Auf den Bildschirmen sieht man nicht Google, sondern ChatGPT – der Chatbot der Firma OpenAI.

00:30:03: Eine Mitarbeiterin steht davor.

00:30:06: Das hier ist gestern viral gegangen.

00:30:08: Jemand hat gepostet?

00:30:10: Schreib mir ein Gedicht über einen Toaster, der sich in einen WLAN verliebt.

00:30:14: Und hier Hausaufgaben für eine Zehntklässlerin, eine Bewerbung Ein Songtext.

00:30:21: Meine Nichte hat sich damit eine Entschuldigung für den Sportunterricht schreiben lassen.

00:30:24: Hat

00:30:25: es funktioniert?

00:30:27: Leider ja.

00:30:28: Es ist absurd und irgendwie beeindruckend.

00:30:31: Millionen Menschen lassen sich gerade Witze schreiben, Gedichte, Referate.

00:30:35: Das Internet ist voll mit Screenshots.

00:30:38: Alle reden nur noch über Chat GPT.

00:30:41: Sie schaut in die Runde.

00:30:43: Ganz hinten am Tisch sitzt Sunder Pichai Die Stirn in Falten gelegt.

00:30:48: Wie schnell wächst ChatGPT?

00:30:50: Schätzungen sagen, hundert Millionen monatlich aktive User in zwei Monaten.

00:30:56: Der am schnellsten wachsende Internetdienst aller Zeiten!

00:30:59: Seit mehr als zwanzig Jahren verdient Google Geld damit Menschen zur richtigen Website zu führen und gleichzeitig Werbung zu verkaufen.

00:31:07: ChatGPP wirkt plötzlich wie eine andere Idee des Internets nicht suchen klicken vergleichen sondern fragen Und sofort eine Antwort bekommen.

00:31:20: Pichai lehnt sich nach vorne und schaut sein Team an.

00:31:24: Was haben wir, dass wir der Öffentlichkeit zeigen können?

00:31:27: Einige Demos für Chatbots Aber nichts davon ist wirklich bereit für die Veröffentlichung.

00:31:32: Dann müssen wir schneller werden!

00:31:34: Aber was ist mit falschen Antworten wenn die KI haluziniert?

00:31:38: Was ist mit Sicherheit?

00:31:39: das sind echte Probleme.

00:31:41: Der Markt wartet nicht bis wir diese Probleme gelöst haben.

00:31:46: Wenn Menschen ihre Fragen künftig direkt an ChatchiPT stellen, ist euch klar was dann passiert.

00:31:52: Dann braucht niemand mehr eine Suchmaschine!

00:31:55: Google könnte obsolät werden... Eine Technologie von gestern.

00:31:58: süß und nostalgisch wie die Discette.

00:32:05: Pizzae steht auf geht an das Whiteboard und schreibt darauf zwei Worte Ja?

00:32:14: ChachyPT isst eine existenzielle Gefahr für uns.

00:32:17: ich möchte dass das hier alle verstehen.

00:32:20: Wir konzentrieren ab jetzt alle Ressourcen auf künstliche Intelligenz, schnellere Tests und gebündelte Teams mehr Geld.

00:32:29: Ich will sofort neue Produkte lauschen!

00:32:36: Jahrelang ist Google vorsichtig damit einen eigenen KI-Chatbot zu veröffentlichen Denn immer wieder hat der Konzern erlebt wie schnell KI zur politischen und moralischen Debatten führen kann.

00:32:48: Doch mit ChatchiPT verschiebt sich die Lage Denn zum ersten Mal seit der Erfindung der Google-Suche sieht es so aus, als könnte jemand anderes bestimmen wie Menschen im Internet Antworten finden.

00:33:01: Pichai ruft intern eine Art Alarmstufe rot aus.

00:33:05: Teams werden umgelenkt, Produktfreigaben beschleunigt – sogar Larry Page und Saige Brinn werden wieder in KI-Besprechungen geholt!

00:33:14: Google muss zeigen wir sind nicht abgehängt.

00:33:19: Im Februar twenty dreiundzwanzig kündigt Google eilig BART an Einen Chatbot als eigenen Konkurrenten zu ChatGPT.

00:33:28: Doch der Start geht schief!

00:33:29: Ausgerechnet in einer Demo, die zeigen soll wie zuverlässig Bartwissen erklären kann, gibt der Chatbot eine offensichtlich falsche Antwort.

00:33:39: Die Börse reagiert brutal.

00:33:41: Alphabet verliert zeitweise rund hundert Milliarden Dollar an Marktwert.

00:33:49: Ende des Jahrzehntes stellt Google dann Gemini vor Die neue Modellfamilie von Google und DeepMind.

00:33:57: Gemini wird schnell in die Suche Chrome, Docs und andere Dienste integriert.

00:34:03: Damit versucht Google das eigene Kerngeschäft zu retten ohne es zu zerstören!

00:34:09: Die Suche soll nicht von KI ersetzt werden sondern selbst zur KI werden.

00:34:13: Doch während Google an dieser Front gegen ChatGPT kämpft verschiebt sich einer anderen Front etwas Grundsätzliches.

00:34:26: hatte Google versprochen, keine KI für Waffen oder militärisch nutzbare Technologien zu entwickeln.

00:34:32: Aber in den vergangenen Jahren überarbeitete Google diese KI-Prinzipien.

00:34:38: Die alten Verbote verschwinden – keine klare Absage mehr an Waffen und Überwachungstechnologien.

00:34:45: Google begründet den Schritt mit einer veränderten Weltlage.

00:34:49: KI sei inzwischen überall und auch relevant im Bereich nationaler Sicherheit!

00:34:55: Viele Insider der Szene sehen aber auch einen Zusammenhang mit der zweiten Amtszeit von Donald Trump.

00:35:02: Und ausgerechnet der Mann, der DeepMind einst an Google verkauft hat, muss jetzt erklären, warum Google seine KI-Regeln geändert hat.

00:35:16: Anfang im Jahr zwanzig in Mountain View, Kalifornien.

00:35:21: Ein großes Meeting im Googleplex, in dem Mitarbeitende der Geschäftsführung Fragen stellen dürfen.

00:35:27: In einer Halle auf dem Google Campus Sitzen um die hundert Mitarbeitende dicht gedrängt auf Stühlen.

00:35:33: Vorne auf der Bühne steht Dennis Hessepis, CEO von DeepMind.

00:35:39: Ich weiß, dass es Fragen zu unserer Arbeit mit Regierungen und im Bereich nationaler Sicherheit gibt.

00:35:47: Mehrere Mitarbeiter melden sich.

00:35:50: Arbeiten wir jetzt an militärischen Projekten?

00:35:53: Und wieso dieser Wandel?

00:35:55: Die Welt ist komplizierter geworden – geopolitisch, technologisch!

00:36:00: Wir glauben, dass Demokratien bei KI führend bleiben müssen und das Unternehmen wie Google mit Regierungen zusammenarbeiten sollten die diese Werte teilen.

00:36:09: Aber wo sind die Grenzen?

00:36:11: Jeder Fall wird geprüft.

00:36:13: wir schauen genau hin.

00:36:15: was ist der Zweck?

00:36:16: wer nutzt die Technologie?

00:36:18: welche Risiken gibt es.

00:36:20: Das klingt nicht wie eine Grenze.

00:36:22: das klingt wie einer Einzelfallentscheidung.

00:36:26: Ich verstehe eure Sorgen aber wir müssen uns klar machen Wenn die demokratischen Staaten diese Systeme nicht verantwortungsvoll nutzen, werden es andere tun und zwar weniger verantwortungssoll.

00:36:40: Ich bin sehr zufrieden mit der Balance, die wir hier bei Google

00:36:43: anstreben.".

00:36:48: Es ist keine laute Konfrontation wie bei Project Maven.

00:36:52: Der Aufschrei bleibt aus – denn selbst Diebmeint rechtfertigt jetzt den Einsatz von künstlicher Intelligenz für Regierungen und Militär.

00:37:04: gibt es nicht mehr.

00:37:07: Larry Page und Sergey Brin haben mit einer genialen Idee das Tor zum Internet gebaut.

00:37:13: Google wurde zur größten Suchmaschine der Welt – und so viel mehr!

00:37:17: Maps, Street View, Chrome, Docs, Android – Produkte die unseren Alltag verändert haben.

00:37:25: Finanziert wurde das alles mit Werbung.

00:37:28: Google hat Milliarden verdient mit Daten, Mit Aufmerksamkeit und Suchanfragen Und trotzdem hat Google lange eine andere Geschichte über sich selbst erzählt.

00:37:38: Wir sind nicht wie die anderen, wir haben ein Motto – Don't be evil!

00:37:48: Doch Google ist längst kein Start-up mehr.

00:37:51: Die Gründer haben sich zurückgezogen.

00:37:54: Aus dem rebellischen Projekt aus dem Studentenwohnheim ist ein globaler Konzern geworden.

00:38:00: Unter Druck von Märkten Regierungen, Konkurrenten und der eigenen Technologie Und das Sunder Pichai steht Google heute in einem Balanceakt.

00:38:10: Zwischen Ethik und Geschäft, zwischen Macht- und Verantwortung, zwischen KI als Zukunftsversprechen... ...und KI als Gefahr!

00:38:21: Und wie dieser Balanceakt endet ist derzeit noch völlig offen.

00:38:31: Das war die vierte und letzte Folge von Imperium Die Google Story – von Studio J. Wenn du mehr erfahren willst über Google empfehlen wir dir das Buch In The Blacks von Steven Levy.

00:38:44: In der nächsten Staffel von Imperium geht es um die Geschichte hinter dem bekanntesten Stern der Autowelt, Mercedes-Benz.

00:38:52: Wir erzählen wie zwei Männer unabhängig voneinander das Automobil erfinden und wie aus ihrem Erbe eine Firma wird, die als nationale Symbol unter einer Diktatur gefeiert wird?

00:39:04: Aus den Kriegstrümmern zur Weltmarke für Qualität und Sicherheit aufsteigt bevor sie dann an ihrem größten Deal beinahe erneut zuzerbrechen droht.

00:39:14: Eine Geschichte von Erfindergeist und Verantwortung, von einem der wertvollsten Markensymbolen der Welt – und der Frage wofür es eigentlich steht?

00:39:24: Folge Imperium jetzt in deiner Podcast-App um die neue Staffel nicht zu verpassen!

00:39:29: Höhre Imperium überall wo es Podcasts gibt.

00:39:33: Übrigens, neben dem Podcast findet ihr Imperium jetzt auch auf YouTube unter podcast.imperium.

00:39:40: Jeden Monat veröffentlichen wir dort ein neues Video das ein Thema aus dem Podcast noch einmal visuell erzählt.

00:39:46: Wir freuen uns wenn ihr vorbeischaut In the Plex von Steven Levy.

00:39:51: Ein Hinweis zu den Dialogen die du gehört hast!

00:39:53: Wir wissen natürlich nicht genau was gesprochen wurde.

00:39:56: Alle Dialoge basieren nach bestem Wissen auf unseren Recherchen.

00:40:00: Ich bin Marc-Ben Poch

00:40:02: Und ich bin Aline Staskowiak.

00:40:04: Kylian Mazzorek hat die Folge geschrieben für StudioJ, ProducerInnen Philippa Halder und Antoine Wendels.

00:40:12: Executive Producer Janis Gebhardt.

00:40:16: Das Sounddesign hat Julian Ortleb gemacht gemischt von Fabian Klinker.