Am 5. Juni 1944 unterbrach ein Kurier des britischen Codeknackzentrums Bletchley Park eine Planungssitzung für den D-Day und übergab General Dwight Eisenhower eine streng geheime Nachricht. Nachdem er den Zettel gelesen hatte, erklärte der Oberbefehlshaber der Alliierten in Europa: „Wir gehen morgen.“
Die Nachricht enthielt eine entschlüsselte deutsche Funkübertragung von Adolf Hitler, in der er seinem Oberbefehlshaber in Frankreich mitteilte, dass die bevorstehende Invasion der Alliierten in der Normandie eine Finte sei; Die anschließende Verzögerung bei der Umverteilung deutscher Truppen erwies sich als entscheidend dafür, dass die alliierten Streitkräfte ihre Brückenköpfe sichern konnten. Die Technologie, die die Entschlüsselung ermöglichte, war der weltweit erste elektronisch programmierbare Computer. Es heißt Colossus und wurde von Tommy Flowers, einem bescheidenen englischen Postingenieur, entworfen.
Diese Episode war das erste Beispiel dafür, dass ein Computer einen entscheidenden Einfluss auf die Weltgeschichte hatte, schlägt Nigel Toon in seinem prickelnden neuen Buch über künstliche Intelligenz „How AI Thinks“ vor. Aber es war nur ein Vorgeschmack auf das, was folgte; In den folgenden acht Jahrzehnten sind Computer exponentiell leistungsfähiger geworden und haben ihren Einfluss auf nahezu jeden Aspekt unseres Lebens ausgeweitet.
Einer Revolution in der Computerhardware folgte eine ähnliche Revolution in der Software – insbesondere in jüngster Zeit die rasante Entwicklung der KI. Seit das Start-up OpenAI aus San Francisco im November 2022 seinen ChatGPT-Chatbot auf den Markt brachte, haben Millionen von Nutzern die nahezu magischen Kräfte generativer KI aus erster Hand erlebt. Mit einem Mausklick ist es nun möglich, plausible Shakespeare-Sonette über einen Goldfisch anzuregen, gefälschte Fotos des Papstes in einer Steppjacke zu erstellen oder einen Computercode in einen anderen zu übersetzen. Alle drei hier besprochenen Bücher unterstreichen das enorme Versprechen der Technologie, warnen aber auch vor den Gefahren ihres Missbrauchs.
Toon ist ein leidenschaftlicher Kartenträger, der sich für Vorteile in so unterschiedlichen Bereichen wie Wettervorhersage, Arzneimittelentwicklung und Kernfusion einsetzt. „Künstliche Intelligenz ist das mächtigste Werkzeug, das wir je geschaffen haben“, schreibt er. „Wer sich die Zeit nimmt, zu verstehen, wie künstliche Intelligenz denkt, wird am Ende die Erde erben.“
Als Mitbegründer des britischen Halbleiter-Start-ups Graphcore, das Chips für KI-Modelle entwickelt, arbeitet Toon an der Spitze der Technologie, doch selbst er gibt zu, immer wieder überrascht zu sein, wie schnell sich die Dinge entwickelt haben. „How AI Thinks“ bietet eine kurze und fundierte Einführung in die Entwicklung der KI seit der ersten Prägung des Begriffs im Jahr 1955, wie sie heute verwendet wird und wie sie (wir hoffen) kontrolliert werden kann.
Moderne Halbleiterbauelemente sind die fortschrittlichsten Produkte, die Menschen jemals hergestellt haben. Seit der Erfindung des ersten integrierten Schaltkreises im Jahr 1960 ist die Anzahl der Transistoren, die auf einen einzelnen Chip passen, um das 25-Milliardenfache gestiegen. „Wenn Ihr Auto so viel besser geworden wäre, könnten Sie jetzt problemlos etwa 200-fache Lichtgeschwindigkeit fahren“, schreibt Toon.
Er ist auch geschickt darin, die darauffolgende Software-Revolution zu erklären, die es KI-Forschern ermöglichte, über regelbasierte Berechnungen und Expertensysteme hinaus zu den Mustererkennungs- und „Lern“-Fähigkeiten neuronaler Netze überzugehen, die unsere heutigen KI-Modelle antreiben. Wenn diese Modelle auf die riesige Datenmenge losgelassen werden, die seit der Entstehung des World Wide Web generiert wurde, können sie wundersame Dinge bewirken. Im Jahr 2021 generierten alle unsere vernetzten Geräte etwa 150-mal mehr digitale Informationen pro Jahr als jemals zuvor vor 1993.
Doch egal wie leistungsfähig Computer geworden sind, sie haben immer noch Schwierigkeiten, die außergewöhnliche Rechenleistung der 86 Milliarden Neuronen im typischen menschlichen Gehirn zu erreichen. Menschen haben eine phänomenale Fähigkeit, aus Datenfragmenten zu verallgemeinern und scheinbar zufällige Informationen zu kontextualisieren. Toon erinnert sich, wie er 2021 hinten in einem schwarzen Londoner Taxi saß, als der Fahrer zu ihm sagte: „Haben Sie von Ronaldo gehört? Sie werden jetzt viel besser spielen, finden Sie nicht? Ich habe gehört, dass es der Gouverneur war, der das möglich gemacht hat. Die Stadt muss wirklich verärgert sein.“
Toon verstand intuitiv, dass der Fahrer sich auf den weltberühmten Fußballspieler Cristiano Ronaldo bezog, der gerade vom ehemaligen Trainer Sir Alex Ferguson zum Ärger des Vereinsrivalen Manchester City zurück zu Manchester United gelockt worden war.
Zumindest im Moment würde ein KI-System Schwierigkeiten haben, solche Scherze zu verstehen. Wie Toon erklärt, ist das Autofahren selbst ein weiteres großartiges Beispiel für die Flexibilität der menschlichen Intelligenz. Ein Fahrschüler braucht etwa 20 Stunden Unterricht, um bewusst kompetent zu werden. Im Gegensatz dazu hat Waymo, Alphabets Unternehmen für autonomes Fahren, im Jahr 2022 in Kalifornien 2,9 Millionen Fahrmeilen zurückgelegt und immer noch keine vergleichbare Leistung erreicht.
Weniger sicher ist Toon bei der Untersuchung der regulatorischen und politischen Debatten rund um den Einsatz von KI. Hier übernimmt Verity Harding in AI Needs You den Staffelstab. Harding war ehemaliger Sonderberater von Nick Clegg, als er Großbritanniens stellvertretender Premierminister war, und ehemaliger Leiter der Abteilung Politik bei Google DeepMind. Er ist zweisprachig in Politik und Technik. Ihr Ziel ist es, zu untersuchen, wie wir wichtige Technologien in der Vergangenheit reguliert haben, um uns Hinweise darauf zu geben, wie wir KI in Zukunft am besten steuern können.
Die drei wichtigen internationalen Beispiele, die sie auswählt – der Wettlauf ins All im Kalten Krieg, die In-vitro-Fertilisation und die Verbreitung des Internets – enthalten alle wichtige Lehren und werfen ein interessantes Licht darauf, wie wir mit KI umgehen sollten. Harding begrüßt den Weltraumvertrag der Vereinten Nationen von 1967, der den Weltraum als „Provinz der gesamten Menschheit“ etablierte, als bemerkenswertes Beispiel internationaler Zusammenarbeit. Der Vertrag wurde unterzeichnet, als die Spannungen zwischen den USA und der Sowjetunion ihren Höhepunkt erreichten. Er wurde als „Magna Carta des Weltraums“ bezeichnet und verhinderte eine Militarisierung und stellte sicher, dass keine Nation die Souveränität über einen Himmelskörper beanspruchen konnte.
Es ist empörend, dass eine möglicherweise die Zivilisation verändernde Technologie auf Geheiß großer Konzerne und ohne Rücksprache mit der Öffentlichkeit eingeführt wurde
Für Harding birgt der Vertrag drei Lehren. Politische Führung ist wichtig, und mutige Politiker können selbst in Zeiten geopolitischer Spannungen für beide Seiten vorteilhafte internationale Abkommen schließen. Rivalisierende Mächte können den schlimmsten Auswüchsen der Kriegsführung Grenzen setzen. Und die Wissenschaft kann – und sollte – genutzt werden, um die internationale Zusammenarbeit zu fördern. In diesem Sinne sollten KI-Forscher an Projekten arbeiten, die der gesamten Menschheit zugute kommen, und nicht nur „technonationalistischen Zaunbau“ betreiben.
Die Debatten über Embryonenforschung und In-vitro-Fertilisation in den 1970er und 1980er Jahren warfen sehr unterschiedliche Fragen auf. Harding argumentiert jedoch, dass sie in vielerlei Hinsicht viele der ethischen, moralischen und technischen Probleme im Zusammenhang mit KI vorweggenommen haben. Die Philosophin Mary Warnock, die den Vorsitz eines Ausschusses zur Untersuchung dieser Dilemmata innehatte, hat in ihrem 1984 veröffentlichten Bericht bemerkenswerte Arbeit geleistet, indem sie klare moralische Linien und praktische Wege zur Regulierung dargelegt hat. Diese Regeln haben seitdem die Geburt von rund 400.000 IVF-Babys im Vereinigten Königreich ermöglicht und förderte die Entwicklung einer dynamischen Biowissenschaftsbranche. Im Gegensatz zu der bekannten Behauptung, dass Regulierung Innovationen abtöte, argumentiert Harding, dass die von der Warnock-Kommission geschaffene politische, moralische und rechtliche Klarheit tatsächlich Investitionen und Wirtschaftswachstum angekurbelt habe.
Hardings drittes Beispiel ist die außerordentlich einflussreiche, aber wenig bekannte technokratische Institution namens Internet Corporation for Assigned Names and Numbers (Icann). Durch die Aufrechterhaltung der „Installation“ des Internets und den Widerstand gegen das Eindringen von Nationalstaaten und mächtigen Privatunternehmen hat Icann das World Wide Web als offenen und dynamischen Raum bewahrt. „Es ist eine vertrauensbasierte, konsensbasierte, globale Organisation mit begrenzter, aber absoluter Macht. In einer Zeit des Zynismus und der bitteren, spaltenden Politik ist das ein Wunder“, schreibt sie.
Harding beschreibt ihr Buch als „Liebesbrief“ an die unscheinbare, mühsame Arbeit der Politikgestaltung in einer Demokratie und fordert Politiker – und die Zivilgesellschaft – auf, sich an Debatten über den Einsatz von KI zu beteiligen und die Zukunft positiv zu gestalten. Die Dankesrede von Martin Luther King Jr. anlässlich des Friedensnobelpreises von 1964 über die Notwendigkeit moralischer Intervention sollte an die Wand jedes Technologie-CEOs geklebt werden: „Wenn die wissenschaftliche Macht die moralische Macht übersteigt, haben wir am Ende Lenkraketen und fehlgeleitete Männer.“
Die Autoren von Als ob ein Mensch Wir sind auch besorgt über die menschliche Dimension der Technologie und stellen sicher, dass Maschinen unseren Befehlen gehorchen und nicht außer Kontrolle geraten. Sir Nigel Shadbolt, Professor für Informatik an der Universität Oxford, und der Wirtschaftswissenschaftler und ehemalige Beamte Roger Hampson erforschen in ihrem eleganten und gelehrten Buch die Ethik der KI. Sie vertreten die Auffassung, dass wir Maschinen immer so behandeln sollten, als ob Menschen an sie gebunden wären, und sie denselben, wenn nicht sogar höheren Maßstäben der Rechenschaftspflicht unterwerfen sollten: „Wir sollten sie moralisch beurteilen, als wären sie Menschen.“
Das Paar argumentiert, dass wir bessere technologische Werkzeuge zur Verwaltung unserer persönlichen Daten sowie neue öffentliche Institutionen wie Datentreuhandfonds und Genossenschaften benötigen, die als Verwalter des Gemeinwohls fungieren können. „Es ist empörend, dass eine möglicherweise zivilisationsverändernde Technologie auf Geheiß großer Konzerne eingeführt wurde, ohne Rücksprache mit der Öffentlichkeit, Regierungen oder internationalen Organisationen“, schreiben sie.
Abschließend schlagen sie mit sieben „Sprichwörtern“ vor, wie wir unsere KI-Zukunft angehen sollten, und betonen dabei die Notwendigkeit von Transparenz, Respekt und Rechenschaftspflicht. Ihr Grundprinzip ist, dass „eine Sache sagen sollte, was sie ist, und sein sollte, was sie sagt“ und stets gegenüber den Menschen rechenschaftspflichtig bleiben sollte. Aber ein Sprichwort bringt den Geist ihres Buches besonders gut auf den Punkt: „Entscheidungen, die viele Menschen betreffen, sollten viele Menschen einbeziehen.“
Obwohl sich diese drei Bücher in Schwerpunkt, Ton und Betonung unterscheiden, kommen sie zu ähnlichen Schlussfolgerungen. Alle diese Autoren betonen die Vorteile, die KI bei klugem Einsatz mit sich bringen kann, machen sich aber Sorgen über die gesellschaftlichen Belastungen, die sich aus einem schnellen oder rücksichtslosen Einsatz der Technologie ergeben. Sie alle spielen die Ängste vor existenziellen Risiken, auf die einige KI-Forscher hingewiesen haben, herunter, wenn nicht sogar, und betrachten sie im Moment eher als spekulative Sorge denn als eine hier und jetzt bestehende Sorge. Noch besorgniserregender ist für sie die übermäßige und beispiellose Konzentration der Konzernmacht in den Händen einer kleinen Gruppe von Führungskräften der Westküste.
Die überwältigende Botschaft, die aus diesen Büchern hervorgeht, so ironisch sie auch erscheinen mag, ist eine neu entdeckte Wertschätzung der kollektiven Kräfte menschlicher Kreativität. Wir staunen zu Recht über die Wunder der KI, aber noch erstaunlicher sind die Fähigkeiten des menschlichen Gehirns, das 1,4 kg wiegt und nur 25 Watt Strom verbraucht. Aus gutem Grund wird er als der komplexeste Organismus im bekannten Universum bezeichnet.
Wie die Autoren zugeben, sind auch Menschen zutiefst fehlerhaft und zu großer Dummheit und perverser Grausamkeit fähig. Aus diesem Grund begrüßt der technologieorientierte Flügel des Silicon Valley aktiv den Aufstieg der KI und glaubt, dass maschinelle Intelligenz bald die menschliche Art verdrängen und zu einem rationaleren und harmonischeren Universum führen wird. Aber Fehlbarkeit kann paradoxerweise untrennbar mit Intelligenz verbunden sein. Wie der Computerpionier Alan Turing feststellte: „Wenn von einer Maschine erwartet wird, dass sie unfehlbar ist, kann sie nicht auch intelligent sein.“ Wie intelligent sollen unsere Maschinen sein?
Wie KI denkt: Wie wir sie aufgebaut haben, wie sie uns helfen kann und wie wir sie kontrollieren könnenvon Nigel Toon, Penguin £22, 320 Seiten
KI braucht Sie: Wie wir die Zukunft der KI verändern und unsere eigene retten könnenvon Verity Harding, Princeton University Press £20, 288 Seiten
Als ob ein Mensch: Ethik und künstliche Intelligenzvon Nigel Shadbolt und Roger Hampson, Yale University Press £20, 272 Seiten
John Thornhill ist der Innovationsredakteur der FT
Treten Sie unserer Online-Buchgruppe auf Facebook im FT Books Café bei und abonnieren Sie unseren Podcast Life & Art, wo immer Sie ihn hören
