Ethische Wegscheide für autonome Fahrzeuge: Regulierung hinkt Innovation hinterher
Das weltweite Rennen um die Entwicklung vollständig autonomer Fahrzeuge hat einen entscheidenden Punkt erreicht – nicht auf der Teststrecke oder in regulatorischen Anhörungen, sondern in den moralischen Rahmenbedingungen, die festlegen werden, wie diese Maschinen lebenswichtige Entscheidungen treffen. Während künstliche Intelligenz (KI) weiterhin Mobilitätslösungen der nächsten Generation antreibt, warnt eine wachsende Zahl von Experten davor, dass die ethische Governance gefährlich hinter dem technologischen Fortschritt zurückbleibt. In China ist diese Spannung besonders akut, wo die rasche Einführung intelligenter Verkehrssysteme auf eine unterentwickelte Infrastruktur für die ethische Aufsicht stößt.
Autonome Fahrtechnologien versprechen beispiellose Sicherheit, Effizienz und Zugänglichkeit. Unternehmen wie Baidu, Pony.ai und DeepRoute.ai haben Level-4-Fähigkeiten in städtischen Umgebungen in Beijing, Shanghai und Shenzhen unter Beweis gestellt. Staatlich geförderte Initiativen im Rahmen der „Neuen Infrastruktur“-Politik haben die Einführung intelligenter Straßennetze mit 5G-Konnektivität und KI-gestütztem Verkehrsmanagement beschleunigt. Doch unter dieser Fassade der Innovation klafft eine kritische Lücke: Wer – Mensch oder Maschine – trägt die Verantwortung, wenn ein autonomes Fahrzeug versagt?
Diese Frage ist nicht hypothetisch. In den letzten Jahren haben mehrere Vorfälle mit fortschrittlichen Fahrerassistenzsystemen (ADAS) Alarm ausgelöst. Während in China noch kein tödlicher Unfall gemeldet wurde, der direkt auf vollständige Autonomie zurückzuführen ist, haben Beinahe-Unfälle und Systemstörungen Schwachstellen in der algorithmischen Entscheidungsfindung aufgezeigt. Noch grundlegender offenbaren sie eine systemische Abwesenheit ethischer Protokolle, die auf Chinas einzigartiges Mobilitätsökosystem zugeschnitten sind – dichte Megastädte, gemischte Verkehrsmuster und ein Rechtsrahmen, der sich noch an KI-bedingte Störungen anpasst.
Die ethischen Herausforderungen gehen über die Haftung hinaus. Man betrachte das „Straßenbahnproblem“, neu interpretiert für chinesische Straßen: Sollte ein autonomes Fahrzeug die Sicherheit seiner Insassen priorisieren oder ausweichen, um einen Fußgänger zu vermeiden, der die Straße unerlaubt überquert? Solche Dilemmata sind keine philosophischen Abstraktionen, sondern ingenieurtechnische Entscheidungen, die in Software kodiert werden. Ohne transparente, öffentlich geprüfte ethische Richtlinien werden diese Entscheidungen in Vorstandsetagen oder Forschungslabors getroffen – oft ohne Einbeziehung der am stärksten betroffenen Gemeinschaften.
Chinas Ansatz zur KI-Governance war grundsätzlich proaktiv, in der Praxis jedoch fragmentiert. 2019 richtete das Ministerium für Wissenschaft und Technologie den Nationalen Fachausschuss für die Governance von KI der neuen Generation ein, was die hochrangige Anerkennung ethischer Risiken signalisierte. Im selben Jahr veröffentlichte der Ausschuss die „Governance-Prinzipien für künstliche Intelligenz der neuen Generation: Entwicklung verantwortungsvoller KI“, die Kernwerte wie menschliches Wohlbefinden, Fairness und Rechenschaftspflicht bekräftigten. Diese Prinzipien bleiben jedoch weitgehend aspirationsgebunden. Es fehlt ihnen an Verbindlichkeit, Durchsetzungsmechanismen oder branchenspezifischen Implementierungsstandards – insbesondere für Automobil-KI.
Regulatorische Bemühungen waren ähnlich vorsichtig. Die 2018 gemeinsam vom Ministerium für Industrie und Informationstechnologie, dem Ministerium für öffentliche Sicherheit und dem Verkehrsministerium herausgegebenen „Administrativen Spezifikationen für Straßentests von intelligenten vernetzten Fahrzeugen (Versuchsphase)“ konzentrierten sich hauptsächlich auf technische Sicherheit und Betriebsabläufe. Sie verlangten, dass Testfahrer stets bereit sein müssen, die Kontrolle zu übernehmen, und schrieben die Meldung von Unfällen vor – sagten jedoch wenig über ethisches Design oder moralische Entscheidungsarchitektur aus. Nachfolgende Richtlinien auf Provinzebene in Guangdong, Zhejiang und Beijing spiegelten diese technische Ausrichtung wider und wichen tiefergehenden normativen Fragen aus.
Diese regulatorische Lücke steht in starkem Kontrast zu internationalen Entwicklungen. Die „Ethik-Leitlinien für vertrauenswürdige KI“ der Europäischen Union von 2019 fordern ausdrücklich „menschliche Aufsicht“ und „gesellschaftliches und ökologisches Wohlbefinden“ – Prinzipien, die direkt das Design autonomer Fahrzeuge informieren könnten. Die Ethik-Kommission für automatisiertes und vernetztes Fahren Deutschlands aus dem Jahr 2017 ging noch weiter und erließ 20 Regeln, die Diskriminierung in algorithmischen Entscheidungen verbieten und Datentransparenz vorschreiben – was sie zum weltweit ersten nationalen Rahmenwerk machte, das ethische KI im Transportwesen gesetzlich verankert.
In den Vereinigten Staaten hat sich die Industrie trotz stockender Bundesgesetzgebung teilweise selbst reguliert. Unternehmen wie Waymo, Cruise und Tesla haben KI-Ethik-Charten veröffentlicht, und Konsortien wie die Partnership on AI – mitbegründet von Google, Microsoft, Amazon und IBM – entwickeln gemeinsame Standards für den verantwortungsvollen Einsatz. Diese Bemühungen fördern den öffentlichen Dialog und schaffen de facto Maßstäbe für ethische Leistung, auch wenn sie unvollkommen sind.
China fehlt ein vergleichbares Ökosystem der sektorübergreifenden Zusammenarbeit. Akademische Einrichtungen wie die Tsinghua-Universität und die Chinesische Akademie der Wissenschaften haben durchdachte Arbeiten zur KI-Ethik vorgelegt, und die Beijing Academy of Artificial Intelligence veröffentlichte 2019 die „Beijing KI-Prinzipien“, gefolgt von einem Zusatz für Kinder im Jahr 2020. Doch dabei handelt es sich nach wie vor um freiwillige Rahmenwerke mit begrenzter Wirkkraft in der industriellen Praxis. Unterdessen bleibt das öffentliche Bewusstsein für KI-Ethik gering. Eine Umfrage der China Association for Science and Technology aus dem Jahr 2018 ergab, dass nur 5 % der Forscher über fundierte Kenntnisse ethischer Normen jenseits der Forschungsintegrität berichteten – ein beunruhigender Indikator für ein so sozial eingebettetes Feld wie das autonome Fahren.
Die Folgen dieser Vernachlässigung könnten tiefgreifend sein. Da KI die Arbeitsmärkte umgestaltet, sehen sich Millionen von Berufsfahrern – Lkw-Fahrer, Taxiunternehmer, Zustellpersonal – mit Verdrängung konfrontiert. In Kunshan allein haben die automatisierten Fabriken von Foxconn 60.000 Arbeitsplätze eliminiert, was einen Einblick in die Zukunft des Transportsektors bietet. Ohne proaktive Politik zur Umschulung und sozialen Absicherung könnte KI-bedingte Arbeitslosigkeit die Ungleichheit verschärfen und das öffentliche Misstrauen in den technologischen Fortschritt schüren.
Darüber hinaus bleibt der Datenschutz eine kritische Schwachstelle. Autonome Fahrzeuge sammeln täglich Terabytes an Daten – Geodaten, Verhaltensmuster, sogar biometrische Informationen von Sensoren im Fahrgastraum. Während Chinas Gesetz zum Schutz persönlicher Daten (PIPL) von 2021 grundlegende Privatsphärenrechte festlegt, ist die Durchsetzung im Automobilkontext noch im Entstehen begriffen. Ein Skandal aus dem Jahr 2019 um die Deepfake-App „ZAO“, die Gesichtsdaten unter undurchsichtigen Einwilligungsklauseln sammelte, zeigt, wie leicht KI-Systeme regulatorische Grauzonen ausnutzen können. Vernetzte Fahrzeuge bergen noch größere Risiken: Eine kompromittierte Flotte könnte Massenüberwachung oder gezielte Manipulation ermöglichen.
Um diese Herausforderungen zu bewältigen, ist dringend eine mehrgleisige Governance-Strategie erforderlich. Erstens muss China eine eigene nationale Aufsichtsbehörde für KI-Ethik mit gesetzlicher Befugnis über Hochrisikosektoren wie den autonomen Transport einrichten. Diese Stelle sollte nicht nur Technologen und Rechtswissenschaftler, sondern auch Ethiker, Vertreter der Zivilgesellschaft und Industriepraktiker umfassen, um eine ausgewogene Beratung zu gewährleisten.
Zweitens müssen ethische Prinzipien in technische Standards umgesetzt werden. Beispielsweise könnte das China Electronics Standardization Institute verbindliche Zertifizierungsprotokolle entwickeln, die für alle autonomen Systeme ethische Folgenabschätzungen vorschreiben – ähnlich wie Umweltverträglichkeitsprüfungen für Infrastrukturprojekte. Diese Bewertungen würden die Fairness von Entscheidungsalgorithmen, die Robustheit gegenüber Verzerrungen und die Transparenz der Datennutzung beurteilen.
Drittens ist rechtliche Klarheit in der Haftungsfrage unerlässlich. China sollte sein Zivilgesetzbuch ändern oder eine spezielle KI-Haftungsgesetzgebung einführen, um Verantwortungsketten zu definieren: von Softwareentwicklern und Sensorherstellern bis hin zu Flottenbetreibern und Endnutzern. In Anlehnung an das deutsche Modell könnte das Gesetz eine Betreiberhaftung vermuten, es sei denn, der Hersteller weist nach, dass das System wie designed funktionierte – eine Umkehrung, die rigorose Sicherheitstechnik incentiviert.
Viertens muss die öffentliche Beteiligung institutionalisiert werden. Foren für Bürgerdeliberation – Bürgerversammlungen, Bürgerjurys, partizipative Design-Workshops – können dazu beitragen, ethische Entscheidungen in der KI zu demokratisieren. Wenn Millionen von Fahrzeugen bald in Sekundenbruchteilen moralische Entscheidungen auf öffentlichen Straßen treffen, können diese Entscheidungen nicht allein Ingenieuren überlassen werden.
Schließlich sollte China seine technologische Führungsposition nutzen, um globale Normen mitzugestalten. Indem China in Foren wie der G20, der OECD und den Vereinten Nationen inklusive, menschenzentrierte KI-Governance befürwortet, kann es sich nicht nur als Innovator, sondern auch als verantwortungsvoller Hüter aufstrebender Technologien positionieren. Die Teilnahme an internationalen Normungsgremien – wie ISO/IEC JTC 1/SC 42 zu KI – bietet eine Plattform, um ethische Best Practices zu exportieren und gleichzeitig von globalen Partnern zu lernen.
Das Zeitfenster für proaktive Governance schließt sich. Jedes ohne ethischen Kompass eingesetzte autonome Fahrzeug erhöht das Risiko öffentlicher Gegenreaktionen, regulatorischer Übergriffe oder katastrophaler Ausfälle. Ziel ist es nicht, Innovation zu ersticken, sondern sie auf Ergebnisse zu lenken, die mit gesellschaftlichen Werten übereinstimmen: Sicherheit, Würde, Fairness und Nachhaltigkeit.
Chinas Ambition, bei intelligenter Mobilität zu führen, ist klar. Doch wahre Führung erfordert mehr als technisches Können – sie verlangt moralische Weitsicht. Während die Nation in eine fahrerlose Zukunft beschleunigt, muss der Weg vor uns nicht nur mit Silizium und Stahl, sondern auch mit Weisheit, Verantwortung und einem festen Bekenntnis zur menschlichen Würde gepflastert sein.
Die autonome Revolution wird nicht allein danach beurteilt werden, wie schnell Fahrzeuge fahren, sondern danach, wie weise sie entscheiden. China steht jetzt an diesem ethischen Scheideweg. Die Entscheidungen, die es heute trifft, werden durch Straßen, Gerichte und das Gewissen für Generationen hallen.
Von Yang Bowen, Yi Tong und Jiang Guanghua
Beijing Forschungszentrum für Wissenschaft der Wissenschaft, Beijing 100089
Zeitschrift: Science and Technology Think Tank, 2021, Ausgabe 1
DOI: 10.19881/j.cnki.1006-3676.2021.01.07