Missverstandener Sprachbefehl schaltet Scheinwerfer eines Elektroautos während der Fahrt aus

Ein missverstandener Sprachbefehl hat in China einen Unfall verursacht, nachdem das Bordsystem eines Elektroautos während der Fahrt in der Dunkelheit die Scheinwerfer deaktivierte. Der Vorfall betraf ein Elektroauto vom Typ Lynk & Co Z20, dessen sprachgesteuertes Assistenzsystem eine Fahreranweisung falsch interpretierte und dadurch die Fahrzeugbeleuchtung abschaltete.

Der Fall hat eine neue Diskussion über Sicherheitsrisiken moderner Sprachsteuerungssysteme in Fahrzeugen ausgelöst. Während Sprachassistenten den Bedienkomfort erhöhen sollen, zeigt der Vorfall, dass Fehlinterpretationen von Befehlen in bestimmten Situationen gefährliche Folgen haben können.

Wie ein Sprachbefehl die Fahrzeugbeleuchtung ausschaltete

Nach den vorliegenden Informationen wollte der Fahrer während der Fahrt lediglich die Innenbeleuchtung des Fahrzeugs ausschalten. Die verwendete Sprachanweisung wurde jedoch vom System falsch interpretiert.

Anstatt nur die Innenbeleuchtung zu deaktivieren, verstand das Sprachsteuerungssystem den Befehl „Schalte alle Lichter aus“ wörtlich. Dadurch wurden nicht nur die Innenlichter, sondern auch die externen Fahrzeugscheinwerfer abgeschaltet.

Das Fahrzeug fuhr damit plötzlich ohne aktive Beleuchtung weiter.

Der Fahrer versuchte mehrfach, die Beleuchtung über Sprachbefehle wieder einzuschalten. Das System erkannte die Anweisungen jedoch nicht korrekt und meldete, dass die gewünschte Aktion nicht ausgeführt werden könne.

Wenige Sekunden später prallte das Fahrzeug gegen eine Leitplanke am Straßenrand.

Der Vorfall zeigt ein zentrales Problem moderner Fahrzeugsysteme: Sprachassistenten müssen natürliche Sprache interpretieren können, dürfen dabei aber sicherheitskritische Funktionen nicht gefährden.

Sofortiges Software-Update von Lynk & Co

Nach dem Unfall reagierte Lynk & Co schnell auf die Situation. Mu Jun, Vertriebsleiter des Unternehmens, erklärte, dass ein dringendes Software-Update für die betroffenen Fahrzeuge veröffentlicht wurde.

Mit dem Update wurde eine neue Sicherheitslogik eingeführt. Nach der Aktualisierung gilt:

• Die äußere Fahrzeugbeleuchtung kann während der Fahrt nicht mehr per Sprachbefehl deaktiviert werden

• Das Abschalten der Scheinwerfer ist während der Fahrt nur noch manuell möglich

Der Hersteller entschuldigte sich öffentlich für den Vorfall und bestätigte, dass das Verhalten des Systems nicht den vorgesehenen Sicherheitsstandards entsprach.

Solche Over-the-Air-Softwareupdates (OTA) gehören mittlerweile zum Standard moderner vernetzter Fahrzeuge und ermöglichen es Herstellern, Fehler schnell zu korrigieren.

Ähnliche Schwachstellen auch bei anderen Fahrzeugmarken entdeckt

Der Vorfall sorgte schnell für Aufmerksamkeit in der Elektroauto-Community. Besitzer anderer Fahrzeuge begannen, ähnliche Sprachbefehle in ihren eigenen Autos zu testen.

Dabei stellte sich heraus, dass einige Modelle der Marken Zeekr und Deepal vergleichbare Systemlogiken aufwiesen.

Direkte Befehle wie „Schalte die Scheinwerfer aus“ wurden in den meisten Fällen blockiert. Allgemeinere Sprachbefehle wie „Schalte alle Lichter aus“ konnten jedoch unter bestimmten Umständen die Schutzmechanismen umgehen.

Dies deutet darauf hin, dass manche Systeme auf regelbasierte Filter für Sprachbefehle setzen, die nicht alle möglichen Varianten natürlicher Sprache korrekt berücksichtigen.

Beide Hersteller erklärten später, dass Softwareupdates veröffentlicht wurden, um diese Sicherheitslücke zu schließen.

Die wachsende Bedeutung von Sprachassistenten in Elektroautos

Sprachsteuerungssysteme spielen eine immer größere Rolle in modernen Fahrzeugen, insbesondere in Elektroautos mit umfangreicher digitaler Benutzeroberfläche.

Hersteller integrieren Sprachassistenten, um Fahrern zu ermöglichen, verschiedene Funktionen zu steuern, ohne den Blick von der Straße oder die Hände vom Lenkrad nehmen zu müssen.

Typische Funktionen, die per Sprachbefehl gesteuert werden können, sind:

• Navigationssysteme

• Klimaanlage

• Infotainment-Systeme

• Telefonfunktionen

• Innenbeleuchtung

• Fahrzeugeinstellungen

In fortgeschritteneren Fahrzeugplattformen lassen sich sogar Fahrmodi, Sitzpositionen oder Fahrzeugdiagnosen per Sprachsteuerung verändern.

Mit dieser zunehmenden Integration steigt jedoch auch die Verantwortung für eine sichere Systemarchitektur.

Die Herausforderung der natürlichen Sprachverarbeitung im Auto

Sprachassistenten basieren auf Natural Language Processing (NLP), also der Verarbeitung natürlicher Sprache durch künstliche Intelligenz.

Diese Systeme müssen gesprochene Sprache analysieren und in konkrete technische Befehle für Fahrzeugfunktionen umwandeln.

Die Schwierigkeit besteht darin, dass natürliche Sprache oft mehrdeutig ist.

Ein einfacher Befehl wie:

„Schalte das Licht aus“

kann verschiedene Bedeutungen haben, zum Beispiel:

• Innenbeleuchtung

• Armaturenbrettbeleuchtung

• Ambientebeleuchtung

• Scheinwerfer

Ohne ausreichenden Kontext kann ein Sprachsystem eine falsche Interpretation treffen.

In sicherheitskritischen Umgebungen wie Fahrzeugen kann eine solche Fehlinterpretation problematische Folgen haben.

Sicherheitsdesign moderner Fahrzeug-Sprachsysteme

Aus diesem Grund entwickeln Automobilhersteller Sprachsteuerungen mit umfangreichen Sicherheitsbeschränkungen für kritische Funktionen.

Viele Fahrzeuge verhindern beispielsweise per Software:

• das Abschalten der Scheinwerfer während der Fahrt

• das Öffnen von Türen bei hoher Geschwindigkeit

• das Deaktivieren wichtiger Fahrerassistenzsysteme

• das Ausschalten sicherheitsrelevanter Warnfunktionen

Der Vorfall mit Lynk & Co zeigt jedoch, dass indirekte oder allgemeine Befehle manchmal Sicherheitslogiken umgehen können, wenn die Software nicht alle möglichen Sprachvarianten berücksichtigt.

Solche Fälle gehören zu den sogenannten Edge-Case-Fehlern in komplexen Softwaresystemen.

Software-Updates als zentraler Sicherheitsmechanismus moderner Fahrzeuge

Die Möglichkeit, Softwareupdates über das Internet zu verteilen, hat die Fahrzeugindustrie grundlegend verändert.

Früher mussten Softwareprobleme häufig durch Werkstattbesuche oder Rückrufaktionen behoben werden.

Heute können Hersteller Fehler in der Fahrzeugsoftware ähnlich wie bei Smartphones korrigieren.

OTA-Updates ermöglichen es Unternehmen:

• Softwarefehler zu beheben

• Sprachalgorithmen zu verbessern

• Sicherheitsbeschränkungen anzupassen

• neue Funktionen einzuführen

• Systemstabilität zu erhöhen

Gleichzeitig zeigt diese Entwicklung, dass moderne Fahrzeuge zunehmend zu softwaredefinierten Plattformen werden.

Lynk & Co Z20 und seine europäische Version

Das betroffene Fahrzeug, der Lynk & Co Z20, gehört zur neuesten Generation vernetzter Elektroautos des chinesisch-schwedischen Herstellers Lynk & Co.

In Europa wird das Modell unter dem Namen Lynk & Co 02 angeboten.

Das Fahrzeug positioniert sich im Segment der kompakten elektrischen Crossover-SUVs und verfügt über eine moderne digitale Plattform mit Sprachsteuerung, Online-Diensten und regelmäßigen Softwareupdates.

Wie viele neue Elektroautos basiert auch dieses Modell stark auf softwaregesteuerten Fahrzeugfunktionen.

Was der Vorfall über die Sicherheit moderner Smart Cars zeigt

Der Unfall macht deutlich, dass Softwarezuverlässigkeit in modernen Fahrzeugen genauso wichtig geworden ist wie mechanische Zuverlässigkeit.

Mit der zunehmenden Integration von künstlicher Intelligenz, Sprachsteuerung und Cloud-Diensten müssen Fahrzeughersteller sicherstellen, dass ihre Systeme auch unter ungewöhnlichen Bedingungen korrekt funktionieren.

Der Vorfall mit Lynk & Co zeigt, dass selbst scheinbar einfache Funktionen wie eine sprachgesteuerte Beleuchtung unerwartete Risiken bergen können.

Für die Automobilindustrie bedeutet dies, dass Sprachassistenten künftig mit strengen Sicherheitslogiken, Kontextanalyse und fehlertoleranten Mechanismen entwickelt werden müssen, um gefährliche Situationen während der Fahrt zuverlässig zu verhindern.

---

Die in diesem Beitrag verwendeten Bilder stammen entweder aus KI-generierter Quelle oder von lizenzfreien Plattformen wie Pixabay oder Pexels.

Dieser Artikel kann Affiliate-Links enthalten...