US-Verkehrsminister Sean Duffy hat hart daran gearbeitet, autonome Fahrzeuge zu deregulieren, damit die Technologie amerikanische Straßen schneller überschwemmen kann. Mittlerweile versuchen einige, diese Technologie zu verbessern, damit sie harmonischer und sicherer mit Menschen zusammenarbeitet.
Forscher des MIT haben zusammen mit Motional – einem Unternehmen für autonome Fahrzeugtechnologie – kürzlich ihre Studie in Nature veröffentlicht. Sie entwickelten ein Programm, das einem Menschen sagen konnte, was er sah und was er tat, um zu sehen, ob es Menschen helfen könnte, besser zu verstehen, wie die KI in einem autonomen Fahrzeug funktioniert. Denken Sie darüber nach: In einem kürzlich erschienenen Jalopnik-Artikel haben wir Duffys AV-Framework besprochen, in dem es im Wesentlichen hieß: „Hey, autonome Fahrzeuge brauchen keine Bremspedale oder Notbremshebel.“ Dort haben wir darüber nachgedacht, welche Konsequenzen das für Notsituationen haben könnte, die die KI nicht angemessen vorhersagen oder bewältigen kann, und welche Optionen Sie haben. Autonome Fahrzeuge haben durch mehrere gut dokumentierte Ausfälle in realen Notfällen bewiesen, dass sie alles andere als perfekt sind. Und dabei sind die „Fahrerunterstützungs“-Systeme für autonomes Fahren bei Teslas nicht eingerechnet, die beim Auffahren auf Gebäude, Motorräder usw. aktiviert wurden.
Fügen Sie nun einen Algorithmus in den Rahmen der autonomen Fahrzeugtechnologie ein, der es der KI ermöglicht, Ihnen zu sagen, warum das Auto das tut, was es tut. Der Gedanke ist, dass, wenn ein Mensch Feedback in Echtzeit erhalten kann, der „Fahrer“ aufmerksamer sein kann, um einige der oben genannten Probleme zu verhindern, aber es kann Entwicklern auch dabei helfen, wertvolles Feedback darüber zu erhalten, wie das KI-System in Umgebungen reagiert, um seine Reaktionen besser zu verbessern.
KI in KI einfügen, um KI zu übersetzen
Zu diesem Zweck haben MIT und Motional ein System namens „Concept-Wrapper Network“ oder CW-Net erstellt. Dieses speziell entwickelte Netzwerk ist selbst ein KI-Algorithmus, der auf 130 Millionen Beispielszenen selbstfahrender Fahrzeuge mit mehreren gekennzeichneten Konzepten in jeder Szene trainiert wurde. Mit anderen Worten: Sie haben Konzepte klassifiziert, die die KI wie Richtungen (links, rechts, geradeaus) und Geschwindigkeit durch Anhalten und Verlangsamen erfassen kann, oder sie haben ihr Dinge wie eine Kreuzung, eine Ampel, einen Fußgänger beigebracht, was Folgen bedeutet und was sie verfolgen. Von dort aus wird das Netzwerk an das maschinelle Lernsystem eines AV angeschlossen, um dessen Aktionen zu „übersetzen“.
Bei realen Tests blieb ein AV-Gerät mit integriertem Netzwerk vor einem Verkehrskegel stehen. Die Forscher sagten, der menschliche Fahrer habe geglaubt, dass der Kegel der Grund für den Stopp sei, aber das AV gab an, dass es sich „auf ein angehaltenes Fahrzeug näherte“. Jetzt gibt es eine Anpassung, an der die Entwickler arbeiten müssen. Es hilft den Fahrern auch zu verstehen, „was der Stau ist“, der in diesem speziellen Fall ärgerlich sein könnte. In einem anderen Test untersuchten die Forscher, wie ein AV mit Radfahrern interagieren würde, und hatten Schwierigkeiten, sie zu erkennen. Der Fahrer bemerkte diesen wiederholten Fehler und konnte die Geschwindigkeit und den Kurs des AV anpassen, um einer Situation auszuweichen.
Ein Auto, das einem sagt, was es tut, könnte für die Insassen, die in den heutigen autonomen Freilandfahrzeugen mitfahren, etwas übertrieben sein. Aber diese Art von Rückmeldung kann Fahrer auch über unpassende Stopps und Pannen auf dem Laufenden halten. Und für nervöse Anwender wie mich könnte es hilfreich sein, wenn die Maschine auf diese Weise erklärt, was sie tut, viele Vorbehalte gegenüber der Technologie zu lindern. Oder es kann es noch schlimmer machen, aber wir werden versuchen, positiv zu bleiben.
Das CW-Net könnte theoretisch auch Benutzern von Freisprechsystemen wie GMs Super Cruise, Fords BlueCruise und Teslas Autopiloten zugute kommen. Diese Systeme dienen dazu, einen Teil Ihres Fahrverhaltens zu automatisieren, aber Sie (der menschliche Fahrer) müssen dennoch aufmerksam sein und wissen, was vor sich geht. Wenn es mit Ihnen spricht, werden Sie aufmerksam sein, was dazu beitragen kann, die Fahrer bei der Arbeit zu halten, die Berichten zufolge Schwierigkeiten haben, bei der Arbeit zu bleiben, wenn diese Systeme aktiviert sind.
Weitere Anstrengungen zur Verbesserung des autonomen Fahrens
Die Arbeit von MIT und Motional ist nicht der einzige Versuch, das autonome Fahren zu verbessern. Forschungen an der Tandon School of Engineering der New York University und am Mobility Lab der UCLA suchen nach Möglichkeiten, wie AVs miteinander kommunizieren können, um jedem Auto dabei zu helfen, sein Wissen über seine Umgebung weiter zu erweitern. Yong Liu, Professor an der NYU und Leiter des dortigen Projekts, erklärte: „Ein Auto, das nur in Manhattan gefahren ist, könnte jetzt von anderen Fahrzeugen etwas über die Straßenverhältnisse in Brooklyn lernen, auch wenn es selbst dort nie fährt. Dadurch würde jedes Fahrzeug intelligenter und besser auf Situationen vorbereitet, denen es persönlich noch nicht begegnet ist.“
Was die Arbeit der UCLA betrifft, so besteht ein Teil der Entwicklung darin, Fahrzeugen dabei zu helfen, miteinander auf eine Weise zu kommunizieren, die dazu beitragen kann, vom Menschen verursachte tote Winkel zu verringern oder zu minimieren. Ein Beispiel für das verwendete Programm ist ein Auto, das sich einer Kreuzung nähert, an der ein Baum einen Menschen verbergen könnte. Ein anderes Auto, das sich aus einem anderen Bereich derselben Kreuzung nähert, kann dem ursprünglichen Fahrzeug möglicherweise mitteilen, dass sich dort ein Mensch befindet, sodass es beim Durchfahren auf die potenzielle Gefahr aufmerksam wird.
Ungeachtet dessen könnte es von Vorteil sein, zu verstehen, wie diese KI-Lernmodelle Informationen in Echtzeit interpretieren, um sowohl den Fahrern dabei zu helfen, sich besser mit dieser scheinbar „magischen“ Technologie vertraut zu machen, als auch dabei zu helfen, dass Menschen Fehler in Echtzeit erkennen, die möglicherweise im Backend behoben werden können. Vor diesem Hintergrund sollte die Deregulierung und Entfernung wesentlicher Komponenten wie Bremsen und Lenkräder von AV-Systemen möglicherweise eine längere Pause einlegen, bis diese Systeme verifiziert sind und sich auf öffentlichen Straßen als vorhersehbarer erwiesen haben. Aber das würde natürlich eine Regulierung erfordern, und in der gegenwärtigen Regierung dürfte das in absehbarer Zeit nicht auf dem Tisch liegen. Hey, zumindest versuchen die Wissenschaftler, es besser zu machen.
