Im Mai 2016 geriet Teslas Autopilot-System ins Visier der US-Bundesbehörden, nachdem Joshua Brown aus Ohio auf einer Staatsstraße außerhalb von Williston, Florida, ums Leben kam. Der 40-jährige Fahrer steuerte sein 2015er Tesla Model S mit Autopilot, als das Auto mit einem Sattelschlepper kollidierte, der vor ihm die Straße kreuzte. Da Browns Auto mit 120 km/h unterwegs war, konnte das autonome Fahrsystem die Bremsen nicht rechtzeitig aktivieren, um eine Kollision zu verhindern. Nach mehr als einem Jahr kam das National Transportation Safety Board zu dem Schluss, dass das System, das das Auto steuerte, eine wichtige Rolle bei dem tödlichen Unfall gespielt hatte.
Das NTSB kam zu dem Schluss, dass Teslas Autopilotsystem, das das Fahrzeug automatisch lenken und steuern kann, zwar wie vorgesehen funktionierte, aber nicht über die Sicherheitsvorkehrungen verfügte, um einen Fahrer, der es unsachgemäß verwendet, auszusperren. Dies bringt einen interessanten Haftungsaspekt in den Vordergrund, da der Fahrer das Fahrzeug autonom auf einer Straße steuern konnte, für die es nicht ausgelegt war. Der frühere Bericht des Gremiums kam zu dem Schluss, dass der Fehler auf eine kombinierte Auswirkung von menschlichem Versagen und dem Mangel an Systemkontrollen des Autoherstellers zurückzuführen war. Daher wurde das System selbst nicht als betriebsfehlerhaft eingestuft.
Die Umstände, die zu dem tödlichen Unfall führten, deuteten auf mehrere menschliche Fehler hin. Teslas Autopilot-System war für den Einsatz auf Straßen mit beschränktem Zugang und nicht auf Strecken mit Kreuzungen vorgesehen. Darüber hinaus hatte das Autopilot-System Brown vor dem Unfall mehrmals signalisiert, die Hände am Lenkrad zu lassen. Die Systemanforderungen sehen vor, dass der Fahrer während des Betriebs auch die Straße im Auge behalten muss. Herr Brown hatte vor dem Unfall Videos online gestellt, die zeigten, wie es möglich war, mehrere Minuten lang ohne Blick auf die Straße und ohne Betätigung der Bedienelemente auszukommen.
Nach dem tödlichen Unfall modifizierte der Autohersteller den Autopiloten, um die Fahrer häufiger zu warnen, die Hände am Lenkrad zu lassen. Wenn ein Fahrer dies nicht tut, wird das System deaktiviert und kann nicht eingeschaltet werden, ohne das Auto anzuhalten und den Motor neu zu starten. Da die Trump-Regierung und die staatlichen Regulierungsbehörden darauf erpicht sind, dass die Hersteller mit autonomen Technologien voranschreiten, hat das Verkehrsministerium kürzlich die von der Obama-Regierung festgelegten Richtlinien aufgehoben, die von den Autoherstellern die Einhaltung strengerer Vorschriften forderten.
