Скандал вокруг роботакси Tesla: 3 человека погибли из-за ошибки ИИ

Национальное управление безопасностью дорожного движения США (NHTSA) зафиксировало первые обращения граждан, связанные с работой роботакси Tesla. Жалобы начали поступать всего через несколько дней после запуска сервиса. На этом фоне компания уже столкнулась с судебным иском, в котором Tesla обвиняют в смерти трёх человек из-за неисправности автопилота.

Ошибки искусственного интеллекта

Некоторые случаи, попавшие в публичное поле, вызывают серьёзные вопросы к функционированию беспилотной системы:

На одном из видео видно, как автопилот неверно интерпретировал перекрёсток и попытался повернуть раньше положенного — не по маршруту.
В другом случае беспилотник без причины остановился на проезжей части рядом с припаркованными полицейскими машинами, сообщает Reuters.

В NHTSA подтвердили осведомлённость о проблемах и сообщили, что ведут работу с производителем для установления причин и поиска технического решения.

Давление со стороны европейских регуляторов

Проблемы у Tesla выходят за рамки США. Во Франции компания оказалась под критикой со стороны DGCCRF - Главного управления по конкуренции, делам потребителей и борьбе с мошенничеством. Ведомство обвинило производителя в недобросовестной коммерческой практике.

Основание — некорректное представление функционала в рекламе. Согласно претензии, Tesla вводит покупателей в заблуждение: в продаже находятся модели Y со стандартным автопилотом, которые не являются полностью автономными, вопреки заявленной маркетинговой риторике.