Смертельное ДТП показало неспособность автопилота Tesla контролировать водителя — Naked Science
9 минут
Александр Березин
9

Смертельное ДТП показало неспособность автопилота Tesla контролировать водителя

Судя по отсутствию человека на водительском сиденье, машиной управлял автопилот. В теории он отслеживает наличие человека за рулем и без него не едет. Но на практике человек всегда может обмануть компьютер. Неспособность компьютера контролировать человека в описываемом случае привела к печальным последствиям. Несмотря на это, по последним данным, автопилот Tesla снижает риск попасть в аварию в девять раз. Впрочем, с одним нюансом.

Останки Tesla Model S после фатального ДТП. Столкновение произошло на очень большой скорости / ©CNBC

Согласно сообщению телеканал KHOU-TV, близ Хьюстона произошло ДТП с участием Tesla Model S. Машина вылетела с дороги на крутом повороте, врезалась в дерево и загорелась. Тушение пожара заняло длительное время, в итоге в машине обнаружили тела двух пассажиров. Ни одно из них не было на водительском сиденье. Судя по параметрам ДТП, оба погибших вряд ли могли двигаться сразу после удара о дерево. Из этого местные власти делают вывод, что машина ехала на автопилоте.

В норме «теслы» не едут, если на водительском сиденье нет человека. Чтобы убедиться, что он есть, от водителя требуются периодические касания руля. Некоторые машины компании еще контролируют наличие человека за рулем камерой. Однако ряд владельцев этих машин обходят ограничения. Для имитации касания руля они приматывают к нему скотчем полупустую банку с напитком: на ухабах банку покачивает, и она слегка качает руль, обманывая автопилот. Другие сажают самодельное чучело на водительское сиденье и едут рядом. Камера не может отличить муляж в темных очках от человека и позволяет такую езду. Разумеется, подобные действия небезопасны, но убедить в этом всех владельцев машин не представляется возможным в силу известных особенностей человеческой природы.

Случившееся подчеркивает главную слабость всех автопилотов, существующих на планете: ими управляют алгоритмические компьютеры. Реальными машинами управляют люди, природа мышления которых неизвестна, но ясно, что она не алгоритмична. Чтобы понять, как действовать, автопилоты сравнивают вид дороги перед собой с заложенными в ПО алгоритмами поведения на той или иной дороге. Значит, если алгоритмы распознавания дорожных условий дадут ошибку, то компьютер отреагирует неверно: как в нашем случае, когда он «не увидел» изгиб дороги и вылетел с нее. Пока не ясно, как можно решить эту проблему. Компьютеров, способных мыслить не алгоритмами, осознавать окружающую реальность, а не перебирать запрограммированные варианты, не понимая, что они описывают, еще нет. И придумать их сейчас невозможно, поскольку нет никакой ясности, как работает сознание у людей.

В то же время следует отметить, что у автопилота Tesla в итоге неплохая общая статистика аварийности. Согласно отчету компании за первый квартал 2021 года, машины под управлением ее автопилота попадали в аварию один раз на 6,74 миллиона километров пробега. «Теслы», владельцы которых не заплатили за автопилот при покупке (Илон Маск называет это «пассивный автопилот»), показали одну аварию примерно на 3,2 миллиона километров. Такие машины включают тормоза перед препятствием, которое не заметил человек-водитель, но только в последний момент. Машины компании без включенного автопилота и «пассивного автопилота» показали одну аварию на 1,6 миллиона километров пробега.

В среднем для США одна авария приходится на менее чем 0,8 миллиона километров пробега. Это дало Маску основания для громкого заявления о том, что ездить на автопилоте чуть ли не в десять раз безопаснее, чем без него. Между тем, это не совсем корректно. Да, аварийность «тесл» на автопилоте примерно в девять раз ниже, чем у среднестатистического американского водителя на среднестатистической американской машине. Но это нечестное сравнение. Из статистики выше заметно, что средняя «тесла» безо всяких черт автопилота становится участником ДТП вдвое реже обычной американской машины. Это происходит потому, что у нее весьма эффективная тормозная система и ряд других особенностей, связанных с риском попадания в аварию. Честное сравнение может быть только между «теслами» без черт автопилота и ими же, но с автопилотом. Оно показывает, что на сегодня автопилот в четыре с лишним раза безопаснее вождения вручную.

Типичные образцы особей (ареал этих конкретных — TikTok), обманывающих автопилот и едущих на нем без рук на руле  / ©TMZ

В то же время, при всей правоте этого тезиса, смерти, подобные описанным выше, определенно не исчезнут окончательно еще долгие годы. Автопилот действительно снижает аварийность, но за счет того, что не делает «человеческих» ошибок. Зато он делает — хотя много реже людей — собственные ошибки, которые человек может совершить весьма нечасто.

Сам глава Tesla Илон Маск недавно успел заявить: он уверен, что его машины будут ездить безопаснее авто с «живым» водителем уже в этом году. Если исходить из общей аварийности, то это, как мы видим, свершившийся факт. Но на практике сомнительно, что все люди станут доверять автопилоту, которые делает свои, «нечеловеческие» ошибки и вылетает с дороги. Скорее всего, и власти будут с большой неохотой разрешать езду на полном автопилоте. Даже несмотря на то, что она менее аварийна, чем езда «живого» водителя.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl + Enter.
Позавчера, 14:46
5 минут
Илья Ведмеденко

Снимки демонстрируют интерьер новой российской атомной многоцелевой субмарины — К-561 «Казань», принадлежащей к проекту 885М «Ясень-М».

Позавчера, 11:25
55 минут
Александр Березин

Два миллиона лет назад планета вошла в состояние крайне необычной неустойчивости. Раз за разом она стирала экосистемы Африки с лица земли, отчего наши предки снова и снова оказывались в сложном положении. Семьдесят тысяч лет назад их число сократилось в десять раз — ударил другой, совершенно неожиданный фактор. Пару сотен тысяч лет назад не только человечество, но вообще все наземные виды могли погибнуть от еще более разрушительной силы. 12,9 тысячи лет назад множество людей умерли и миллионы квадратных километров полностью выгорели из-за взрывов в атмосфере и огненного дождя. Как именно наш вид пережил все это?

Вчера, 11:08
37 минут
Александр Березин

Много лет нам показывали фотографии белого медведя, истощавших до неузнаваемости, и говорил о том, что вымирание ждет не только их, но и других холодолюбивых животных. Однако целый ряд научных работ последних лет указывают на иное: нет никаких данных что такие звери на самом деле вымирают. Ряд индикаторов показывают, что это вообще вряд ли случится в ходе текущего потепления. Самые многочисленные пингвины Антарктиды и вовсе бурно размножились за счет отступления льдов. Число северных оленей в российской тундре растет так сильно, что это уже стало серьезной проблемой, с которой местные власти не знают, что делать. Что пошло не так в расчетах «зеленых»? Что позволяет зверям, нормально чувствующим себя в холоде, не слишком-то и страдать от их отступления? Разберемся.

Позавчера, 14:46
5 минут
Илья Ведмеденко

Снимки демонстрируют интерьер новой российской атомной многоцелевой субмарины — К-561 «Казань», принадлежащей к проекту 885М «Ясень-М».

Позавчера, 11:25
55 минут
Александр Березин

Два миллиона лет назад планета вошла в состояние крайне необычной неустойчивости. Раз за разом она стирала экосистемы Африки с лица земли, отчего наши предки снова и снова оказывались в сложном положении. Семьдесят тысяч лет назад их число сократилось в десять раз — ударил другой, совершенно неожиданный фактор. Пару сотен тысяч лет назад не только человечество, но вообще все наземные виды могли погибнуть от еще более разрушительной силы. 12,9 тысячи лет назад множество людей умерли и миллионы квадратных километров полностью выгорели из-за взрывов в атмосфере и огненного дождя. Как именно наш вид пережил все это?

18 июня
9 минут
Мария Азарова

Шотландские исследователи провели когортный анализ: они сравнили риск госпитализации при заражении индийским и британским штаммами коронавируса, а также определили, кого вариант из Индии поражает чаще всего.

24 мая
23 минуты
Ольга Иванова

«Сексуальную революцию совершили задние сиденья автомобилей», – заявил в свое время американский общественный деятель Джерри Рубин. И ошибся. Раскрепощение нравов происходило задолго до появления машин, причем много раз. Оно напоминает движение маятника. Как и почему вершились «секшал революшнс» и стоим ли мы на пороге нового витка сексуальности или же нас ждет ужесточение морали? Об этом – в нашем материале.

9 июня
4 минуты
Ольга Иванова

Международная команда исследователей изучила геологию и условия существования самого большого моря в истории планеты — Паратетиса.

27 мая
51 минута
Александр Березин

Хотя в прессе много пишут об исключительно редких «побочках» от вакцин, практика показывает, что бояться надо совсем другого. Самым страшным врагом привитого остается... коронавирус. Даже после вакцин Pfizer или Moderna от него иногда умирают — и подобных случаев уже сотни. Разумеется, среди непривитых таких на порядки больше, но погибшим и членам их семей от этого не легче. Еще хуже то, что две из трех российских вакцин, похоже, защищают от ковида намного слабее Pfizer и Moderna. Это довольно странно с учетом того, что третий российский препарат в этом плане не уступает западным аналогам. Почему российские власти финансируют миллионные тиражи слабой вакцины, имея в распоряжении вполне полноценную?

[miniorange_social_login]

Комментарии

9 Комментариев

А есть статистика, сколько километров в год проезжают владельцы беспилотных Tesla, в сравнении с обычными водителями?P.S. Средний электромобиль в год проезжает больше, чем его бензиновый собрат: EVs cover an average of 9,435 miles (15,180 km) each year through the first three years of ownership, compared to 7,490 miles (12,050 km) a year driven by petrol vehicles. https://thenextweb.com/news/teslas-more-miles-kms-first-three-years-gasoline-cars Полагаю, добавление автопилота ещё больше удлинит поездки.
Нейросети управляют как раз НЕ алгоритмически, а после реального обучения человеком. В результате обучения получаем некий черный ящик, который как раз и может вести себя непредсказуемо. А алгоритм - это четко зашитая программа, которую можно посмотреть, исправить ошибки.
    Нейросети ведут процесс обучения по строго заложенному алгоритму. То, что в ходе следования алгоритма они обучаются в схеме "черного ящика", который ведет себя непредсказуемо, не отменяет главного -- сам процесс обучения полностью алгоритмизирован. У человека этого нет.
    +
      ещё комментарии
      -
      0
      +
      Но это не делает результат обучения алгоритмизированным. Есть такая штука, как детерминрованный хаос: мы досконально знаем уравнения динамики системы, но предсказать её поведение не можем. Так и с нейросетью: то, что мы досконально знаем алгоритм её создания, не даёт нам понимания алгоритма её работы и в принципе понимания, почему и, главное, как она работает.
        Результат обучения может и не быть алгоритмизирован. Но компьютер в целом бесспорно действует только алгоритмизировано, и иначе не умеет. Результаты обучения нейросетей сами по себе автопилотом не управляют. Они используются компьютером скармливающим в них информацию от сенсоров и использующим выдачу нейросетей тоже по определенным алгоритмам. Мы, бесспорно не имеем понимания алгоритма работы нейросетей автопилота Теслы, потому что этого понимание не имеет и не может иметь вообще никто -- включая нейросеть. Но это не значит, что компьютер, использующий нейросети в автопилоте работает неалгоритмически в целом.
          22.04.2021
          -
          0
          +
          Софистика )) Так можно объявить алгоритмом и человека за компьютером. Ведь он скармливает компьютеру информацию от сенсоров и своей нейросети. А уж тот действует строго алгоритмически.
    19.04.2021
    -
    0
    +
    Нейросеть можно заставить учиться до тех пор пока процент ошибок не станет ниже заданного порога. С человеком все не так просто. И пока никто не придумал способ как ему обновлять прошивку.
19.04.2021
-
2
+
Чем больше будет на дорогах автопилотов тем безопаснее езда. Даже при существующих алгоритмах. А пьяные подростки во всем мире группа риска.
Подтвердить?
Лучшие материалы
Войти
Регистрируясь, вы соглашаетесь с правилами использования сайта и даете согласие на обработку персональных данных.

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: