Мифы об автономных транспортных средствах

Мифы об автономных транспортных средствах

Выпуск 23(6747) от 25 ноября 2021 г.
РУБРИКА: АВТОМОБИЛЬНАЯ ЭЛЕКТРОНИКА

Автономные транспортные средства (autonomous vehicle, AV) могут повысить безопасность дорожного движения, обеспечить мобильность тем, кто, в силу различных причин, не может управлять автомобилем, предоставить ряд других преимуществ. Тем не менее, реализация этих целей в настоящее время рассматривается как отдаленная перспектива. Производимое сейчас тестирование AV на дорогах общего пользования создает серьезные риски для уязвимых участников дорожного движения. Представители индустрии AV, несмотря на эти риски, настаивают на создании благоприятного нормативного режима как для текущего тестирования, так и для будущего массового развертывания AV. Эта кампания по ограничению серьезного регулирования опирается на ряд мифов о программах AV, развенчать которые попробовали эксперты из еженедельника Electronic Engineering Times.

Безопасная эксплуатация систем на основе незрелой, развивающейся технологии на дорогах общего пользования, даже с участием водителей, требует полной прозрачности и многостороннего сотрудничества. Тем не менее, позиция отрасли по отношению к регулирующим органам слишком часто состоит из упреков, пустой риторики и непрозрачности. Что еще хуже, немногие регулирующие органы обладают глубоким опытом в области AV, и поэтому зачастую не могут противостоять необоснованным заявлениям разработчиков и производителей AV.

Чтобы уравнять правила игры, журналисты EE Times развеяли «грязную дюжину» мифов, обычно используемых при дискуссиях относительно нормативного регулирования сферы AV.

Миф №1: 94% ДТП происходят из-за ошибок водителей, поэтому AV программы будут безопаснее. Неофициальная версия этого мифа состоит в том, что люди часто водят машину в нетрезвом виде, поэтому компьютерные системы вождения будут безопаснее. В общем, подразумевается, что автономные системы обеспечат большую безопасность, так как не будут повторять ошибок человека.

Безусловно, многие аварии вызваны ошибками водителей. Однако оценка «94%» является искажением первоначального источника. Фактически данные упоминаемого исследования показывают только то, что в 94% случаев человек-водитель мог бы избежать нежелательного исхода. Это не то же самое, что «быть виновником» аварии. В источнике прямо указывается, что это не 94-% «вина» человека-водителя.

Помимо того, что цифра в 94% является более сложной, чем просто «ошибка водителя», автономные программы также будут совершать различные ошибки. Это должно быть предельно ясно любому, кто смотрит видеоролики дорожных испытаний автоматизированных систем. Да, технология будет улучшаться, но еще неизвестно, сколько времени потребуется, чтобы AV-системы в сложных дорожных ситуациях стали «в целом более безопасными», чем водители-люди. Соответственно, при анализе необходимо учитывать не только их преимущества, но и недостатки.

Миф № 2: могут быть либо инновации, либо регулирование, но не то и другое одновременно. Это ложная дилемма. Они могут легко сочетаться - если регулирование разработано так, чтобы разрешать инновации, просто требуя от отрасли соблюдения своих собственных стандартов.

Например, можете регулировать вопросы безопасности дорожных испытаний, требуя их соответствия SAE J3018. Этот стандарт помогает обеспечить надлежащую квалификацию и подготовку водителей, отвечающих за безопасность человека. Он также охватывает ответственное проведение испытаний в соответствии с надлежащей технической проверкой AV и практикой безопасности дорожного движения. Это не налагает ограничений на тестируемую технологию автономности. (Здесь рассматривается применимость к чисто грузовым автомобилям.)

Конкретные стандарты, относящиеся к уже эксплуатируемым AV, рассмотрены далее. Ни один из этих стандартов не препятствует инновациям. Скорее, они продвигают равные условия, чтобы компании не могли экономить на безопасности для получения конкурентных преимуществ, подвергая других участников дорожного движения чрезмерному риску.

Если компания заявляет, что безопасность является их высшим приоритетом, как это может быть несовместимо с нормативными требованиями? В конце концов, эти требования представляют собой отраслевой консенсус в отношении стандартов безопасности, написанных и утвержденных самой отраслью - часто с участием представителей этих же самых компаний в процессе стандартизации. Индустрия AV должна конкурировать не только по безопасности, но и по другим характеристикам, при этом безопасность должна соответствовать очень высоким стандартам (как в авиации).

Миф № 3: уже существует достаточное количество правил. Существующие правила (за исключением практики Департамента транспорта города Нью-Йорка, недавно перешедшего на SAE J3018) не требуют соблюдения каких-либо стандартов безопасности, касающихся автономного вождения, и не устанавливают какой-либо уровень требуемой безопасности. В лучшем случае есть требования к водительскому удостоверению, страховке и отчетности. Нормативные гарантии безопасности, если таковые имеются, - это не более чем верить на слово производителю. Требуется больше.

Миф №4: упреждающее регулирование AV не нужно из-за существующих правил и давления в плане ответственности. Современные федеральные стандарты США в области безопасности моторных транспортных средств (Federal Motor Vehicle Safety Standards, FMVSS) не охватывают безопасность компьютерных систем. В первую очередь они касаются проверки фар, ремней безопасности, подушек безопасности и других основных функций безопасности автомобиля. Простого прохождения FMVSS недостаточно для обеспечения безопасности обычных транспортных средств, не говоря уже о безопасности AV.

Национальная администрация по безопасности дорожного движения США (NHTSA) обычно реагирует на неблагоприятные события. Если автомобильные компании не сообщают о проблемах добровольно, NHTSA перед вступлением в действие обычно требуется множество случаев травм и смертельных случаев. Например, потребовалось 11 аварий с участием «автопилота» Tesla за 3,5 года, чтобы побудить NHTSA принять меры.

Регулирующим органам следует хорошенько подумать о подходе, в котором «безопасность» означает требование страховки для компенсации ближайшим родственникам после смерти. На фоне многомиллиардных бюджетов, поддерживающих гонку развития технологии, выплаты в несколько миллионов долларов после происшествий кажутся недостаточным фактором, стимулирующим развитие безопасности в сфере AV при продолжающейся гонке за лидерством.

Миф № 5: Существующие стандарты безопасности не подходят, потому что (и/или):

- они не идеальны;

- нет единого стандарта, применимого ко всем автомобилям;

- они снизят безопасность, потому что мешают разработчику делать больше;

- они сделают AV менее безопасным;

- они не были написаны специально для AV.

Эти утверждения дают неверное представление того, как работают действующие стандарты безопасности. ISO 26262, ISO 21448, ANSI/UL 4600 - все они предоставляют значительную гибкость для обеспечения безопасности. При учете всех трех стандартов безопасность любого AV гарантируется.

ISO 26262 обеспечивает безопасную работу обычных компьютерных функций. ISO 21448 рассматривает неотъемлемые ограничения датчиков и неожиданности, которые могут произойти в открытой внешней среде, охватывая так называемую безопасность предполагаемой функции для AV. ANSI/UL 4600 работает с 21448 и 26262 для обеспечения безопасности на уровне AV-системы, включая транспортное средство и его вспомогательную инфраструктуру.

Министерство транспорта США уже предложило этот набор стандартов в «Предварительном уведомлении…» о предлагаемом нормотворчестве. Все эти стандарты позволяют разработчикам делать больше, чем требуется. Все они достаточно гибкие, чтобы приспособиться к любому AV. Ни один из них не заставляет компанию быть менее безопасной (поистине смехотворный аргумент). Ни один из стандартов не ограничивает подход к технической автономности, кроме требований безопасности.

Миф № 6: Необходимо отменить местные и государственные нормативные акты, чтобы избежать «мешанины» из нормативных актов, препятствующих инновациям. Важная причина того, что местные и государственные правила представляют собой «мешанину», заключается в том, что в каждой юрисдикции AV-компании жестко ведут переговоры, чтобы минимизировать регулирование. Как правило, это включает в себя заявления о том, что в случае слишком жесткого регулирования компании откажутся от работы и потратят где-то еще, а также угрозы властям, что их регион заработает репутацию враждебного инновациям и развитию технологий.

Результаты переговоров различны, что приводит к несколько разным правилам или добровольным указаниям. Мешанина в значительной степени создается самими AV-компаниями.

Ситуацию поможет исправить переход к регулированию, основанному на отраслевых стандартах. Федеральное постановление, которое запрещает штатам действовать, но само не обеспечивает безопасность, только усугубит ситуацию.

Миф № 7: Мы подчиняемся «духу» некоего стандарта. Обычно «духовные» утверждения, сделанные разработчиками AV, основываются на представлении о том, что может возникнуть необходимость в отклонении от стандарта. Конкретный пример необходимости такого отклонения не указывается, равно как и не говорится о том, что это может означать «соответствие духу».

Все стандарты достаточно гибкие, чтобы, если вы действительно соответствуете «духу» и намерениям, вы можете соответствовать стандарту. Однако, если вы спешите или хотите сократить расходы, вам может пригодиться стратегия, говорящая, что вы следуете «духу». Лучшая практика будет включать консультации с регулирующими органами, чтобы либо подтвердить практику, либо получить ограниченное исключение, должным образом структурированное для сохранения безопасности - если такая необходимость действительно может быть выявлена.

Компании, которые действительно ценят безопасность, должны поддерживать прозрачное соответствие отраслевым консенсусным стандартам, чтобы поднять планку для конкурентов. Если они этого не сделают, это может обеспечить защитное прикрытие для любых потенциальных актеров, которые практикуют «театр безопасности».

Подумайте, будете ли вы летать на автономном самолете, в котором производитель сказал: «Мы следуем духу стандартов безопасности полетов, но мы очень умны и наш самолет особенный, поэтому мы пошли на вольность. Поверьте, все будет хорошо».

Миф № 8: Государственные регулирующие органы недостаточно разбираются в технологиях, чтобы регулировать их. Предлагаемый план Министерства транспорта США по применению упомянутых выше отраслевых стандартов имеет смысл, поскольку он решает именно эту проблему. В отрасли уже созданы соответствующие стандарты безопасности. Регулирующие органы просто говорят: «Соблюдайте собственные отраслевые стандарты безопасности, как и все другие отрасли, в которых важна безопасность».

Если бы мы могли доверить любую отрасль самостоятельно контролировать безопасность перед лицом краткосрочных стимулов к извлечению прибыли и неизбежной организационной дисфункции, тогда нам не понадобились бы регулирующие органы. Но это не настоящий мир. Необходимо достижение здорового баланса между отраслью, берущей на себя ответственность за безопасность, и надзором со стороны регулирующих органов.

Миф № 9: Раскрытие данных тестирования раскрывает секрет автономности. Безопасность дорожных испытаний - это вопрос того, сможет ли водитель, отвечающий за безопасность человека, эффективно уберечь тестируемое транспортное средство от создания повышенного риска для других участников дорожного движения. Это не имеет ничего общего с автономной интеллектуальной собственностью, цель которой состоит в том, чтобы избавиться от фактора нарушения безопасности человеком.

Данные тестирования безопасности не обязательно должны включать что-либо об автономной конструкции или функциональных характеристиках. Например, подумайте о том, как часто водители, участвующие в тестировании AV, засыпают во время тестирования. Ненулевой результат может смущать, но как он раскрывает секретные данные технологии автономности?

Миф № 10: Задержка с развертыванием AV равносильна убийству людей. Обещаемые преимущества AV-систем в плане безопасности являются самыми амбициозными из всего, что заявлялось когда-либо ранее. Более того, нет никаких реальных доказательств того, что AV будут значительно безопаснее, чем транспортные средства, управляемые человеком, особенно когда они конкурируют с функциями активной безопасности для транспортных средств, управляемых человеком, такими как автоматическое экстренное торможение.

Ссылаясь на возможность в будущем спасать потенциальных жертв, нельзя допускать игнорирования того, что еще неотработанные передовые технологии могут сегодня подвергать риску уязвимых участников дорожного движения. К тому же еще не факт, что технология окажется экономически жизнеспособной.

Плохая реклама в прессе из-за громкого происшествия может легко отбросить назад всю отрасль. Ни одна компания не должна рисковать как жизнями людей, так и репутацией всей отрасли, для того, чтобы получить требующееся финансирование.

Миф № 11: До сих пор обходилось без жертв, значит, технология безопасна. Другими словами, создатели AV как бы заявляют: «Нам пока везет, поэтому мы полагаем, что будет везти и в будущем». Если нет доказательств наличия надежных, систематических методов обеспечения безопасности и практики безопасности, это равносильно тому, когда игрок в карты заявляет после выигрышной серии, что он будет продолжать выигрывать бесконечно.

Нельзя давать разработчикам полную свободу действий до тех пор, пока кто-то не погибнет. Это особенно верно для методов тестирования, которые фактически используют основные факторы обеспечения безопасности как «зону моральной деформации».

Миф №12: Ряд штатов/городов позволяет проводить тестирование без каких-либо ограничений, так что и остальным следует поступать так же. Многие знают, что произошло в 2018 г. при дорожных испытаниях AV Uber в Темпе (шт. Аризона). Самая последняя версия SAE J3018 по безопасности дорожных испытаний включает в себя уроки, извлеченные из этой трагической гибели. Если проводящие испытания AV лица и организации не будут следовать этому общепринятому отраслевому стандарту, значит, они действительно не усвоили эти уроки.

* * *

В заключение разоблачения перечисленных мифов, журналисты EE Times отметили, что регулирующим органам следует сделать паузу и рассмотреть вопрос о последствиях практики подвергания уязвимых участников дорожного движения потенциально повышенному риску в интересах коммерческих компаний. Эти компании используют дороги общего пользования в качестве экспериментального полигона в своей гонке за лидерством в области AV. Ставки в этой гонке очень высокие. С одной стороны, дорожные испытания AV помогают создать новые рабочие места, а также престижность – за счет технологичности. С другой стороны, даже один случай со смертельным исходом во всем мире может привлечь к региону, где это произошло, негативное внимание широкой общественности.

Регулирующие органы, отвечающие за обеспечение безопасности, не должны чувствовать каких-либо стеснений и просто просить разработчиков соблюдать отраслевые стандарты безопасности, в разработке которых в большинстве случаев помогали сами компании. Они должны этого требовать и контролировать выполнение всех необходимых нормативов. Уязвимые участники дорожного движения не должны выступать в роли невольных испытуемых для лиц и организаций, осуществляющих тестирование AV, которые в своих действиях не ставят безопасность на первое место.


Philip Koopman. Autonomous Vehicle Myths: The Dirty Dozen. EEtimes, 10.22.2021

https://www.eetimes.com/autonomous-vehicle-myths-the-dirty-dozen/


ЧИТАЙТЕ ТАКЖЕ