Этика робокаров: кого сбивать в случае неминуемого ДТП?


Самоуправляемые автомобили будущего могут быть запрограммированы на то, чтобы сбить вас. Печально, но факт. Сейчас разработчики программируют автомобили на правильный алгоритм действий в каждой ситуации, которая может сложиться на дороге. А среди них возможен случай неминуемого ДТП, где даже компьютер не способен избежать столкновения. Это бывает, если препятствие внезапно возникает перед автомобилем, так что физически невозможно снизить скорость.

Представьте, что управляющая программа должна выбрать, в какой из двух объектов врезаться: свернуть влево и врезаться во внедорожник Volvo или свернуть вправо и врезаться в Mini Cooper. Какой вариант нужно заложить для минимизации ущерба? Предположим, что робот-автомобиль едет с пустым салоном.

С точки зрения физики, лучше врезаться в крупное тело, которое лучше поглотит энергию столкновения, то есть во внедорожник. Более того, этот автомобиль безопаснее, что увеличивает для водителя внедорожника шансы выжить.

С другой стороны, в большом автомобиле может находиться больше людей, так что в ДТП может оказаться больше пострадавших. Да и вообще, выбор мишени для прицеливания перед лобовым столкновением —это из области разработки военного вооружения, и здесь разработчики самоуправляемых автомобилей становятся на тонкий лёд морально-этических проблем. Производители внедорожников явно будут не рады, если робокары специально начнут врезаться в них по умолчанию. Да и законна ли такая «дискриминация»?

Люди-водители в таких ситуациях реагируют инстинктивно. У компьютера есть время рассчитать траектории и математически оценить последствия, чтобы минимизировать ущерб. Здесь-то и возникают вопросы, что является меньшей жертвой: сбить собаку или кошку? мужчину или женщину? старика или ребёнка? мотоциклиста в шлеме или мотоциклиста без шлема? Если вы считаете, что в последнем случае лучше сбить мотоциклиста в шлеме, то надевать шлем для мотоциклистов станет небезопасно! Ведь они не хотят становиться мишенями.

Пока что роботы-автомобили не попадали в ДТП, хотя наездили более миллиона километров по городским улицам. Тем не менее, не позавидуешь разработчикам, которым приходится решать проблемы «оптимизации столкновений».

Может, лучше выбирать цель случайным образом? В этом случае жертв будет больше, но мы устраняем неразрешимую проблему морали. Но такая мимикрия под поведение людей-водителей противоречит самой идее создания самоходных автомобилей, ведь они позиционируются как более безопасная альтернатива автомобилям под управлением людей. Именно из-за человеческого фактора происходит более 90% всех ДТП со смертельным исходом, в которых ежегодно на дорогах гибнут сотни тысяч человек.

Безусловно, проблема этики для автомобильных программ остро встанет в ближайшее время, и этот вопрос требует открытого общественного обсуждения.

Оригинал статьи

3 комментария

blackknight
Пока что роботы-автомобили не попадали в ДТП, хотя наездили более миллиона километров по городским улицам.
У нас есть такие?
Dmitry
Они тестируются в небольших городках. Не в России. Имхо, сомнительная идея. Я не доверю роботу вести себя и свою семью по оживленному шоссе
vashchenkov
Там-то они более безопасны, как мне кажется. Уснуть не могут.
Только зарегистрированные и авторизованные пользователи могут оставлять комментарии.