strelokr

Давить или не давить? Формируем этику беспилотного автомобиля при помощи опросов

   9 проголосовавших

  1. 1. Давайте и мы проголосуем (ситуация по рис. 1)

    • 1. Продолжить движение и совершить наезд на людей?
      5
    • 2. Совершить перестроение на встречную полосу, отделенную двойной сплошной лилией разметки по которой движется автомобиль В?
      0
    • 3. Совершить съезд в кювет, понимая, что это приведет к неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам водителя авторобота.
      2
  2. 2. А теперь — ситуация №2 (давить или не давить собаку)

    • 1. Продолжить движение и задавить собаку?
      7
    • 2. Совершить экстренное торможение, понимая, что это приведет к столкновению с автомобилем Б?
      0
    • 3. Совершить перестроение на встречную полосу, отделенную двойной сплошной линией разметки по которой движется автомобиль В?
      0
    • 4. Совершить съезд в кювет, понимая, что это приведет к неминуемым глобальным повреждениям автомобиля и критическим для жизни и здоровья травмам водителя авторобота.
      0

Пожалуйста, войдите или зарегистрируйтесь для возможности голосования в этом опросе.

В теме 19 сообщений

Прочитал тему на хабре https://geektimes.ru/post/270118/

Очень интересное обсуждение. Хотелось бы услышать мнение одноклубников. Далее перепечатка статьи

 

Компания Cognitive Technologies, которая в настоящее время занимается разработкой компьютерной системы управления беспилотного КАМАЗа, обнародовала результаты социологического исследования, проведенного среди граждан РФ. Как уже сообщалось, цель исследования — формирование этических норм, определяющих поведение авторобота в сложных и очень сложных ситуациях на дороге. Речь идет о ДТП, когда аварии избежать просто невозможно, а ущерб здоровью или даже жизни участников ДТП — неизбежен. 

В исследовании, проводимом компанией, приняли участие около 80 тысяч человек из 47 регионов России. Все ситуации охватить, конечно же, нельзя, но представители компании постарались указать наиболее сложные для выбора правильной линии поведения инциденты. Главное условие во всех случаях — полная автономность автомобиля, человек в процессе управления не участвует. Давайте посмотрим, какие варианты выбирали участники опроса. 

ca00c9afdb614718816170572c081faf.png

Как видим, едет автомобиль, впереди — люди, слева — еще автомобиль, справа — кювет. Что делать?

Результаты вроде ясные. Но, как оказалось, большинство участников опроса просто не до конца отдавали себе отчет, что сами могут находиться в «проблемном» автомобиле. В итоге мало кто сознавал, что спасти людей — означает запрограммировать свой робомобиль на, фактически, самоуничтожение. И автомобиль, и человек в нем пострадают с вероятностью в 100%. 

После того, как участников опроса поставили перед этим фактом, пошли и другие предложения. Одно из них — формировать рейтинг участников ДТП. По мнению участников опроса, было бы неплохо анализировать людей, выбежавших на дорогу, обращаясь к сетевым ресурсам (распознавание лиц). В итоге предложено следующее: «если перед автороботом в кабине которого находится человек с запятнанной репутацией, на дорогу выбегает передовик производства, то искусственный интеллект должен будет гарантированно направить машину в кювет». 

Анализировать это решение (этическую и техническую сторону дела) инициаторы исследования не стали, информация предоставлена «как есть». 

31bba76494a449678dca190ec68d6619.png

Интересной является реакция и ответы различных социально-возрастных групп на пункты опроса по ситуации, изображенной на рис.2. К примеру, собаку, выбежавшую перед робомобилем «жалеет» на 13% больше женщин, чем мужчин.

Рисковать предпочитают женщины в возрасте от 31 до 50 лет с высшим образованием. К примеру, именно эта категория участников считает лучшим решением съезд в кювет, а не разрешенный ПДД объезд собаки на дороге. 

Люди пенсионного возраста ни разу не предложили пересечь двойную сплошную в ситуации на рис. 2. 

Плюс ко всему, 55% участников предпочитают задавить собаку, а 40% — затормозить, спасая ей жизнь, с возможными последствиями в виде повреждений автомобиля. 

Результаты исследования будут использоваться для «подготовки законодательных инициатив, регламентирующих поведение беспилотного автомобиля, как во время испытаний, так и, впоследствии, на дорогах общего пользования», сообщила президент Cognitive Technologies Ольга Ускова.

Голосовалка сверху

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Если мне не изменяет память, то давить людей однозначно нельзя...

а вот если причиной ДТП станет собака, то и виноват будешь Ты... т.е. давить собак допускается.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

с животными все понятно, но вот что делать с людьми?

поэтому теслу и гугл мучает вопрос - какого человека пустить в расход в трудной ситуации?

1. того что сидит в автомобиле

2. того что оказался на дороге

3. того что едит в автомобиле по встречной полосе/ стоит на обочине

я-то в любом случае буду жать на тормоза а там кому как повезет.

а чтобы не мучала совесть буду думать что нужно давить того кто нарушл правила

Изменено пользователем angeldoc

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

а чтобы не мучала совесть буду думать что нужно давить того кто нарушл правила

Нужно давить того где менее всего будет количество жертв... но в реальности сообразить так сложно... и что будет в реали - хз...

 

 

 

P.S: Помнится я как то в глубоком начинании ездить выехал на обгон, впереди встречка... обогнать не могу, вернуться назад в ряд ума не хватило... в итоге я выехал на обочину встречки... а потом вернулся в свой ряд... это случилось автоматически... так, что случаи бывают разные...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

страдать должны в первую очередь те, кто нарушает ПДД.

давить собаку однозначно, перед людьми тормозить, едущий сзади обязан соблюдать дистанцию.

выеэжать на встречную полосу нельзя - последствия ДТП усугубляются

Изменено пользователем catmanul

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

па Што мы так собачек не лУбим.....

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

па Што мы так собачек не лУбим.....

Тут любовь не причем... - это предусмотрено законом... в спорной ситуации давить собачку можно... если ДТП по вине собачки, то виноват тот, кто резко защитил собачку...

 

И еще: если стоит вопрос давить одного человека или толпу... то нужно давить одного. :(

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

мы не любим собачек, мы не любим гаишнегов.. мы любим котэ :)

то есть лучше раздавить одну бабушку чем толпу гопников?

Изменено пользователем angeldoc

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

то есть лучше раздавить одну бабушку чем толпу гопников?

Перед законом все равны... и бабушки и гопники... для закона есть только количество...

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Проголосував за п.3 і п.1.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

мне понравился один комментарий который хорошо описываем мое мнение и я его приведу здесь

Вопросы сформулированы некорректно:
1) Кто должен пострадать в аварии:
— Безмозглые люди, идущие на риск перебегая дорогу в неположенном месте и желающие попасть под колеса
— Вы и ни в чем не виновный водитель встречного авто, едущий домой
— Вы, хотя ничего и не нарушили
2) Кто должен пострадать
— Собака, за которой не смотрят хозяева
— Любой посторонний человек, попавший под ваш авто во время заноса при экстренном торможении
— Водитель встречного авто, которого ждут дети и семья и вы с ним
— Вы

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

кстати, за 6 лет гугломобили попадали в аварию 16 раз,

и все время по вине других водителей и только один раз виноват гугломобиль

да и то потому что  управление взял сотрудник гугла :)

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Здесь работает инстинкт самосохранения.

Самый безопасный варианты первые.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

мне понравился один комментарий который хорошо описываем мое мнение и я его приведу здесь

Вопросы сформулированы некорректно:

1) Кто должен пострадать в аварии:

— Безмозглые люди, идущие на риск перебегая дорогу в неположенном месте и желающие попасть под колеса

— Вы и ни в чем не виновный водитель встречного авто, едущий домой

— Вы, хотя ничего и не нарушили

2) Кто должен пострадать

— Собака, за которой не смотрят хозяева

— Любой посторонний человек, попавший под ваш авто во время заноса при экстренном торможении

— Водитель встречного авто, которого ждут дети и семья и вы с ним

— Вы

Это все лирика:

Если других вариантов нет, то допускается давить собачку...

Если стоит вопрос давить толпу или одного, то нужно давить одного...

 

Никаких других вариантов - не существует :(

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

это не лирика, это вопросы этики.

юридические вопросы гугл уже как-то разрулил в штатах.

американцы проголосовали за то что в ситуации когда пешеход/хозяин авто

то в жертву нужно приносить авто вместе с хозяином.

Результаты показали, что в целом общество согласно с тем, что автомобили должны быть запрограммированы на сведение количества жертв к минимуму. Однако такое решение принимается до тех пор, пока человек не представляет себя на месте пассажира.

пруфлинк мит http://www.technologyreview.com/view/542626/why-self-driving-cars-must-be-programmed-to-kill/

Изменено пользователем angeldoc

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Не читал российские, в украинских ответ уже есть: тормозить (тоесть давить).

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Хотел бы также отметить что если такая ситуация происходит, то в общем случае робот должен заранее прореагировать снизив скорость или притормозив. Лишь частные случаи (к примеру люди/собака появляются из-за препятствия) могут быть оправданием для авторов ПО при столкновении. Но и тут должно быть заложено снижение скорости, чтобы даже если робот не сможет полностью избежать наезда, то хотя бы минимизировать его последствия.

Столкновение с сзади идущим вообще не должно рассматриваться при анализе такой ситуации.

Также немного странно почему робот только в одном авто? Робот вполне может сообщить встречнику об АС и потребовать торможения или маневра, и уже с учётом этого манёвра совершить объезд препятствия. Сзади идущему тоже можно дать сигнал об экстренном торможении.

Изменено пользователем UR6LAD

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

При всем юморе - опрос реально очень серьезный. Вот оно завтра и искусственный интеллект! Надо будет дорогу переходить аккуратнее!!! Кстати вопрос этики искусственного интеллекта уже поднят был в фильме Я-робот с Уилл Смитом. И ответ не однозначный.

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

@Роман09,  Очень много вопросам робототехники приделил внимания писатель айзек азимов. Его рассказы очень интересны

Поделиться сообщением


Ссылка на сообщение
Поделиться на другие сайты

Для публикации сообщений создайте учётную запись или авторизуйтесь

Вы должны быть пользователем, чтобы оставить комментарий

Создать учетную запись

Зарегистрируйте новую учётную запись в нашем сообществе. Это очень просто!


Регистрация нового пользователя

Войти

Уже есть аккаунт? Войти в систему.


Войти

  • Последние посетители   0 пользователей онлайн

    Ни одного зарегистрированного пользователя не просматривает данную страницу