Нужны ли “права” автопилоту?

Фундаментальные проблемы...

Когда американский писатель Айзек Азимов в 40-х годах представлял себе мир, населенный роботами, ему казалось, что для добрососедских отношений между людьми и машинами достаточно всего трех фундаментальных “законов робототехники”. Однако теперь, когда искусственный интеллект вот-вот попросится за руль, становится очевидным: описанный Азимовым подход может оказаться нежизнеспособным в силу целого ряда причин.

Одной из таких причин является попытка подчинить своей воле более мощный во всех отношениях разум. Как известно из истории, это возможно - иногда президентами целых государств становятся простые завгары и водители автобусов. Но и хэппи-энда у таких историй не бывает, а в случае с полноценным ИИ было бы совсем наивно надеяться на успех.

«Если заменить слово «робот» на «раб», то станет очевидно, что Азимов писал о страхе людей перед человеческой технологией. Но идея порабощения интеллекта, который значительно превосходит наш собственный, сомнительна. Рабы склонны к побегу и бунту, особенно когда они в состоянии перехитрить своих хозяев» - пишет Кевин Корб, автор книги «Эволюционирующая этика: новая наука добра и зла». Поди возрази...

Но если перспектива бунта машин против людей пока не входит в список насущных вопросов бытия, этическая проблема использования автопилотов на дорогах общего пользования уже стоит в полный рост. Кратко ее можно описать вполне реальной ситуацией: если автопилоту придется решать, кому сохранить жизнь - своему владельцу или перебегающим дорогу детям, - какой выбор он должен сделать? Очевидно, что вопрос не имеет правильного решения и по сути является той самой дилеммой, которую с недавних пор начали широко обсуждать специалисты в области ИИ.

В США проведут расследование ДТП с участием автопилота Tesla

Чуть раньше за проблему взялись сотрудники Массачусетского технологического института: они запустили онлайн-анкетирование, в котором мог принять участие каждый желающий. Респондентам предлагалось оценить несколько ситуаций с гарантированным летальным исходом и сделать выбор - кем пожертвовать. Мужчиной-водителем или ребенком-нарушителем ПДД? Стариком в коляске или молодой женщиной? Котиком, который просто мимо проходил, или пьяным автовладельцем? Ответы каталогизировались и на их основе исследователи попытаются спрогнозировать человеческую реакцию.

Затем, отталкиваясь от полученных в ходе голосования результатов, машине попытаются привить некие основы человечности, как ее представляет большинство. Ведь машина “мыслит” рационально и ее можно запрограммировать на спасение владельца любой ценой, либо на минимизацию жертв. Но рациональный выбор не всегда окажется приемлемым с точки зрения гуманности, этики и морали, а потому в ближайшем будущем инженерам и законодателям придется ответить на множество вопросов относительно норм поведения автопилотов на дороге.

Причем, действовать нужно уже сейчас - на подходе серийные авто с 4-м уровнем автономности из пяти, предполагающим вмешательство водителя только в исключительных случаях. Возможно, будет разработан единый стандарт, регламентирующий реакции бездушной электроники в отчаянных ситуациях. В любом случае, нерешаемую этическую дилемму придется как-то решать.

...и незначительные трудности

Если вы потенциальный разработчик автопилота и вас не пугают моральные аспекты, перед вами два основных пути для достижения своих целей. Первый состоит в установке на авто максимально возможного количества сенсоров, позволяющих сформировать трехмерную модель пространства вокруг машины, а также ПО, распознающее разметку, препятствия, дорожные знаки и сигналы светофоров. Это дорогой и затратный вариант, прежде всего из-за высокой стоимости оборудования, однако до недавнего времени его выбирало большинство создателей беспилотных ТС.

Есть и второй путь, пролегающий через использование искусственного интеллекта. А если точнее, одной малопонятной широким слоям населения технологии - т.н. машинного обучения по прецедентам. Поскольку предвидеть все возможные трудности практически нереально, в память ИИ загружаются ситуации “на основе реальных событий”. Затем где-то в недрах ИИ формируются некие реакции на эти ситуации, по которым впоследствии машина будет оценивать входящую информацию и выдавать решение, удовлетворяющее заданным критериям. Например, правилам дорожного движения. Иными словами, машину учат принимать самостоятельные решения на основе прошлого опыта - и на этот раз в прямом смысле и без кавычек.

Несмотря на всю сырость концепции, у этой технологии есть серьезное преимущество - хорошо дрессированный ИИ может обойтись без кучи датчиков. Недавно Audi показала систему, создающую трехмерное изображение на основе картинки с одной видеокамеры и показаний дальномера. Кроме прочего, система распознает 18 основных классов объектов на дороге. Это позволяет надеяться на удешевление автопилотов в будущем, но есть нюанс.

600 км пробега и полноценный автопилот: представлен концепт Nissan IMx

В связи с использованием машинного обучения на транспорте профессор Хохрейтер из университета Кеплера в Линце предсказывает любопытную оказию: по его словам, после обучения автопилоту потребуется сдать экзамены на профпригодность и существует вероятность, что он эти экзамены провалит. Недоучился, с кем не бывает! Но это значит, что беспилотным машинам, как и людям, в будущем придется получать некое подобие водительского удостоверения - и лишь потом им будет позволено выехать за ворота завода.

Конечно, речь идет не о каждом конкретном автомобиле, но о целых модельных рядах. Однако, даже в таком случае “неуд” в табеле означает серьезные задержки выхода новых моделей на рынок. А потому вполне вероятно, что роль ИИ в автопилотировании еще долго будет ограниченной. Возможно, оно и к лучшему.