Искусственный интеллект начал убивать раньше, чем мы думали

Ровно год назад — месяцем раньше, месяцем позже, неважно — мы откровенно заявили: однажды автомобиль с искусственным интеллектом убьет человека. К нашему удивлению, ждать долго не пришлось: ИИ уже начал убивать людей. И в связи с этим, есть смысл поднять вечные вопросы еще раз: кто виноват и что делать?


«…хотя смерть от рук роботов и даже от самоуправляемого автомобиля может звучать жутко, мы должны напомнить себе, что сотни тысяч людей погибают в автомобильных катастрофах каждый день. Хотя мы можем найти утешение в том, что человек в настоящее время сидит за рулем каждого автомобиля, статистически это никогда не будет безопаснее, чем когда роботы примут на себя обязанности водителей. И когда преимущества самоуправляемых автомобилей переплюнут факторы безопасности — в том числе эффективность ежедневных поездок, нашего планирования городов, смещение динамики цен при обновлении целых отраслей промышленности — мы будем бояться их не больше, чем персональных компьютеров.

Настоящий риск, связанный с развитием робототехники и искусственного интеллекта, заключается в непреднамеренном их использовании. Точно так же, как есть тонкая грань между ядерной энергией и ядерным оружием, эти достижения в робототехнике и ИИ обещают непредсказуемые возможности злоупотребления: смертельные военные применения, расширение способов шпионажа и взлома точно таких же сложных систем. Поэтому мы должны быть полностью осведомлены об этих рисках и готовы решать связанные с ними вопросы, при этом не забывая о том, какую пользу они могут принести человечеству.

Гейтс, Маск и Хокинг абсолютно правильно поощряют осторожность во время движения вперед. Однако видят угрозу немножко не там, поскольку человеческое намерение остается куда более грозной опасностью, нежели машины, которые оно изобретает. Невообразимые технологии находятся на расстоянии вытянутой руки, когда-то о них можно было лишь мечтать, но главным врагом людей всегда были лишь сами люди».

Так писали мы год назад.

Начиная с мая 2016 года автопилот Tesla (он же Autopilot, как его называет сама компания) пошел во все тяжкие: 7 мая 2016 года в США автомобиль ехал по скоростному шоссе штата Флорида и на одном из перекрёстков врезался в пересекающую дорогу фуру. Автомобилю Tesla оторвало крышу, и он пролетел ещё примерно 30 метров, прежде чем остановиться. Водитель Джошуа Браун в результате аварии скончался. 10 июля 2016 года, в воскресенье ночью Model X врезалась в ограждение в Монтане, и снова по вине автопилота. К счастью, водитель и пассажир оба в порядке. Но могло быть иначе.

…главным врагом людей всегда были лишь сами люди. СМИ подхватили оба случая и разнесли Tesla в пух и прах, критикуя ранний выход автопилота. Самое интересное в том, что теперь езда без автопилота становится опаснее, чем с ним. И эта смерть — не более чем капля в море из миллионов смертей, которые происходят по всему миру по вине людей.

«Но реальность такова, если смотреть на цифры, что езда с автопилотом Tesla НАМНОГО безопаснее, чем без него, либо в машине, где его нет», — писал Питер Диамандис, отвечая на несправедливую реакцию СМИ.

Выходит, люди действительно снова оказываются врагом сами себе? А что будет дальше? Мы будем смотреть, как искусственный интеллект убивает сотни людей, где угодно, как угодно: ради фармацевтических экспериментов; устраняет неудачных дизайнерских младенцев; убивает одних людей ради спасения других; лишает жизни преступников ради сохранения жизней, которые они в противном случае могли бы унести? И будем смотреть на это как на спасение человечества? Получается, да. Нам придется смириться с меньшим злом ради избавления от большего.