Парадокс автоматизации: как компьютеры делают нас беспомощными

21 декабря 2017, 12:55
0

Парадокс автоматизации: как компьютеры делают нас беспомощными

Сколько телефонных номеров вы можете вспомнить, не заглядывая в смартфон? А делить и умножать без калькулятора умеете? Сможете ли проложить маршрут от точки А в точку Б без навигатора?
Парадокс автоматизации: как компьютеры делают нас беспомощными
Машины освободили нас от необходимости выполнять многие операции.Мы с удовольствием пользуемся предоставленной свободой, пока не случится что-то незапланированное. В такой момент мы понимаем, что без компьютера совершенно беспомощны. Эта проблема называется парадокс автоматизации: чем лучше автоматические системы, тем менее опытны их операторы, то есть мы. Проблема возникает повсеместно — от ошибок в работе сотрудников атомных станций до нашей неспособности запоминать телефонные номера. В книге «Хаос» Тим Харфорд рассказывает, к чему приводит парадокс автоматизации и как с ним бороться.

Штраф за парковку

Однажды Виктор Хэнкинс, обычный гражданин Великобритании, получил нежелательный подарок на Рождество — штраф за парковку в неположенном месте. Его машина перекрыла автобусную остановку и была сфотографирована камерой. Компьютер определил номерной знак, нашел его в базе данных и выявил адрес Хэнкинса. Был автоматически создан «пакет доказательств», включающий видеозапись с места, временную отметку и месторасположение. Письмо, требующее оплаты штрафа либо судебного разбирательства, было составлено, распечатано и отправлено по почте через такой же автоматический процесс. Была лишь одна проблема: мистер Хэнкинс вообще не парковал автомобиль. Он просто стоял в пробке.

Удачное путешествие

В марте 2012 года три японских студента, приехавшие в Австралию, решили отправиться в Норт-Страдброк, руководствуясь GPS-навигатором. По каким-то причинам навигатор не знал, что на проложенном маршруте нужно пробраться 9 миль через Тихий океан. Подчинившись технологиям, студенты выехали на пляж и илистые участки океана. Когда вода начала плескаться вокруг их Hyundai, они поняли, что застряли.
Под взглядами удивленных пассажиров парома студенты оставили машину и пошли вброд к берегу. Машина не подлежала восстановлению.
Случай вовсе не уникален. Известны эпизоды, когда люди, следующие GPS-навигаторам, вели свои машины в озеро, прямо в дом, вниз по лестнице, по скалистой тропинке к обрыву скалы и в огромный песчаный карьер. Официальные представители туристических организаций в итальянском материковом городе Капри были однажды смущены вопросами приезжих шведов, которые считали, что прибыли на остров Капри, находившийся в 640 километрах.

Пилот на автопилоте

Автоматические системы отвечают не только за наш комфорт, но и за безопасность. Автопилоты современных самолетов очень надежны. Они призваны облегчить нагрузку экипажа, чтобы он мог сосредоточился на более важных задачах. Но вместо этого пилоты засыпают на штурвалах — образно или буквально. В конце 2009 года произошел нашумевший инцидент, когда два пилота на автопилоте (не в переносном значении) пролетели мимо аэропорта Миннеаполиса более чем на 160 километров. Они просто уткнулись в свои ноутбуки и отвлеклись. Иногда подобные инциденты заканчиваются трагически. Рейс Air France 447 рухнул в воды Атлантического океана на скорости 201 километр в час, потому что пилоты не смогли справиться с управлением, когда отключился автопилот. Они даже не поняли, что происходит. Все находившиеся на борту 228 пассажиров погибли.

Вместо маленьких ошибок большие проблемы

Эрл Винер, культовая фигура в области авиабезопасности, изобрел то, что сейчас известно как «Законы Винера» об авиации и человеческих ошибках. Вот один из них.
Цифровые устройства исправляют маленькие ошибки, создавая возможности для крупных.
Парадокс автоматизации имеет три направления. Во-первых, чем проще обращение с машиной и лучше система корректировки ошибок, тем менее компетентными мы становимся. Во-вторых, даже экспертные навыки ухудшаются, потому что машины лишают нас практики. В-третьих, автоматика сбоит в необычных ситуациях или сама служит их причиной, требуя вмешательства сверхкомпетентного человека. В каждом из этих трех случаев повышение эффективности и надежности электроники лишь усугубит проблему.

Кто кого контролирует

Никто не отрицает пользу автоматизированных систем. Автоматизация делает нашу жизнь проще, комфортнее и безопаснее. Веб-страница сервисного центра может обрабатывать рутинные жалобы и запросы, избавляя сотрудников от однообразной работы. Полеты с автопилотом стали в разы безопаснее тех, что осуществлялись под контролем человека. Но чем больше мы доверяем машинам, тем серьезнее последствия их ошибок.
Одно из возможных решений этой проблемы — поменять роль компьютера и человека.
Вместо того чтобы позволять компьютеру управлять самолетом с человеком, готовым перенять контроль, когда компьютер не может справиться, возможно, будет лучше позволить человеку управлять самолетом, а машина будет отслеживать ситуацию, готовая вмешаться в нужный момент. В конце концов, компьютеры не устают, терпеливы и не нуждаются в практике. Так почему мы просим людей наблюдать за машинами, а не наоборот? База данных и алгоритмы, равно как и автопилот, должны существовать для поддержки решений человека. Если мы полностью доверимся машинам, катастрофа неизбежна. Не попадайтесь на парадокс автоматизации: принимайте решения умом, а не компьютером. 

По материалам книги «Хаос» 
Обложка поста — unsplash.com 

Только для читателей Cossa — скидка 30% на электронную книгу «Хаос» . Промокод: 2112mif. Действует до завтра, 22 декабря, 23:59 (Мск).

P. S. Хотите стать лучшей версией себя, прожить жизнь, полную смысла и получать хорошие скидки на лучшие книги МИФа? Подписывайтесь на нашу рассылку. Каждую неделю выбираем самые полезные отрывки из книг, советы и лайфхаки — и отправляем вам.



Ответить?
Введите капчу

✉️✨
Письма Коссы — лаконичная рассылка для тех, кто ценит своё время: cossa.pulse.is


Вход на cossa.ru

Уже есть аккаунт?
Авторизуйся через VK:
Vkontakte
Не забудьте написать email на странице своего профиля для управления рассылкой