П'ятниця, 28 січня 2022

Навчання

Що, та як - приходять одночасно

 На автоматі: чому комп'ютери загрожують нашому інтелекту

                  У середині XX століття почалася масштабна автоматизація праці в багатьох галузях промисловості. Сьогодні комп'ютери замінюють людину в авіації, медицині, архітектурі та інших професійних сферах. Технології допомагають підвищити ефективність роботи і отримати більший прибуток, але при цьому вони відбирають у людини найцікавіші і творчі завдання, залишаючи лише рутинну і механічну роботу. Але чи можуть машини повністю замінити людину? І як не допустити їх вторгнення в ті області, де потрібне творче мислення, інтуїція і вміння швидко приймати рішення в нестандартній ситуації? Інтернет-Портал «Пабліш Україна» перевели статтю Ніколаса Карра в The Wall Street Journal. 


     З появою штучного інтелекту багато чого в світі змінилося. Сьогоднішні комп'ютери точні, розпізнають навколишнє середовище, вирішують складні завдання, роблять тонкі спостереження і вчаться досвідченим шляхом. Вони мислять не так, як ми, і 

     як і раніше мертві, як зубочистки, але при цьому вони можуть відтворити багато рідкісних і цінних умінь людини. Заворожені цими новими чарівними машинами, ми з готовністю передали їм всі складні робочі завдання, які раніше виконували самі.

      Але ця зростаюча довіра до комп'ютерної автоматизації може дорого обійтися. Різні тривожні факти говорять про те, що ми поступово втрачаємо свої розумові здібності і стаємо все більш залежними від штучного інтелекту. Здається, розумна техніка робить нас дурнішими, замість того, щоб піднімати на новий щабель розвитку.

                                   Це сталося не відразу. Перша хвиля автоматизації прокотилася по США після Другої Світової, коли на заводах стали встановлювати електронне обладнання. Завдяки новим машинам робота стала ефективнішою, а компанії почали отримувати більше прибутку. Машини також стали визволителями. Вони значили для людей більше, ніж просто підвищення продуктивності. Вони звільнили робочі руки від одноманітних завдань і дали людям можливість займатися більш живою роботою і розвивати в собі більш цінні таланти і навички. Нові технології височіли і облагороджували робітників. Пізніше, в 1950-х роках, професор Гарвардської школи бізнесу Джеймс Брайт зацікавився тим, як автоматизація впливає на різні області промисловості, від нафтопереробки до хлібопечення. Він з'ясував, що умови на заводах аж ніяк не надихають. Через нове обладнання робітникам набагато частіше діставалася лише нудна, низькокваліфікована робота. Наприклад, з автоматизованим фрезерним верстатом ремесло слюсаря не ставало більш творчим, а зводилося до простого натискання кнопок. Брайт дійшов висновку, що головний ефект від автоматизації (у термінах економіки праці) - зниження кваліфікації робітників, а не підвищення її. "Урок з цього простий, - писав він у 1966 році. - Складним обладнанням необов'язково повинні керувати кваліфіковані робітники. Всі професійні навички можуть бути вбудовані в саму машину ".


         Сьогодні ми спостерігаємо ту ж саму картину, але в більшому масштабі. Програми навчилися аналізувати і приймати рішення, і автоматизація перейшла зі світу промисловості в світ офісів і білих комірців. Комп'ютери тепер виконують висококваліфіковану роботу, що вимагає певних знань, яка завжди вважалася прерогативою освічених і досвідчених фахівців. Льотчики довіряють комп'ютерам керувати літаками, лікарі користуються ними для діагностування захворювань, архітектори проектують будівлі за допомогою комп'ютерних програм. Нова хвиля автоматизації торкнулася всіх.

      Комп'ютери не відбирають всю роботу у талановитих людей, але вони змінюють робочий процес. Все більше ми переконуємося в тому, що декваліфікація, яка торкнулася в минулому столітті заводських робітників, починає вбивати навіть найрідкісніші професійні таланти. Учорашні оператори на фабриках сьогодні просто керують комп'ютерами.

   «Пілот, який давно не керував літаком вручну, з більшою ймовірністю допустить помилку в разі надзвичайної ситуації»

          Подивіться хоча б на небо. 100 років тому винайшли автопілот, і польоти стали безпечнішими й ефективнішими. Система отримала розвиток у 1970-х роках з появою електродистанційної системи управління. Але сьогодні фахівці хвилюються, чи не зайшли ми занадто далеко. Так багато завдань з управління літаком було перекладено з людини на комп'ютер, що пілоти втрачають свою зноровку, поступово втрачають навички.

                          Навіть незначна втрата навичок ручного управління літаком може призвести до трагедії. Пілот, який давно не керував літаком вручну, з більшою ймовірністю допустить помилку в разі надзвичайної ситуації. Помилки пілота, пов'язані з автоматизацією, призвели до кількох недавніх авіакатастрофів, у тому числі до катастрофи континентального рейсу 3407 в Буффало в 2009 році і падіння рейсу 447 Air France в Атлантичному океані, а також до невдалої посадки рейсу 214 Asiana в 2013 році в Сан-Франциско. Наприкінці минулого року був опублікований звіт Федерального управління цивільної авіації, в якому говориться, що все більше аварій відбувається через надмірну довіру пілотів автоматиці. Пілоти звикли просто дивитися, як розвиваються події, і реагувати на ситуацію, що вже трапилася, замість того, щоб випереджати і попереджати події. Федеральне управління цивільної авіації тепер зобов'язує авіакомпанії приділяти більше часу польотам з ручним управлінням.

            Комп'ютерні системи розвиваються, а люди, які їх використовують, навпаки все менше прагнуть удосконалювати свої власні знання. У цьому часто звинувачують додатки в програмах, які постійно пропонують користувачеві безліч підказок і порад. Прості, менш витончені програми змушують людей більше думати, активніше діяти і вчитися. Наші навички розвиваються тільки в тому випадку, якщо їх практикувати, якщо використовувати їх регулярно і вирішувати з їх допомогою складні завдання.

      Завдання ж сучасних програм полягає в тому, щоб полегшити нам життя і позбавити від цих навантажень. Програмісти найчастіше автоматизують саме важку, трудовитратну роботу, адже так найшвидше вдається підвищити ефективність і отримати прибуток. Іншими словами, тут розгортається активна боротьба інтересів розробників програм автоматизації та їх користувачів або операторів.


                       Тим не менш, автоматизація продовжує поширюватися на різні сфери. З появою електронної медичної документації лікарі великою мірою покладаються на програмні шаблони, які допомагають їм розібратися з даними пацієнта. Програми містять цінні питальники та попередження, але вони також перетворюють лікарську практику на рутину та формальність, а також дистанціюють лікарів від їхніх пацієнтів. У 2007-2008 рр. в Нью-Йорку професор Тімоті Хофф провів дослідження на цю тему - він опитав понад 75 лікарів, які використовують комп'ютерні програми. За їхніми словами, через комп'ютерне обладнання вони стали гірше розуміти своїх пацієнтів і втратили здатність приймати осмислені рішення, що стосуються діагнозу і лікування.

             У своїй статті 2012 року професор Гарвардської медичної школи Бет Лоун зазначає, що лікарі тепер більше слухають підказки комп'ютера, ніж скарги своїх пацієнтів. У гіршому випадку це може призвести до того, що лікарі втратять важливі для діагнозу симптоми. Навіть творчі професії страждають від декваліфікації, до якої призводить автоматизація. Завдяки комп'ютерному проектуванню архітектори тепер можуть будувати будівлі незвичайних форм і з незвичайних матеріалів. Але якщо використовувати комп'ютери на дуже ранній стадії проекту, зникає почуття естетики, і ми втрачаємо важливі речі, які можна помітити тільки при створенні ескізів і моделюванні вручну.

     Ручна праця, як показують психологічні дослідження, краще допомагає розкрити оригінальність художника, покращує його робочу пам'ять і підсилює зобов'язання. «Блокнот - це підсилювач мозкової діяльності», - говорить Найджел Крос, професор у Відкритому університеті Великобританії.

                            Професор з архітектури в Університеті Маямі Якоб Бріллхарт (Jacob Brillhart) писав у своїй статті в 2011 році, що сучасні комп'ютерні системи можуть з неймовірною швидкістю перетворити безліч технічних даних на точні 3D моделі, але з цього виходять більш банальні і «плоскі» проекти, позбавлені сенсу, уяви і почуття. Однак з цією ситуацією не можна миритися. Автоматизація не повинна усувати складні завдання з нашої роботи і руйнувати наші здібності. Всі ці недоліки пояснюються тим, що програмісти та інженери переважно використовують машиноорієнтований підхід до автоматизації. Коли системні розробники починають проект, вони, перш за все, оцінюють здібності комп'ютерів, щоб перекласти на програму якомога більше роботи. Оператор працює вже з тим, що залишилося: зазвичай, це відносно пасивні завдання, такі як введення даних, шаблонні дії і контроль за моніторами. Такий підхід являє собою порочне коло, яке веде до постійного зниження кваліфікації. Усунення важких завдань у роботі призводить до декваліфікації і більшої ймовірності помилки. Коли такі помилки трапляються, розробники намагаються ще більше обмежити людську відповідальність, таким чином запускаючи нове коло декваліфікації.

             Але з цієї ситуації є вихід. Людиноорієнтований підхід до автоматизації ставить на перше місце професійні якості людини. Система проектується таким чином, що оператор постійно залишається в «циклі прийняття рішень», як це називають розробники. Це постійний процес, що складається з дії, відповідної реакції та оцінки. Завдяки цьому працівники не втрачають увагу і концентрацію, втягуються в процес і виконують важкі завдання, які розвивають їхні професійні навички.

        У цій моделі комп'ютерні програми відіграють важливу, але другорядну роль. Їм довіряють одноманітні завдання, які вже освоїв оператор, вони попереджають про виникнення непередбачених ситуацій, надають свіжу інформацію, що розширює бачення оператора, повідомляють про помилки в процесі, через які люди часто приймають неправильні рішення. Технологія стає союзником професіонала, а не його заміною.

   «Роботи не можуть імітувати людську проникливість, винахідливість та інтуїцію, відточену наполегливою працею і доповнену реальним життєвим досвідом»

     Для переведення автоматизації в більш людяну площину не потрібно технічного прориву. Потрібно просто змістити пріоритети і по-новому подивитися на сильні і слабкі сторони людини.


       Наприклад, авіалінії могли б програмувати комп'ютери в кабіні пілота так, щоб під час польоту відбувалася періодична зміна ручного і автоматичного управління. Польоти могли б стати навіть безпечнішими, якби пілот був завжди напоготові. Що стосується медицини та інших професій, програми могли б набагато менше втручатися в роботу професіоналів і давати людям можливість висловлювати власну думку, перш ніж пропонувати рішення, засновані на певних алгоритмах.

                      Людиноорієнтований підхід до автоматизації не стримує прогрес. Навпаки, він виводить прогрес на більш гуманістичний шлях і бореться з занадто загальним, антилюдним підходом, в основі якого лежить поклоніння комп'ютерам і нехтування людьми. Один з найбільш надихаючих прикладів такого підходу - адаптивна автоматизація. У ній використовуються сучасні сенсори і алгоритми інтерпретації для відстеження фізичних і розумових станів людини, а потім ця інформація використовується для перемикання завдань і функцій між людиною і комп'ютером. Якщо система відчуває, що людина працює зі складним процесом, вона перекладає більше завдань на комп'ютер, щоб не відволікати оператора. Але коли вона розуміє, що інтерес оператора згасає, система зрушує навантаження на людину, щоб привернути його увагу і потренувати професійні навички.

                Ми зачаровані комп'ютерами, і в цьому немає нічого поганого. Але це захоплення не повинно змушувати нас недооцінювати наші власні таланти. Навіть найрозумнішому програмному забезпеченню не вистачає здорового глузду, винахідливості і яскравості, які є у кваліфікованого професіонала. У літаках, офісах, лікарських кабінетах люди залишаються незамінними. Роботи не можуть імітувати людську проникливість, винахідливість та інтуїцію, відточену наполегливою працею і доповнену реальним життєвим досвідом. Якщо ми дозволимо нашим здібностям зникнути і будемо в усьому покладатися на автоматизацію, ми станемо менш талановитими, менш гнучкими і більш залежними від машин. Ми створимо світ, більш придатний для роботів, ніж для нас самих.

Найпопулярніше на сайті