11 травня, 2019
Нейрохірург Генрі Марш: чи справді штучний інтелект є загрозою людству?
Генрі Марш (Henry Marsh) – британський нейрохірург, відомий у всьому світі, людина з різнобічними талантами, фантастичною енергією, невичерпним бажанням ділитися знаннями та досвідом. 1 лютого 2019 р. Генрі Марш прочитав в Українському католицькому університеті м. Львова лекцію, присвячену проблемі штучного інтелекту (ШІ), у якій підняв такі питання: наскільки реально відтворити людський мозок у машині? Якими є принципові відмінності між ШІ та мозком? Чи справді в найближчому майбутньому ШІ становитиме загрозу людству? Ми представляємо до вашої уваги огляд цієї лекції.
Розмірковує Генрі Марш...
Відомий фізик Стівен Гокінг (Stephen Hawking) та не менш відомий підприємець Ілон Маск (Elon Musk) називали ШІ великою загрозою людству. Вони запевняли, що ШІ залишить людей поза справами, вони стануть зайвими у цьому світі. Лунають побоювання, що ШІ поневолить людство, ставитиметься до нас так само, як ми ставимося до тварин. Наскільки реальними є ці загрози?
Немає сумніву, що ШІ все більше втручатиметься у наше життя. В Китаї вже зараз у громадських місцях встановлено більше сотні мільйонів камер спостереження, які здатні розпізнавати обличчя, записувати й аналізувати кожен рух та оцінювати поведінку людей. Потенційно ШІ може надавати урядам владу над населенням. Але чи замінить ШІ людину?
Ще одним знаним популяризатором проблеми ШІ є підприємець та винахідник, технічний директор Google Реймонд Курцвейл (Raymond Kurzweil). Він говорить, що вже незабаром ми будемо жити по 1000 років, та що людський мозок можна буде завантажувати в комп’ютери (я особисто, як і багато інших людей, вважаю це нісенітницями). Він запропонував термін «технологічна сингулярність», який означає, що ШІ, а також інтеграція інтелекту людини з машинами настільки пришвидшать науково-технічний прогрес, що розпочнеться якась нова ера, отже, передбачити долю цивілізації після настання сингулярності неможливо. На мій погляд, передбачити майбутнє неможливо.
Багато років тому я запровадив методику операцій на головному мозку під місцевим наркозом, протягом яких пацієнт заходиться при свідомості. Мозок не відчуває болю, тому хірург може працювати в мозку скальпелем, а пацієнт цього не відчуватиме. Під час операції я користуюся мікроскопом, який через відеокамеру передає на комп’ютер зображення мозку, збільшене в 10 разів. І я пропоную пацієнтам, що лежать на операційному столі, подивитися на власний мозок. є такі, що погоджуються, і коли дивляться на екран, вони бачать те, що, власне, і надає їм можливість сприймати побачене. Це дуже дивне та незвичне відчуття, яке допомагає усвідомити: все, що ми з вами думаємо та відчуваємо у певний момент – це фізичний феномен, чиста електрохімія. А раз так, то він підпорядковується законам фізики та може бути обчислений.
Ще 1936 р. про це писав видатний британський математик Алан Тюринг (Alan Turing) у своїй роботі «On Computable Numbers, with an Application to the Entscheidungsproblem» («Про обчислювані числа, з додатком до проблеми можливості розв’язання»), але він вказував: те, що мозок теоретично піддається обчисленню, не означає, що він схожий на машину. Це важливий момент, бо багато людей ототожнюють мозок із комп’ютером, називають нейрони – hardware (комп’ютерна апаратура), а думки – software (програмне забезпечення), але то нісенітниця. Якщо мозок – фізична система, то теоретично можливо побудувати машину з «інтелектом людського рівня». Але наскільки це ймовірно?
Взагалі, що таке інтелект? Визначення зі словників пояснять нам небагато. Геніальний Альберт Ейнштейн (Albert Einstein) вважав, що інтелект – це не знання, а уява. «Я не думаю словами. Думки приходять, і лише після цього я втілюю їх у слова. Я ніколи не роблю свої відкриття за методами раціонального мислення», – казав він. Людвіг Вітгенштайн (Ludwig Wittgenstein) у своєму «Логіко-філософському трактаті» писав: «Усе, що може бути сказано, має бути сказано чітко, а те, про що сказати не можна, слід обійти мовчанкою».
Отже, фізична матерія породжує свідомість та відчуття. Це засадничий принцип нейронаук. Якимось поки що незрозумілим чином, ця матерія – атоми та молекули – генерує свідомість. Людство має дуже розвинену науку, але воно й близько не наблизилося до пояснення того, як саме виникають свідомість та почуття. Мене тішить, що ми є такою ж величезною таємницею для науки, як Всесвіт.
На сьогодні ми маємо перший рівень ШІ, який може виконувати одну специфічну задачу. Прикладом є програма AlphaGo, що грає в ґо (стародавня китайська стратегічна настільна гра) та 2015 р. перемогла чемпіона світу з цієї гри. Ще раніше шаховий суперкомп’ютер Deep Blue переміг чемпіона світу Гарі Каспарова. Отже, ШІ виконує щось одне – грає у певну гру, розпізнає обличчя тощо. Другий рівень ШІ, який поки що не існує, – це так званий ШІ загального призначення, що, як і людина, здатний виконати будь-яке інтелектуальне завдання.
Коли в 1950-ті рр. почала активно розвиватися комп’ютерна техніка, розробники були впевнені, що вже незабаром комп’ютери стануть такими ж розумними, як люди. На них чекало розчарування – цієї мети не досягнуто досі. Однією із причин невдачі стало те, що комп’ютери створювалися на основі символічної (математичної) логіки. Останнім часом ситуація змінилася – не через зміну теорії, а завдяки розвитку техніки – мініатюризації та експоненційному зростанню потужності комп’ютерів.
ШІ може бути оснований на принципах нейронних мереж, які вважаються надзвичайно спрощеною моделлю роботи нашого мозку. Базова ідея штучної нейронної мережі така, що вхідні сигнали проходять крізь кілька шарів процесорів, де відбуваються їхні перетворення. Між процесорами можливий як прямий, так і зворотний зв’язок. Завдяки цьому штучні нейронні мережі здатні навчатися. Вони можуть розпізнавати патерни та класифікувати речі. Але вони це роблять виключно на основі статистичних зв’язків, без використання причинно-наслідкових моделей. Нейронні мережі не зможуть розповісти вам, як вони дійшли того чи іншого висновку. У них немає поняття «причини» та «розуміння» інформації. Отже, ШІ працює не так, як мозок!
Якщо ви покажете ШІ мільйони зображень котів, ШІ навчиться розпізнавати котів. Але він ніколи не зможе пояснити вам, хто такі коти та чому він вирішив, що перед ним – саме кіт. Принципи навчання людей та машин абсолютно різні, але ми взагалі не розуміємо, як навчаються люди.
На сьогодні маємо багато точок зору про те, як розвиватиметься ШІ. Одні вважають, що ШІ загального призначення буде створений досить скоро, що якісь технологічні «прориви» та відкриття уможливлять це. На думку інших, створення ШІ загального призначення цілком можливе, але неможливо передбачити, коли саме це відбудеться, адже ми досі надто мало знаємо про роботу мозку.
Якими ж є спільні риси між людським мозком та комп’ютером? Люди, як і машини, мають системи введення/виведення. Через органи чуття сигнали потрапляють у мозок, там відбувається їхня обробка, результатом якої є «виведення» інших сигналів – рухів, мовлення тощо. Крім того, і в мозку, і в комп’ютері є величезна кількість електричних «перемикачів». Ці спільні риси дають надію на те, що сконструювати штучний мозок не так уже й складно, але поки що реальність інша.
Чим відрізняється мозок від комп’ютера? Мозок тварин та людей складається з нервових клітин (нейронів). Отже, мозок побудований з органічних молекул, а не металу чи силікону, як електронні мікросхеми. Природа цих біомолекул також є важливою.
Кожна нервова клітина має власні пристрої введення/виведення: отримує сигнали через дендрити, надсилає далі – через аксон. Проте нейрон не є простим перемикачем, який передає або не передає імпульси. У тілі нейрона відбувається інтеграція сигналів, які надходять, і, якимось досі незрозумілим чином, приймається рішення: чи ініціювати потенціал дії, чи передати імпульс далі.
Мозок – дуже складна структура. Кожен кубічний міліметр кори головного мозку містить до 100 тис. нейронів та мільярди синапсів. Загалом у мозку людини більше 80 млрд нервових клітин, 150 трлн синапсів, сумарна довжина аксонів та дендритів становить близько 850 тис. км. Зв’язок між нейронами забезпечують орієнтовно 100 нейромедіаторів.
Важлива відмінність мозку від комп’ютера – наявність тіла. Коли дитина зростає, її тіло є дуже важливим інструментом навчання. Для розвитку мозку критичне значення має також соціальне оточення індивіду, передусім батьки.
У процесі розвитку мозок вчиться передбачати майбутнє. Для багатьох дій ми маємо ментальну модель, яка звільняє від необхідності постійно аналізувати свої відчуття та реагувати на них. Отже, можна сказати, що наші відчуття – це значною мірою наші очікування. Коли ми піднімаємося знайомими сходами, то маємо якесь уявлення, скільки їх має бути. І коли раптом сходинок виявляється більше або менше, ніж ми очікували, то почуваємося геть розгубленими – відчуття вступають у конфлікт з очікуваннями.
Ще одна особливість мозку – низьке споживання енергії. Якщо мозок за годину витрачає десь 20 Вт (менше, ніж побутова лампочка), то комп’ютер, порівнянний за складністю з мозком, потребуватиме мегаватів енергії.
Останнім часом робляться спроби створити карту зв’язків у головному мозку, зокрема це має на меті проект «Конектом людини» (Connectome). Дослідники роблять надзвичайно тонкі зрізи мозку, аналізують їх за допомогою ШІ та намагаються прослідкувати шляхи аксонів і дендритів, яких, як ми пам’ятаємо, 850 тис. км! Навіть оптимісти вважають, що на створення повної карти мозку підуть десятиріччя.
Першим організмом, для якого був описаний повний конектом, стала нематода Caenorhabditis elegans. Її нервова система нараховує лише 302 нейрони та 7 тис. синапсів. На це пішло 12 років, а з того часу технології не стали швидшими. Але головна проблема полягає в тому, що конектом не додає розуміння принципів роботи нервової системи. Він може бути основою наступних досліджень, але сам собою нічого не пояснює.
У Європі з 2005 р. триває проект «Блакитний мозок» (Blue Brain), який має на меті створення комп’ютерної моделі мозку шляхом зворотної інженерії мозку ссавців. Тобто реконструкцію проводять «знизу догори»: намагаються відтворити найменші функціональні одинці нової кори і з них вже побудувати щось більше. Проект надто амбіційний та дорогий, фахівці з нейронаук його нещадно критикують та вважають, що він досі не приніс нічого вартого уваги.
Відносно новий напрямок розвитку ШІ – створення нейроморфних чіпів, які імітують роботу нейронів та синапсів. Поки що результати незначні, але, можливо, наступні дослідження принесуть плоди.
Отже, у найближчій перспективі створення ШІ на рівні людського інтелекту я вважаю нереальним. І хоча Ілон Маск називає розвиток ШІ однією з найбільших загроз людству, на мій погляд, є актуальніші та серйозніші виклики, які потребують наших спільних дій, наприклад, зміни клімату та глобальне потепління.
Підготувала Тетяна Ткаченко
Відео лекції Генрі Марша (англ. мовою) доступне за посиланням: www.facebook.com/tvoyemisto/videos/2645424458831179
Довідка ЗУ
Генрі Марш народився 1950 р., вчився в Оксфорді на політолога-економіста, але обрав справою життя нейрохірургію. Він запровадив методику проведення операцій на головному мозку під місцевою анестезією, які швидко стали загальноприйнятою практикою. Марш є членом Королівського хірургічного коледжу та кавалером Ордену Британської Імперії, працював у лікарні імені Аткінсона Морлі – одному із провідних нейрохірургічних закладів Великої Британії. А ще він має особливі почуття до України.
Вперше Генрі Марш потрапив в Україну 1992 р. Він вивчав в університеті радянську політику, цікавився тим, що відбувалося на пострадянському просторі, але був шокований тим, що побачив у наших лікарнях. Із того часу Марш приїжджає в Україну дуже часто – оперує, консультує, навчає лікарів, читає лекції студентам, організовує стажування нейрохірургів у європейських клініках. Він завжди відверто говорить про проблеми нашої медицини – корупцію, недоліки в освіті та хірургічній практиці; про те, що наша медицина залишається ще дуже «радянською». Але завжди підкреслює: йому подобається Україна, подобаються люди, молодь. Він вважає нашу країну полем битви, де зустрілися азійський деспотизм та європейська демократія. Він дуже гордий тим, що долучився до подій Євромайдану, а наразі підтримує медичну реформу, яку розпочало наше Міністерство охорони здоров’я.
Генрі Марш видав дві книжки мемуарів: «Do No Harm: Stories of Life, Death and Brain Surgery» («Не нашкодь: історії про життя, смерть та нейрохірургію») 2014 р. та «Admissions: A life in Brain Surgery» («Покликання: про вибір, обов’язок і нейрохірургію») 2017 р., які стали бестселерами та були перекладені на десятки мов. Вийшли вони і в Україні під назвами: «Історії про життя, смерть та хірургію головного мозку» (2015) та «Ні сонце, ані смерть» (2018). Марш міркує про професію, життя та смерть, відверто пише про свої помилки. За його словами, головні меседжі цих творів: медицина – це дуже складно, а чесність – це дуже важливо.
Кілька років тому Генрі Марш припинив активну практику. На даний час він працює один день на тиждень, читає лекції, іноді оперує, відвідує з робочими візитами Україну, Непал, Пакистан.
Тематичний номер «Неврологія, Психіатрія, Психотерапія» № 1 (48) березень 2019 р.