Рецензія на книгу
Макса Теґмарка
«Життя 3.0. Доба штучного інтелекту»
Автор: Анастасія Шевченко, генеральний менеджер Lugera в Україні
Рецензія на книгу
Макса Теґмарка
«Життя 3.0. Доба штучного
інтелекту»
Автор: Анастасія Шевченко, генеральний менеджер Lugera в Україні
Макс Тегмарк - шведсько-американський фізик, професор Массачусетського технологічного інституту та космолог. У своїй книзі «Життя 3.0. Доба штучного інтелекту» Тегмарк досліджує можливості штучного інтелекту, варіанти майбутнього людства під контролем ШІ та те, для чого нам взагалі потрібен штучний інтелект.
Тематика книги не проста та має глибину викладу близьку до наукової праці. Ділюся важливими моментами:
Тематика книги не проста та має глибину викладу близьку до наукової праці. Ділюся важливими моментами:
- Ніхто насправді не знає, коли з'явиться (загальний) штучний інтелект (ШІ). І навіть якщо він буде винайдений найближчим часом (десятиліття), ніхто не включить його, поки не будуть вирішені питання безпеки.
- ШІ добре вміє досягати своїх цілей, а значить нам потрібно узгодити його цілі з нашими. Приклад: ви не вбиваєте мурах просто так. Але якщо вам доручили побудувати гідроелектростанцію, і в районі, який йде під затоплення, виявиться мурашник, мурахам доведеться попрощатися з життям. Рух за сприятливий ШІ хоче не допустити ситуацію, коли людство опиниться на місці мурах.
- Головна небезпека від впровадження ШІ – ситуація, при якій його цілі не співпадають із нашими.
- Зі ШІ метод спроб і помилок не підходить. Потрібно діяти на випередження задля безпеки людства.
- У віддаленій перспективі, використовуючи ваші біометричні дані, алгоритми зможуть створювати персоналізовані мелодії тільки для вас. Або використовуючи масив біометричних даних мільйонів людей, алгоритми створюватимуть світові хіти.
- ШІ замінить людей у багатьох професіях, але й при цьому створить нові робочі місця: для віддаленого управління, покращення ШІ, аналізу даних та кібербезпеки. Швидше за все, до 2050 року ринок праці буде виглядати як співпраця людини та ШІ. Так, команди з людей та ШІ перевершать команди з людей та комп'ютерів. ШІ також може допомагати тренувати людей – банкірів, шахістів, солдатів, детективів.
- Нові робочі місця в еру ШІ вимагатимуть нових знань та навичок, що не вирішить проблему з некомпетентними співробітниками. Інша справа переключатися з однієї низькокваліфікованої роботи на іншу: сільськогосподарський робітник – різноробочий на заводі – касир у супермаркеті.
- Швидше за все, ми страждатимемо відразу від високого рівня безробіття (може стосуватися тих, хто не може перекваліфікуватися), дефіциту кваліфікованих кадрів (через нові типи роботи) і появою цілого класу людей, що не зможуть пристосуватися, зокрема, через ментальну нестійкість.
- Створення нових робочих місць та перепідготовка людей відбуватимуться постійно. Для успішної промислової революції потрібні також революції у навчанні та психології.
- Два варіанти розвитку події для безпеки низькокваліфікованого персоналу: уряд може оплачувати роботу людей у широкому розумінні – допомогу сусідам, волонтерську діяльність, догляд за дітьми. І другий варіант – уряд може субсидіювати безкоштовну освіту, медицину, транспорт тощо.
- ШІ у фінансах – це точність прогнозів, на виробництві – менше рутини та більше безпеки, на дорогах – менше смертей через ДТП, в енергетиці – розумна витрата енергії, у охороні здоров'я – більш точні діагнози та ювелірна точність хірургічних операцій, у юридичній сфері – немає забобонів та упереджень.
- Чим вище рівень автоматизації суспільства і чим сильніше розвинений ШІ, тим більшої шкоди завдасть кібервійна. Якщо зламувати коди доступів та хакнути програми транспортні, безпілотних літаків, ядерних реакторів, виробничих роботів, комунікаційних та фінансових систем разом з електромережами – можна винищити будь-яку економіку та паралізувати будь-яку країну та її оборону.
- Профорієнтаційна рекомендація дітям – вибирайте такі професії, які не підходять машинам, вимагають взаємодії з людьми, несуть у собі елементи непередбачуваності та творчості.
- Для реалістичності сценарію Термінатора, який захопить людство, потрібно: Крок 1. Створити ШІ рівня людини. Крок 2. За допомогою ШІ створити суперінтелект. Крок 3. Дозволити суперінтелекту захопити світ.
- Уявімо тоталітаризм в еру ШІ: держава стежить за всіма електронними комунікаціями (пошта, смс), прослуховує телефонні розмови, має доступ до всіх камер стеження, аналізує всі операції з платіжних карток, за даними мобільних операторів розуміє, де хто знаходиться, за даними з електронного годинника і телефонів пише голос, дані здоров'я, рух. Залишилося надіти примусові електронні браслети на людей з можливістю впорскування паралізуючих речовин і тоталітаризм у дії. Так навіть поліція вже не потрібна.
- Злитися воєдино люди та машини можуть шляхом удосконалення біологічних тіл (кіборги) або шляхом завантаження людської свідомості в машини. Ці ідеї не порушують жодних відомих законів фізики, а отже, можуть бути реалізовані. Питання часу.
- Навіщо б ШІ вбивати людей? Візьмемо, наприклад, слонів - адже вони теж могли думати: «Навіщо людям нас вбивати? Та й вони такі маленькі». А люди вбивають їх кулями, винайшли для цього технології, отруїли питну воду, винищують тваринний світ та возять бивні слонів у всьому світі, щоб робити з них різні дрібнички. Отже, якщо надрозумний ШІ захоче нас вбити, то впорається з цим завданням швидко.
- Без технологій людям загрожує швидке вимирання (у космічному контексті десятків мільярдів років), що перетворить всю нашу історію існування на недовгий спалах краси. З технологіями ми збільшимо шанси як виграти (отримаємо потенціал для виживання), так і програти.
- Якщо ми не вдосконалимо свої технології, питання буде не в тому, чи людство помре, а тільки в тому, як помре.
- Надрозумний ШІ зможе легко досягати своїх цілей, і якщо ці цілі не будуть узгоджені з нашими, то нам не минути біди.
- Узгодження наших цілей із цілями ШІ – дуже складне. Є такі проблеми: як змусити ШІ зрозуміти наші цілі, прийняти наші цілі та дотримуватися наших цілей.
- Абсолютно незрозуміло, як поставити перед ШІ кінцеву мету, яка буде чіткою, однозначною і не призведе до винищення людства.
- Нейробіологічні експерименти свідчать, що значна частина нашого усвідомленого досвіду - це результат підсвідомої обробки незмірно величезної кількості інформації.
Учасники комунікаційної групи «Технології та суспільство» прочитали та обговорили книгу в рамках дослідження теми «Екзистенційні ризики для людства та технологічний прогрес».
Опубліковано в січні 2022 року.
Опубліковано в січні 2022 року.
© 2021-2023 Tech&Society Комунікаційна група. All rights reserved.
