Цифрові права – це права людини. Інтерв'ю з Нані Янсен Ревентлоу
Автор: Олена Бойцун, засновник комунікаційної групи
"Технології та Суспільство"
"Технології та Суспільство"
Цифрові права – це права людини.
Інтерв’ю з Нані Янсен Ревентлоу
Автор: Олена Бойцун, засновник комунікаційної групи
"Технології та Суспільство"
"Технології та Суспільство"
Нані Янсен Ревентлоу (фото: Tetsuro Miyazaki)
Олена Бойцун, засновниця комунікаційної групи «Технології та суспільство», провела розмову з Нані Янсен Ревентлоу, відомим юристом із прав людини, яка спеціалізується на стратегічних судових процесах на перетині питань прав людини, соціальної справедливості та технологій, про концепцію поняття цифрових прав, регулювання цієї області права та роль пильних осіб.
— Нані, дякую, що знайшли час, щоб поговорити сьогодні про таку важливу тему, як цифрові права. Ви один із професіоналів, які будували цю сферу протягом багатьох років, заснувавши та розвиваючи Digital Rights Fund (Фонд цифрових прав). Яке визначення цифрових прав ви вважаєте найточнішим на сьогодні?
— Традиційний, старомодний спосіб розглядати цифрові права полягає в тому, щоб зосередитися на конфіденційності, захисті даних і свободі слова в Інтернеті. Я та мої колеги з Digital Freedom Fund надаємо цьому поняттю дещо ширше визначення. Ми завжди дивилися на цифрові права як на всі права людини, залучені в цифровий контекст, тобто не лише на громадянські та політичні, а й на економічні, соціальні та культурні права. У якийсь дивний спосіб пандемія допомогла трохи пояснити це визначення. Я думаю, що ми всі помітили, як багато нам довелося працювати з технологіями, щоб забезпечити роботу багатьох сфер нашого життя. І це демонструє, як майже в кожному аспекті нашого життя ми в тій чи іншій формі взаємодіємо з технологіями: у школі, на роботі, у соціальній взаємодії один з одним, наші банківські системи, системи охорони здоров’я… Загалом усюди. Отже, у ширшому розумінні цього слова, це все права людини, а коли мова йде про технології, ми в основному говоримо про цифрові права.
— Досить часто вважається, що існує цілий спектр прав людини, і в цій сфері існує сектор цифрових прав. Ви маєте на увазі, що логічніше структурувати цифрові права як основні права людини, які просто «торкаються» або «реалізуються» за допомогою технологій?
— Має сенс дивитися на це більш цілісно. Так само корисно іноді підкреслювати контекст, у якому задіяні права. Права людини однакові для всіх. Але іноді може бути доцільним зосередитися на «правах людини» дітей чи жінок, тоді ми говоримо про права дітей та жінок. Йдеться про виділення конкретних потреб. Я маю на увазі не тільки потреби в захисті, а й потреби в тому, щоб люди могли користуватися та належним чином реалізовувати свої права. Технології створюють дуже специфічні виклики та потенційну шкоду, коли йдеться про права людини. Тому необхідно усвідомлювати той факт, що, впроваджуючи технології, ви повинні дивитися на повний масштаб прав людини і на те, як вони можуть вплинути на них.
— Технології лише шкодять правам людини?
— Як сказав хтось відомий: «Технології не є ані хорошими, ані поганими». (Примітка: це був Мелвін Кранцберг, відомий своїми технологічними законами). Проблема не в самих технологіях. Справа в тому, як ми, люди, взаємодіємо з ними. Йдеться про те, де і як ми збираємося їх використовувати, і які саме технології ми створюємо та хочемо застосовувати. Уявіть, наприклад, будь-який інструмент, який є у вас на кухні. Ви можете використовувати його з користю або спричинити шкоду. Ви можете приготувати з його допомогою смачну їжу, або можете випадково поранити себе, або іншу людину, або пошкодити свої меблі, що завгодно. Одні й ті самі об’єкти чи техніка можуть призводити як до дійсно хороших речей, так і до справді поганих. Мова йде про наше розуміння контексту, того що впроваджуємо, наші думки відносно того, як це працює. У нас є заходи безпеки для різних речей, якими ми користуємося в повсякденному житті. Якщо нам потрібен транспорт, щоб дістатися кудись, це пов’язано з ризиками, і ми намагаємося їх зменшити. Подібним чином ми повинні думати й про технології. Як зробити щось безпечне, що не завдає шкоди людям, а, можливо, принесе користь нашому суспільству, і як ми зменшимо ризики, коли це не так? Отже, справа не в технологіях, а в цілому контексті: це ми та вибір, який ми робимо.
— Чи існують певні групи, які найбільш вразливі до порушення цифрових прав?
— Зрештою, постраждати може будь-хто. Але я вважаю, що ті, кого наше суспільство маргіналізує, наражаються на найбільшу небезпеку. Зокрема, через дві наступних причини.
Першим є той факт, що тип технологій, які ми створюємо, і те, як ми їх застосовуємо, відображає структури влади, які ми маємо в наших суспільствах. Ті, хто має владу, часто є найбільш привілейованими. Саме вони формують політику та встановлюють правила. Вони зосереджені на власних інтересах. І часто недостатньо уваги приділяється людям, які знаходяться в іншому становищі в наших суспільствах, зокрема маргіналізованим групам з різних причин: здібностей, статі, релігії, економічного статусу тощо. І ми недостатньо зосереджуємося на тому, щоб гарантувати, що будь-яка шкода, що заподіяно цим групам, була достатньо пом'якшена. Тому що це питання не в полі зору лідерів.
Другий момент полягає у тому, що досить часто ці спільноти та групи є полігоном для випробування багатьох технологій, які ми хочемо запровадити. Й цю проблему сформулювала не я. Філіп Алстон, вчений-міжнародник і правозахисник, детально розглядав вплив технологій на права бідних верств населення та показав, що люди з економічно невигідним становищем часто є полігоном для випробування нових технологій. Ви також можете побачити це в інших контекстах, наприклад, коли Європа використовує всілякі справді інвазивні технології для ідентифікації людей тощо. Це все чекає на всіх нас. Вони вже є, їх випробовують, вдосконалюють, і незабаром вони досягнуть наших порогів. Саме тому ми повинні пам’ятати, що те, що впливає на найбільш маргіналізовані групи в наших громадах, безпосередньо вплине на всіх нас. Все просто на ранній стадії. Просто їх ще немає, але вони наближаються.
— Чи могли б Ви навести приклад якогось уніфікованого випадку порушення цифрових прав, який був би наочним і зрозумілим для будь-кого?
— Моя думка полягає в тому, що такі порушення впливають на всіх нас. Ми можемо розглянути різні приклади. Наприклад, технологія розпізнавання обличь, яка найкраще працює на обличчях білих чоловіків, а це, в свою чергу, означає, що вона погано працює на решті нашого суспільства. На основі цієї технології робляться припущення щодо того, чи вчинив хтось злочин чи ні, чи перебував хтось у певній місцевості в певний час. Це можуть бути і невинні речі, як-от використання програми розпізнавання обличчя для відкриття дверей або отримання доступу до певного програмного забезпечення. Ми часто спостерігали це під час пандемії, коли програмне забезпечення використовувалося, щоб перевірити, чи не списували студенти під час іспитів, які їм доводилося складати вдома. Тому, так, це стосується всіх нас, можливо, за винятком невеликої групи людей, якими є білі працездатні цисгендерні розробники. Тобто, «стандартний користувач» зовсім не є стандартним.
Я можу навести ще один приклад використання інтелектуального програмного забезпечення, яке було включено в систему правоохоронних органів, таких як інтелектуальна (предиктивна) поліція, але ми все частіше спостерігаємо таке використання в приватній сфері. Чи зможете ви отримати кредит у банку, все більше залежить від різноманітних факторів, про які ви не знаєте заздалегідь. Нещодавно був цікавий випадок, який добре показав, як подібні речі шкодять усім нам. Шведськомовний чоловік в іншій скандинавській країні, який жив у сільській місцевості, хотів отримати кредит для перебудови будинку. Але його заяву було відхилено, оскільки шведськомовні люди становили меншість у цій конкретній країні, а жінки мали вищі рейтинги щодо отримання грошей. Отже, він був людиною з меншості, тому йому понизили рейтинг. Тобто, якби він був фінськомовною жінкою, яка попросила позику, він би її отримав. Усі ці методи, за допомогою яких діють системи, не є прозорими для нас, але вони приймають впливові рішення щодо нашого життя. Таким чином, так, це стосується нас усіх як у публічній, так і в приватній сферах.
— Чи існує глобальне регулювання сфери цифрових прав?
— Ні, його не існує. Але хочу зазначити, що у нас є правозахисна база, яка регулює всі ці питання.
— Нані, дякую, що знайшли час, щоб поговорити сьогодні про таку важливу тему, як цифрові права. Ви один із професіоналів, які будували цю сферу протягом багатьох років, заснувавши та розвиваючи Digital Rights Fund (Фонд цифрових прав). Яке визначення цифрових прав ви вважаєте найточнішим на сьогодні?
— Традиційний, старомодний спосіб розглядати цифрові права полягає в тому, щоб зосередитися на конфіденційності, захисті даних і свободі слова в Інтернеті. Я та мої колеги з Digital Freedom Fund надаємо цьому поняттю дещо ширше визначення. Ми завжди дивилися на цифрові права як на всі права людини, залучені в цифровий контекст, тобто не лише на громадянські та політичні, а й на економічні, соціальні та культурні права. У якийсь дивний спосіб пандемія допомогла трохи пояснити це визначення. Я думаю, що ми всі помітили, як багато нам довелося працювати з технологіями, щоб забезпечити роботу багатьох сфер нашого життя. І це демонструє, як майже в кожному аспекті нашого життя ми в тій чи іншій формі взаємодіємо з технологіями: у школі, на роботі, у соціальній взаємодії один з одним, наші банківські системи, системи охорони здоров’я… Загалом усюди. Отже, у ширшому розумінні цього слова, це все права людини, а коли мова йде про технології, ми в основному говоримо про цифрові права.
— Досить часто вважається, що існує цілий спектр прав людини, і в цій сфері існує сектор цифрових прав. Ви маєте на увазі, що логічніше структурувати цифрові права як основні права людини, які просто «торкаються» або «реалізуються» за допомогою технологій?
— Має сенс дивитися на це більш цілісно. Так само корисно іноді підкреслювати контекст, у якому задіяні права. Права людини однакові для всіх. Але іноді може бути доцільним зосередитися на «правах людини» дітей чи жінок, тоді ми говоримо про права дітей та жінок. Йдеться про виділення конкретних потреб. Я маю на увазі не тільки потреби в захисті, а й потреби в тому, щоб люди могли користуватися та належним чином реалізовувати свої права. Технології створюють дуже специфічні виклики та потенційну шкоду, коли йдеться про права людини. Тому необхідно усвідомлювати той факт, що, впроваджуючи технології, ви повинні дивитися на повний масштаб прав людини і на те, як вони можуть вплинути на них.
— Технології лише шкодять правам людини?
— Як сказав хтось відомий: «Технології не є ані хорошими, ані поганими». (Примітка: це був Мелвін Кранцберг, відомий своїми технологічними законами). Проблема не в самих технологіях. Справа в тому, як ми, люди, взаємодіємо з ними. Йдеться про те, де і як ми збираємося їх використовувати, і які саме технології ми створюємо та хочемо застосовувати. Уявіть, наприклад, будь-який інструмент, який є у вас на кухні. Ви можете використовувати його з користю або спричинити шкоду. Ви можете приготувати з його допомогою смачну їжу, або можете випадково поранити себе, або іншу людину, або пошкодити свої меблі, що завгодно. Одні й ті самі об’єкти чи техніка можуть призводити як до дійсно хороших речей, так і до справді поганих. Мова йде про наше розуміння контексту, того що впроваджуємо, наші думки відносно того, як це працює. У нас є заходи безпеки для різних речей, якими ми користуємося в повсякденному житті. Якщо нам потрібен транспорт, щоб дістатися кудись, це пов’язано з ризиками, і ми намагаємося їх зменшити. Подібним чином ми повинні думати й про технології. Як зробити щось безпечне, що не завдає шкоди людям, а, можливо, принесе користь нашому суспільству, і як ми зменшимо ризики, коли це не так? Отже, справа не в технологіях, а в цілому контексті: це ми та вибір, який ми робимо.
— Чи існують певні групи, які найбільш вразливі до порушення цифрових прав?
— Зрештою, постраждати може будь-хто. Але я вважаю, що ті, кого наше суспільство маргіналізує, наражаються на найбільшу небезпеку. Зокрема, через дві наступних причини.
Першим є той факт, що тип технологій, які ми створюємо, і те, як ми їх застосовуємо, відображає структури влади, які ми маємо в наших суспільствах. Ті, хто має владу, часто є найбільш привілейованими. Саме вони формують політику та встановлюють правила. Вони зосереджені на власних інтересах. І часто недостатньо уваги приділяється людям, які знаходяться в іншому становищі в наших суспільствах, зокрема маргіналізованим групам з різних причин: здібностей, статі, релігії, економічного статусу тощо. І ми недостатньо зосереджуємося на тому, щоб гарантувати, що будь-яка шкода, що заподіяно цим групам, була достатньо пом'якшена. Тому що це питання не в полі зору лідерів.
Другий момент полягає у тому, що досить часто ці спільноти та групи є полігоном для випробування багатьох технологій, які ми хочемо запровадити. Й цю проблему сформулювала не я. Філіп Алстон, вчений-міжнародник і правозахисник, детально розглядав вплив технологій на права бідних верств населення та показав, що люди з економічно невигідним становищем часто є полігоном для випробування нових технологій. Ви також можете побачити це в інших контекстах, наприклад, коли Європа використовує всілякі справді інвазивні технології для ідентифікації людей тощо. Це все чекає на всіх нас. Вони вже є, їх випробовують, вдосконалюють, і незабаром вони досягнуть наших порогів. Саме тому ми повинні пам’ятати, що те, що впливає на найбільш маргіналізовані групи в наших громадах, безпосередньо вплине на всіх нас. Все просто на ранній стадії. Просто їх ще немає, але вони наближаються.
— Чи могли б Ви навести приклад якогось уніфікованого випадку порушення цифрових прав, який був би наочним і зрозумілим для будь-кого?
— Моя думка полягає в тому, що такі порушення впливають на всіх нас. Ми можемо розглянути різні приклади. Наприклад, технологія розпізнавання обличь, яка найкраще працює на обличчях білих чоловіків, а це, в свою чергу, означає, що вона погано працює на решті нашого суспільства. На основі цієї технології робляться припущення щодо того, чи вчинив хтось злочин чи ні, чи перебував хтось у певній місцевості в певний час. Це можуть бути і невинні речі, як-от використання програми розпізнавання обличчя для відкриття дверей або отримання доступу до певного програмного забезпечення. Ми часто спостерігали це під час пандемії, коли програмне забезпечення використовувалося, щоб перевірити, чи не списували студенти під час іспитів, які їм доводилося складати вдома. Тому, так, це стосується всіх нас, можливо, за винятком невеликої групи людей, якими є білі працездатні цисгендерні розробники. Тобто, «стандартний користувач» зовсім не є стандартним.
Я можу навести ще один приклад використання інтелектуального програмного забезпечення, яке було включено в систему правоохоронних органів, таких як інтелектуальна (предиктивна) поліція, але ми все частіше спостерігаємо таке використання в приватній сфері. Чи зможете ви отримати кредит у банку, все більше залежить від різноманітних факторів, про які ви не знаєте заздалегідь. Нещодавно був цікавий випадок, який добре показав, як подібні речі шкодять усім нам. Шведськомовний чоловік в іншій скандинавській країні, який жив у сільській місцевості, хотів отримати кредит для перебудови будинку. Але його заяву було відхилено, оскільки шведськомовні люди становили меншість у цій конкретній країні, а жінки мали вищі рейтинги щодо отримання грошей. Отже, він був людиною з меншості, тому йому понизили рейтинг. Тобто, якби він був фінськомовною жінкою, яка попросила позику, він би її отримав. Усі ці методи, за допомогою яких діють системи, не є прозорими для нас, але вони приймають впливові рішення щодо нашого життя. Таким чином, так, це стосується нас усіх як у публічній, так і в приватній сферах.
— Чи існує глобальне регулювання сфери цифрових прав?
— Ні, його не існує. Але хочу зазначити, що у нас є правозахисна база, яка регулює всі ці питання.
Якщо подивитися на цифрові права через призму прав людини, існують чудові міжнародні рамки, які просто необхідно застосовувати в обставинах, що пов’язані з технологіями.
Існують, звичайно, регіональні норми, наприклад, в ЄС вони є сильними щодо прав на захист даних. GDPR (Загальний регламент захисту даних) надає окремим особам чимало інструментів для захисту власних прав, що пов'язані з даними, і ви можете діяти як окремі особи, як колектив, як група тощо. Крім того, у стадії розробки є нормативні акти, наприклад щодо ШІ (штучного інтелекту), а також нормативні акти, які мають надати людям більше повноважень для захисту своїх прав, коли справа доходить до великих технологічних платформ, такі як Закон про цифрові ринки та Закон про цифрові послуги.
Не існує глобальної «конвенції про цифрові права» чи чогось подібного, і мене іноді запитують, чи має вона взагалі існувати. Моя відповідь: ні, я так не думаю. У нас є система прав людини, яка була зміцнена відразу після Другої світової війни. Таким чином, вона є досить старою та існує протягом тривалого часу, але дивовижно, наскільки вона вже адаптувалася до різних контекстів і розвитку протягом десятиліть. І я думаю, що вона може йти в ногу з тим, що відбувається зараз.
Я набагато більший прихильник тестування наявних рамок, щоб побачити, чи є в них якісь прогалини, що пов'язані з цифровими правами, а потім вирішити, як ми хочемо їх усунути. Судді, суди, регулятори – вони звикли адаптувати старі рамки до нових ситуацій і нових сценаріїв. Тож питання стосується більше того, як переконатися, що люди розуміють, у чому полягають проблеми, де слід запитувати щодо них, кого можна притягнути до відповідальності та за які види шкоди.
Нані Янсен Ревентлоу (фото: Tetsuro Miyazaki)
— Схоже, Ви є прихильницею більш еволюційного процесу розробки таких рамок. Якби Ви відповідали за цифрові права на всій планеті і могли легко забезпечити впровадження ідеального законодавства, здається, Ви б не змінили багато в системі.
— Я думаю, що проблема не в нормативно-правовій базі, а в напрацюванні на практиці. Ми маємо переконатися, що люди мають реальний доступ до правосуддя, що вони можуть звернутися до суду та захистити свої права. Крім того, маємо пересвідчитися, що і суди знають, що робити з цими запитами, що вони розуміють проблеми, розбираються в технологіях, розуміють, що створено людиною і якою є наша відповідальність, і розуміють, як домовитися про це. І тоді, звичайно, що і регулятори та законодавці також це мають розуміти, і вони зможуть реагувати на ті вказівки, які отримуватимуть від правоохоронних органів. Я думаю, що це більше про те, аби переконатися, що ми максимально використовуємо те, що маємо. Я впевнена, що можуть бути прогалини та речі, які нам потрібно виправити, але в цілому їх буде відносно мало.
— Якщо людина вважає, що її цифрові права порушуються в якійсь ситуації, які кроки вона повинна вжити?
— Це залежить від контексту. Я думаю, ви повинні поставити собі таке ж питання, як і в аналоговому контексті. Наприклад, якщо йдеться про роботу та зайнятість, то, ймовірно, це питання трудового права. І подальші кроки залежать від того, чи є у вас профспілка, яка може вам у цьому допомогти, чи це те питання, стосовно якого вам, як приватній особі, потрібно отримати юридичну консультацію. Хороше емпіричне правило полягає в тому, щоб ставити собі ті самі запитання, що й у випадку, коли б технології не були задіяні. Оскільки всі ситуації, що пов'язані з технологіями, все ще є частиною того самого спектру прав.
— Для розгляду справи про цифрові права слід шукати спеціаліста загального профілю, який розбереться в деталях в процесі, чи це має бути професіонал, який спеціалізується на справах, що пов'язані з технологіями?
— Ми всі маємо вчитися. Це може бути перший випадок, коли юрист із трудових питань представляє інтереси клієнтів, яких звільнили через те, що алгоритм сказав, що вони погано виконують свою роботу. Є певні речі, в яких ви не обов'язково знайдете людей, які робили це раніше. Я думаю, що багато тут залежить від того, чи знайдете ви людину, яка не побоїться поставити ці питання і знайти фахівців, які, можливо, вже мали справу з подібною ситуацією, або попросити підтримки у НДО чи інших експертів, які можуть допомогти краще зрозуміти, що відбувається. Я реалізувала проект «Каталізатори для співпраці» пару років тому в Центрі Беркмана Кляйна Гарвардського університету, що розглядав співпрацю у сфері цифрових прав між юристами, науковцями, технічними експертами та активістами. Те, що я виявила, було дуже цікавим. Спочатку я провела багато інтерв'ю з людьми, аби дізнатися, багато чи ні юристи працюють з технічними спеціалістами. І досить часто юристам це не спадало на думку як очевидна річ. Вони говорили: так, гаразд, я міг би це зробити. Але кожен із нас також повинен визнати, що ми маємо досвід у певних сферах, наприклад, у тому, як сформулювати юридичний аргумент, але нам може знадобитися певна допомога в розумінні технологій та зверненні до суду чи до будь-кого, кого ми залучаємо, щоб зрозуміти це і як ці речі поєднуються. Я велика прихильниця міждисциплінарної співпраці, тому що у цьому випадку відбувається взаємне навчання. І, зрештою, це може підняти всю роботу на більш високий рівень.
— Якщо Вам особисто потрібна порада щодо технологічних аспектів Вашої роботи, що Ви робите? Ви з кимось розмовляєте, чи проводите власне дослідження, чи, можливо, проходите якийсь спеціальний тренінг?
— Я не проходила спеціального навчання, але ми почали з деяких тренінгів у Digital Freedom Fund для юристів, щоб вони могли краще зрозуміти технології, наприклад, щодо модерації контенту тощо. Зазвичай я починаю з того, що трохи читаю та оцінюю, яких результатів я досягла. І якщо потрібно щось конкретніше, я намагаюся знайти у своєму оточенні когось, хто міг би відповісти на питання, що виникли в мене. Однією з приємних речей сьогодні є те, що ви вже багато чого можна знайти в Інтернеті. Зазвичай, що б ви не шукали, хтось уже написав про це допис у блозі або виступив на TED. Тому у більшості випадків можна знайти чимало інформації.
— Якщо юрист бажає спеціалізуватися в галузі цифрових прав, чи повинна ця особа мати якусь спеціальну підготовку? Чи можливо є якесь ліцензування?
— Якщо ви, наприклад, говорите про практикуючих адвокатів, можливо, варто було б подивитися, чи існують тренінги для професійної освіти. Я знаю контекст Нідерландів, де я практикую. Ви повинні зобов'язатися продовжувати свій професійний розвиток. Вам необхідно проходити кілька курсів щороку, і є дуже вузькоспеціалізовані, які зосереджені на конкретних галузях права. Тож, варто дослідити, чи є якісь подібні. Крім того, варто зайнятися самоосвітою, стежачи за тим, що пишуть деякі організації захисту цифрових прав. Є багато чудових роз'яснень, які демонструють, як працює масове стеження, як працює модерація онлайн-контенту тощо. Існує багато тренінгів, які час від часу організовує Ініціатива верховенства права Американської асоціації юристів. Також, є різні неурядові організації, які зосереджуються саме на веденні таких бесід між практиками. Тож слідкувати за цим – теж гарна ідея.
— Екосистема цифрових прав зараз лише розвивається. Підприємства розпочинають застосовувати та розробляти цифрові технології набагато швидше, ніж уряди. Чи є якась диспропорція в таких процесах, коли розвиток нових бізнесів відбувається без належного регулювання?
— Це гарне питання. Я все ще дотримуюся думки щодо необхідності переконатися, що існуючі рамки працюють в нових сценаріях. Просто немає можливості регулювати та приймати закони в режимі реального часу. Такою є природа того, як ми встановлюємо ці процеси з достатньою кількістю стримувань і противаг. Треба переконатися, що у нас не надто великий дефіцит демократії, чи все гаразд із законами, які ми приймаємо. Але важливо залишатися пильними, діяти швидко та якнайшвидше тестувати нові розробки для цих існуючих рамок. Іноді нам необхідно не боятися сказати: зачекайте, ми не зовсім розуміємо, який вплив це матиме. Тож ми повинні зробити паузу та старанно дослідити всі ризики.
— Я думаю, що проблема не в нормативно-правовій базі, а в напрацюванні на практиці. Ми маємо переконатися, що люди мають реальний доступ до правосуддя, що вони можуть звернутися до суду та захистити свої права. Крім того, маємо пересвідчитися, що і суди знають, що робити з цими запитами, що вони розуміють проблеми, розбираються в технологіях, розуміють, що створено людиною і якою є наша відповідальність, і розуміють, як домовитися про це. І тоді, звичайно, що і регулятори та законодавці також це мають розуміти, і вони зможуть реагувати на ті вказівки, які отримуватимуть від правоохоронних органів. Я думаю, що це більше про те, аби переконатися, що ми максимально використовуємо те, що маємо. Я впевнена, що можуть бути прогалини та речі, які нам потрібно виправити, але в цілому їх буде відносно мало.
— Якщо людина вважає, що її цифрові права порушуються в якійсь ситуації, які кроки вона повинна вжити?
— Це залежить від контексту. Я думаю, ви повинні поставити собі таке ж питання, як і в аналоговому контексті. Наприклад, якщо йдеться про роботу та зайнятість, то, ймовірно, це питання трудового права. І подальші кроки залежать від того, чи є у вас профспілка, яка може вам у цьому допомогти, чи це те питання, стосовно якого вам, як приватній особі, потрібно отримати юридичну консультацію. Хороше емпіричне правило полягає в тому, щоб ставити собі ті самі запитання, що й у випадку, коли б технології не були задіяні. Оскільки всі ситуації, що пов'язані з технологіями, все ще є частиною того самого спектру прав.
— Для розгляду справи про цифрові права слід шукати спеціаліста загального профілю, який розбереться в деталях в процесі, чи це має бути професіонал, який спеціалізується на справах, що пов'язані з технологіями?
— Ми всі маємо вчитися. Це може бути перший випадок, коли юрист із трудових питань представляє інтереси клієнтів, яких звільнили через те, що алгоритм сказав, що вони погано виконують свою роботу. Є певні речі, в яких ви не обов'язково знайдете людей, які робили це раніше. Я думаю, що багато тут залежить від того, чи знайдете ви людину, яка не побоїться поставити ці питання і знайти фахівців, які, можливо, вже мали справу з подібною ситуацією, або попросити підтримки у НДО чи інших експертів, які можуть допомогти краще зрозуміти, що відбувається. Я реалізувала проект «Каталізатори для співпраці» пару років тому в Центрі Беркмана Кляйна Гарвардського університету, що розглядав співпрацю у сфері цифрових прав між юристами, науковцями, технічними експертами та активістами. Те, що я виявила, було дуже цікавим. Спочатку я провела багато інтерв'ю з людьми, аби дізнатися, багато чи ні юристи працюють з технічними спеціалістами. І досить часто юристам це не спадало на думку як очевидна річ. Вони говорили: так, гаразд, я міг би це зробити. Але кожен із нас також повинен визнати, що ми маємо досвід у певних сферах, наприклад, у тому, як сформулювати юридичний аргумент, але нам може знадобитися певна допомога в розумінні технологій та зверненні до суду чи до будь-кого, кого ми залучаємо, щоб зрозуміти це і як ці речі поєднуються. Я велика прихильниця міждисциплінарної співпраці, тому що у цьому випадку відбувається взаємне навчання. І, зрештою, це може підняти всю роботу на більш високий рівень.
— Якщо Вам особисто потрібна порада щодо технологічних аспектів Вашої роботи, що Ви робите? Ви з кимось розмовляєте, чи проводите власне дослідження, чи, можливо, проходите якийсь спеціальний тренінг?
— Я не проходила спеціального навчання, але ми почали з деяких тренінгів у Digital Freedom Fund для юристів, щоб вони могли краще зрозуміти технології, наприклад, щодо модерації контенту тощо. Зазвичай я починаю з того, що трохи читаю та оцінюю, яких результатів я досягла. І якщо потрібно щось конкретніше, я намагаюся знайти у своєму оточенні когось, хто міг би відповісти на питання, що виникли в мене. Однією з приємних речей сьогодні є те, що ви вже багато чого можна знайти в Інтернеті. Зазвичай, що б ви не шукали, хтось уже написав про це допис у блозі або виступив на TED. Тому у більшості випадків можна знайти чимало інформації.
— Якщо юрист бажає спеціалізуватися в галузі цифрових прав, чи повинна ця особа мати якусь спеціальну підготовку? Чи можливо є якесь ліцензування?
— Якщо ви, наприклад, говорите про практикуючих адвокатів, можливо, варто було б подивитися, чи існують тренінги для професійної освіти. Я знаю контекст Нідерландів, де я практикую. Ви повинні зобов'язатися продовжувати свій професійний розвиток. Вам необхідно проходити кілька курсів щороку, і є дуже вузькоспеціалізовані, які зосереджені на конкретних галузях права. Тож, варто дослідити, чи є якісь подібні. Крім того, варто зайнятися самоосвітою, стежачи за тим, що пишуть деякі організації захисту цифрових прав. Є багато чудових роз'яснень, які демонструють, як працює масове стеження, як працює модерація онлайн-контенту тощо. Існує багато тренінгів, які час від часу організовує Ініціатива верховенства права Американської асоціації юристів. Також, є різні неурядові організації, які зосереджуються саме на веденні таких бесід між практиками. Тож слідкувати за цим – теж гарна ідея.
— Екосистема цифрових прав зараз лише розвивається. Підприємства розпочинають застосовувати та розробляти цифрові технології набагато швидше, ніж уряди. Чи є якась диспропорція в таких процесах, коли розвиток нових бізнесів відбувається без належного регулювання?
— Це гарне питання. Я все ще дотримуюся думки щодо необхідності переконатися, що існуючі рамки працюють в нових сценаріях. Просто немає можливості регулювати та приймати закони в режимі реального часу. Такою є природа того, як ми встановлюємо ці процеси з достатньою кількістю стримувань і противаг. Треба переконатися, що у нас не надто великий дефіцит демократії, чи все гаразд із законами, які ми приймаємо. Але важливо залишатися пильними, діяти швидко та якнайшвидше тестувати нові розробки для цих існуючих рамок. Іноді нам необхідно не боятися сказати: зачекайте, ми не зовсім розуміємо, який вплив це матиме. Тож ми повинні зробити паузу та старанно дослідити всі ризики.
Важливо, щоб у рамках всіх цих процесів ми почали переходити до рутини, до процесу, який вимагає регулярного дотримання прав людини, проведення оцінки того, що відбувається, і тоді всі випадки порушення прав, що пов’язані з технологіями, стануть стандартною практикою.
Я досить часто думаю про те, як працюють закупівлі. Мабуть, це найменш приваблива тема в юридичній школі, яку тільки можна придумати. Але насправді вона важлива, бо робить прозорим питання про те, чому комусь дозволено будувати певну річ для загального блага, яку ми всі будемо використовувати як суспільство. Це має стосуватися й технологій, які ми використовуємо, які ми купуємо і які ми впроваджуємо так само, як будь-якого іншого продукту.
Нані Янсен Ревентлоу (фото: OII)
Наразі компанії говорять: о, це комерційні таємниці, ми не можемо поділитися з вами, як це працює, у разі якщо уряди запитують подробиці про те, як працює певне програмне забезпечення. Вам не обов’язково оприлюднювати все, але хтось повинен мати можливість ретельно перевірити, що саме відбувається у вашій системі. У якийсь момент така вимоглива позиція змінить поведінку всієї галузі. Тому є багато чого, що можна зробити, аби змінити цей баланс у напрямку, який зрештою буде набагато кращим для всіх нас.
— Хто має бути рушієм таких змін? Громадяни, громадянське суспільство, уряд?
— Для кожного є різні ролі. Робота громадянського суспільства полягає в тому, щоб бути сторожовим псом, щоб спонукати до такої поведінки та підштовхувати уряд до таких позицій тощо. Також, робота громадянського суспільства досить часто полягає в тому, щоб навчати громадян розуміти, що поставлено на карту. Як окремі особи, ми також можемо бути набагато пильнішими. Ми також повинні взяти на себе відповідальність за використання влади там, там де вона у нас є. Наприклад, якщо ви працюєте волонтером у спортивному клубі, і хтось пропонує розмістити камери скрізь, ви повинні змусити обговорити, хто отримає доступ до даних, що камери насправді будуть робити, де і які дані будуть зберігатися? І не бійтеся час від часу просто сперечатися, адже це необхідно кожному з нас. Ці розмови досить часто починаються в невеликих групах. Справа не лише в тому, що відбувається в столицях, що роблять законодавці, що роблять політики. Це також індивідуальні позиції, які ми приймаємо.
— Ви створили потужного гравця у сфері цифрових прав - Digital Freedom Fund. І тепер ви заснували нову ініціативу, яка фактично займається всіма видами порушень прав людини, не лише пов’язаними з технологіями. Яка була ваша мотивація для цього? Це зовсім новий проект чи він все ще пов’язаний із роботою, яку виконує Digital Freedom Fund?
— Ініціатива «Systemic Justice» розглядатиме расову, соціальну та економічну справедливість через інтерсекційну призму. Вона особливо зосереджена на тому, як особистість людини зазнає шкоди, коли стикається з порушеннями прав людини. І я вважаю це продовженням погляду, який ми завжди практикували в DFF щодо цифрових прав і прав людини, розглядаючи всі права людини, а також, зокрема, порушення цифрових прав як відображення більших владних структур у нашому суспільстві.
Подивіться на шкоду, яка заподіюється конкретним громадам через використання інтелектуальних (предиктивних) поліцейських інструментів. Ви не можете зосереджуватися лише на використанні цього програмного забезпечення, якщо не будете враховувати, звідки воно походить, що є дискримінацією, такою як, наприклад, інституційний расизм у правоохоронних органах. Одне є симптомом іншого. І, я думаю, причина, чому ми беремо трохи ширший об’єктив, полягає в тому, щоб переконатися, що ми не боротимемося лише з симптомами і зосередилися лише на технологічній вершині айсберга, а маємо справу й з айсбергом, який знаходиться під нею. Він підтримує використання цих технологій, надихає на їх розвиток, стимулює їх впровадження, а також утримує негативний вплив, який вони спричиняють для певних груп. Зараз ми дивимось трохи далі, як ми можемо змінити те, що змушує нас використовувати речі, які будуть пригнічувати певне коло людей у нашому суспільстві, і як ми можемо вирішити ці більші проблеми.
— Під час наших дискусій у групі Tech & Society ми знову й знову приходимо до висновку, що саме люди розробляють технології, і це є особливо важливо, яких етичних принципів і цінностей вони дотримуються. Моє останнє запитання про те, що зробило б Вас щасливою, чого б Ви хотіли досягти з ініціативою Systemic Justice?
— Мене радує те, що ми справді починаємо змінювати деякі з цих дисбалансів сил, які зараз спостерігаємо. Простіше кажучи, ми намагаємося цю фікцію – що закон є рівним для всіх, що правосуддя є доступним для всіх – зробити реальністю. Тому що зараз це не так. Ми хочемо вирівняти доступ до правосуддя, щоб кожен міг скористатися цими системами та боротися за свої права та свої справи.
Підготовлено у лютому 2022, опубліковано у лютому 2023
— Хто має бути рушієм таких змін? Громадяни, громадянське суспільство, уряд?
— Для кожного є різні ролі. Робота громадянського суспільства полягає в тому, щоб бути сторожовим псом, щоб спонукати до такої поведінки та підштовхувати уряд до таких позицій тощо. Також, робота громадянського суспільства досить часто полягає в тому, щоб навчати громадян розуміти, що поставлено на карту. Як окремі особи, ми також можемо бути набагато пильнішими. Ми також повинні взяти на себе відповідальність за використання влади там, там де вона у нас є. Наприклад, якщо ви працюєте волонтером у спортивному клубі, і хтось пропонує розмістити камери скрізь, ви повинні змусити обговорити, хто отримає доступ до даних, що камери насправді будуть робити, де і які дані будуть зберігатися? І не бійтеся час від часу просто сперечатися, адже це необхідно кожному з нас. Ці розмови досить часто починаються в невеликих групах. Справа не лише в тому, що відбувається в столицях, що роблять законодавці, що роблять політики. Це також індивідуальні позиції, які ми приймаємо.
— Ви створили потужного гравця у сфері цифрових прав - Digital Freedom Fund. І тепер ви заснували нову ініціативу, яка фактично займається всіма видами порушень прав людини, не лише пов’язаними з технологіями. Яка була ваша мотивація для цього? Це зовсім новий проект чи він все ще пов’язаний із роботою, яку виконує Digital Freedom Fund?
— Ініціатива «Systemic Justice» розглядатиме расову, соціальну та економічну справедливість через інтерсекційну призму. Вона особливо зосереджена на тому, як особистість людини зазнає шкоди, коли стикається з порушеннями прав людини. І я вважаю це продовженням погляду, який ми завжди практикували в DFF щодо цифрових прав і прав людини, розглядаючи всі права людини, а також, зокрема, порушення цифрових прав як відображення більших владних структур у нашому суспільстві.
Подивіться на шкоду, яка заподіюється конкретним громадам через використання інтелектуальних (предиктивних) поліцейських інструментів. Ви не можете зосереджуватися лише на використанні цього програмного забезпечення, якщо не будете враховувати, звідки воно походить, що є дискримінацією, такою як, наприклад, інституційний расизм у правоохоронних органах. Одне є симптомом іншого. І, я думаю, причина, чому ми беремо трохи ширший об’єктив, полягає в тому, щоб переконатися, що ми не боротимемося лише з симптомами і зосередилися лише на технологічній вершині айсберга, а маємо справу й з айсбергом, який знаходиться під нею. Він підтримує використання цих технологій, надихає на їх розвиток, стимулює їх впровадження, а також утримує негативний вплив, який вони спричиняють для певних груп. Зараз ми дивимось трохи далі, як ми можемо змінити те, що змушує нас використовувати речі, які будуть пригнічувати певне коло людей у нашому суспільстві, і як ми можемо вирішити ці більші проблеми.
— Під час наших дискусій у групі Tech & Society ми знову й знову приходимо до висновку, що саме люди розробляють технології, і це є особливо важливо, яких етичних принципів і цінностей вони дотримуються. Моє останнє запитання про те, що зробило б Вас щасливою, чого б Ви хотіли досягти з ініціативою Systemic Justice?
— Мене радує те, що ми справді починаємо змінювати деякі з цих дисбалансів сил, які зараз спостерігаємо. Простіше кажучи, ми намагаємося цю фікцію – що закон є рівним для всіх, що правосуддя є доступним для всіх – зробити реальністю. Тому що зараз це не так. Ми хочемо вирівняти доступ до правосуддя, щоб кожен міг скористатися цими системами та боротися за свої права та свої справи.
Підготовлено у лютому 2022, опубліковано у лютому 2023
Корисні посилання та ресурси
1. Особистий сайт Нані Янсен Ревентлоу – https://www.nanijansen.org/
2. НДО «Systemic Justice» – https://systemicjustice.ngo/
3. Digital Freedom Fund – https://digitalfreedomfund.org/
4. Проект «Каталізатори співпраці» – https://catalystsforcollaboration.org/
5. Заява про візит до США професора Філіпа Алстона, спеціального доповідача ООН з питань крайньої бідності та прав людини –
https://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=22533
6. Загальний регламент про захист даних (GDPR) – https://gdpr-info.eu/
7. Європа, яка підходить до цифрової ери: Комісія пропонує нові правила для цифрових платформ –
https://ec.europa.eu/commission/presscorner/detail/en/IP_20_2347
8. Закон про цифрові послуги: забезпечення безпечного та підзвітного середовища в Інтернеті – https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_en
9. Закон про цифрові ринки: забезпечення чесних і відкритих цифрових ринків – https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-markets-act-ensuring-fair-and-open-digital-markets_en
10. Кранцберг, Мелвін (липень 1986). «Технологія та історія: «Закони Кранцберга» – https://www.jstor.org/stable/3105385
11. Ініціатива з верховенства права Американської асоціації юристів – https://www.americanbar.org/en/
2. НДО «Systemic Justice» – https://systemicjustice.ngo/
3. Digital Freedom Fund – https://digitalfreedomfund.org/
4. Проект «Каталізатори співпраці» – https://catalystsforcollaboration.org/
5. Заява про візит до США професора Філіпа Алстона, спеціального доповідача ООН з питань крайньої бідності та прав людини –
https://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=22533
6. Загальний регламент про захист даних (GDPR) – https://gdpr-info.eu/
7. Європа, яка підходить до цифрової ери: Комісія пропонує нові правила для цифрових платформ –
https://ec.europa.eu/commission/presscorner/detail/en/IP_20_2347
8. Закон про цифрові послуги: забезпечення безпечного та підзвітного середовища в Інтернеті – https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-services-act-ensuring-safe-and-accountable-online-environment_en
9. Закон про цифрові ринки: забезпечення чесних і відкритих цифрових ринків – https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/digital-markets-act-ensuring-fair-and-open-digital-markets_en
10. Кранцберг, Мелвін (липень 1986). «Технологія та історія: «Закони Кранцберга» – https://www.jstor.org/stable/3105385
11. Ініціатива з верховенства права Американської асоціації юристів – https://www.americanbar.org/en/
© 2021-2023 Tech&Society Комунікаційна група. All rights reserved.
