Першою темою дослідження групи "Технології та суспільство" було визначено питання екзистенційних ризиків для людства, що пов'язані із технологічним прогресом, зокрема загрози від розвитку систем штучного інтелекту.

Гостем робочого засідання групи виступив Яан Таллінн, програміст і філантроп, співрозробник Skype, співзасновник Центру з вивчення екзистенційних ризиків в Кембриджі.

В інтерв'ю засновнику групи Олені Бойцун Яан Таллінн навів широке визначення екзистенційного ризику як катастрофічного зменшення максимального потенціалу людства. Експерт розподіляє екзистенційні ризики на дві категорії — природні та технологічні. «Якщо ми хочемо передбачити майбутнє планети, найважливіший фактор для цього — розуміти, які в нас будуть технології», — вважає Яан Таллінн.

Під час першого робочого засідання групи під модеруванням Олени Бойцун учасники продовжили розмову щодо класифікації екзистенційних ризиків, сучасного стану світового розвитку розробки штучного інтелекту, регулювання технологічної сфери, а також питання етики — як етики розробника, так і складності навчання ШІ людських цінностей та уявлення про універсальні права людини.

На думку Яана Таллінна, вже через 20-30 років світ може наблизитися до поворотного моменту, коли з'являться компетентні штучні системи, які людство не зможе контролювати. «ШІ — наче інопланетний корабль, який наближається до нашої планети. Проте, важливим уточненням є те, що це ми, люди, створюємо умови взаємодії. З таким ступенем свободи нам потрібно докласти максимум зусиль для того, щоб результат був позитивним для майбутнього людства».

Майбутнє, у якому люди та метатехнологія ШІ співіснуватимуть, несе чимало нових викликів. Провідні особистості сучасності, зокрема Ілон Маск та Стівен Хокінг,називають ШІ ймовірною великою загрозою для цивілізації вже у найближчій перспективі. Яан Таллінн на зустрічі групи зазначив: «Ви можете розділити майбутнє на три категорії. Все буде погано незалежно від того, що ми робимо. Все буде добре незалежно від того, що ми робимо. А десь посередині майбутнє, яке ми можемо формувати, яке залежить від того, що ми робимо. Моя позиція полягає в тому, що ми можемо спокійно ігнорувати крайнощі. Я — прагматичний оптиміст».

На думку засновника групи "Технології та Суспільство" Олени Бойцун, наразі питання дослідження екзистенційних ризиків від розвитку штучного інтелекту потребує залучення широкого спектра фахівців та соціуму в цілому: «Має сенс подумати над тим, як в цілому зробити процеси більш інклюзивними і зрозумілими, за участю всіх зацікавлених сторін, та долучити питання екзистенційних ризиків розвитку штучного інтелекту до суспільного порядку денного».

До та після робочої зустрічі серед членів групи проводилося опитування щодо їх ставлення до екзистенційних ризиків, пов'язаних із ШІ. Згідно результатів опитування, після всебічного обговорення теми 86% учасників групи вважає що розвиток ШІ може призвесті до загрози існування людства. Розвиток ШІ також був визначеним як найвірогідніший ризик, що може призвести до найбільш значущих негативних наслідків для існування людства.

1. Екзистенційні ризики і глобальне управління. Інтерв'ю Олени Бойцун з філантропом і програмістом Яаном Таллінном.

2. Макс Теґмарк. Життя 3.0. Доба штучного інтелекту.

3. Центр управління ШІ (GovAI), частина Інституту майбутнього людства Оксфордського університету.

4. Ендрю Крітч, Девід Крюгер. Дослідницькі міркування щодо ШІ та екзистенційної безпеки людства (ARCHES).

5. Форум AI Alignment.

6. Інститут майбутнього життя.

7. Кембриджський центр вивчення екзистенційних ризиків.