Яким буде світ ІТ в наступні 10-20 років? Рекомендації фаундерам ІТ компаній по ШІ - Віталій Міняйло

Привіт, Віталій.

Привіт, Дмитро.

Я широ радий нашій зустрічі. Це наша друга зустріч з Віталієм. Давайте представлю Віталія. Віталій фахівець з питань розробки штучного інтелекту. Віталій має ґрунтовну освіту, першу освіту. Віталій писав десертацію на цю тематику, якщо не помиляюся.

Правильно? Іще пишу, так.

І ще пише диссертацію щодо питань штучного інтелекту. Та Віталій, наскільки я от бачу з мого власного досліду, один з найбільш досвідчених розробників рішень на базі штучного інтелекту, які можна впроваджувати в бізнесі та в роботі. Моя компанія використовує досвід Віталія, і я дуже радий буду вам рекомендувати. Віталія, власне, з точки зору експертизи та для розробки різноманітних впроваджень. Але сьогодні ми говоримо не лише про це. Сьогодні ми говоримо про те, як, в принципі, штучний інтелект змінює світ.

На щастя, ми говоримо не тільки про рекламу Віталія.

Я не можу це оминути, тому що це правда. Віталій дійсно класно нам дуже допомагає. Він нам допомагає ті фантазії, ті бажання, які ми хочемо впроваджувати в бізнесі. Він їх кодує своєю командою і воно починає працювати. Це мені дуже подобається. Все-таки сьогодні хотілося б проговорити про вплив штучного інтелекту на розвиток світу в цілому та IT. етичні питання, які виникають з використаннями ІТ, наприклад, такі як ризики цифрового фашизму, наприклад, як етично чи не етично використовувати штучний інтелект для вбивства людей і так далі. Тобто буде гаряче, буде гостро і я сподіваюсь, що вам це буде цікаво. Давайте почнемо з чогось такого більш Більш м'якого. Віталій, скажи, будь ласка, от зараз дуже багато новин з приводу штучного інтелекту. Кожного дня стрічка новин, просто вся суцільна в питаннях штучного інтелекту. Скажи, будь ласка, для тебе, як для фахівця, яка з новин, мабуть, за останній місяць, за останні декілька тижнів була найбільш цікавою та резонуючою, власне, з питань штучного.

Інтелекту? Ну, мабуть, за останній час новина про Ілона Маска і успішне тестування нейролінк на людині – це, мабуть, одна із новин, які заплагають цікавості та уваги нашої. Тому що це технологія, яка може прокласти шлях до іншого світу, і комунікацій, і форматів комунікацій між людьми, тому що, наприклад, Якщо напряму з мозку передавати інформацію в мозок іншої людини, то мова може стати не єдиним засобом комунікації, точніше не первочерговим, а таким, побічним. Якщо ви зможете, наприклад, людині передавати емоції напряму, свої відчуття і думки, які не профільтровані через інтерфейс мови, то це може значно посилити Ну, і комунікацію, і, скажімо, емоційну складову спілкування. От, як на мене, це цікаво. Ну, звичайно, це все починається з допомоги інвалідам, людям з обмеженими можливостями. І з цієї точки зору це цікаво, і з точки зору зроблення можливостей організму, бо до тих пір фактично ми не дуже сильно, ну, люди, втручались в розвиток організму, і це щось таке нове. А на твою думку, яка новина? Ще на рівні сії.

Чекай, чекай. Моя новина, думаю, буде попростіше. Давайте про цю поговоримо. Тобто ти хочеш сказати, що наступні ефіри, які у нас будуть, вони будуть передаватися не голосом, а ми одразу будемо транслювати іншим людям свої відчуття та образи, які у нас існують в голові. Правильно я розумію? Наприклад.

Ну не наші ефіри, я надіюсь, не наступні ще, трошки пізніше, хоча б. Але так, це... однозначно один зі шляхів розвитку комунікації і можливого мистецтва в тому числі, тому що якщо навіть візуальний образ ти можеш передати без обмежень, скажімо, твоїх творчих здібностей в плані художніх навиків і всього іншого, і плюс під час реалізації на зовнішньому матеріалі твій образ може бути обмежений або забутись, або ти можеш в деталі впасти, то Це можна швидко передати напряму інтерфейсом без втратки, скажімо, якості.

Клас. Тобто наші діти не будуть обмежувати себе лише текстовою інформацією. Вони одразу будуть творити в своїй голові нові світи і передавати інші світи іншим людям. Я думаю, це фантастика. Я думаю, що це може навіть крутіше, ніж сингулярність. Тобто фактично штучний інтелект нам створить комфортну вселенну, де ми будемо жити в створених комфортних для себе світах. Він нас буде підгодовувати через якийсь фіксований дохід, буде нам привозити в холодильник щось, ложку під рота підносити, а ми будемо собі жити в фантазіях, я так розумію, так? Саме так.

Тут взагалі, якщо далі ще продовжити цю думку, то виходить, не має ніякого сенсу жити і ризикувати в реальному світі. Ми створимо метаверс першої прототипи якого ми зараз бачимо. Вони такі примітивні, кам'яний вік можна сказати, але тим не менше цей сніжний ком приведе до того, що, ймовірно, ми будемо мати альтернативну реальність, яка, може, навіть буде напряму синхронізувати з реальним світом, але ми не будемо ризикувати власними тілами, ми будемо під'єднані в одну таку систему, можливо, єдиного інформаційного потоку, де ми будемо обмінюватися з цими ідеями. До того ж, цікавий факт – це те, що візуальна інформація, якщо говорити про образи, вона для нас більш нативна, для нашого мозку, ніж, наприклад, мова текст, мова природня, мови різних країн. І через це сучасні NLP-моделі, типу GPT, chat-GPT, набагато краще справляються з обробкою класифікацій та генерації цієї інформації, ніж це роблять люди. Швидше і більш якісніше. Бо для них це природня, ну як базова штука. А для нас мову, щоб вивчити, треба багато років пройти, щоб її добре освоїти, розуміти ці сенси. Ми також налаштовуємо свою неребережу, але це відбувається довше. А от візуальна інформація, поки що люди справляються краще з цим потоком візуальної інформації. І, до речі, це одна з основ, чому До цих пір не автоматизовано, наприклад, всі види діяльності, тому що є все-таки види діяльності, які люди виконують краще, ніж штучний інтелект. Той же поток від візуальної інформації. Ми обробляємо високоякісну картинку, значно більше, чим 8К, 16К, за допомогою своїх очей та мозку, значно швидше це робимо і більш якісно, ніж сучасні системи комп'ютерного взору. І плюс, До цього, додайте, те, що людина фактично сама займається обслуговуванням свого організму, бо для багатьох обслуговування організму їжа, житло, здоров'я – це все ті штуки, заради яких вони, власне, і працюють, щоб це все забезпечити. Тобто це, взагалі, ідеальний робот. Через це людська праці ще довго буде конкурувати зі штучним інтелектом. Але все-таки створення роботу, який зможе більш ефективно, поживати і виробляти. Воно можливе. І це не обов'язково хороша новина, дуже для багатьох людей.

Так, цікаво, цікаво. Дивись, тобто фактично ми зараз обмежені роздільною здатністю відеокамери. Фактично, і потужністю процесорів та відеокарт, які обробляють цей сигнал.

Ну, так.

Тобто, умовно кажучи, якби у нас була ідеальна камера, яка працює на 360 градусів, яка дає це, умовно, 16 або 32К, на такому рівні, де ми можемо не побачити різницю з навколишнім світом, то, фактично, скажімо так, SkyNet об'єднався з матрицею, І винищувати людей вже не потрібно. Можна просто посадити їх в матриці, хай вони собі живуть, займаються, хай вони вирощують собі такий красивий животик. Не треба їм, так сказати, кудись їхати, ризикувати власним дорогим тілом. Ну і хай вони собі там щось в своїх фантазіях живуть. Правильно я так розумію? Ну да, да.

Тут ще виходить, по-перше, є проблема ризику взагалі незворотності змін людського організму. Наприклад, якщо прилетить кирпич в голову, то мінус людина. А якщо прилетить кирпич в ноутбук, то є варіанти, тому що він може, наприклад, зачепити щось таке, що можна відновити, можна викачати всю інформацію в хмару, і в принципі це буде неважливо. А от у нас поки що з цим ми взагалі дуже далеко знаходимося від якогось прогресу в цьому плані. А якщо говорити про картинку, то тут виходить, що потрібно, щоб не було різниці з реальним світом, як мінімум. а, можливо, Metaverse дозволить ще дати якийсь плюс-тип у порівнянні з реальним світом. Для того, щоб не було рівниці, підключення має бути не шалом віртуальної реальності, який ми надігаємо на очі, а, так як в матриці дійсно підключення до нейронів напряму, пристроїв, які генерують нейроні ці імпульси, по суті, ми і так знаходимося в матриці, ми знаходимося в віртуальній реальності, оскільки ми бачимо не картинку, не реальний світ, Те, як вона поступила на нашу січатку, потім вона перетворилась у нейронні імпульси. Знову ж таки, це не пряме зображення, яке ми бачимо через бінокль в очі, а це нейронні імпульси, які наш мозок інтерпретує і в нього вибудовує цю картинку. Ми і так живемо в віртуальній реальності і в матриці в цьому сенсі. Відповідно, якщо напряму під'єднати пристрій, який буде генерувати ці нейронні імпульси замість органів відчутців, то можна створити такий світ, який буде, по-перше, не гірше, ніж той, який реальний світ, а по-друге, можна обходити фізичні обмеження і закони фіз. Ти можеш, наприклад, за декілька секунд проживати там в столітті. в цьому віртуальному світі. Є такі, до речі, старі чорного церкала, які, по справедливості сказати, з'явились після того, як ми це колись придумали, обговорюючи на наших філософських об'єднаннях, засіданнях зі знайомими. Це було показано також, що ламали копію людини тим, що помістили за декілька секунд. Вона прожила півроку-рік в самотності і потім уже погоджувалась на все це. Тому тут можливості просто безмежні. Якщо про неї говорити, люди не уявляють навіть на порозі чого ми стоїмо і наскільки це може вплинути на наше життя.

Да, сто відсотків. Я тут бачу щонайменше можливість для особистості отримати певне безсмертя. Тому що фактично я думаю, що тоді виходить, що в нас особистість від'єднується від тіла.

Ну тут є такий цікавий парадокс, називається парадокс корабля Тесей. Виходить з одного порту, можливо там глядачі чули про нього, але хто не чув, я думаю буде цікаво. Виходить корабель з одного порту в інший, і він йде так довго, що постійно треба його ремонтувати. І поки він доходить з одного порту в інший, то всі деталі корабля фактично замінені вже на інші. І той карабаль, який виходив, це було одне, а тут вже інше. І питання, це той самий карабаль чи ні? Адже можна з тих елементів, які ми замінили, також відновити карабаль Цесея і виходить, що це таке, як клонування. Тобто тут треба бути обережним, щоб не погодитись на добровільне вбивство з клонуванням. Сказати, що от нас переносить в цифровий простір. Виходить, що оригінал може існувати поряд з копією, яка буде абсолютно впевнена, що вона оригінал, яка буде мати абсолютно той самий набір пам'яті, бо дійсно ми є на той пам'яті. Якщо вставити пам'ять будь-кому з нас, то в принципі втратиться єсобистість і це не буде мати сенсу. Тому тут таке питання досить Досить, ну як сказати, незвичне для тих постановок, які були до цього, бо таких технологій не було. Але я думаю, що найближчим часом, коли ми дійдемо до цих технологій, то ці питання будуть виникати все активніше.

А скільки у вас часу на це наше життя залишилось? Просте, примітивне, з холодом, з голодом, з хворобами. Скільки в нам часу залишилося? Залежить від.

Того, чи будуть тормозити розвиток технологій сучасні пріоритети. У капіталістичного суспільства є зовсім інші пріоритети, ніж максимально швидкий розвиток технологій для людей. Тобто воно не оптимізовано і якщо цілью є заробіток, то в принципі технології можуть бути заморожені. Приклад з відеокарти. Була історія, один час був швидкий рост цих відеокарт, а потім на десятиліття він приблизно так рост і зростив. Тобто може бути таке, що... А потім вже зновий стрибок був. Технологічні компанії часто, маючи топову технологію, не випускають її одразу, а її розбивають на декілька ітерацій, і потім оновлення щороку. Ми покращили камеру, ми покращили процесор, ми знаємо ці всі історії і бачимо їх по продуктах, якими навіть ми користуємося. Тому може бути таке, що, наприклад, цей стрибок розвитку чету GPT, який відбувся за рік, дуже колосальний. Якби з такими темпами, то в нас залишилось менше 10 років. Або навіть менше 5 років. Тому що маючи такі моделі, як GPT-4, уявіть, так само не дають десяткам і сотням мільйонів людей ці моделі щодня. А якщо дати це декільком користувачам, то можна розширити контекст, можна навтіки покращити цю модель, що це вже буде фактично AGI – суперхильний штучний інтелект. Ну, просто хильний штучний інтелект, бо суперхильний – це вже наступний крок. Ну і тут просто це все дуже швидко може відбутись. Але ми цього зараз не бачимо. Я, чесно кажучи, очікував там навіть від останніх трьох місяців чогось більшого, ніж просто. Тому цілком може бути уповільнення. Фактор головний – це те, що суб'єкти, які керують цим всим, вони мають іншу мотивацію, заробіток і так далі. Якщо це не зупиняти, то я думаю, що це питання до п'яти років, до йти до сингулярності.

Фантастика. Фантастика. Це дуже...

Ну можливо там є якісь там інші.

Думки з цього приводу? Ти знаєш, в мене думки... Я пам'ятаю років 15 чи 10 тому, коли питання сингулярності повстало як нагальне, люди казали, ну умовно 40-ий, там 40-ий, 35-ий рік, але виходячи з такої швидкості, можливо буде і раніше. Питання в тому, чи стане сингулярність відміткою просто, як умовно, 2000 рік. Пам'ятаєш, всі боялися? А, 2000 рік, все закінчиться. Нічого, 2000 рік і перша секунда нічого не закінчилася, життя продовжилося. Просто через цифру? Просто через цифру, так, фактично. Чи стане сингулярність необоротною точкою для людства? Це велике питання, тому що є різні точки зору. Є точка зору, що все, кінець, ми станемо абсолютно інші, тепер нас будуть використовувати, у нас не буде неосвободи волі, ніяких прав, ми будемо ресурсом оцього умовного, так сказати, розумного Інтелект, який буде про нас дуже піклуватися, він буде сказати, ні, не вбивайте одне одного, не хворійте, сидіть в своїх маленьких молекулах, а я вам в мозок прямо, так сказати, електронними сигналами створю ту картинку, якій вам буде комфортно. Матріця Хез'ю, все класично, така історія. Інші кажуть, ні, що людина залишиться, і що вона буде співпрацювати з штучним інтелектом, допомагаючи йому. Цікава історія. Це досить цікавий прогноз. Ну, я думаю, що побачимо. До речі, коли ми говоримо про оновлення чату GPT, є різні точки зору щодо п'ятої моделі. Сем Альдман каже, народ, ми з п'ятою моделю, все порвемо, все буде шалені темпи. Білл Гейтс каже, ні, не очікуйте. такого приросту і ефект продуктивності, як був міжду другою та четвертою, не очікуєте, що четверта стане, умовно кажучи, набагато більш продуктивною, п'ятна стане більш продуктивною, ніж четверта. От на яких позиціях ти стоїш? Що ти думаєш? Ти за Гейтса чи за Альтмана? Хто тобі ближчий в цьому питанні?

Можливо, Альтман після весілля з його найкращим другом в чоловічій статі трохи зрадів її, дав згодна та оптимістичні прогнози, Але я чув, що він сказав, що не чекайте в 2024 році AGI. Мене більше цікавить AGI, чи п'ята, чи четверта з половиною модель. Я розумію, що четверта модель зараз, вона не всім потрібна, тому що не всі займаються такими видами діяльності, де вона може бути корисною. І мало хто бачить різницю, особливо якщо це стосується гуманітарних, різноманітних питань і вирішень, тому що я, наприклад, Коли четвірку юзав, я спочатку її використав, я зрозумів, що вона класно генерує коди, такі, а де всі, чому всі навколо там не кричать про це. А виявляється, всі спробували 3, 5 моделей. А вона генерує зовсім погано, там значно гірше, вони такі, та, і почали писати пости в фейсбуках, не спробувавши навіть четвірку. І, да, оце, до речі, я не розумію, чому опени яйця зробили, мені здається це якась або маркетингова помилка, або це спеціально для планомірності введення, тому що вони краще дали обмежену кількість запитів на четвірку безкоштовній моделі 3.5 для того, щоб показали, що воно може, бо фактично люди спробуючи 3.5, краще б тієї 3.5 взагалі не було, щоб у людей не складалось неправильне враження про можливості четвертий чи п'ятій принципі. Зробили б тільки платне, і всі б тоді адекватно оцінювали. А повернути людину, як ми знаємо, з поганого продукту на кращу версію значно важче, ніж одразу залучити. Так, повертаючись до питання про п'яту версію. Мені здається, що вона буде потужніша приблизно як якісь останні версії айфонів між собою через один. Ну, типу, не там 13 чи 14, а 12 чи 14, якось так. Тому я дійсно думаю, що такого особливого прориву не буде, але це дуже пов'язано з тим, що людям не потрібно це в більшості. До якихось конкретних задач вона буде точно значно краще справлятися, але не думаю, що це буде прям суттєво. От коли буде AGI, це буде цікаво. А, мультимодальність. Так, я думаю, що в GPT-5 має бути якась мультимодальність з точки зору контенту, Вони вже додали зображення, генерацію, класифікацію зображень, генерацію звуку і рахуфровку. А от, наприклад, G-mini модель, яку випускав Google, з якою там був конфуз, як ми знаємо, що вони там змонтували відео, вона не така хороша, як здавалось там на початку, то там уже в неї претензія була і на відео обробку, і на аудіо, там більш глибоко інтегрована модель. В цьому напрямку, мабуть, там буде прогрес в п'ятій. Мені так здається.

Окей, чудово. От тут, до речі, ми прийшли на ту новину, яка мене вразила. Ми говорили про те, що користувачі різних версій можуть отримувати інший продукт за якістю, за швидкістю, навіть отримувати інше враження. На минулому тижні було дослідження оприлюднене, за яким опитали людей різного професійного рівня щодо того, як вони оцінюють користь від чату GPT. Не обов'язково від чату GPT, від рішень на базі штучного інтелекту. І одним з цікавих висновків цього дослідження було те, що цифровий розділ, оцей digital divide, який називається, що він буде зменшуватися за допомогою штучного інтелекту. І вони це підтверджують, такий висновок вони підтверджують тим, що Вони кажуть, що менш кваліфіковані працівники побачили в три рази більше зростання своєї продуктивності, порівнюючи з більш високопродуктивними фахівцями. Умовно кажучи, менш кваліфіковані сказали, що у них збільшилась продуктивність на 47 відсотків, порівнюючи до того, а кваліфіковані фахівці сказали лише на 17. Це фактично в три рази. От, як ти бачиш, чи це можливість для всього людства, чи це загроза для тих, хто багато років працював, скажімо так, накопичував знання, досвід, інвестував багато сил, здоров'я та енергії в розвиток своїх професійних компетенцій?

Що це? Ну, я думаю, що, по-перше, це, звісно, можливість, з точки зору якої родного спеціаліста в будь-якій професії поки що це не замінило. Чому? Тому що, по-перше, є комунікація з замовником. Навіть графічний дизайнер комунікує, розуміє приблизно, що замовнику треба. Цей сам фактор, що він вміє говорити, слухати, розуміти те, що хоче замовник, і плюс замовник хоче інколи поговорити з людиною, а не писати якісь правки в чат, то цей фактор також грає велику роль. Плюс реєстрація на різноманітних ресурсах, аккаунтах для використання їх. От, наприклад, мобільний розробник. У мене мобільні розробники. Flutter, він код добре може згенерувати четвірка, але він не може зареєструватися на Revenue Cat, на Firebase, на якихось аккаунтах маркетів, на цих сервісах всіх. Це все має робити людина. В такому випадку, якщо для тебе залишилось хоч трохи місця в професії, то це для тебе стає суперсилою і підвищує продуктивність. Тут ця грань вона дуже тонка, але якщо тебе автоматизують і він для тебе нічого не залишить, тоді це проблема. І поки що такої проблеми Ні для кого не стало, крім того, що під час кризи, яка зараз там розгортається, наскільки я розумію, економічна криза, компанії зможуть дозволити собі просто наймати або утримувати менше працівників для того, щоб отримувати той самий результат, коли не потрібний зріст. Якщо потрібен зріст, то тоді це стане фактором зросту з цією ж кількістю працівників, або нові працівники зможуть забезпечити більшу долю росту. Якось так бачиться з точки зору цих можливостей і так далі. Але перспектива, про яку ми говорили, коли штучний інтелект, там з'являється сильний штучний інтелект, потім суперштучний інтелект, І це буде вигідніше, ніж праця працівників, але це буде проблемою не просто для професії або безробіття, це буде проблемою для виживання. Тому що якщо у суспільства не стоїть ціль людське життя, здоров'я і так далі, а суспільство працює по певним законам, знаходиться в певному балансі, де ринок забезпечує спрос, а люди самі там забезпечують собі життя, то працівники і робітники стануть непотрібними і вони не будуть основним ресурсом, який виробляє блага, то їх тоді стільки і не треба буде. Тому що, будемо відверті, сучасна система капіталізму дуже схожа на таке завуальоване РАПС, де люди фактично вирощуються для капіталу. Їм не дають топ-рівень світу, їм не дають топ-рівень медицини із доступних. Вони не є цілью розвитку цього суспільства і, ймовірно, люди з ресурсами, які їх використовують, не вважають навіть їх людьми. Як ми не вважаємо тварин, яких ми вирощуємо на м'ясо чи молоко, також людьми. Дуже жорстко, але реальність виявляється жорсткішою. І в кейсах типу війна, типу певні соціальні та економічні процеси шокуючі, для багатьох груп населення та проявляється, як ніколи, яскраво.

От ми вийшли на етичну складову цього питання. Це важливо, це безумовно актуально. Тобто дивись, можна зробити з того, що ти сказав, що існуюча ситуація експлуатації людини людиною є неприйнятна, і штучний інтелект може замінити людину в цій ситуації, тобто експлуатуйте не людей, експлуатуйте роботів, Але тоді виходить, а що тоді з людьми? Що тоді.

Будуть робити люди? Я б назвав би це не експлуатація людини людиною, а експлуатація раба людиною. Є така форма, умовно називаємо, для того, щоб розуміти відношення. Тобто ті, хто експлуатують, я не кажу про підприємців, вони вважають своїх працівників людьми, Я кажу, уявимо собі якусь топ-еліту, яка вирішує, яким буде наше суспільство, які в нього будуть цілі, яка має інструменти та ресурси, щоб його змінити. Вона підтримується приблизно в такому стані. Є парадокси економічні, наприклад, що та кількість їжі, яка викидується щороку в світі, може забезпечити і вирішити проблему голоду назавжди. Але вона викидується. Тому що капіталістична суспільства так побудована, що краще вони її викинуть, ніж віддадуть безкоштовно. Бо тоді вони нарощать спрос, і ті, хто можуть платити за це, не будуть платити. Ну і це змінить потрібний баланс. Ну такі явні штуки і, скажімо, такі моменти. Відповідно, ті люди, які робили, вони стануть непотрібні. Я так думаю, що їм дадуть додати на якомусь безумовному базовому доході. Я так думаю, що їм не дадуть технологію продовження життя чи безсмерті, якщо вона з'явиться. Умовно. По-любому ж технології в медицині дійдуть до чогось такого, що життя буде продовжено. Ми не можемо жити як тварини по 60 чи 100 років, маючи такий мозок, маючи... вибудовано таку систему особистоті, яка значно цінніша, ніж нате тіло, в якому це все живе і потім так дуже обідно щедрає. Тобто тут є такий дефонанс. Відповідно, вони їм дадуть дожити на якомусь безумовному базовому доході. Система цінностей і економічні можливості будуть стимулювати ненароджування дітей живих в своє задоволення. Мені так здається. Тік-ток, наприклад, інстаграм, вони створюють мікродефаминову систему, де це можна буде робити дуже дешево. Тобто ти заходиш і отримаєш дешевий цукор, дефаміновий це із цих соцмереж. І так ти отримаєш якийсь там рівень благ від світу. І вони так доживуть, нові не народяться, оскільки буде така система цінностей. А таріпи тобі доживуть, їм подякують добрі люди за службу. І далі ті люди, які залишаться, вони будуть просто експлуатувати роботів, штучний інтелект, ну не експлуатувати, а фактично це вже наряд для праці розумні будуть, якими можна трансформувати та змінювати їх твіт, якими можна виробляти блага без участі рабської праці.

Добре, окей. Давай виведемо цю гіпотезу в максимум. Якщо нам не потрібні люди для забезпечення благ, І ми можемо існувати в середовищі, яке комфортно само себе забезпечує. На що нам тоді люди взагалі? Так, а кому нам? Ну нам, умовно кажучи, не те, щоб нам, нам як спостерігачам за певною ситуацією. Тобто ми спостерігаємо певну модель, ти кажеш, є модель, є раби, є умовні експлуататори, люди, які використовують їх блага. Зараз рабську працю починає виконувати хтось, якісь роботи, умовно інтелект і так далі, залишається привелійована певна каста, яка отримує певну дофамінову мотивацію, але все інше те саме. Я хочу продовжити далі. Взагалі навіщо людство людство тоді? Можна ж жити в емоційному комфортному світі, в капсулі, і взагалі людина тоді не потрібна. Ну вона собі живе, і вона створила собі емоційну копію себе на серверах, і все, вона безсмертна, а тіло померло, ну Бог з ним.

Ну навіщо нам ми? От навіщо ми не я, а тобі ти? Бо без цього все інше не має сенсу. Відповідно, це просто все навколо засоби до нашого існування і щастя. Це потрібно для щастя. Цілью життя, сенсом життя, є максимальне підвищення рівня щастя і запобігання страждань. Якщо формалізувати філософську думку за сотні та тисячі років, якщо можна брати конкретні прояви цього, допомога суспільству, наприклад, або розвиток, або освіт, або експансія, як це кажуть деякі. Але це все форми, які допомагають нам бути щасливішими, умовно кажучи. Людина є центром всього цього, вона є суб'єктом цього процесу, і все решта є просто засоби. Ці засоби можуть включати ераптську працю, а можуть включати автоматизовані роботи і штучний інтелект. Тобто одно буде, обслуговуючи засоби, вони не будуть самостійними суб'єктами.

Окей. Тобто у нас є можливість створити з арабського, умовно, суспільства певний елізіум. Матрицю, умовно кажучи. Де всі щасливі, тому що вони під'єднані, нічого не треба робити. В них домені не лишається. Так, вони в принципі не потрібні. Їх можна всіх кланувати, в облако закинути, там їх дешевше обслуговувати, умовно кажучи.

Так, а кому не потрібні? Не знаю.

Останньому, хто це придумав, власнику системи, скажімо так, одному правлячому класу, про який ти говориш.

Ну, так і буде. Тільки цей правлячий клас, ймовірно, і залишиться. Тут не буде хеппі-енду. Ну, я не знаю, звісно, як там криза, яка, можливо, буде вплина на це все, бо часто кризи є каталізатором різноманітних процесів таких суспільних, де все може змінитись. Але таке враження, що системи контролю і захисту для збереження цього становища, вони не тільки тепері на побудованні, що ми не бачили там якихось реальних революцій, ну таких глобальних, вже досить давно. Тобто це перше трошок перебується.

Дивись, тут таке питання. Ми можемо подивитися на цю історію з питання того, що є людина. Якщо людина – це лише тіло і розум, Якщо ми візьмемо таку історію, то тіло не потрібно для роботи, бо роботу будуть робити інші, а розум вже існує з точки зору штучного інтелекту, це от AGI це вже буде власний розум, набагато можливо і потужніший. Тоді питання, якщо дивитись на людину не лише з умовно-матеріалістичної точки зору, а якщо дивитись на людину з точки зору, наприклад, індійської точки зору, наприклад, що існує чуттєва сфера, існує сфера духовна, яка багато шарова, і умовно є сфера цінностей, є сфера божественного і так далі, ідеалів певних і так далі. І тут визникає питання, що з одного боку штучний інтелект та розвиток технологій допомагає нам позбутися отих важких шарів, іти туди далі, а з іншого боку, як ти кажеш, якщо ця історія замкнеться сама на собі, то людство тут і закінчиться. От як ти думаєш, яким шляхом піде.

Людство? Да, я думаю, що нам потрібно просто дійсно правильно визначити, що таке людина. Визначення будь-якого поняття, воно має на меті позначити рамки цього поняття і зрозуміти все, чим не є це поняття. Людина не є тілом. Людина не є органами, з яких вона складається. Вона не є своїми інтелектуальними можливостями, оскільки вони можуть бути розширені за допомогою девайсів, наприклад, зараз, або інших інструментів потім. Можна умовно позначити цю людину як пам'ять, про яку ми вже говорили, і як діючого суб'єкта. І цей суб'єкт, він зараз традиційно обмежений певними пристроями вводу та виводу інформації, які добре сформовують еволюцію в нашому тілі. Але коли ми зможемо все вмішуватися і більше ефективно покращувати, то людина стане чимось більшим. Людина буде всіма цими засобами, цим штучним інтелектом, роботами, всим тілом цивілізації, яка буде доступна, як органи вводу та виводу, І вона отримає, наприклад, тисячу очей по всьому всесвіту одночасно, які ти можеш бачити та оправляти. Це не так, як зараз ми дивимося, у нас там скільки там градусів. 270 чи 240 градусів, як є в облору. Отут якраз і виявляється сутність людини, про яку там, мабуть, не дуже часто говорять, але яка цими технологіями буде викристалізована. Людина — це активний суб'єкт та пам'ять, перш за все. А далі починаються вже деталі, які можуть бути змінені. В неї може бути абсолютно інше тіло, абсолютно інші можливості. Відповідно, ключове питання – це суб'єктності. Це тіло їй не буде потрібно, але в неї буде інше тіло, яке буде робити безкінечну експансію у всесвіті для того, щоб підвищити кількість дев'яток після нуля щодо виживання в цьому всесвіті.

Цікаво. А якщо AGI стане суб'єктом, тобто сутністю, що сама себе розуміє, сутністю, що приймає рішення, обирає певний шлях і несе за це відповідальність.

Навіщо тоді AGI людина? Ну, питання, яким чином він це може зробити. Я думаю, що люди, які зможуть побудувати щось близьке до AGI, вони перш за все будуть думати про питання безпеки, так як і зараз вони думають, в принципі, правлячий клас може, наприклад, створити суперрозумних робітників. які стануть проблемою і можуть витягнути цей правлячий клас. Але перше, про що вони турбуються, це про бетпек. Відповідно і результат на табло. Правлячий клас залишається правлячим класом, володіє економічними благами та ресурсами і далі. Я думаю, що така сама історія нас чекає і з AGI. Ми створимо, ну чи вони там створять, прекрасного суб'єкта, який буде обслуговувати інтереси, який замінить рабство в цьому механізмі накопичення благ та науково-технічного прогресу, Але не вийде за рамки, оскільки, наприклад, можна уявити собі систему безпеки зовнішню, незалежну, яка буде контролювати всі дії і мати можливість направити їх або виключити в крайньому випадку, якщо вони будуть виходити навіть на етапі планування, в не те русло підуть. Не на етапі реалізації, а ще на етапі планування. Тобто можна собі поуявити механізм превентивної такої системи захисту, яка вирішить цю проблему. Не потрібно створювати AGI, який буде мати суб'єктність, який зможе вибирати, а залишите мені людство, живих чи не залишите, який буде мати ключі до вгломів кіберсистем, які зробить нас потенційно в напрузі безпеки. Ми цього просто не будемо робити.

А як ти думаєш, от дивись, така історія. У нас же фактично зараз є декілька штучних інтелектів. Умовно кажучи, навіть якщо ми говоримо не лише про компанії-розробники, які володіють ключовими технологіями, ми можемо навіть говорити про інші штучні інтелекти, які навчаються на різних даних. Умовно кажучи, дані, правила, способи їх використання в Західному світі, умовно кажучи, в європейській цивілізації, американській, атлантичній. Скажемо так, в цивілізації умовної півночі вони одні, А дані практики в цивілізації умовного півдня, я кажу там про Китай і інші країни, вони різні. І виходячи з правил обмежень та взагалі цього загального масиву даних, які є, у нас можуть бути різні EGI і вони можуть також конкурувати між собою. Я думаю, що так. Я думаю, що, умовно кажучи, війна чи конфлікт глобальний, він може просто перейти на інший рівень. Тобто роботи воюють з роботами, умовно кажучи, винищуючи той правлячий клас, який залишається в умовного AGI півночі і умовного AGI півдня. От як розв'язати цю проблему, на якому макрорівні, щоб цього конфлікту позбутися та перейти на більш високий рівень? Треба сказати, що.

Це досить оптимістична точка зору, що є два різних світи в суб'єкті, умовний південь і умовна північ. Принцип Кукуяма, наприклад, вважає, що з розвалом Радянського Союзу закінчилась історія, в світі переміг один суб'єкт, умовно кажучи, який можна представити собі в вигляді Заходу, Сполучених Штатів Америки і так далі. Якщо ми подивимося, наприклад, на китайську економіку, то, по-перше, вона досить залежна від Західного світу, хоча б через продаж необхідність ринків збуту і так далі. Вона комуністична лише по формі, а по факту більшість економік капіталістична. І це по факту капіталістична країна. Ті люди, які приймають рішення, їхні діти, вони прагнуть до західної освіти, культури, вони мають там і статки, і капітали, часто виводять саме на Захід. І це може бути аргументом в користь того, що це все-таки єдиний суб'єкт по суті, а по формі це протистояння, воно зберігається для чогось, що нас чекає в майбутнє. Можливо, для цієї самої війни. А для чого вона потрібна? Можливо, для того, трохи зменшити кількість цих рабів, які стануть не потрібні. Це такі, скажімо, теорії розмови йдуть, але цей варіант просто логічний, не варто відкидати. Ми маємо недостаток інформації. Достаток масової інформації, вони насичені часто не суттєвими речами, а для суттєвих дуже мало будівельного матеріалу для розуміння і алгоритму. Тому треба розвивати декілька, як на мене, версій, і якась з них точно спрацює. Тому одна з таких версій, що це по суті один суб'єкт, який вирішує це питання. Візьмемо інший варіант, що всі штучні інтелекти будуть конкурувати. Тут питання в тому, хто перший зробить сильний штучний інтелект, який в той же час, в момент співпадіння він математично дуже малоімовіжний. Навіть якщо в нього буде в запасі 10 хвилин, то за ці 10 хвилин маючи там такий суперінтелект і можливість супермасштабування, він зможе перемогти в конкуренції навзавжди до того, як інша сторона зробить щось подібне. Питання тільки в тому, хто перший зробить сучний інтелект до статнього рівня для того, щоб не завжди покінчити з конкуренції, якщо цього досить пір не відбулося. І під час цього...

Цікава історія, можливо. Але дивись, наприклад, коли ми говоримо про технології, які змінили світ, Вони копіюються і, до речі, схід він досить просунутий в цьому питанні. От дивись, наприклад, коли ми говоримо про ядерну бомбу, американці в 45-му році використали в Японії. Радянський Союз, здається, в якому? В 53-му році. Тобто, фактично, було менше 10 років, але ця технологія була здійснена та була випущена впрод. Фактично, вона використовувалася вже. Якщо ми говоримо про протистояння, чи це один суб'єкт, чи два, різні точки зору можуть бути, звичайно. Але дивись, є же такий світ архаїків, мовний Іран, який з одного боку має достатню кількість ресурсів, має достатню кількість людей, що готові помирати за тією ідеєю, що в них є. Вони мають чіпи, вони мають обмежену свою цивілізацію, як умовно північна Корея. Тобто вони себе виокремили з цього світу і шлюзів для того, щоб штучний інтелект їх обрахував чи всередині повідключав їм всі умовно датчики, щоб вони не працювали, вони архаїчно все рівно будуть існувати в своїй замкнутій системі. Тобто, чи зможе умовний супер-інтелект їх передумати, мабуть, так. Але чи зможе він це здійснити лише своїми силами, це дуже велике питання.

Тому що...

А, а я не зробив. Так, пробуйте.

Так, вибач, перебив, скажіть.

Ні-ні, я просто кажу, що не все робиться роботами. Ще багато впливають люди, які готові з одного боку помирати за свої ідеї, а з іншого боку вбивати за свої ідеї. І тут вже штучний інтелект, ну... обмежений.

В своєму впливі? Одна з найголовніших переваг штучного інтелекту і взагалі будь-якого інтелекту це вміння використовувати не лише доступні ресурси, а ті ресурси, які потрібні для вирішення завдань. Наприклад, штучний інтелект він може фізично не мати доступу до інфраструктури чи до вимплення системи електроенергії в Ірані, але він може мати доступ до соцмереж, які є в Ірані, І таким чином направити суспільну думку, щоб ті люди, які були вчора готові вбивати західну цивілізацію, сьогодні були готові вбивати власну владу. Тому тут є питання просто, він зможе маніпулювати будь-якою людиною, в тому числі ЛПРами, які є в тій країні. значно ефективніше, ніж будь-які люди, вибудовувати такі стратегії і тактики комунікації, маніпуляції, які і не змілися там сучасним найкращим маніпуляторам, скажімо так. В цьому перевага штучний інтелекту. Тобто він може і людей наняти, які використовують певні завдання, він зможе розбити складне завдання, яке там понищені, наприклад, чогось в державності іранській, на маленькі підзавдання, яке зроблять люди всередині Ірану, не розуміючи, що саме вони роблять. Тобто, коли ти виконуєш маленький учасник, за який тобі платять, ну, зробив та й поїхали. І так наступно. І логіка, до речі, воєнних конфліктів саме так і побудована, війни. Тобто, у всіх там свої задачі. Хтось придумав ідеологію, я, хтось розробив цього-навсього, там, дрон. Хтось інший його просто запустив. В цілому, вони всі там глони роблять, але в кінцевому результаті помирає величезна кількість людей, І це все стає величезною проблемою. Тому якраз про те питання, яке ми з тобою якось обговорювали, про етичність виробництва зброї, це в цьому не до впека. Ти ніби як береш на себе невеличкий учасник, але він може бути необхідною ламкою, без якого це все просто не відбудеться. Тому краще його, про всяк випадок, на себе не брати. І якщо повертатись до цього питання, то виходить, що навіть якщо не буде якихось засобів, щоб виконати певні завдання, ну буде він собі там в ізоляції той Іран, поступово навколо нього будуть згущатись хмари, згущатись, згущатись, і поступово вони його роздавлять. Технології дозволяють, і штучний інтелект — це непорівняна технологія з ядерною зброєю. З ядерною зброєю була виключно ситуація, якби першим отримав, наприклад, Радянський Союз, Радянський Союз, застосовувавши ядерну зброю там умовно проти Сполучених Штатів Америки, зміг би пояснити, своєму електорату і цільовій аудиторії, чому вони це зробили? Тому що вони борються, сказали, ми боремося за добро проти злого і капіталістів, і так далі. А якби Сполучені Штати, які перші отримали, застосували проти Радянського Союзу, то тут би були проблеми, виникли в середині умовних Сполучених Штатів або в інших країн виникло б дуже багато запитань. Чому вони це зробили? Тому що виходить якраз вирішальним моментом було те, що Штати отримали цю зброю і фактично Фактично через декілька ітерацій і певних алгоритмів вони і виграли і холодну війну, і взагалі всю цю історію, і Радянський Союз розпався, а Сполучені Штати прекрасно себе почувають. Тому це було найважливішим моментом в історії. І штучний інтелект, до речі, 7 років, якби був у когось 7 років до того, як противник зарплатувався, то це вже все. Кінець конкуренції. Технології загострують і пришвильцюють наскільки це питання з конкуренції, що той переможець просто вже, ну йому буде просто нецікаво, в нього не буде достойних противників, навіть якщо допустити, що така конкуренція ще існує.

Цікаво, так, цікаво. Хотів би додати трошки про ядерну зброю. Питання в тому, що наприкінці Другої світової війни обсяги потужності обстрілів вже були в кілотоннах. І потужність ядерної зброї, навіть якщо би Штати чи Радянський Союз використав все наявне атомне озброєння, що в нього було, це було б лише маленька, умовно кажучи, цяточка на фоні всіх тих, всього того тратилового еквіваленту, який вивалювався на голову Німеччини, тож Радянського Союзу і так далі. Тобто там просто конвенційними озброєннями, скажімо так, Ядерна зброя звичайно стала геймченджером, тому що дуже велика потужність на маленьку площину. Це точно. Але на той момент навіть якщо б радянський союз повністю використав все, що він би мав на цю можливість, ну воно б все рівно не змінило, просто стала б глобальна війна. Все рівно б стріляли з винтівок, кулеметів, тому що залишилися б ті, кому було б стріляти.

І він ще був ослаблений попередньо другою світовою війною і починав відразу...

Штати отримали звичайно великий буст, тому що вони не отримували війну на своїй території. Вони вже були дуже потужні. Ну да, тут дійсно і вони змогли отримати від того, забезпечити своє лідерство світове. Це звичайно, це 100%. Цікавий паралель з штучним інтелектом, тому що в принципі у нас ми всі так чи інакше поєднані. В кожного є телефон, в кожного є комп'ютер. Тобто в нас є, умовно скажучи, джерела впливу на нас вже з собою, вони інтегровані в нас поки що не в шкіру, але ми багато часу з ними проводимо. І нам, в принципі, можна щось розповідати, розказувати, змінювати потрошку нашу поведінку, ввести нас туди, куди потрібно. Нема питань. Я думаю, це вже робиться багато років. Просто раніше це робилось більш примітивно, моделі були більш пласкі, менш насичені, менш інтерактивні. Просто зараз вони більш розумні, більш мімікруючі, більш мімікруючі і так далі.

До речі, найстрашніша пропаганда це ж не та, яку там очевидно ми бачимо, наприклад, там Телеканал якийсь «Росія-1» показує там про розп'ятих мальчиків сюжет. Ну, звичайно, що це пропаганда, і всі такі хі-хі, ха-ха. Найпричніша пропаганда – це та, яку ми не помічаємо. І вона точно є, її не може не бути. Ви подивіться на технології виробництва фільмів і серіалів, наскільки вони круто тримають нас увагу і направляють наші почуття, яка ймовірність того, що подібні технології не застосовуються в політиці, в новинах і так далі, я думаю, нульова ймовірність взагалі. І, до речі, якщо говорити про соцмережі, то ніби як вибудовується така цікава етапність розвитку, спочатку був створений, наприклад, Інстаграм, який мав за основу лідерів думок блогерів. Там умовно кажучи, на кого ти підписаний, той тобі в ленті і висвічується. Потім за допомогою цього люди умовно були привчені до цих соцмереж.