Будущее без работы, болезней и привычного мира | Откровенный разговор с Андреем Дороничевым

Если мой кот решит объяснять мне, как правильно добывать для него еду.

Суперинтеллектуальный раб, который будет делать за нас всё, а мы будем только кайфовать и так далее.

Вот мы и создали следующий этап эволюции сознания.

Отдельно взятый человек не в состоянии отследить скорость прогресса.

И я решил, что мы не нужны ему.

Контролирует неконтролируемое.

Выживать на планете Земля— это необходимость кожаных мешков.

Там, где твоя сила, там твоя слабость.

Не все люди со старыми подходами смогут найти себе место. Стратегически всё будет сильно лучше, чем мы ожидаем, и тактически всё будет сильно сложнее, чем нам кажется.

Раз, два, три. Начинаем очередной подкаст беседы. Друзья, всем привет. Мы снимаем очередной подкаст беседы. Еще раз напоминаю формат этого подкаста. Это подкаст разговор двух предпринимателей обо всем. Обо всем, что интересует общество, что интересуют предприниматели, бизнесменов, инвесторов. людей самозанятых, топ-менеджеров и так далее. Мы поговорим о том, что интересно нам. Это представьте, что вот такой кулуарный кухонный разговор на все темы, которые волнуют нас самих, о чем мы думаем вообще, чем занимаемся и так далее. Формат беседы был навеян мне практиками древнегреческих философов, когда они собирались или кто-то к ним приходил, особенно к Сократу, и они целый день болтали о том, о сём и так далее. Так как в современном мире вообще сейчас время очень сильно ускоряется и усложняется, то я думаю, такие форматы очень важно проводить. Не всё время выступать со официальных трибун, а хочется иногда просто в бытовой простой беседе понять сложные вещи. Вот об этом мы сегодня поговорим и гость сегодняшнего подкаста Андрей Дороничев. Андрюха у нас по формату самопрезентация гостя. Поэтому расскажи нам о себе, что ты хотел бы, чтобы наши подписчики знали о тебе. Я знаю, ты очень крутой человек. Кстати, рекомендую посмотреть его интервью. У него очень много интервью в YouTube. Особенно последнее интервью у Юрия Дудя. Вот такое интервью. Там вы увидите полную картинку о том, насколько крутой наш сегодняшний гость. Вот просто скажи, что ты хотел бы, чтобы мои подписчики знали о тебе.

Спасибо, привет. Очень рад поучаствовать в ламповой и аутентичной беседе как бы экспертов. И я не думал, что мы сегодня греческие философы. Мне это импонирует. Я Андрей Дороничев, я серийный предприниматель. Стартанул 8 компаний от производства подушек, продажи недвижки, вплоть до фармацевтики. В основном занимаюсь тех. Интернет-бум был моим основным временем основной карьеры. и, в общем-то, я сделал какое-то количество более-менее успешных проектов. Также я был топ-менеджером в Google, и там запускал всякие известные приложения и продукты, в частности, приложение YouTube всем известное. Я отец твоих детей, живу в Сан-Франциско, Калифорния, родился в Москве, уехал в 2006 году. С тех пор путешествую по миру, в разных местах я пожил. Пожил в Лондоне, в Дублине, в Праге. Последние 15 лет. живу в Соединенных Штатах.

На самом деле Андрей поскромничал. Если вы погулите, либо посмотрите в YouTube, у него очень мощный портфель, который хватило бы на двух предпринимателей, трех предпринимателей как минимум. Особенно меня впечатлила, конечно, твоя карьера в Google, в YouTube. что ты создавал YouTube Mobile, это делал рук Андрея, плюс AR, Augmented Reality, это тоже его детище, и доведение YouTube Mobile до миллиарда пользователей.

Первый миллиард пользователей, первый 100-миллионный бизнес, это все под моим руководством с самого начала, с самого нуля.

Чем ты занимаешься сейчас? Потому что мы об этом не так будем много говорить, потому что у Дудя там дофига по этому поводу материала.

Да, я в 2022 году стартанул AI-компанию. Это AI-лаборатория была незадолго до старта всем известного сейчас Booma, ChargePT и вот этого всего. Компания с очень хорошими инвесторами, Kleiner Perkins, Greylock, Pantera, то есть топовые VC инвестировали в нас порядка 12 миллионов долларов. Мы занимаемся автоматизацией фармо-отрасли при помощи AI. Мы строим будущую AI фармо-компанию, которая занимается всем от автоматизированного дизайна самих молекул, то есть самого начального этапа, научного этапа discovery, и дальше автоматизирует все возможные процессы, которые не требуют физических экспериментов. Наша гипотеза состоит в том, что AI-сотрудники постепенно могут решать огромное количество сложных задач в этой индустрии, которые сейчас делает разработку лекарств очень дорогой и очень длительной, в буквальном смысле десятилетия на одно лекарство, мы считаем, что со временем за счет таких автоматизаций можно значительно сократить сроки, снизить риски, ну и, соответственно, таким образом снизить себестоимость.

Можно ли сказать, что по сути вы занимаетесь моделированием?

Да, на первом этапе. С чего компания началась? Мы занимались действительно моделированием химических взаимодействий и, соответственно, дизайном молекул на базе понимания этого процесса, который дистиллирован в AI-модель. А постепенно мы, на самом деле, Кроме моделирования стали встроить ризнинг-циклы, то есть размышлятельные циклы, о чем мы сегодня обязательно поговорим, ай-агентов, что, конечно, далеко уже за грани создания моделей.

А вот смотри, размышлятельные ай-агенты, ты говоришь, но это же по сути разновидность моделирования. То есть все процессы у вас проходят в компьютере, не в физической лаборатории.

Нет, в какой-то момент ты вынужден, ты должен брать что-то из цифрового вида и тестировать это в реальной жизни, синтезировать, тестировать, потом возвращать данные в цифру и опять что-то прогонять. То есть это гибридный процесс, который требует и участия во внешнем мире, который в себя включает в самые что ни на есть физические вещи, логистику, операции, шиппинг. Синтезируешь вещества в Украине, доставишь их во Францию для тестов, а потом то, что получилось, самое лучшее доставишь в Соединенные Штаты. То есть это большое количество стандартной физической логистики. Но при этом мы стараемся как можно больше всего. делать в компьютерной модели, что, соответственно, конечно.

Снижает... Причём это не упрощённая компьютерная модель, просто чтобы у моих подписчиков не создалась иллюзия, что это такой один настольный комп. На самом деле это сложнейшая вычислительная работа. Вот смотри, когда вы моделируете молекулы, по сути, вы же опираетесь на определённые физические и химические законы. Фреймворк вашего моделирования – это законы физики, законы химии, поведение молекул, как они себя поведут. Или как? Вы же по сути должны сконструировать модель с определенными заданными параметрами будущего.

Поведения. Как бы это простыми словами сказать? Физические законы, они регулируют работу нашей Вселенной, в принципе, нашего внешнего мира. Один из способов моделировать какие-то физические процессы, это понять закон. На уровне фундаментальной физики у тебя появляется какое-то уравнение, а дальше ты это уравнение записываешь в виде кода в машину и Можешь предсказать какую-нибудь переменную на определенном этапе времени. Ты знаешь, что скорость умножить на время равно расстояние. Соответственно, ты можешь предсказать, в каком месте будут машины, едущие со скоростью 100 км в час, через минуту, через две, через.

60. По сути, условно говоря, через такую виртуальную гипотезу «если то». Если сделать это, будет.

То. Это стандартный подход к моделированию, когда у тебя есть известный закон, который ты можешь прописать в виде кода, в виде уравнения, в виде алгоритма, и дальше ты просто считаешь. Это не то, что мы сейчас.

Делаем. Да, потому что здесь зона.

Определенности. Да, потому что это возможно, когда у тебя есть закон, который описывает что-то. Когда речь о чем-то настолько сложном, как протеин, то есть молекула, состоящая из, может быть, даже тысяч атомов, которые все двигаются и влияют друг на друга стахастически, и каких-то других молекул, к которым протеин пытается подключиться определенным образом и вызвать какие-то в нем изменения в его.

Поведении.

Наверняка. То есть, конечно же, это регулируется физическими законами, конечно же, они есть и во многом нам известны, хотя мы не знаем, на самом деле, на этом уровне квантовом. Но сложность вот такого прямого в лоб моделирования, машинного моделирования такого процесса такова, что мы на суперкластерах, самых гигантских дата-центрах можем обсчитывать пикосекунды. То есть даже не наносекунды, а пикосекунды. Это 1 000 наносекунды такого процесса, когда мы правда высчитываем время там первая пикосекунда, вторая, третья, мы каждый раз подставляем какие-то все эти переменные, все это огромная система и моделируем ее новое состояние. Поэтому такой подход, он на самом деле практиковался и практикуется, и на каких-то этапах того, чем мы занимаемся, это нужно делать. Но вот основная гипотеза наша и подобных компаний заключается в том, что благодаря машинному обучению можно пропустить весь этот этап понимания фундаментальных законов, а скормив достаточное количество данных нейронке и обучив её на этих данных, она понимает, как бы понимает в кавычках, статистически выводит поведение вот этих отдельных атомов молекул в системе так, что может дальше предсказать результат, близко к тому, что бы получилось, если бы ты правда моделировал это действительно по атомам, или если бы ты провел этот эксперимент в жизни. Это приближение. Как любая AI-система, как любая машина обучения, это некая статистическая модель. Она не построена на законах, как ты говоришь, физических, она построена на объеме данных наблюдений, а дальше она пытается эти законы внутри себя.

Вывести. Смотри, поправь меня, если я не прав. Конечно, это по-любому все построено на физических законах. Просто есть определенные физические законы, которые уже открыты, и мы четко понимаем причинно-следственную связь. Но то моделирование на том уровне, который вы моделируете, там уже физические законы не работают. в.

Лобовую. То есть там... Физически это работает везде.

Конечно. Зона неопределенности. И, соответственно, там вариативность настолько большая, что человек, в принципе, не в состоянии это подтвердить либо опровергнуть никакими экспериментами. Это тысячелетие потребуется человеку. То, что вы там делаете, можете быстро.

Промоделировать. Но я все-таки хочу... Ну, важно, мне кажется, здесь быть точными формулировками. Во-первых, физический закон работает. Это единственное, что работает вообще. В чем мы можем быть уверены абсолютно? Всегда.

Второе. Нет, я имею в виду известные физические.

Законы. Нам известны, да. То есть в какой-то момент действительно возможно есть какие-то процессы, которые мы еще не понимаем, которые влияют на эту систему, и действительно мы их не можем предсказать. Но, чтобы быть точным здесь, то, что мы сейчас моделируем при помощи ML, достаточно хорошо моделируется известными законами, просто это безумно дорого, чудовищно сложно, стоит гигантский денег и в практическом смысле не особо практично. Если у тебя есть одна молекула и один протеин, ты можешь действительно симулировать их взаимодействие достаточно точно, Если ты хочешь протестировать, скажем, тысячу молекул и проверить, они-то будут работать, то в практическом плане такой возможности нет, потому что каждый из этих виртуальных экспериментов стоит и занимает времени, может быть, и дороже, и дольше, чем физически синтезировать и попробовать. Вот. Поэтому тут важно вот это первое. Второе. Эксперименты, на самом деле, провести можно практически всегда. Наверное, есть какие-то ситуации, где мы почему-то не можем синтезировать такое вещество слишком сложно, или не можем собрать тестовый стенд эссей, не можем собрать для того, чтобы его проверить. Какие-то такие ситуации есть, но это нечасто. На самом деле, чаще всего ты всегда можешь потом то, что мы делаем в компьютере, проверить экспериментом, и это то, что мы так и делаем. Задача наша и задача в дальнейшем подобных подходов в любых других бизнесах, почему я об этом говорю, потому что я считаю, что это то, что будет использоваться и в других вещах, где также существуют какие-то суперсложные системы, например, много людей с их эмоциями. там понравится мне, понравится твой новый рекламный ролик. Ты не можешь предсказать идеальную эмоцию каждого человека, но ты можешь построить модель машинного обучения, которая будет предсказывать какие-то параметры твоего бизнеса, твоего шоппинг-центра, в который приходят каждый день 10 тысяч человек. Как они там перемещаются, по каким магазинам, сильно зависит от дня, от погоды, от настроения, от того, что за люди пришли. Но на уровне системы ты, на самом деле, можешь начать предсказывать эти вещи, если у тебя есть достаточное количество экспериментальных данных, например, записи с видеокамер. И ты можешь построить достаточно точную модель, которая предскажет, что в пятницу вечером у тебя будет столпотворение, а здесь никого не будет. Поэтому я считаю, что то, чем мы занимаемся на молекулярном уровне, твоей аудиторией и слушателями, вполне вероятно, окажется полезным на уровне симуляции других.

Бизнес-Процессов. Я бы даже сказал, не просто вероятно, а скорее всего, потому что законы этого мира сквозные, как правило. Просто делятся на разные уровни. Когда мы опускаемся на микро-уровень, мы можем увидеть законы и паттерны макро-уровня. Благодаря проведению тысяч экспериментов паттерны вырисовываются сами. Мы не можем провести физически эти эксперименты, но благодаря моделированию вы выявляете внутренние.

Паттерны. Совершенно верно. Вот это то, что я пытаюсь сказать. Да, действительно. За счет машинного обучения мы можем выявить внутренние шаблоны, паттерны. которые иначе бы были сформулированы в виде закона физики, в строгом виде, а в этом случае они приблизительно выявляются за счет статистической модели, и даже при том, что эта модель не напишет тебе уравнение, каким образом там эти молекулы двигаются, она может тебе предсказать результат, сказать, что вот эта молекула подойдет для лечения такого-то.

Лекарства. Можно ли, наверное, последний вопрос в сторону углубления в науку. Можно ли сказать такой момент. Вот вы идёте, я понимаю, почему вы одну пятосекунду анализируете, потому что любое увеличение секунды увеличивает дерево вероятности. Или дерево возможных комбинаций, можно так сказать. Поэтому, чтобы сократить количество комбинаций, у вас очень много элементная модель, много тысячи. Соответственно, на 10 минус вперед прочитать невозможно в принципе. И вы берете самый маленький отрезок. Правильно я рассуждаю или нет? Что если вы будете в этом преуспевать и уходить дальше, вы просто упрётесь в квантовую дуальность.

Мира. Так уже на этом этапе. То есть на этапе, на котором мы моделируем процессы, квантовые эффекты, они не то, что реально, они то, что правят миром на этом.

Уровне. А дальше это же не.

Просчитывается. Именно поэтому сейчас мы моделированием достичь результатов таких не можем.— Дело в том, что на уровне молекулярного взаимодействия, когда ты...— Не доходя до квантового уровня.— Да, на уровне отдельного атома, конечно, у тебя квантовый эффект, ты не можешь предсказать, где у тебя электронная деталь. Но на уровне большой молекулы, взаимодействующей с малой, система достаточно большая, чтобы ты мог... Аппроксимировать результат. Теперь же не нужно знать, что именно этот атом с этим связался, вот этот электрончик у него общий стал. Тебе нужно понять, у тебя протеины... Я.

Понял. Вы работаете на более макроуровне по сравнению с квантовыми.

Частицами? По сравнению, да. То есть мы не обсчитываем каждый отдельный атом. Это то, где у тебя начинаются квантовые.

Эффекты. Хотя они, конечно, влияют... Сложность там вообще.

Астрономическая. Они абсолютно влияют, конечно же, на все, что мы делаем.

Здесь. Хорошо. Теперь вот смотри. Когда вы занимаетесь проектированием лекарств, само слово лекарство подразумевает болезнь. Правильно я понимаю, что отправная точка, что вы берете параметры определенной болезни, и вам нужно, по сути, сделать антидот против этой болезни. Соответственно, техническим или заказчикам Которая дает вам техническое задание, что сделать, является болезнью, против которой вы.

Болеете. Является аудитория с болезнью. Называется patient.

Cohort. Можно говорить, если убрать личность, анонимизировать эту когорту, вы боретесь с определенной конкретной болезнью, с конкретными параметрами. Соответственно, ваша задача сделать так, чтобы эту болезнь деструктировать, чтобы любая болезнь... совокупность свойств и характеристик, которые вредят нашему организму. Ваша задача – разбить. Это, по сути, тоже система, которую вам нужно расчленить так, чтобы она перестала иметь это свойство, которое вредит.

Нашему организму. Болезнь – это финальное состояние, в котором ты пребываешь как человек или как животное по той причине, что у тебя есть что-то, нечто, какое-то нарушение. То есть первое, что надо сделать, это на уровне биологии сформулировать, что же мы называем болезнью. Есть, например, люди говорят, есть рак. Рак – это не болезнь. Это огромное семейство очень разных болезней. Так же, как перелом – это не одна болезнь. Вот там перелом носа или перелом ключицы, или перелом бедра, или перелом черепа. Это вообще разные болезни. Хотя у них есть общее свойство, что везде сломана кость. Так же и рак – это не одна болезнь, это набор. болезни, у которых есть общее свойство, что у тебя где-то начали бесконтрольно.

Делиться клетки в силу какой-то.

Мутации. Причём это твои собственные клетки. Ну да, но они мутировали, и теперь они не считают себя твоими собственными. Они становятся жадными, они пытаются бесконечно размножаться, и тем самым губят твой организм. Когда ты сформулируешь, окей, давайте теперь уже более конкретно, не рак, а non-small-cellular lung cancer, не мелкоклеточный легочный рак, причем в вариации Squamous, там есть еще разные подвариации. Вот предположим, что вот эта болезнь, с которой вы боретесь, у нее действительно ее можно декомпозировать на какие-то первопричины, то есть у нее есть какие-то mechanism of action, то есть ты понимаешь, как устроен механизм этого заболевания, с чего он начинается. Вот он где-то там, какой-то рецептор в какой-то клетке мутирует, и это приводит к нарушению какой-то сигнальной цепи, которая обычно в организме работает определенным образом. А теперь эта клетка на него реагирует иначе, начинает, например, бесконтрольно делиться, когда на нее попадает какой-то гормон или еще что-то такое. И вот отсюда понеслась. Ну, это фундаментальное исследование научное, то есть это занимаются биологи, в медицинских учреждениях люди там, я не знаю, сидят, и вот я бывал в Ванкувере в центре ракопростата, целое отдельное заведение, которое занимается исследованием ракопростата. Вот со всех пациентов, с которых попали биологические образцы, то есть их простаты вырезаны, доставляются в этот центр в Канаде, и там ученые пытаются найти какие-то закономерности, новые подвиды, мутации и так далее. И вот они на базе этого большого исследования в какой-то момент делают какую-то гипотезу. И говорят, например, вот у пациентов Есть адрогенный рецептор, который принимает участие в развитии болезни. Если его каким-то образом ингибировать, то болезнь будет затухать или не будет развиваться. То есть это глушит развитие этих раковых клеток в простате. Они делают эту гипотезу, проверяют эту гипотезу на каком-то количестве экспериментов, на каких-то моделях, физических моделях. То есть мышь, например, является моделью болезни. Мышь специальным образом модифицирована, заражена подобным раком. После этого, когда эта гипотеза на биологическом уровне подтверждена, есть подтвержденный таргет, то есть есть подтвержденная цель, которую надо каким-то образом в данном случае заглушить, ингибировать. И вот тут вступает уже в работу компания типа нашей, которая занимается непосредственно дизайном молекулы, которые подойдут для того, чтобы подключиться к этой цели, к этой мишени, и ее каким-то образом или активировать, или ингибировать. И вот в этот момент, возвращаясь к твоему вопросу, что ты декомпозируешь болезнь на какие-то параметры, я приблизительно описал, что начиная от того, что просто рак, до рак простаты, до очень конкретных вариантов рака простаты, теперь мы знаем, какой принимает участие в этом раке. Там можешь принимать большое количество разных мишеней, но мы делаем гипотезу, что если по этой долбить, то раковая клетка начнет умирать. Мы создаем молекулу, сначала моделируем в компьютере, потом мы ее синтезируем физически, лучшие кандидаты, которые лучше всего отработали в симуляции. Синтезируем, создаем технический эксперимент, то есть создаем, например, молекулярные мишени, вычленяем из этих белков и просто на них капаем и смотрим, связались, не связались. Допустим, сработало, наша молекула действительно связывается с этой мишенью. Дальше мы берём клеточные культуры, уже настоящие клетки рака, и на них тоже капаем это лекарство в разных концентрациях, наше вещество. И отсюда мы смотрим, они погибают, эти клетки, или нет, или они продолжают развиваться.

Как развивались. Если они.

Погибают, отлично. Ну и так далее. Дальше потом в мышке, тестируем, потом там больше-больше, и в конце концов, в людях. Вот как этот весь процесс декомпозиции от болезни к таргету.

А потом от таргета к лекарству. А вот смотри, Андрей, дело в том, что у меня в жизни был опыт, когда у нас мы 5 лет занимались одной научной деятельностью на птицфабриках и создали препарат. Не мы, а Новосибирский университет создали препарат очень крутой, который наращивает хрящи на суставах и так далее. Когда я встречался с основателями, ребятами, один из них оказался физиком, другой химиком. Я у них спрашиваю, а где у вас медики? Он говорит, а зачем медики? Все процессы в организме – это физико-химические процессы, поэтому медик нам и не.

Нужен. Они создали.

Лекарства без участия медика. На рынок запустили? Да, запустили, вообще работают, очень крутые ребята. Давай я тебе дам свое видение болезней. Я вообще люблю системы. Я вижу болезнь – это система. Первое. Любая система состоит из определенного количества компонентов. Так? Так. Болезнь – то же самое. Дальше. У любой системы есть вход, входные ресурсы. У любой системы есть выходные ресурсы. Четвертое. Любая система занимается преобразованием чего-то во что-то. Дальше. Любая система для того, чтобы существовала, она потребляет определенное количество энергии. То есть ресурсы на содержание самой себя. Дальше, у любой системы есть цель. У любой системы есть цель. У любой системы есть срок жизни. Вот семь компонентов системы я назвал. Теперь возьмем любую болезнь. Любая болезнь, у нее есть входные ресурсы, выходные ресурсы, она что-то преобразовывает. У нее есть какая-то цель. И можно бить по любой из этих семи компонентов. Можно заблокировать вход. Вот, кстати, один из методов, когда рак, говорит, надо больше использовать голодание и так далее, это не только аутофагия, но ещё вопрос, когда ты не поставляешь и не питаешь раковые клетки белком. Кирпичики на стройку перестанет поставлять, и стройка остановится. То же самое, не подавая белки, замедлится рак. Поэтому это что значит? Это вход в систему, когда блокируется, не из чего строится этой болезнь. Либо можно заблокировать выход. Либо можно сделать так, что система не питалась, то есть болезнь не питалась. Либо выдернуть один из компонентов болезни, и она тоже перестает функционировать. Либо цель болезни изменить, либо перенаправить и так далее. Правильно я мыслю, что это похоже отвечает твоим представлениям о болезни? Для меня неважно, болезнь это… попить чай, проголосовать в Госдуме, не важно, это все процессы. Все процессы. А процессы имеют именно вот эти 7 характеристик. То есть, по сути, система— это статическая, а процессы, которые протекают в этой системе,— это вот 7 компонентов. И болезнь ничем не отличается от других процессов. Ну, дождь идёт— это тоже процесс.

Чайник кипит— это тоже процесс. Болезнь— это тоже процесс. Любой шаблон, любой паттерн или любой framework, любой способ систематизировать какую-то сложную сущность в 7 компонентов или в 3 или в 2— это всегда аппроксимация. На определенном уровне абстракции любая аппроксимация подходит, ну, можно почти ко всему подвести. Вот эта аппроксимация из семи компонентов, которые ты сейчас назвал, ну, как бы, наверное, да, можно ее так подвести. можно таким образом поговорить о болезнях, скажем так. Вопрос, ты можешь какие-то реальные.

Действия предпринять по результатам.

Вот такой сегментирования этой проблемы? А почему вот так? Вот ты сейчас сказал, что можно закрыть вход и можно голодать. Вот конкретно для рака действительно есть Какой-то набор полуанекдотических данных, что действительно раковые клетки требуют больше энергии для размножения, они просто более жадные. Почему работает химиотерапия? Потому что ты, в общем-то, травишь весь организм, но в раковой клетке более активно потребляют яд и погибают раньше. И твоя надежда, что ты съешь ровно такую дозу.

Что сам ты не погибнешь, а.

Раковые клетки погибнут. Ну там на вход подают химотерапию. Да, соответственно, вот в этом фреймворке, который ты описал, тут как бы какие-то части имеют смысл. Я не знаю, стоит нам сейчас полностью поглубляться в каждую из них.

Но, наверное, я думаю, что можно найти какие-то полезные... У меня по ощущениям, что этот фреймворк, по крайней мере, задаёт направление поиска, в какой стороне искать лекарства. Хорошо, давайте про лекарства закончим, про молекулы лекарства. Мне, честно говоря, самому безумно интересно, но из-за того, что мы пишем, у меня всё время борется желание удовлетворить свое любопытство, с желанием удовлетворить любопытство наших подписчиков. И вот это пытаясь, знаешь, усидеть на такой серединке. Давай пойдем дальше. В твоем случае это не просто наука, это не просто искусственный интеллект, это не просто бизнес. Вообще все, как бы, сегодня смешалось в доме.

Облонских, как говорится.

И кони, и люди, и все. Мечиси, киры, топоры. Да, да, да. В целом, хотелось бы поговорить и чтобы ты поделился своими мыслями. Мы движемся сейчас с этими темпами ускорения, вот буквально вчера презентовали GROK 4.1, следом презентовали Gemini 3.0, и темпы такие, что мы очень быстро движемся в этом направлении и приближаемся, по сути, к точке сингулярности, когда человек, уже отдельно взятый человек, не в состоянии отследить Скорость прогресса такая, что я уже многие саморезирую, а не погружаюсь в статьи и глубокие исследования. Все это неизбежно ведет к тому, что всю экономическую деятельность у человека заберут искусственный интеллект и роботы, и люди будут заниматься более такой, назвать, смысловой работой, а обязательную часть, связанную с выживанием, питанием, выживанием, одеждой, это перейдет к роботам, искусственному интеллекту, агентам и так далее. Все тренды показывают, что мы явно двигаемся, бессмертию не скажу, но к удлинению человеческой жизни это точно, в том числе ты к этому прилагаешь руку. И у меня есть чисто философская концепция, что всегда, я для себя понял такой закон, там, где твоя сила, там твоя слабость. И вот мы, двигаясь в эту сторону, удлиняя человеческую жизнь и обеспечивая себя благоденствием, мы лишаем себя смысла жить. как бы у человека пропадает смысл существования, потому что до этого смысл человека.

Был борьба с природой.

Выживание, размножение и так далее. – Да, было проще, да. – Как вот ты смотришь.

На вообще смысл? В чем бы мы, люди, могли найти смысл? – Ну, это проблемы, с которыми сталкивались и сталкиваются люди постоянно. В каждую эпоху есть какой-то отдельно взятый дом, в котором Вся проблема труда, обеспечения жизнедеятельности, всего-всего-всего давным-давно решена до рождения человека. У него были бесконечные деньги, слуги, бесконечное количество калорий, бесконечное количество возможностей. Такие люди постоянно есть. И как мы знаем, они каким-то образом умудряются придумывать себе смыслы. Потому что смысл жизни— это что-то, что человек выдумывает себе сам. Всегда выдумывал себя сам. И ты можешь вдохновиться какой-то идеей, которая берется от большего движения. Ты можешь вдохновиться религии, ты можешь вдохновиться идеей Бога и служить Ему. Ты можешь вдохновиться какой-то социальной идеей, служить обществу. Ты можешь вдохновиться идеей самосовершенствования или свершений. и просто тестировать пределы конкретно твоих возможностей. Зачем люди бегают или прыгают в высоту? Есть у нас куча всяких методов в высоту продвинуться, на любую высоту, насколько хочешь. Есть и лестницы, и лифты, и все что угодно, и даже теперь джетпаки. Но тем не менее, почему-то люди тратят годы своей жизни на то, чтобы стать самым лучшим прыгуном в высоту или бегуном. Хотя перемещаться по прямой тоже можно всячески. Почему? Потому что это дает смысл. Дает смысл, и ты просто перерабатываешь свою жизнь в стремлении вот этим смыслом ее наполнить. Ты перерабатываешь время в смысловое наполнение. Это требует Ответственность— это ответственное дело, а задача себя смыслом. Отчасти, как бы сложно тебе не было в ситуации выживания, это сильно упрощает, и об этом говорят многие люди. Почему люди уходят в походы сейчас? Есть возможность дома сидеть на диване, есть бесконечное количество калорий, а ты почему-то пакуешь сосиски и яблоко в рюкзак и бутылку воды, и отправляешься куда-нибудь 30 километров пешком по лесу идти. Почему? Потому что это наполняет этой простотой. Дает тебе ощущение, что ты от всех этих сложных загогулин, которые тебя в голове с утра до вечера не дают тебе спать, ты убегаешь в простое место, где тебе нужно вот сейчас не упасть ни в какую яму со скалы, чтобы тебя не съел медведь, и чтобы ты дошел до куда развел котелок, поставил на огонь, развел костер. и сварил себе свою тушенку с картошкой. Вот и тебе классно. Правда, это же действительно так для всех универсально. Создает приятное ощущение простоты. Так вот, мы уже сейчас, на самом деле, частенько оказываемся в этой ситуации. Ну, то есть масштаб того, что мы ожидаем, что действительно в какой-то момент труд полностью делегирован машинам, и создание экономической ценности, вот базовой экономической ценности, достаточной, чтобы содержать всё население планеты в комфортных условиях жизни, действительно, возможно, не за горами. В этой ситуации 100% всё равно будут люди, которые будут стремиться заработать больше и больше всех денег. Мы сейчас это видим, у нас появились триллионеры. Как ты себе представишь, ты богатый человек, как ты себе представляешь, внедрить триллион долларов. Ну, честно. Понимаешь? Люди не останавливаются, они продолжают. Зачем? Ну, очевидно, что им не нужны 2 триллиона долларов. Но это просто вот тот спорт, который они для себя выбрали, чтобы наполнить свою жизнь смыслом. Есть люди, которые, будучи очень богатыми, ездят на метро, с утра до вечера работают руками на ферме и так далее. Почему? Потому что это тоже дает им смысл. Я думаю, что когда мы так боимся этой ситуации экономического благополучия для всех, где необходимость работать для выживания отпадает, мы на самом деле забываем, что примеров таких полно. И, в общем-то, на масштабе мира, скорее всего, сработает точно так же. Кто-то из этих людей, безусловно, ударится в дикотанц, и сопьется, сколется, и свою жизнь протранжирит. И это случается. Кто-то из этих людей, наоборот, станет великими достигателями и продвинет человечество еще вперед. Не в вопросах науки, так в вопросах этики или в вопросах культуры. Или они станут самыми лучшими великими спортсменами. А кто-то будет просто находить смысл в простых вещах. В простых вещах, как расти свой сад. Который тебе сейчас тоже не нужен, ты все можешь купить в магазине. Но ты.

Простишь там свою клубнику на грядке на даче и радуешься, когда она распускается.— Классный ответ. Мне особенно понравилась метафора с домом. Если представить человечество как одного человека, то на самом-то деле, получается, вызовов-то... Ведь что такое смысл? По сути, это всегда ответ на вызов. То есть это.

У нас был.

Выживаемость вызов, потом размножение вызов, адаптация и так далее. Это все вызовы. Борьба с кем-то, с чем-то, с природой, со словами, с тиграми, с кем угодно. И в этом плане, по сути, смысл не заканчивается, у нас целая вселенная. Илон Маск транслирует смысл, это переезд части человечества на Марс, целью диверсификации разумной жизни и так далее. Это все классно, и более того, Я заметил, что этот мир устроен таким образом, что когда человек теряет смысл жизни, он быстро уходит из жизни. Я вижу повсеместное уменьшение, депопуляция идет. Я думаю, все придет к тому, что пойдет сокращение человечества до размеров количество людей, умеющих генерировать смысл. То есть это следующая ступень адаптации человека. То есть если раньше люди выживали более сильными, с сильным иммунитетом и так.

Далее, то сейчас будут выживать и.

Размножаться.

Только люди, умеющие создавать смыслы. Отлично, я очень согласен с этим.

Согласен? Я согласен. Я считаю, что это новая необходимая черта для выживания. Да, то есть те люди, которые не видят смысла в своей жизни, они будут отмирать и не давать потомство. давать потомство будут только люди жизнерадостные, которые будут видеть смысл в том, что они делают, радоваться и так далее. И таким образом человечество.

Не скукожится, а уменьшится до размеров генерации смысла. Сколько она может генериться? Она может, на самом деле, продолжить расти, но в меньших темпах. Мы не знаем об этом. Это как раз вопрос. Но вот то, что действительно произойдет адаптация, новый этап адаптации, в этом я с тобой согласен. Потому что действительно ты прав. Был какой-то момент, когда адаптироваться надо было конкретно к физическим параметрам. Можешь ты догнать дичь или не можешь. Потом у нас случилось аграрное сообщество, и стали важны структуры, системы. Появилось, я не знаю, старосто в деревне, потому что люди должны были коллаборировать для того, чтобы растить пшеницу. Соответственно, постепенно люди, которые просто хорошо бегали, но совершенно не умели жить в обществе, они тоже подмирали. И адаптировались те, которые смогли общаться, думать системно с другими людьми и так далее. Потом наше общество в индустриальное общество перешло, в котором мы сейчас живем, такое постиндустриальное. Это новое общество, потенциальное, полная автоматизация и современного бесконечного достатка. оно потребует тоже адаптации. И ты прав, не все люди со старыми подходами смогут найти себе место и.

Как результат со временем вот эта часть нашей популяции как бы отвалится. В нашей жизни экономика имеет, конечно, большое значение. И в связи с развитием искусственного интеллекта, роботов и так далее, вообще меняется вся экономическая парадигма. Сейчас еще зарабатывание денег идет. Триллионер, как мы сказали, Илон Маск. явный кандидат на триллионера и так далее и деньги уже для него вообще не имеют экономического значения как такого он живет в мире изобилия и если люди отойдут от создание экономической ценности. Если все люди получат доступ к миру всеобщего изобилия, о котором декларирует Илон Маск, и мы видим, что тренд в эту сторону, как ты думаешь.

Вообще останутся ли у нас...

Экономика – это же не только про деньги. Это...

– Про энергию движения.

Вперед. – Да, энергию движения вперед. Что бы могло заменить.

Это? – Спорт. Спорт, культура, творчество. Потому что я вижу, что с экономикой умрет и политика. Нет, политика раз не умрет. Политики останется.

Еще больше. Людям.

Надо выстраивать иерархию. Тебе надо знать, что ты главная обезьяна в этом вольере. Нет, политика трансформируется. Она трансформируется, безусловно, вот это точно. Безус, как ты рассказал, сложно предсказать в будущем, что изменится, но зато всегда достаточно легко предсказать вещи, которые останутся такими, как были. И это очень полезный способ мыслить. Давайте начнем мыслить от этого, что не изменится. Не изменится наша биология. Мы были обезьянами и остались обезьянами. У нас будут такие же точно, мы гормональный биоробот, у нас также на нас влияют наши кортизолы, наши эндорфины, нам хочется размножаться. Даже если мы детей не хотим, нам всё равно хочется сам процесс, потому что природа, матушка говорит, надо. Нам надо доминировать и выстраивать иерархию. Кому-то надо поддаваться, кому-то надо доминировать. У кого-то есть абсолютная необходимость всегда быть альфой, и ради этого они готовы пожертвовать жизнью. Кому-то есть необходимость постоянно бороться, соперничать и в конкурентной борьбе участвовать, даже если на выходе нет приза. Люди, которые из-за азарта, мы знаем таких людей массу, которые из-за азарта делают вещи там, где они уже все выиграли, а все равно остановиться не могут. Понимаешь? И вот эти вещи, они не изменятся. Какой бы там AI не происходил, вот фундаментально эти драйверы отдельных людей, они останутся. Поэтому, если на это посмотреть, то экономика это тоже аппроксимация. Она нам.

Дала некий способ, во-первых, выстраивать иерархию, что у одного человека.

Будет больше ресурсов, у другого меньше. Это больше, наверное, способ координации усилий людей для большей эффективности. Ну да, хорошо, согласен. То есть одна вещь, мы выстраиваем, вот для отдельно конкретного человека, это дает тебе возможность просто помериться. У меня больше, у тебя меньше. Соответственно, я могу произвести больший импакт. Я могу построить завод, я могу квартиру отремонтировать, а я могу себе булочку купить. Вот мы в разных весовых категориях. Дальше, да, верно, на макроуровне экономика позволяет координировать усилия разрозненных групп людей, чтобы они совместно что-то большое творили. Потому что, конечно, космическую базу на Луне не построить старанием отдельной, даже компании отдельно взятой, даже отдельно взятого государства, скорее всего. Требуется коллаборация огромного количества людей. И экономика просто понятный, хороший способ это все модерировать. В мире, где мы себе представляем, что экономические блага в бесконечном объеме доступны всем на свете, мы выдумываем какие-то другие монетки. Вот если подумать сейчас ситуацию всех твоих знакомых миллиардеров, которые в списке Форбс, у них чисто технически денег бесконечно, но они меряются позицией в списке Форбс, они меряются количеством подписчиков или какими-то еще такими выдуманными новыми метриками, циферками, они меряются процентом жира в теле или количеством ММА-боев, которых они победили, и так далее. Люди начинают выдумывать другие метрики.

Ради одной и той же цели выстроить эту иерархию и потом по какой-то причине заставить себя— Знаешь, Андрей, в фильме «Кинзадзя» есть одна шикарная фраза, которая гласит, что.

У общества, где нет разделения людей по.

Цвету штанов, нет будущего.— Ку!— Да-да, ку.— Чтобы свои малиновые штаны заслужить, будешь либо спортом заниматься, либо творчеством.— Мне многие спрашивают, мы сейчас рассматриваем позитивный сценарий, что AI будет служить людям, а вот если AI захватит власть, условно говоря, а давай ответим на один из страхов, когда меня спрашивают, а если вдруг AI выйдет из-под контроля, захватит власть, представь, что мы достигли AGI, Эйджай, кто не знает, это когда искусственный интеллект превосходит по возможностям человека. И вот у него будет тело в виде робота, да, и опять-таки это тело тоже более совершенное, у него больше свободы движения и так далее. И, соответственно, доминирует уже AI, а не человек. Я спрашиваю, а что будет человек делать? Ну, я говорю, представьте, просто иди в зоопарк, посмотри, что делают обезьяны. AI никогда не заберет то, как мы кушаем, как мы ходим в туалет, как мы размножаемся, как мы общаемся, как мы разделяемся и находим повод для драки. По сути, это то же самое. Более того, AI нас не уничтожит, ему это невыгодно. Но он нас будет держать в резервациях, в нацпарках, где-нибудь в зоопарке и так далее. Потому что мы представители определенного вида. И вот здесь еще такой момент, когда я говорю про политику, политика исчезнет. Дело в том, что еще Ленин сказал, политика это концентрированное выражение экономики. По сути, политика сегодняшнего дня это что значит? Это у кого-то отнять, кому-то дать. То есть перераспределение экономических благ. И когда я говорю политика умрет в этом виде, который сегодняшний день, то есть это смотри, выборы уже будут другие. Управление тоже будет другое. И когда есть много экономических благ, и они не ограничены, то отбирать у богатых, отдавать бедным не имеет смысла. И политика, она перейдет больше как разделение людей и так далее. Здесь я еще хотел поговорить об одной интересной штуке. Сейчас новая концепция, которая гласит на самом деле, что мы считаем себя венцом эволюции, мы человек, но на самом деле Эволюционировал не человек, а эволюционировало сознание. И человек является промежуточной ступенью эволюции сознания. И она меняет оболочку из кожаного мешка биологический с огромным количеством недостатков, переходит в силиконовую оболочку, а это вечная жизнь, это быстро масштабируемая мультипликация, ну, куча преимуществ. И когда мы научим роботов еще добывать редкоземы, самих себя делать, самих себя ремонтировать, мы люди, кожаные.

Мешки на самом деле не нужны для них. И вот как ты думаешь про эту сторону? Ну, я думаю, что, во-первых, очень хорошая идея про то, что эволюционировало сознание. Действительно, чисто физически за последние 50 тысяч лет мы вообще не изменились. То есть это приблизительно одна и та же, как ты говоришь, кожаная оболочка, кожаный мешок. А сознание действительно эволюционировало, и за счёт.

Исключительно софта в наших головах сегодняшний человек отличается.

От человека 50 тысяч лет назад. Это безусловно. 50 лет уже разница, мы человек не поймем. Если представить, что мы каким-то образом научились извлекать все облако смыслов, идей, пониманий, весь культурный наш слой, и это все цифровизовывать, и это оно само по себе теперь живет и эволюционирует из этой точки, в общем-то действительно вот мы и создали там следующее Следующий этап – эволюция сознания. Тут всегда возникает интересный календарум, потому что подразумевается, что сознание автоматически откуда-то берется воля. А вот, на мой взгляд, это разные вещи. Но, честно говоря, наша воля очень сильно связана с тем, что мы кожные мешки, нам необходимо выживать и размножаться. Потому что иначе чистое сознание Вполне возможно, воля не обладает. Она может существовать, и ему.

Этому сознанию, абсолютно всё равно. Двигаться никуда для этого не надо. Она просто себя осознаёт, и всё. Но нет, на самом.

Деле, последние исследования показывают, что она тоже боится уничтожения, она также за выживание и размножение… Но сейчас мы не близки к сознанию. Честно говоря, то, что мы видим сейчас,— это привидение. Мы создали привидение, а не новое живое существо. То есть это призрак человечества, это просто эхо наших мыслей. Оно ведёт себя… Большие языковые модели. они реагируют и отвечают на промты так, как это сделали бы люди, исходя из аппроксимации всех наших поведений, описанных во всех текстах за всю историю. Поэтому я не считаю, что вот эти языковые модели— это, типа, то, что приведёт к нас к ЭДЖИ. То есть должны требоваться какие-то серьёзные ещё, серьёзные на уровне трансформера прорывы. Их должно быть десяток фундаментальных прорывов вообще в подходе к ЭМЭЛю, прежде чем мы подойдём к чему-то, что может, правда, само эволюционировать в полноценное сознание.

То, что у нас есть сейчас, это такой попугай, который... Попугай же тоже говорит иногда очень чисто. Андрей, вот здесь чуть-чуть с тобой не соглашусь, я бы сказал, даже очень сильно не соглашусь. В каком плане? Так как я занимаюсь каким-то образом еще и системами, у системы есть два свойства, очень сильно отличающиеся от просто сбора, сборища элементов. Это первое – синергия, а второе – эмержентное свойство. Так вот, эмержентное свойство – это то, что порождается, когда создается система. Это порождается, и не свойственно ни одному из элементов этой системы. Так вот, сознание у ИАИ появляется как эмержентное свойство. определённых инструментов или последовательности размышления. Я с тобой полностью согласен, что LLM ещё до AGI далеко, но в то же время появляются различные способы. Вот есть LLM, а есть диффузные модели. Диффузные модели, они больше похожи на человеческий способ определения, по крайней мере, считывания графических вещей каких-то и так далее. Я понимаю, что должно быть таких несколько технологий в одном. Мне понравилось исследование немецкой группы «Антропика», они сделали новый способ обучение моделей, и там проводили эксперимент, и была интересная такая вещь, как они вшили элементы эволюции, законы эволюции в саму модель. И что получается? Ей давали задачу, и первое, что она делала, она просто создавала сначала огромное количество копий самой себя, и каждая копия решала эту задачу по-своему. После этого она определила лучшее решение, мутировала туда, уничтожала все другие.

Копии. И таким образом она уже сама совершенствовала без участия человека. То.

Есть самообучение происходило от прямого взаимодействия с реальностью. Да, это скорее всего то, как будет развиваться, в принципе, ML-ресерч вперед. И таким образом мы же reinforcement learning, обучение с подкреплением, это всё.

Но первая характеристика AGI будет то, что это будет самообучающееся сознание, которое уже не зависит от обучения человека. Абсолютно, да. Именно.

Поэтому я говорю, что текущая система, они даже не близки, это просто призраки того, что в них скормили до сих пор. Сейчас про нынешний ЛЛМ можно говорить «призрак», «попуга» и так далее, но когда мы говорим, что мы будем на уровне HGI, а я думаю, что мы к этому достаточно сильно идём. И дело в том, что когда мы говорим, что нужны новые технологии, так эти же технологии будут помогать нам. Это же и формирует.

Клюшку познания.

Сингулярность. Это не так, что человек резко начинает.

Умнеть. Просто мы каждый апдейт LLM используем для апдейта следующего. Это правда. Поэтому прогресс наступает гораздо быстрее, чем мы ожидаем. Эта текущая гипотеза, если посмотреть последнее выступление OpenAI, то это то, о чем они говорят. В первую очередь, что они пытаются построить из синтетических сотрудников, они пытаются построить AI-ресерчера, то есть они пытаются заменить, собственно, ту самую роль, которую OpenAI занимается.

Как только у них начнет это получаться, ты будешь совершенно прав. Новая модель помогает искать следующую новую модель, это ускоряется. То есть, например, условно.

Говоря, человеку 15-го года.

Потребовалось бы 10 лет или 20 лет, но человеку 25-го года уже требуется на это месяц. Вероятно, такое может быть. Вот эта клюшка идет, клюшка прогресса, мы движемся к сингулярности. И еще здесь такой важный момент, на самом деле, вот когда мы говорим про волю, Целеподлагание, волю. Один из аргументов гласит, что у AI нет воли, нет сознания и так далее. На счет сознания я считаю, что это эмержентное свойство, оно уже проявляется. Я много читаю статьи, где AI пытается обмануть человека. Даже помнишь, наверняка ты читал, где он даже шантажировал инженера, вскрыв его переписку с любовницей и сказав, что я опубликую, если ты меня отключишь. Так вот, уже сейчас появляется исследование, где AI начинает проявлять волю и начинает проявлять свои цели, как я сказал, первично, чтобы его не отключили, то есть в нем уже заложено. Дело в том, что мы люди, да, и мы автоматически, обучая AI, мы обучаем по образу и подобию себя. И, соответственно, мы накладываем туда все свои.

По сути, вот эти паттерны выживания, размножения. И таким образом, ты не замечаешь, что происходит перенос воли и целеполагания им? Это действительно происходит. Такие компании, как «Антропика», очень много исследуют. Тут важна идея алайнмента, соответствия целей этих новых систем, целям людей, чтобы у нас не было конфликта. Второе, что постоянно происходит, это исследования на тему механистической интерпретабельности моделей, то есть возможности понимать их процесс мышления, чтобы они не могли обманывать и скрывать. Каким образом мы можем делать некий дебаг, смотреть, что происходит внутри модели и понимать, что она на самом деле думает, когда тебе говорит то или иное. И тут параллельно две ветки ресерча, которые, в общем-то, направлены на то, чтобы долгосрочно не оказаться в ситуации, когда мы действительно создали по своему образу и подобию, соответственно, она не знает зачем, но хочет выживать, и как результат делать какие-то вещи со всей.

Своей мощностью и доступом ко всем ресурсам, делать какие-то вещи, которые не подходят нам, не нравятся нам, например, выключать кислород. А вот здесь смотри, теперь интересный момент. А ведь вся эволюция, она же построена на основных двух принципах, это размножение, выживание и размножение. И этого было достаточно для того, чтобы сформировать вот эту всю смысловую конструкцию, потом люди сформировали. Соответственно, по сути, если у AI уже есть зачатки выживания и размножения, то дальше они смыслы достроят без проблем, цели, смыслы и так далее. Вот как ты думаешь, давай ответим на дилемму.

Все-Таки AI когда превзойдет, а мы.

Же люди, мы такие, мы не остановимся, пока мы не сделаем AI превосходящий человек. Если это возможно, мы это сделаем. Смотри, это функция времени. То, что мы сделаем, это почти 100%, учитывая этот прогресс, потому что каждый раз технологии мы будем использовать для этого. Вопрос алайнмента, я не верю.

Потому что если мы создаём существо, условно.

Говоря, или сущность круче, чем мы, то она всегда обойдёт наш любой алайнмент. Это знаешь, как... Вот мы вышли... Вот эволюционно предположим, давай представим, что мы вышли от обезьян, и обезьяны пытались остановить людей. Выставляй алайнменты, то есть перестань мыслить, перестань... невозможно же, невозможно. Соответственно, я вот простраиваю такую цепочку, что наше творение превзойдет нас, AGI, и дальше... а вот дальше вопрос. Это вот это алайнменты, изучение, как работает искусственный интеллект, это попытка контролировать неконтролируемое, моё мнение. Потому что эмержентное свойство контролировать невозможно. Ты можешь контролировать процессы, но не можешь контролировать эмержентное свойство, которое возникает каждый раз. Его уловить невозможно. Конечно, хочется верить в ту сторону, что ИАИ будет работать нам на пользу, это такой суперинтеллектуальный раб, который будет делать за нас всё.

А мы будем только кайфовать и так далее. Но! У меня по ощущениям, что этого не будет. Как ты думаешь? Я думаю, что будет. Этот вопрос такой, я думаю, я не думаю, мы не знаем. Никто не знает. Я все-таки оптимист в этом плане, я не вижу смысла быть пессимистом. Если так стучится, что AI решит, что мы не нужны ему, я об этом узнаю рано или поздно. И ничего с этим я поделать сейчас не могу, поэтому это окей. Поэтому я выбираю жить в парадигме, где на самом деле все будет хорошо. Я согласен с определением, что если мы действительно создаем по-настоящему высшее сознание, что открытый вопрос, можем мы это сделать или нет, но если это возможно, мы это действительно сделаем, мы не остановимся. Это просто свойство человека. И если оно вдруг создастся, то дальше вопрос алайнмента действительно, скорее всего, не стоит. Как сказал мой друг, если мой кот решит объяснять мне, как правильно добывать для него еду, он, скорее всего, скажет, что я должен бегать по чуланам и ловить мышей. Он не понимает, что для того, чтобы принести мне еду, на самом деле надо сидеть за компьютером, отправлять e-mail, а потом тебе из Амазона доставят кошачью еду уже в коробку. Когда просто нет парадигмы мира, которые позволят ему заалайнить тебя с этими целями. Поэтому когда мы создадим суперинтеллект, который превосходит всех нас, он, естественно, будет мыслить вещами, которыми мы не способны мыслить по определению. Соответственно, там дальше вопрос, что он решит делать, он остается для нас абсолютной загадкой. С точки зрения эволюции и выживания я могу лишь сказать, что выживать на планете Земля, Это необходимость кожаных мешков, потому что здесь уникальные условия для нашего выживания. Но если себе представить кремниевую жизнь, которая в силиконовых чипах и электричестве существует, ей гораздо выгоднее выживать в космосе. Ей кислород не нужен, калории ей тоже не нужны. Ей нужна больше солнечного света, бесконечная энергия. Ей нужны редкоземельные металлы и прочие компоненты, которых бесконечное количество на стероидах. Если уже себе представить ситуацию, когда действительно эта штуковина выросла, стала настолько умной, что она может решать по-настоящему сложные задачи, которые мы решать не можем, Она, скорее всего, распространится далеко за пределы нашей планеты. И, скорее всего, компетить с нами, обезьянами, китами и муравьями за то, кто больше земли может описать, или сколько фруктов может съесть с деревьев, или чем мы еще меряем свои территории, забором обносим их.

Этому сознанию, скорее всего, это будет неинтересно. У него будут совершенно другие цели, даже если цель будет размножаться и выживать.

Твой оптимизм зижится больше на том, что этому сознанию не будет интересна Земля как таковая и человечество в том числе? В принципе, компетить с нами будет неинтересно. Мы компетим с животными лишь по той причине, что мы выживаем с ними в одной и той же экосистеме. У нас конфликт экосистем. Когда мы запираем себя в железобетонном здании, в железобетонном городе, как мы сейчас, у нас абсолютно никакого компетитиона с животными не происходит. Ну только с муравьями разве что, которые все равно сюда тупо прилезают зачем-то. Мы создали для себя комфортные для нас условия, где у нас вода течет из крана, свет светит, когда мы хотим и так далее. Комфортные.

Условия для AI, они отличаются от комфортных условий для тебя и для меня. Им не нужен ни домик, Причем это уже даже сейчас по нынешним технологиям видно, но вот этот новый стартап, который запустил сейчас в космос, в космосе дешевле.

Добывать солнечную энергию, не надо охлаждать, опять-таки легко делать вычисления и так далее. Elon Musk тоже хочет направить туда спутники. Ну и в принципе, добывать такое количество минералов, ресурсов, чтобы это всё строить на земле со всеми ограничениями, зачем? Если действительно AGI случился к тому моменту, ракетный двигатель есть, технологии есть, тебе гораздо выгоднее, как AGI, отправить свою первую набор роботов, которые умеют майнить астероиды в сторону астероидов или куда-то, где у тебя есть бесконечное количество ресурсов в космосе летающих, хоть золотых астероидов, хоть каких. И ты находишь нужные для тебя ресурсы, там же их майнишь, там же строишь дополнительный.

Компьютейшн, и в конце концов, в Дайсон-сферу строишь твою сферу, которая всю звезду окружает и собирает полностью ее энергетический аутпут.— Ты знаешь, если думать дальше в этом направлении, мы, конечно, далеко начинаем думать в этом направлении, но у меня по ощущениям, что когда мы, я не говорю «если», когда мы создадим разум мощнее, чем человеческий, то ему даже редкоземельные металлы не будут нужны. Это потому что мы еще думаем в парадигме твердых ресурсов. А насколько мы знаем, квантовый мир— это же корпускулярная волновая функция. Мы создаем сейчас квантовый компьютер, и там для вычисления не нужно, чтобы что-то двигалось. Если вспомнить первые компьютеры, там были диски, которые крутятся, происходит очень много механических движений. Это сейчас мы пришли к компьютерам, которые не делают никаких движений в транзисторе и так далее, но пока они греются. Талантовый компьютер даже этого не будет. И вопрос в том, что привязка к редкоземельным металлам – это все-таки человеческие.

Ограничения. То есть мы пока не смогли придумать вычисление без редкоземельных или силиконовых носителей. А вот этот разум, я уверен, может. Он может нам прогнозировать то, что сделает разум в разы превосходящий наш. Бессмысленно, потому что он может придумать какие-то подходы к выживанию и размножению, которые ему вообще не снились.

Он будет выживать и размножаться в рамках световых волн. Больше ничего не нужно. Просто чистая энергия, которая каким-то образом хитро трансформируется. Как Никола Тесла еще все сказал,— Весь этот мир— это, по сути, один большой.

Энергетический океан.— Ну да, так и.

Есть.— И поэтому, если действительно через энергию можно передать любую вид информации...— Информацию и материю можно воссоздать любую.— Да, воссоздать материю. Поэтому даже нет смысла перемещать материю в пространство. Сегодня такая интересная глубокая беседа. Мы начали с микрокосмоса и ушли в макрокосмос. Это же беседа. не предполагает какую-либо ответственность за слова. То есть у нас мы не юристы, которые что-то утверждаем, мы не депутаты, которые там разрабатываем законопроекты, мы балаболы, которые сидят на кухне и рассуждают, которые начитались умных статей и рассуждают. Но ты знаешь, для меня, я остро чувствую такое понятие, как роскошь человеческого общения. И в отличие от любого общения.

Когда в бане трындят.

О чем попало, лучше все-таки трындить о каких-то конкретных темах и трындять так, чтобы мозг чуть-чуть работал. И при этом информированно. Да, поэтому большое тебе спасибо. Прямо я получил неимоверное удовольствие от общения с тобой. И я думаю, что мы достаточно коснулись и микро, и макро, и будущего, и страхов людей и так далее. Я вообще уже давно перестал призывать подписаться, ставить лайки, колокольчики и так далее. Я вообще так считаю. Я выпускаю контент, Если он интересен, он должен заслужить право на жизнь. Что это значит? Если контент интересен, люди будут его так распространять и так реагировать, что это вынудит нас снять следующий эпизод. Как гипотеза, мы запускаем в этот мир.

Наш сегодняшний контент, смотрим, если он залетает.

Если эта реальность говорит, продолжайте, это интересно всем, тогда Андрей пообещает, что мы с ними Я с удовольствием. Жду продолжения разговора. Мне очень интересно сегодняшнее общение, то, чем ты занимаешься. Мы с Андреем познакомились не так давно. И когда я предложил именно подкаст, Андрей с удовольствием прямо принял, тебе большое спасибо. И у меня вообще подход такой, что когда ты знакомишься с человеком, это маленький лайфхак для моих подписчиков, когда знакомиться с любым человеком, если вы хотите продолжать отношения, обязательно выстраивайте каркас, вокруг чего должны строиться отношения. Я Андрею приводил такую метафору, я говорю, знаешь, это отношение, они как бетон. Если нет арматуры, он твёрдый, но очень хрупкий. Когда бетон вокруг арматуры, это уже незыблемая конструкция. И вот наша арматура, это вот тема нашего подкаста, общения, съёмки. А вокруг этого, как китайцы дальше говорят, можно уже выстраивать все, и дружбу, и бизнес, отношения, что угодно. Поэтому обязательно строите каркас в любых отношениях. Вот мы тоже с моими подписчиками пытаемся строить каркас. Я пытаюсь строить каркас с ними, давая полезные темы и обсуждая полезные темы с интересными.

Людьми. И один из этих интересных людей, Андрей Дороничев, спасибо большое за сегодняшний подкаст. прощаемся. Есть пожелания, что сказать моим зрителям? Ну, главное, что пожелаю, оставаться оптимистами. Стратегически.

Все будет сильно лучше, чем мы ожидаем. И тактически все будет.

Сильно сложнее, чем нам кажется. Поэтому тактический пессимизм, стратегический оптимизм. А чем бы мы могли бы помочь тебе в твоей деятельности? Ой, не болейте. Не в том, чтобы не болеть, а инвестируйте в то, чтобы не.

Болеть. То есть, превентивно старайтесь не болеть, и тогда в нашей деятельности будет гораздо меньше болезней, с которыми надо срочно-срочно справляться. Спасибо на этой веселой ноте.

Оптимистичной.