Sam Altman: OpenAI, GPT-5, Sora, Board Saga, Elon Musk, Ilya, Power & AGI | Lex Fridman Podcast #419

Я считаю, что вычислительные мощности станут валютой будущего. Возможно, это станет самый ценный ресурс в мире. Ожидаю, что к концу этого десятилетия, а может, даже раньше, появятся настолько мощные системы, что мы посмотрим на них и скажем «Вот это правда впечатляет». Путь к ОИИ будет сопряжен с ожесточенной борьбой за власть. Уверен, что так и будет.

Тот, кто первым создаст ОИИ, получит невероятную власть. Обладая такой властью, сможешь ли ты доверять себе? Это беседа с Сэмом Альтманом. Его второе участие в подкасте. Он глава OpenAI, компании, стоящей за разработкой GPT-4, ChartGPT, SORA и, возможно, той самой компанией, которая однажды создаст OEE. Это подкаст Лекса Фридмана. Вы можете поддержать нас, ознакомившись с информацией о спонсорах в описании. А теперь, дорогие друзья, встречайте Сэма Альтмана. Расскажи о тех событиях в Совете Директоров OpenAI, начавшихся 16 ноября, или, для тебя, возможно, 17 ноября.

Это определенно был самый болезненный профессиональный опыт в моей жизни. Хаотичный. Позорный. Огорчающий. И еще много чего негативного. Но были и хорошие моменты, и мне бы хотелось... мне бы хотелось... чтобы в тот момент я мог отвлечься от адреналина происходящего и оценить эти моменты, но... И я наткнулся на свой старый твит. Твит того периода. Это было как услышать собственный понедельник. Столько теплых слов в мои адресы. Невероятная поддержка от близких и любимых людей. Это было трогательно. Все те выходные, за одним большим исключением, я чувствовал огромный поток любви. И совсем немного ненависти. Хотя казалось, что нет ни малейшего понятия, что происходит и что будет дальше. Это было очень неприятно. Но еще временами я думал, что это может стать одним из худших событий для безопасности ИИ. Что ж, я рад, что это случилось относительно рано. Я предполагал, что на пути от основания OpenAI до основания ОИИ произойдет что-то невероятное, сумасшедшее. И, возможно, нас ждут еще более неожиданные и сумасшедшие события. Тем не менее, думаю, этот опыт закалил нас и подготовил к будущим вызовам.

Но ты ожидал, что столкнешься с какого-то рода борьбой за власть?

Путь кой и будет сопряжен с ожесточенной борьбой за власть. Мир должен. ну и не должен, но уверен, что так и будет.

И как ты говорил, тебе пришлось столкнуться с этим, экспериментировать, чтобы выяснить, как лучше всего структурировать совет директоров, как управлять компанией, как подбирать команду и как выстроить коммуникацию, чтобы, насколько возможно, снизить борьбу за власть.

Да.

Унять ее.

Сейчас уже кажется, что Все в прошлом. Было по-настоящему неприятно, сложно и больно. Но мы вернулись к работе, дел настолько много, что у меня просто не остается времени думать об этом. Был период, когда я переживал состояние фуги, где-то месяц или 45 дней после всех событий. Жил от дня ко дню. Я был не в себе. Чувствовал себя ужасно.

На личном, психологическом уровне?

Да. Было сложно продолжать руководить OpenAI в тот момент. Хотелось залечь в пещере и зализывать рано. Но сейчас мы снова полностью погружены в работу. Над нашей миссией.

Но полезно иногда поразмышлять о структуре совета директоров, о динамике власти, о принципах управления компаниями, о балансе между исследованиями, разработкой продуктов, финансами и всем остальным. Это поможет вам, учитывая ваши высокие шансы, создать ОИИ, действовать более организованно и менее драматично. Это полезно как для личного роста в роли лидера, так и для улучшения работы Совета Директоров и управления сложными ситуациями.

Я определенно узнал много о структуре, мотивации о том, что нам нужно от Совета Директоров. И думаю, в каком-то смысле хорошо, что это произошло сейчас. Вряд ли это последний стрессовый период для OpenAI, но он был действительно напряженным. Моя компания была на грани разрушения. И мы много думаем о… о том, как сделать всё правильно для развития ОИИ. Но также важно строить устойчивую организацию и создавать структуру, способную выдержать большое давление, которое, как я ожидаю, будет только усиливаться. Это крайне важно.

Ты знаешь, насколько тщательно совет директоров обсуждал эти вопросы? Можешь поделиться, как обстоят вещи на человеческом уровне в таких ситуациях? Получается, что после нескольких бесед всё вдруг обострилось и появилась мысль о не уволить ли Сэма.

Думаю, совет директоров по большему счёту хотел как лучше. Но в стрессовых ситуациях Когда давит время и другие факторы, люди могут принимать далеко не лучшие решения. Один из вызовов перед OpenAI в том, что нам нужен совет директоров и команда, способные эффективно работать в условиях давления.

Думаешь, у Совета слишком много власти?

У Совета должны быть значительные полномочия. Но в большинстве корпоративных структур совет отчитывается перед акционерами. Иногда у них есть акции с особым правом голоса. В нашей ситуации, и это чего мы, возможно, не учли раньше, совет директоров некоммерческой организации, если не вести дополнительные ограничения, обладает довольно большой властью и не под отчёте никому, кроме самого себя. Это имеет свои преимущества, но мы бы предпочли, чтобы совет OpenAI отвечал перед всем миром, насколько это возможно.

И был объявлен новый состав совета.

Да.

Сначала был создан новый и малый совет, а теперь уже окончательный состав?

Еще нет. Мы добавили новых членов.

Понятно. Было что-то исправлено в новом составе, чего не хватало предыдущему?

За год количество членов в старом совете сократилось с 9 до 6, и у нас возникли разногласия по поводу новых кандидатур. Так же, как мне кажется, в совете не хватало опытных членов. В новый состав совета OpenAA вошли люди с большим опытом в советах директоров. Думаю, это поможет.

Некоторые новые члены совета вызвали критику. Например, многие высказывались против включения Ларри Саммерса. Как проходит процесс отбора членов совета? Что включает в себя?

Бретта и Ларри мы выбрали во время очень напряженных выходных, которые были похожи на американские горки. Мы пытались подобрать новых членов Совета, которых одобрила бы и наша исполнительная команда, и старые члены Совета. Старый состав предложил Ларри, а Бретта, кажется, я предложил еще до всех этих событий, но он был слишком занят и не хотел этим заниматься. А затем нам понадобилась помощь. Мы рассматривали много кандидатур, но я понял, что для возвращения мне нужны новые люди в Совете. Я не смог бы продолжать работу с прежним составом, хотя мы и решили, что Адам останется, за что я ему благодарен. Мы рассматривали разные варианты и решили, что нам нужен совет из трех человек. И в короткие сроки нам нужно было найти двух новых членов. Так что решения были приняты честно, без «как на поле боя». Не было времени на сложный план. Для новых членов Совета, которых мы добавим, у нас есть четкие критерии, которые нам кажутся важными. Различные компетенции, которыми должен обладать Совет. В отличие от Наймана исполнительной должности, где человек должен хорошо справляться с одной задачей, Совет должен компетентно управлять и разрабатывать стратегию. Брэд сказал. И мне это действительно понравилось, что нам нужно нанимать членов совета как группу, а не индивидуумов. И мы стремимся подобрать группу людей с хорошим опытом в некоммерческих организациях, в ведении бизнеса, в области права и управленческих процессов.

Важны ли технические знания для каждого члена совета?

Нет, не каждый. Но некоторым определенно нужны. Это часть их работы.

Интересно, что многие, возможно, не до конца понимают все детали управления OpenAI, я в том числе. Если подумать о совете директоров, о всей этой драме, о тебе. Если вы достигнете ОИИ или создадите другие крайне важные продукты и развернёте их, какой будет коммуникация с Советом? И какой состав будет оптимальным для такого рода обсуждений?

Понимаешь, технические эксперты действительно нужны. Но также важны люди, способные задать вопрос. Как мы можем внедрить это для максимальной пользы мира? И нужны те, кто смотрит на вещи по-новому. Мне кажется думать, что важно только техническое понимание ошибка. Конечно, коммуникация будет строиться вокруг этой части, но помимо этого важно не забывать обсуждать, какое влияние это окажет на общество и жизни людей.

Вы смотрите на послужной список кандидатов или просто общаетесь?

Достижения важны. Мы общаемся тоже. Есть должности, для которых я смотрю только на угловой коэффициент и игнорирую начальную точку Y-пересечения.

Спасибо от лица аудитории за математические термины.

Но в случае с членами Совета мне важнее Y-пересечения. Кажется, что прошлые достижения и опыт — это то, что действительно трудно.

Заменить. Ты применяешь полиноминальную или экспоненциальную функцию к послужному.

Списку? Эта аналогия не так глубоко.

Уходит. Хорошо. Ты упоминал сложные моменты тех выходных. Что было особенно сложным на психологическом уровне? Не думал уехать в джунгли Амазонки, пройти Айаваску и исчезнуть.

Насовсем? Это был очень непростой период. Но были и светлые моменты. Мой телефон разрывался от добрых слов от людей, с которыми я работаю каждый день, и от тех, с кем я не общался годами. Я не смог полной мере оценить этого тогда, в самом эпицентре событий, но это было по-настоящему приятно. Это были очень тяжелые дни. Это была какая-то... публичная схватка, совершенно неожиданно. И это потрепало меня гораздо сильнее, чем я ожидал. Думаю, конфликты всегда утомительны, но этот... В пятницу днём совет сделал свой ход. Я не мог получить вразумительных ответов, но понимал, что они могут так поступить. Так что я решил обдумать свои дальнейшие действия и также попытаться найти в этом положительные моменты. И я подумал, что моя работа в OpenAI, та, что была, заключалась в управлении довольно крупной компанией. Но больше всего мне нравилось работать с исследователями. И я подумал, что да, я могу заняться сосредоточенной научно-исследовательской работой по ОИИ. Это меня выдушевило. В тот момент мне даже не приходило в голову, что все может разрешиться. Это было в пятницу.

Днем. И ты смирился с.

Гибелью. Да, очень быстро. Был короткий момент замешательства и гнева, но очень-очень короткий. Уже вечером пятницы я обсуждал с коллегами наши следующие шаги, что очень меня воодушевило. Помню, в тот вечер я впервые услышал от нашей исполнительной команды «Мы будем бороться». Потом я лёг спать, взволнованный, но готовый двигаться.

Дальше. Получалось.

Поспать? Не сказал бы. Самым странным было то, что на протяжении четырёх дней я почти не спал и мало ел. Но при этом чувствовал себя удивительно энергично. В экстренных условиях узнаешь много нового про.

Адреналин. И ты и смирился с утратой своего детища.

OpenAI? Я уже предвкушал нечто новое. Я думал, это всё, конечно, безумие, но что.

Уж. Отличный адаптационный.

Механизм. Хотя утром в субботу мне позвонили двое членов совета и сказали, мол, мы не хотели расшатывать компанию, хотим сохранить ценность. Обсудим твое возвращение? Сначала я был против этой идеи, но поразмыслил немного и понял, насколько мне важны люди там, наши партнёры, акционеры. Я действительно люблю эту компанию. Я сказал, ну хорошо, но вот мои условия. И самым тяжёлым тогда было Я думал, и мне говорили, и не только мне, вся команда думала, что мы пытаемся стабилизировать OpenAI, в то время как мир пытался растащить её на куски, переманивать сотрудников. Нам всё повторяли, всё почти готово, ещё чуть-чуть, нам нужно ещё немного времени. Очень подвешенное состояние. И вот вечер воскресенья. Я уже ожил смысл, что мы всё уладим. Я смогу вернуться. Всё будет как прежде. И совет назначает нового временного генерального директора. И вот это было очень больно. Это был самый тяжёлый момент во всей этой ситуации. Но знаешь, пусть было и очень плохо, но в то время я ощутил так много любви. Не считая того воскресенья. Я бы не сказал, что испытывал злость или ненависть. но чувствовал много любви к людям и от людей. Пусть было тяжело, но главным чувством была любовь, а не.

Ненависть. Ты очень тепло отзывался о Мире Мурате, подчеркнув, что она особенно помогала в те тихие моменты, которые.

Мечты. Мечта справилась с работой в Том Хаусе на тех выходных. Люди часто оценивают лидера в кризисных моментах, хорош он или плох. Но что я особенно ценю в лидерах, это то, как на совещаниях, каково качество их решений. Это я и называю тихими.

Моментами. То есть большая часть работы выполняется ежедневно, встреча за встречей? просто быть на месте и принимать верные.

Решения. Да, смотри, ты хотел посвятить 20 минут обсуждению тех драматичных выходных, и я это понимаю. Но OpenAI это не просто это. OpenAI это предыдущие 7 лет.

Работы. Конечно, человеческая цивилизация не сводится ко вторжению нацистской Германии в Советский Союз, тем не менее люди до сих пор сфокусированы на.

Ней. Это.

Понятно. Это дает нам понимание человеческой натуры, ее крайностей. Возможно, в такие моменты могут случаться взлеты или падения цивилизации, это показательно. Но давай спрошу тебя об Илье. Его держат в заложниках на каком-то секретном ядерном объекте? Нет. Просто на секретном.

Объекте?

Нет. На ядерном несекретном.

Объекте? Нет, ничего из.

Этого. Все это почти превратилось в мем. Ты давно знаком с Ильей, и он, очевидно, был частью всей этой драмы с советом директоров и прочим. Какие у вас сейчас.

Отношения? Я ценю Илью. Испытываю огромное уважение. Не могу ничего сказать о его планах. Это вопрос к нему. Но я искренне надеюсь, что мы будем работать вместе до конца моей карьеры. Он немного моложе меня, так что, возможно, поработает.

Подольше. Ходят слухи, будто он что-то увидел, возможно, ОИИ, и это его сильно встревожило. Что увидел.

Илья? Илья не видел ОИИ. Никто из нас не видел. Мы его не создавали. Но то, что мне особенно нравится в Илье, он очень серьезно относится к ОИИ и связанным с ним проблемам безопасности, в том числе к тому, как это повлияет на общество. И по мере того, как мы продолжали делать значительные успехи, Илья стал одним из тех, с кем мы наиболее интенсивно обсуждали последствия наших действий и что нам нужно сделать, чтобы все получилось правильно, чтобы мы успешно выполнили нашу миссию. Так что Илья не видел ОИИ, но его вклад в размышления о том, как нам все сделать правильно, действительно бесценен для.

Человечества. Мы много общались в прошлом. Мне показалось, когда Илья говорит о технологиях, он всегда смотрит далеко вперед. Он не думает, что будет через год, он думает о перспективе на десятилетия, исходя из первопринципов. Окей, если это масштабируется, в чём суть? Куда это ведёт? Это и есть его основа для размышлений о безопасности и о подобных вещах, что делает его удивительным собеседником. Ты не знаешь, почему он стал таким молчаливым? Может, он в поиске.

Себя? Опять же, я не хочу говорить за Илью. Думаю, лучше спросить его самого. Он определённо задумчивый парень. Думаю, я всегда в поиске себя. И это.

Здорово. Да, ага. И он ценит силу молчания. Ещё я слышал, что он может дурачиться, чего я сам никогда не.

Видел. Это всегда так.

Мило. Никогда не видел, как Илья дурачится, но точно хотелось.

Бы. Недавно мы были на вечеринке, и он там играл с щенком. Был в очень игровом настроении, это было мило. Я еще подумал, что эту сторону Ильи мир видит.

Нечасто. Подводя итог этой саги, ты доволен тем, как все сложилось с советом директоров? Да. И куда все.

Движется? Я очень доволен новым составом совета. Что касается структуры OpenAI, одна из задач совета директоров – пересмотреть ее, чтобы сделать более крепкой. Сначала мы хотели обновить состав совета, но весь этот процесс научил нас важности правильной структуры. Это был сумасшедший и очень тяжелый опыт. Это был настоящий бредовый шторм. И это было вроде превью грядущих событий, по мере того, как ставки будут становиться еще выше. Показало, как важно иметь надежные структуры управления, процессы и людей. Я рад, что это случилось именно так, но это было.

Невероятно болезненно. Это пошатнуло твоё доверие.

К.

Людям? Да. На личном.

Уровне? Да. Я всегда был весьма доверчив. Моей философией было не впадать в паранойю, не заморачиваться о крайних случаях. Может, иногда и обжигался на этом, зато жил без лишнего напряжения. Но тот случай стал для меня шоком, это застало меня врасплох и определённо поменяло моё отношение к безоговорочному доверию, необходимости готовиться к худшему. И мне это совершенно.

Не нравится. С этим нужно быть осторожным. Не боишься стать.

Слишком циничным? Я не боюсь стать слишком циничным. Я скорее полная противоположность, но меня беспокоит, что я становлюсь изначально.

Менее доверчивым. Честно говоря, не уверен, какой режим лучше для человека, разрабатывающего ОИИ. доверчивости или наоборот. Интересный путь ты проходишь. Но если говорить о структуре, меня больше интересует человеческий аспект. Как ты окружаешь себя людьми, которые не только создают что-то крутое, но и принимают мудрые решения? Ведь чем больше денег и власти у проекта, тем больше искушений.

У людей. Можно много чего сказать. О членах совета директоров. насколько я мог доверять им или как мне следовало поступить. Но что касается команды, мне можно поставить высокую оценку. Я испытываю огромную благодарность, доверие и уважение к людям, с которыми я работаю каждый день. Считаю важным быть в окружении.

Таких людей. Наш общий друг Илон подал на OpenAI в суд. В чем, на твой взгляд, суть его претензий? В чем он прав, а.

Где ошибается? На самом деле, я не совсем понимаю. Мы начинали, думая, что будем только исследовательской лабораторией, и не представляли, как далеко пойдет эта технология. Это было всего 7-8 лет назад, сложно вспомнить все детали того времени. Но всё было до того, как языковые модели приобрели такое значение. Мы тогда даже не задумывались про API или про подписку на чат-бот. Мы даже не задумывались, что превратим всё это в продукт. Мы просто планировали заниматься исследованиями и не понимали, что будем делать дальше. Часто, когда начинаешь что-то совершенно новое, ты как бы тыкаешься в темноте, делаешь предположения, большинство из которых оказывается ошибочными. Потом стало ясно, что нужно будет делать другие вещи и привлекать значительно больше капитала. Мы поняли, что текущая структура нам не подходит и спросили себя, как мы можем ее исправить. А затем ты начинаешь менять ее снова и снова, пока не получится что-то совсем неожиданное, это мягко говоря. Но мы пришли к этому постепенно, и думаю, что на каждом этапе мы принимали взвешенное решение. Это не значит, что я бы не изменил свой подход, если бы можно было вернуться назад. Но в тот момент никаких оракулов у нас не было. Что касается истинных мотивов Илона, я действительно.

Не знаю. Ты помнишь, какой ответ дала OpenAI в своем блоге? Можешь кратко изложить.

Его суть? Ох, мы просто написали... Мол, Илон сказал что-то и то-то. Вот наша версия. Или скорее, вот наша версия того, как все было на самом деле. Мы старались писать безэмоционально. Просто. Просто.

Изложить события. Я все же думаю... Илон не совсем точно представил один из аспектов, о котором ты только что упомянул, о степени неопределенности в тот момент. Вы были небольшой группой исследователей, которые увлеченно говорили о развитии ОИИ, когда все вокруг смеялись.

Над этим. Не так давно и сам Илон с энтузиазмом говорил о запуске ракет, когда все остальные смеялись. Так что он мог бы проявить.

Больше понимания. Я думаю, есть личный аспект в том, что произошел раскол, и OpenAI решили пойти разными путями с Elon, то есть... Это был выбор Elon. Можешь рассказать подробнее об.

Этом разделении? Он считал, что OpenAI обречена на права, и хотел получить полный контроль, чтобы исправить ситуацию. Мы же хотели двигаться в направлении, которое сейчас определяет OpenAI. Также он хотел, чтобы Тесла могла заняться разработкой OE. В разные периоды он предлагал превратить OpenAI в коммерческую компанию под своим контролем, или даже объединить ее с Тесла. Мы были против, и он.

Решил уйти. То есть ты говоришь, и это же упоминалось в блоге, он хотел, чтобы Тесла по сути проглотила OpenAI, возможно в более радикальной форме, чем партнерство.

С Майкрософтом. Насколько я помню, предложение заключалось в слиянии с Теслой и передаче ей полного контроля. Я почти уверен, что все.

Было так. Что же слово Open в названии OpenAI значило для Илона тогда? Илья упоминал это в переписке. Но что оно значило для тебя тогда и что.

Значит сейчас? К слову про прошлые оракулы, я бы выбрал другое название. Одна из самых важных задач OpenAI, на мой взгляд, это предоставление мощных технологий людям бесплатно в качестве общественного блага. Мы не показываем рекламу в нашей бесплатной версии и не монетизируем ее как-либо иначе. Это часть нашей миссии. Мы хотим предоставить людям все более мощные инструменты бесплатно и способствовать их использованию. Я считаю, что такая Открытость крайне важна для нашей миссии. Если дать людям отличные инструменты, научить ими пользоваться или не учить, сами разберутся. И позволить с их помощью создавать невероятное будущее друг для друга. Вот что важно. Если мы продолжим предлагать мощные ИИ-инструменты бесплатно, или по доступной цене, это будет иметь огромное значение для достижения нашей миссии. Что касается открытого исходного кода, я думаю, мы должны открыть код для некоторых вещей, а для других нет. Это превращается в своего рода религиозный спор, где трудно найти баланс, но я верю, что к компромиссу есть правильный.

Ответ. И он сказал, переменуйтесь в Клоу Зе Ай, и я отзову иск. Что, битва за название развернется на.

Поле мемов? Думаю, это показывает, насколько серьезно Илон относится к иску. И это, конечно, удивительное заявление, на.

Мой взгляд. Поправь меня, если я не прав, но я не думаю, что иск имеет юридическую основу. Его цель скорее привлечь внимание к будущему ОИИ и к лидирующей в этой.

Области компании. Смотри, Грок не был открытым до тех пор, пока люди не стали намекать на двойные стандарты. После этого он объявил, что Грок откроет код на этой неделе. Я думаю, что на самом деле для него неважно, открыт код.

Или нет. Мы еще обсудим открытый и закрытый код. Я убежден, критиковать конкурентов хорошо, подшучивать друг над другом прекрасно. Но есть разница между дружеской конкуренцией и исками на почве.

Личной неприязни. Мне кажется, всё это не подобает настоящему создателю. Я правда уважаю Илона как одного из самых величайших творцов современности. Я знаю, что ему приходилось сталкиваться с атаками хейтеров, и мне особенно грустно, что он.

Делает это. Да, он один из величайших творцов в истории, возможно.

Даже величайший. И это грустно. Уверен, это огорчает многих. Им долгое время восхищались. В одном интервью я сказал, что мне не хватает прежнего Илона, и я получил много откликов вроде «Да, это именно то, что.

Я чувствую». Думаю, ему стоило бы победить. Если Эггс Грок опередит Джи Пи Ти, а потом Джи Пи Ти опередит Эггс Грок, это будет идеальная конкуренция на пользу всем. Но касательно открытого кода, как думаешь, как много компаний заинтересовано в этой идее? Это правда интересно. Мета, к удивлению, внесла свой вклад, по крайней мере, сделала первый шаг, первый открыв код своей модели. Конечно, это не самая передовая модель, но открытие кода Lama заслуживает внимания. Google тоже рассматривает возможность открыть код своей упрощенной версии. Каковы плюсы и минусы открытого исходного кода? Ты задумывался.

Об этом? Конечно, открытые модели займут свое место, особенно маленькие модели, которые люди могут запускать локально. Похоже, что спрос на них велик. Я думаю, что будут как открытые, так и закрытые модели. В этом смысле не будет отличий от.

Других экосистем. Я слушал подкаст Олын, где обсуждали этот иск и все, что с ним связано. Их волновал вопрос о прецеденте перехода от некоммерческой организации к коммерческой. Как это повлияет на другие стартапы?

Это важно? Я бы категорически не советовал стартапам запускаться как некоммерческие, а затем вводить коммерческое направление. Лучше воздержаться, это не создаст никакого.

Особого прецедента. Окей. То есть большинство.

Должны... Определенно. Если бы мы знали, что будет дальше, мы бы.

Так поступили. В теории, если умело использовать ситуацию, можно получить налоговые льготы или что-то.

В этом духе, но... Не думаю, что большинство людей.

Так рассуждают. То есть сэкономить денег особо не получится, если идти.

Таким путем? Нет, думаю, есть законы, которые сделают это.

Довольно сложным. Как думаешь, что будет с вашими отношениями с Иллуном? Каковы твои надежды на будущее через год, два, три, в том числе на личном уровне, будь то дружба, дружеская конкуренция или.

Что-То еще? Да, я действительно уважаю Илона. И надеюсь, что в будущем у нас сложатся.

Дружеские отношения. Да, надеюсь, они сложатся уже в этом месяце. И вы будете просто соревноваться, побеждать и вместе развивать идеи. Полагаю, есть соревнования талантов или что-то подобное, Но оно должно быть дружественным. Просто создавайте крутые штуки. Илон умеет создавать крутые штуки, как и ты. Кстати, про крутые штуки. Сора. У меня просто миллион вопросов, но сначала это потрясающе. Потрясающе не только с точки зрения продукта, но и с философской стороны. Мой вопрос будет и техническим, и философским. Как ты думаешь, в чем Sora лучше или хуже понимает мир по сравнению с, скажем, GPT-4? Речь идет о модели мира, когда обучение происходит на фрагментах данных против.

Языковых токенов. Я думаю, что обе эти модели понимают мировую модель лучше, чем мы склонны думать. И поскольку также есть вещи, которые они явно не понимают или воспроизводят неправильно, легко зациклиться на недостатках и сказать «это всё не настоящее». Но не всё здесь фикция. Просто какая-то часть работает, а другая не очень. Я помню, когда впервые просматривал видео Сора, мне бросилось в глаза, как человек проходит перед каким-то предметом, на мгновение закрывает его собой, а затем уходит, и предмет остается на месте. Я подумал, ну вот это уже что-то. Или, к примеру, когда модель так точно воспроизводит физику объектов на протяжении целой серии действий. Это впечатляет. В конечном итоге эти модели становятся все лучше и лучше. Так и будет. Вспоминая, как развивались от Дали 1 к Дали 2, потом 3 и до 40, многие критиковали их на каждом этапе, говоря о том, что они не способны на это или то. А сейчас посмотри, к чему.

Мы пришли. То, что ты сейчас упомянул, о клюзии. Это по сути сводится к настолько точному моделированию физики трехмерного мира, что удается учесть такие моменты. О, да, расскажешь, что модель мира должна уметь, чтобы правильно работать.

С окклюзиями? Да, я бы сказал, что она действительно хорошо справляется с окклюзиями. Но утверждать, что она отлично понимает трехмерную модель мира, это уже.

С натяжкой. Но можно ли добиться этого, используя только двумерные подходы.

К обучению? Похоже, этот подход удивительно далеко пойдет. Не хочу слишком загадывать, какие лимиты он преодолеет, а какие нет, но...

Какие интересные ограничения системы ты замечал? Ведь были забавные моменты, которыми.

Ты делился... Веселья предостаточно, как когда у Катана в видео вдруг появляется лишняя лапа. Можешь выбрать любой случай, но недостатков и слабых сторон у.

Системы достаточно. Ты думаешь, это фундаментальный недостаток подхода, или лапу коту починят большая модель, лучшие технические решения, или больший.

Объем данных? Я бы ответил «да» на оба вопроса. В подходе кажется, что есть что-то, что отличается от нашего способа мышления и обучения. И да, я думаю, что с увеличением масштаба.

Станет лучше. Как я упоминал, LLM работают с текстовыми токенами, а Sora используют визуальные патчи, превращая всевозможные визуальные данные, видео и изображения в патчи. Можешь рассказать, модель обучается полностью автономно или в процессе используется ручная разметка? Какова роль человека во.

Всем этом? Не углубляясь в подход Сора, мы используем много данных.

Обработанных людьми. В масштабах интернета? Много людей, много понятия.

Растяжимы, Сэм. Думаю, в этом случае слово «много».

Вполне уместно. Потому что для меня много... Слушай, я интроверт, когда я общаюсь с тремя людьми, это уже много. Четыре человека это много, но, думаю, ты имеешь в.

Виду больше. Над разметкой данных этих моделей трудится больше трех.

Людей, да. Окей, хорошо. Но в целом... преобладает самообучение, ведь, как ты упомянул в техническом докладе, мы имеем дело с данными масштаба интернета. Это еще одна прекрасная вещь, словно поэзия. То есть большая часть данных не размечена человеком. Они самообучаемы, верно? И тогда встает вопрос, сколько данных в интернете можно использовать? которые подходили бы для такого обучения, если бы мы только знали все детали этого процесса. Ты думал о том, чтобы раскрыть чуть.

Больше информации? Да. Или это просора.

В частности. Да, просора. Интересно, может ли магия больших языковых моделей распространиться и на визуальные данные? И что для.

Этого нужно? На мой взгляд, да. Но впереди еще.

Много работы. Конечно. Какие риски? Что беспокоит в релизе системы? Какие могут быть.

Потенциальные опасности? Честно говоря, прежде чем выпускать, мы должны добиться того, чтобы она работала с необходимым уровнем эффективности, чтобы удовлетворить ожидания пользователей. Это не стоит недооценивать. И работы еще много. Но можно подумать о проблеме фейковых видео, распространении дезинформации. Мы стараемся ответственно подходить к тому, что выпускаем в мир. Не нужно особо богатое воображение, чтобы представить, как все.

Может пойти не так. Много острых вопросов. Непростая эта область. Как ты думаешь, обучение ИИ должно рассматриваться как добросовестное использование по закону об.

Авторских правах? Я думаю, что за этим вопросом стоит другой вопрос. Заслуживают ли люди, создающие ценные данные, какого-то вознаграждения за их использование? Я думаю, что ответ — да. Пока я не знаю, какого именно. Предполагались разные варианты. Мы пробовали разные модели. Но если я художник, то... А, а я бы хотел иметь возможность запретить другим творить в моем стиле. И Б, если мой стиль все же будут использовать, я бы хотел за это иметь.

Какую-То экономическую выгоду. Да, это как переход от CD к Napster, к Spotify. Нужно.

Придумать какую-то модель. Модель меняется, но.

Людям нужно платить. Ну, если отойти еще дальше, нужен какой-то материальный стимул для людей, чтобы продолжать.

Делать крутые штуки. Среди всего, что меня волнует, не вызывает сомнений одно. Люди будут делать крутые штуки, и общество это вознаградит. Это часть нашей сущности. Нас тянет творчество. Мы стремимся быть полезными и добиваться признания разными способами. Это.

Никуда не исчезнет. Но вознаграждение может быть не обязательно денежным. Это может быть слава и... Возможно.

Формы будут другими. Не думаю, что мы увидели финальную точку.

Развития экономической системы. Да, но художники и авторы обеспокоены. Они смотрят на SORA и думают.

«Цветы и небеса». Конечно. Художники тоже сильно волновались, когда появилась фотография. А потом она стала новой формой искусства, и люди заработали много денег на фотографиях. Думаю, так будет и дальше. Люди будут использовать новые.

Инструменты новыми способами. Как думаешь, если взять YouTube или подобные платформы, сколько там будет контента сгенерированного ИИ типа SORA в.

Ближайшие 5 лет? Люди спорят о том, сколько работы сможет выполнять ИИ через 5 лет. Обычные рассуждения идут о проценте текущих рабочих мест, который полностью заменит ИИ. Я вижу вопрос иначе. Не в проценте рабочих мест, а в количестве и разнообразии задач, которые ИИ сможет выполнять за определенное время. Если рассмотреть все задачи, которые занимают 5 секунд, 5 минут, 5 часов, а может быть и 5 дней. то сколько из них сможет выполнить ИИ? Мне кажется, это гораздо более интересный, значимый и важный вопрос, чем количество рабочих мест, на которые сможет претендовать ИИ. Ведь ИИ — это инструмент, который с течением времени становится все более сложным и способным выполнять все больше задач. позволяя людям работать на более высоком уровне абстракции. Таким образом, люди могут работать гораздо более продуктивно. И в какой-то момент это уже не просто количественные изменения, а качественные преобразования в отношении тех задач, которые мы можем удерживать в уме. Думаю, то же самое произойдет и с видео на YouTube. Многие, возможно большинство, видео будут созданы с использованием инструментов ИИ. Но их создание все равно будет использоваться на человеческом мышлении, объединении различных элементов и выполнении отдельных частей работы. В некотором смысле это.

Направление и управление процессом. Да, это интересно. Это, конечно, пугает, но об этом интересно думать. Хочется верить, что людям нравится.

Смотреть на других людей. Людям действительно.

Очень важны другие люди. Да, если появляется что-то круче человека, людям это интересно дня два, а потом они.

Снова фокусируются на людях.

Это очень глубоко проросло. Это как с шахматами. О, да, давайте все будем играть в шахматы и не будем обращать внимание на факт, что люди играют в шахматы откровенно плохо.

По сравнению с ИИ. Но мы проводим забеги, хотя машины куда.

Быстрее нас. Примеров масса. Да, а возможно это будет просто инструмент наподобие Adobe Suite, который позволит гораздо легче создавать видео и всё такое. Я вообще ненавижу работать перед камерой, и если появится способ этого избежать, было бы здорово. К сожалению, это займет какое-то время, хотя генерация лиц уже близко, но генерация лиц в видеоформате — скользкая штука, особенно если говорим про конкретного человека, а не человека в целом. Позволь спросить про GPT-4. Так много вопросов. Во-первых, он тоже прекрасен. Оглядываясь назад, можно предположить, что это станет историческим моментом наряду с третьей, пятой.

И четвертой версиями с Чарджи-5. Может 5 станет исторической.

Точкой, не знаю. Трудно прогнозировать. Никогда не знаешь, в этом проблема будущего, его сложно предсказать. Но если оглянуться назад, GPD 4, Чарджи-5 действительно впечатляют, это историческое достижение. Расскажи, что в GPD 4 и GPD 4.

Turbo тебя впечатлило больше.

Всего? Мне кажется, они.

Отстают. Тоже типично для человека. Привыкать к чудесам... Нет, они, конечно, круты. Но если сравнивать с тем, куда нам нужно стремиться и куда, по моему мнению, мы придем, то... Когда появился GPT-3, все говорили, это невероятно, это чудо технологии. Так и было. Но у нас есть GPT-4. И сравнивая его с GPT-3, мы видим, что тройка просто ужасна. Я предполагаю, что разница между пятой версией GPT-4 будет такой же, как между четвёртой и третьей. И наша задача — жить на несколько лет вперёд, осознавая, что нынешние инструменты в будущем покажутся нам слабыми, и.

Так мы сможем сделать будущее лучше. А.

В чём GPT-4 особенно восхитительно отстоян?

То есть он умеет лучше всего? Что умеет лучше всего и какие лимиты этих способностей? Что позволяет тебе говорить, что.

Он отстой и надеется на будущее? Один из вариантов. Я много его так использую в.