Самое важное в IT за неделю: как корейские чипы заставляют Nvidia краснеть

Всем привет, меня зовут Дмитрий Роденко, основатель сообщества SaaS Founders. Помогаю фаундерам IT-компаний находить новых крупных клиентов с помощью лидер-генерации в LinkedIn. И сегодня вкратце обсудим самые важные новости в IT за неделю. Первая новость касается того, что корейские чипы заставляют Nvidia покраснеть. В частности, корейские исследователи преследили Nvidia новым нейронным чипом AI. Заявлено, что он потребляет 625 раз меньше энергии и в 41 раз меньше по размеру. Ученые из Корейского института передовых технологий представили новый чип. Называется он C-трансформер. который является первым чрезвычайно энергоэффективным ускорителем AI, способным к обработке больших речевых моделей LLM. По утверждениям исследователей, чип потребляет 625 раз меньше энергии и в 41 раз меньше по размерам, чем графический процессор Nvidia A100 Tensor при выполнении тех же задач LLM. И ключевой эффект данной технологии, как говорят ученые, они усовершенствовали нейроморфную вычислительную технологию. Сам чип состоит из нескольких частей. Я сейчас вам покажу. Чип состоит из нескольких частей. Первое. Гибридное вычислительное ядро. 2. Блок, который прогнозирует и уменьшает задержку при обработке сигналов. 3. Блок, который сжимает весовые коэффициенты модели, уменьшая потребление энергии при обращении к внешней памяти. Данное решение может сделать революцию в мобильных вычислениях благодаря низкому энергопотреблению. И Samsung уже взял данное решение в работу, уже начал производить подобные чипы в рамках тестовых партий, что говорит о перспективности технологий. Поэтому ждем, что AI-вычисления станут более доступными, еще более дешевыми и еще более массовыми. Следующая новость касается утечки, которая произошла из OpenAI. В частности OpenAI случайно на официальном аккаунте OpenAI был опубликован, а вследствие удален пост, который раскрывал детали о новой модели AI под названием GPTISP 4.5 Turbo. Сейчас, как вы знаете, бесплатная версия 3.5 платная 4. Согласно утечке, GPT-4.5 Turbo будет быстрее, точнее и естественно будет обладать большей базой знаний по сравнению с GPT-4 Turbo. Намекают, что релиз будет в июле-августе 2024 года и конец обучения модели в июне 2024 года. У модели будет увеличено контекстное окно до 256 тысяч токенов, вдвое больше, чем у GPT-4 Turbo. Что продолжает конкурентную гордку с гугловским Gemini. Все дальше и дальше будет расти количество токенов, которые могут обрабатываться в рамках одного запроса. В частности Gemini говорит о том, что следующим шагом они дадут возможность В качестве запроса использовать контекстное окно в 1 миллион токенов. Соответственно, пока эта утечка не является официальной, то есть был пост, его заскринили, все его увидели, увидели уведомление, потом этот пост удалили. Соответственно, пока дата окончания исследований 24-й год и запуск июля пока что не официально не подтверждена, но скорее всего это похоже на правду, потому что это совпадает с первой годовщиной запуска GPT-4. Соответственно, ждем, что Так оно и будет. Вот, собственно, скриншот, как это выглядело. И, собственно говоря, как это интернет ничего не забывает, интернет все помнит, поэтому будьте осторожны, работая с интернетом. Следующий интересный материал касается того, как нишевые компании и нишевые рынки открывают большее количество возможностей. Очень часто компании и вечерные капиталисты и сами компании недооценивают нишевые рынки в связи с тем, что они слишком малы. Хотя на самом деле в малых рынках обычно содержится большая прибыль и большие возможности. И на ранних этапах компания естественно лучше сосредоточится на небольших целевых рынках, чтобы четко проверить product market fit и перед тем как расширяться. И здесь интересной историей является дальнейшая монополизация нишевого рынка под себя. Про это мало думают компании, хотя на самом-то деле в этом есть большая важная история. Вот смотрите, например, дело в том, что Когда вы монополист на рынке, у вас наилучший продукт, вы можете играть на опережение, да, вы можете с уже существующей клиентской базой разрабатывать новые решения и предлагать им новые решения, потому что они вам они для вас максимально интересны. Вы как компания, которая доминирует в рынке, вы можете получать от этого максимальную маржу, поэтому в небольших рынках вы можете быть монополистом. Собственно, я об этом постоянно и говорю, когда работаю с фаундерами этих компаний. Я говорю, вам не надо быть самым лучшим для всех, вам нужно быть самым лучшим только для одной узкой ниши. И в этой узкой нише, при достаточно регулярных усилиях, вы можете быть top of mind, вы можете быть лицом, который ассоциируется с индустрией. Например, сегодня я был на конференции, только что приехал с конференции, и И поскольку конференция смежная с IT, она не про IT, она смежная с IT, несколько человек меня узнали, сказали, а, Дима, да, привет и так далее. То есть это говорит о том, что регулярное воздействие, регулярная работа с вашей целевой аудиторией позволяет вам системно выстраивать доверительные отношения, занимать значимую долю в головах клиентов, ну и, соответственно, Соответственно, двигаться дальше. Поэтому не стоит недооценивать нишевые рынки только из-за их малого объема. Возможно, вам этого малого объема хватит на 5-6 лет высокоприбыльной работы. Идем дальше. Следующая новость от Google. Google запустил в хроме версии 124 запустил решение, которое превращает любой веб-сайт в приложение. То, что называется Progressive Web Application, прогрессивные веб-приложения, стали новым трендом для компаний. И последняя сборка Chrome Canary позволяет легко превратить любой веб-сайт в данное мобильное приложение, которое устанавливается как обычное приложение на рабочий стол. То есть, по сути, создается нативное предложение для различных платформ, которое позволяет разрабатывать один сайт, который будет работать как приложение везде. Это доступно уже сейчас. И уже можно, собственно говоря, работать таким образом, минимизировать свои усилия и затраты на то, чтобы конвертировать свой веб-сайт в приложение. Благо Chrome нам в этом здорово помогает. Так, идем дальше. А вот эта новость, она очень интересная. Она представляет нам Девина. Первого инженера-программиста. То есть официально заявлен первый AI инженер-программист. То есть это полностью автономный искусственный интеллект, специально созданный для разработки программного обеспечения. То есть он может работать как с постановщиком задачи, так и может самостоятельно выполнять проекты любой сложности. В отличие от обычных IT-ассистентов, Дэвин умеет планировать и воплощать в жизнь масштабные инженерные задачи, которые требуют тысяч взаимосвязанных решений. При этом он запоминает весь необходимый контекст, учится и исправляет собственные ошибки. Вспомните свой опыт работы с OpenAI или другими решениями. которые, к сожалению, не помнят в следующем трейде то, о чем вы говорили в предыдущем. Вам нужно реально создавать базу знаний, и это сложная, а не простая история. Поэтому здесь Devin это специализированная платформа, потому что он отчитывается о прогрессе в реальном времени, обсуждает с вами решения, которые есть, и, соответственно, помогает разворачивать новые технологии, разрабатывать приложения с нуля, разворачивать их, автоматически выявлять и исправлять баги, обучает собственные модели для искусственного интеллекта. В частности, на сложных бенчмарках по решению реальных проблем в открытых IT-проектах Дэвин установил новый мировой рекорд, решив примерно 14% задач. Предыдущий лучший результат составлял лишь 2%, то есть он в 7 раз улучшить результативность. Разработчик Devin, компания Cognition, ведущая лаборатория в сфере искусственного интеллекта, которая получила 21 миллиона инвестиций для создания умных систем нового поколения. Понятно, что полностью разработчиков подобные системы не смогут заменить, это нереально на данный момент, но тем не менее Такие уже шаги есть, уже есть много систем, которые этим занимаются. В частности, 14% решенных сложных задач, это все еще мало, но это в 7 раз больше, чем было до того. А прошлый шаг был 2%. Поэтому ждем решения, которые смогут выполнять 30-40-50%. Я думаю, это вопрос исключительно времени. И они уже, скорее всего, отъедят часть рынка у низкоквалифицированных разработчиков, которые делают самые простые базовые решения. И, собственно говоря, ждем определенного нового передела рынка. Поэтому, если вы боитесь, что AI заберет у вас рынок, вы боитесь правильно. Самые простые задачи он, безусловно, заберет. Но всегда можно уходить в более сложные и комплексные решения, в более специализированные. То, что я говорил раньше. Можно специализироваться и выстраивать доверительные отношения с потенциальными клиентами, благодаря вашему опыту в решении бизнес-задач, связанных с клиентом. И AI никогда не сможет подделать вашу уникальность, подделать вашу аутентичность, подделать ваш опыт. Поэтому развивайте опыт, показывайте этот опыт клиентам, чтобы они понимали, почему нужно работать именно с вами. Если вам нужны новые крупные клиенты, You are welcome. Обращайтесь к нашим ребятам. У меня есть команда, которая помогает фаундерам IT компаний находить новых крупных клиентов. С радостью поможем вам и найти клиентов, и выстроить с ними нормальные доверительные отношения. Всем много крутых результатов. До скорой встречи. Пока-пока.