Самое важное в IT за неделю: Удастся ли Apple выполнить АІ обещание

Всем привет, меня зовут Дмитрий Рыденко, я основатель сообщества SaaS Founders, помогаю фаундерам IT-компаний находить новых крупных клиентов с помощью лиды генерации в LinkedIn. Сегодня мы поговорим о самых важных и интересных новостях в мире IT за эту неделю. В частности, о том, удастся ли Apple выполнить обещание не использовать данные клиентов в системе искусственного интеллекта. Из-за какой ошибки Чаджи Петти одна компания потеряла больше 10 тысяч долларов? Почему генеральный директор NVIDIA не хочет встречаться с подчиненными One on One? И зачем правительство США открыло антимонопольное расследование по вопросам искусственного интеллекта? Первая новость — это обещание Apple о том, что ваши данные никогда не будут сохранены или доступны Apple. Apple обещает, что персональные данные пользователей не будут храниться, не будут доступны компании при использовании ее системы искусственного интеллекта. Apple Intelligence тоже сокращается как AI. Компания говорит, что модели генеративного искусственного интеллекта Apple смогут работать полностью на устройстве без отправки данных на удаленные серверы. Когда потребуется использовать более крупные облачные модели, на серверы будут отправляться только минимальные данные для выполнения запроса. Код серверов будет общедоступным, чтобы независимые эксперты могли проверить выполнение обещаний конфиденциальности. Система поддерживает криптографические протоколы, чтобы устройства Apple отказывались общаться с серверами, под которых не был публично доступен для проверки. Apple говорит о том, что важность конфиденциальности и безопасности данных пользователей при внедрении генеративного AI является для них приоритетом. Ну, давайте посмотрим, почему Apple сделала подобное заявление и сделала его именно сейчас. Дело в том, что, как вы помните, Илон Маск недавно заявил, что он запретит использовать технику Apple во всех своих компаниях, если она интегрирует разработки OpenAI на уровне операционной системы, называя это неприемлемым нарушением безопасности. Цитата «Откровенно абсурдно, что Apple недостаточно умна, чтобы создать собственный AI, но каким-то образом способна гарантировать, что OpenAI защитит вашу безопасность и конфиденциальность», — написал Илон Маск в соцсети X, бывший твиттер. Но мы видим здесь, что с одной стороны, естественно, внедрение AI является массовым трендом. не, скажем так, не держит здесь пальму первенства, потому что первыми здесь был, собственно, OpenAI, потом подключился Google, другие платформы, другие модели. И Apple пытается наверстать это отставание. Естественно, самым простым способом было интегрировать наработки OpenAI, но, видите, Маск по каким-то причинам против этого, считая, что OpenAI недостаточно безопасна. И, соответственно, Apple пытается предпринять шаги по повышению прозрачности своей политики внедрения решений и, опять же, заявляет о том, что они будут разрабатывать свою систему искусственного интеллекта Apple Intelligence. Ну, собственно говоря, посмотрим, что из этого получится. Естественно, AI-решения будут внедрены в платформу Apple это естественно. Но, скажем так, лучше позже, чем никогда. Следующая новость от Charity Majors. которая была размещена в Stack Overflow о том, что генеративный AI не сможет создать вашу инженерную команду за вас. Это классика жанра, связанная с тем, что многие говорят, что искусственный интеллект скоро будет полностью писать код, делать архитектуру систем, деплоить подобные решения на сервера и быть полностью ответственным за работу разработчиков. Что говорит автор? Автор говорит следующее, что написание кода – это самая легкая часть работы программиста. Гораздо сложнее понимать, поддерживать, объяснять и управлять большими программными системами на протяжении всего их жизненного цикла. По мнению автора, требуется не менее семи лет постоянной практики, чтобы стать действительно компетентным синьером-программистом-разработчиком, который сможет работать в команде и сможет рассуждать о сложных системах. Генеративный AI может быстро помочь быстро писать код, но при этом этому коду нельзя безоговорочно доверять. Его нужно тщательно проверять, тестировать и интегрировать в существующую кодовую базу. И тренд по отказу от или сокращению найма младших инженеров приведет к определенным последствиям. В частности, Найм младших инженеров и возможность для них учиться в процессе работы имеет важнейшее значение для долгосрочного развития профессии и компетенции. Ведь сегодняшние джуниоры завтра станут сеньорами. Соответственно, на данный момент самым большим препятствием является возможность для джуниоров получить свою первую работу. Компании их часто недооценивают, видят в них скорее кратковременные расходы, а не инвестиции. И лучшие команды инженеров сочетают в себе разнообразные уровни квалификации не только самых опытных экспертов. И найм младших сотрудников позволяет предотвратить избыточную инженерию и помогает командам оставаться на земле, то есть не уходить куда-то в космос, а работать с тем, что есть сейчас. Естественно, Не каждая компания может должным образом поддержать найм-джуниоров. При этом автор утверждает, что опытные инженеры и менеджеры должны бороться за создание воронки наймов в своих организациях. То есть не только работать с ключевой командой, но и обеспечивать переток свежей крови. AI пока не может автоматически заменить сложную работу сейнеров. И люди-разработчики по-прежнему необходимы для создания и поддержки критически важных систем. Главный аргумент заключается в том, что постоянный наим и обучение джуниоров с нуля жизненно важен для здоровья профессии, и компании не должны рассматривать это как нечто необязательное. Действительно, откуда берется синьор? Синьор это джуниор, который поработал в профессии определенное время, С учетом уровня развития искусственного интеллекта, мы не можем полностью использовать код, который разработан только искусственным интеллектом. Вам надо, во-первых, поставить задачу, понимать, как этот код будет использован во рамках всей системы, проверить этот код на его работоспособность, внести изменения. Собственно говоря, искусственный интеллект пока не на том уровне, чтобы полностью заменить разработчиков, поэтому... Скажем, возможно, какие-то самые простые задачи, да, но все равно даже самые простые задачи нужно допиливать, контролировать и проверять. Вот, в частности, один из примеров о том, как внедрение, скажем так, одна ошибка в чата GPT стоила компании больше 10 000 долларов. Продуктовая компания запустила платную подписку, но в течение первых пяти дней столкнулась с массой жалоб от клиентов, которые не могли оформить подписку. И по оценкам компании, они потеряли минимум 10 тысяч долларов упущенных в продаж только за счет этой проблемы. Причиной проблемы был однострочный баг в коде, который сгенерирован с помощью чата GPT. при миграции данных с Next.js на Python. Баг заключался в том, что вместо генерации уникальных идентификаторов для новых записей использовался один жестко закодированный ID. Проблема скрывалась за архитектурой бэкэнда с несколькими серверами, что временно создавало пул доступных ID для новых подписчиков в течение рабочего дня. Ночью, когда не было новых деплоев и обновления базы данных, единственный доступный ID быстро исчерпывался, этот pool ID быстро исчерпывался, не позволяя новым пользователям оформить подписку. И ситуация продемонстрировала важность надлежащего тестирования и осторожности при использовании сгенерированного I-кода и соблюдении надлежащих практик разработки. Хотя эта ошибка и была болезненным опытом, она стала важным моментом для развития команды и интеграции решений в ее работу, из которой команда извлекла важный урок. Команда признает, что допустила многие ошибки на ранних этапах, но рада, что теперь может посмеяться над теми событиями и двигаться дальше. Замечу, эта новость прекрасно иллюстрирует предыдущую, которая говорит о том, что полностью доверять искусственному интеллекту при разработке кода в данный момент нельзя. Вот простое решение, иллюстрация предыдущей новости. Следующая новость касается того, как работать с клиентами при разработке новых технологий. Дело в том, что разработка новых технологий — это творчество, это, по сути, магия. И IT-компании часто настолько увлекаются собственным продуктом, что пытаются рассказать клиентам, как он работает от начала до конца, вместо того, чтобы объяснить, почему он полезен. Проблема заключается в том, что вы сами решаете, что самое интересное в вашем продукте, вместо того, чтобы выяснить, что самое интересное для ваших клиентов в вашем продукте. И вы рассказываете о собственном опыте, о опыте разработки, о том, насколько сложна эта система. И, по сути, даете продукта, технологически ориентированную историю, вместо клиента ориентированную. Здесь очень важно общаться с клиентами, поскольку позволяет узнать, как реальные люди используют ваш продукт, какие функции они считают самыми ценными и на что, вероятно, отреагируют другие клиенты. И здесь очень важно, потому что на базе клиентского опыта вы можете не угадывать, что зайдет, а не зайдет. А ваша разработка, да не только разработка, и маркетинг, и продажи, и ведение бизнеса становится намного проще. То есть слушайте клиентов, не навязывайте свою точку зрения, показывайте свои решения и наблюдайте за тем, как они пользуются вашим решением, какие функции являются критически важными. Из моего даже опыта мы думаем, что какие-то фичи или какие-то технологии будут наиболее важны для клиента, а клиент их даже не замечает. Он говорит о каких-то очень простых вещах. Условно говоря, измените форму вывода, сделайте форму экспорта, сделайте интеграцию, и это для них критически важно. Какие-то более сложные вещи они просто не понимают и не видят. Поэтому вот, скажем так, перевод с технологического на клиентский язык Это критически важно. Это то, что позволяет мне понимать, что работа моя и моей компании будет еще очень долго востребована. Сколько инженеры говорят на инженерном, а нужно переводить эту историю на клиентский. И вот это новость собственно об этом. Следующая новость от генерального директора NVIDIA Дженсена Хуанга. Как вы знаете, NVIDIA стала самой дорогой компанией в мире. Она обошла Apple, обошла Microsoft именно за счет бума спроса на AI-процессоры. Процессоры, которые поддерживают AI-вычисления. Ну, которые используются, многопоточные вычисления, которые используются в AI. Было длинное, 2,5-часовое интервью Дженсена. Оно было достаточно пафосным, но вот самое краткое и самое ценное, что оттуда можно вынуть, и практически полезное для нас с вами, это подход в проведении индивидуальных встреч. Значит, у Дженсена, несмотря на то, что гигантская корпорация, есть 60 прямых подчиненных. И он говорит, что он не проводит индивидуальные встречи, так называемые one-on-one, со своими прямыми подчиненными. Он считает, что нет никакой информации, которую следует обсуждать только с одним или двумя людьми. Равный доступ к информации наделяет людей силой. Я сначала расскажу его точку зрения, потом свою точку зрения на этот вопрос. И отсутствие индивидуальных встреч уменьшает количество иерархических уровней в компании, что улучшает коммуникацию. Хуан говорит, что нужно давать обратную связь своим сотрудникам перед всеми, считая, что это позволяет всем учиться на ошибках других. Он верит, что обучение на ошибках других людей – лучший способ учиться, поэтому изолировать обратную связь в частных встречах, лишает многих людей возможности развиваться. В то же время, это важно, он не уверен, что всегда прав, поэтому обсуждение и обдумывание ситуации перед всеми помогает как ему, так и его команде развивать навыки рассуждения. Ну давайте дам свою точку зрения. Смотрите, one on one обычно занимает не менее 30 минут в месяц. Если у него 60 прямых подчиненных, это значит ему нужно потратить минимум 30 часов в свой месяц для того, чтобы провести индивидуальную встречу. Очевидно, что он не хочет этим заниматься и, наверное, это окей, потому что нужно и готовиться к этим встречам, правда? и успеть что-то посоветовать и так далее. Здесь у меня, с одной стороны, противоречивое мнение. С одной стороны, я согласен, что 60 прямых подчиненных это слишком много. Из практики управления мы знаем, что человек может держать в фокусе 7 плюс-минус 2 объектов, а некоторые могут держать 5 плюс-минус 2 объекта. То есть управлять группой больше, чем условно 9 человек достаточно сложно. Нужно управлять собой, нужно управлять теми, держать их в фокусе и так далее. А у него и 60. Понятно, что он не хочет проводить индивидуальные встречи, потому что это менее продуктивно. Здесь решение простое. Можно объединять их в группы по зонам ответственности, по функциональным обязанностям и так далее. Поэтому здесь очевидно решение, что не нужно проводить индивидуальные встречи с 60 людьми, нужно проводить индивидуальные встречи с 7-9 людьми. Это первый момент. Второй момент, мне кажется, здесь влияет немножко китайская традиция в этой истории, когда Все надо делать правильно. И китайцы во многом предпочитают работать коллективом, делить ответственность на коллектив, в отличие от западного подхода, когда ключевым субъектом рассматривается личность. И это отчасти, наверное, еще одна причина, почему Дженсен предлагает проводить массовые, скажем так, встречи и доносить свою точку зрения для всех. По моей практике, one-on-one и хороши тем, что на них можно, с одной стороны, проговорить те вещи, которые важны для данного конкретного человека, И понять, какая мотивация у данного человека, почему человек перегорает, почему у человека повышена мотивация, либо наоборот она снижена. Здесь можно говорить лично, здесь можно говорить откровенно, и можно общаться на те темы, которые публично были бы не вполне корректны по отношению к человеку. То есть какие-то вещи, которые, например, ошибки. В обсуждении ошибок некоторые ошибки могут быть связаны с личными характеристиками человека, с его психологическим состоянием, и человек в этот момент не хочет, чтобы другие это слышали или знали. Поэтому я считаю, что one-on-one важны, но безусловно не с 60 прямыми подчиненными, а с максимум 7-9 людьми. Я бы здесь разделил вещи. То есть, он говорит, что есть вещи информационные, есть вещи, когда человек дает обратную связь, которая позволяет всем учиться. Окей. Такие деперсонализированные истории без фокуса на личной ответственности людей можно делать и на большую аудиторию. Можно сделать one-to-many, можно собирать 500 человек, не из проблем. рассказывать, что были вот такие ошибки, в чем были причины, что нужно делать, чтобы такие ошибки не повторялись. И это важно, и это как раз нужно делать со всеми. Но полное исключение one-on-one'ов, наверное, больше повредит компании, поскольку не позволит руководителю, топ-менеджеру понимать, что происходит в душе у своих прямых подчиненных, которые, скорее всего, отвечают за целое подразделение. и не позволит выстраивать с ними личные эффективные отношения. Поэтому здесь важен баланс. Для небольшого количества людей проводить one-on-one для самых ключевых людей, а делиться опытом разбирать ошибки деперсонализированным можно и на более массовой аудитории. По крайней мере, моя практика говорит об этом, потому что, например, у нас там 40 литгенов, и когда мы провели колл, в рамках которого обсудили обычные ошибки, которые допускают литгены, то как люди поделились этой информацией и какие рекомендации дали, было всеми участниками оценено как очень полезное событие, потому что это специализированный вид деятельности, Подчеркнуть эту информацию из практики сложно у кого-то. И поэтому, получив опыт своих коллег, мнение своих коллег, многие увидели себя со стороны и сказали «Вау, здесь есть возможность, которую мы должны улучшить». При том, что все работают, в принципе, по одному и тому же процессу. Все работают только с разработчиками софта, только с компаниями. Тем не менее, есть нюансы, есть детали. Когда мы глубже идем в процесс, оказывается, что в каких-то ситуациях лучше делать так, а так не делать. Соответственно, эта обратная связь, она критически важна. И последняя новость на сегодня. Мы говорим о том, что Министерство юстиции и Федеральная торговая комиссия достигли соглашения о разделении ответственности за расследование доминирующих позиций Microsoft, OpenAI и NVIDIA в индустрии искусственного интеллекта. То есть, по сути, мы говорим о, скажем так, расследовании на предмет нарушения антимонопольного законодательства. В частности, Федеральная торговая комиссия будет проводить расследование в отношении OpenAI, создателей чата GPT и Microsoft, которая инвестировала 13 миллиардов в OpenAI. Это соглашение говорит о том, что правительство усиливает регуляторный контроль за индустрией AI из-за быстрого развития технологий, которые способны повлиять на рабочие места, информацию и жизнь людей. Регуляторы пытаются обнаружить возможные проблемы в сфере AI на ранних этапах, а не спустя годы, когда проблемы будут глубоко укоренены. но и в частности у контролирующих органов вызывает беспокойство о доминировании NVIDIA на рынке чипов и возможное закрепление клиентов за ее продуктами. Microsoft привлекло внимание регуляторов своим влиянием на развивающуюся технологию AI через инвестиции в OpenAI и сделки, которые позволяют избегать прямого надзора. Что здесь можно сказать? Это говорит о многих вещах, как для меня, например. Во-первых, правительство чувствует опасность. Правительство никогда не занимается вещами, которые не несут угрозы для правительства. В частности, мы видим, что с помощью технологий искусственного интеллекта можно влиять на информационную повестку, можно влиять на экономику, можно влиять на рабочие места. И в связи с этим государство решило проявить некую инициативу и заранее расследовать там, где они могут эту историю, попробовать исследовать тему, связанную с нарушением антимонопольного законодательства. С одной стороны, мы понимаем, что серьезное развитие LLM-моделей требует значительных капиталовложений. Поэтому ожидать, скажем так, технологий, которые поменяют мир от малых стартапов, можно. Но малые стартапы, скорее всего, будут адаптировать существующие технологии и существующие платформы в какие-то конкретные вертикали. Все-таки не столько разработка, сколько масштабирование и решение будет уделом крупных корпораций. Давайте вспомним антимонопольные расследования, которые касались Google в сфере поисковых систем. К чему они привели? Они привели к штрафам, соглашениям. Реально они никоим образом не повлияли на фактическое распределение технологий. Поэтому мое мнение, не обязательно правильное, но базирующееся на наблюдении за подобными решениями, говорит о том, что правительство пытается, скажем так, схватить за загриву коня, который уже давно убежал. То есть они пытаются постфактум каким-то образом повлиять на процессы, на которые они повлиять не могут. Они всегда отстающие. Они всегда отстающие здесь. Единственное, что они могут сделать... Давайте до справедливости ради. Они могут отрегулировать этические вещи, связанные с неэтичным использованием OpenAI, и закрепить их в законодательстве стран, что в принципе уже делает Евросоюз. С одной стороны, это окей, потому что позволяет для пользователей дать некие ориентиры, что этично, что не этично, что можно, что нельзя. С другой стороны, где-то ограничивает развитие. Насколько это будет успешно, посмотрим. Но технологически правительство теряет власть, правительство теряет контроль. Причем, если раньше можно было говорить о том, что правительство теряет контроль за политической жизнью, скажем так, экономической жизнью из-за корпораций, из-за влияния корпораций. Сейчас можно сделать даже более смелый вывод, что реалисты теряют контроль за экономической и политической жизнью не просто в пользу корпораций, а в пользу технологических корпораций, которые позволяют по-хорошему, если так посмотреть дальше, технологически обходиться даже без правительств. Давайте посмотрим глубже. Чего больше в полностью электронном правительстве? Технологий. Или аппарата. Технологии уменьшают количество необходимого государственного аппарата. А технологии заменяют людей в подготовке и принятии решений. То есть идеальное правительство по сути это скрипт. Это некий набор правил, которые всегда выполняются определенным образом и которому достаточно много доверия и решение которого большинство считает справедливым. Правильно? То есть Несмотря на то, что многие сейчас, скажем так, опасаются, в частности судебных решений, политических решений, экономических решений на базе искусственного интеллекта, я думаю, это наше определенное будущее. Посмотрите на очереди в судах, посмотрите на стоимость решений в судах для всех, для государства, для бизнеса, для людей. То есть объективным образом, как минимум, вначале будут интегрированы AI-технологии, которые позволят ускорить данные процессы, а потом, как в шахматах, сначала люди выигрывали, а потом начали выигрывать роботы. Соответственно, я не исключаю личный момент, момент эмпатии при решении судебных вопросов, когда судья входит в положение и так далее. Но, возможно, в, скажем так, При решении судебных решений, важных политических решений, это будет какая-то компромиссная история. Часть решения будет готовить AI, а решение конечное будет принимать человек. Ну, по крайней мере, на следующих этапах. А там увидим. Таким образом, как вы видите, технологии — это значимая часть нашей жизни. Технологии влияют на наше будущее достаточно значимо и серьезно. Они делают это уже сейчас. И, соответственно, наша задача — это внимательно наблюдать за тем, что происходит, для того чтобы быть в курсе происходящих событий, для того чтобы наш бизнес развивался согласно данным трендам или, наоборот, против данных трендов, что тоже может быть интересной рыночной позицией. Вот, но как минимум надо знать для того, чтобы этим вопросом управлять. Желаю вам получить максимум от той информации, которую я вам доношу. Желаю вам получить максимально крупных клиентов и вывести свой бизнес на следующий уровень. Желаю всем отличных результатов. До скорой встречи.