Самое важное в IT за неделю: Почему Meta ограничивает новые АІ модели в ЕС

Всем привет. Меня зовут Дмитрий Роденко. Я основатель сообщества SaaS Founders. Помогаю фаундерам IT-компаний находить новых крупных клиентов с помощью лид-генерации в LinkedIn. Мы с командой подобрали самые интересные резонансные новости этой недели, и я с удовольствием Поделюсь новостями с вами и расскажу, что я думаю на эту тему. Итак, сегодня мы поговорим о том, почему мета ограничивает новые AI-модели в ЕС, что такое 5 уровней AI-интеллекта от OpenAI, может ли ChatGPT заниматься Data Science и насколько это эффективно, почему возникают споры о правах AI-работников и когда состоится продажа GitLab. Итак, первая новость состоит в том, что Meta не будет предоставлять будущие модели AI в ЕС. Новость с сайта Axios от Inifright. Причина состоит в нечеткости регулирования. И это решение создает конфронтацию между Meta и регулятором ЕС и демонстрирует готовность тех гигантов США отказываться от продуктов для европейских клиентов. Мета планирует внедрять новые AI-модели в широкий спектр продуктов, включая смартфоны, умные очки и так далее. И компания утверждает, что проблема заключается не в AI Act, а в соблюдении GDPR при обучении моделей на данных европейских пользователей. Мета объявила о планах использовать публичные посты пользователей в Facebook и Instagram для обучения будущих моделей, но столкнулась с препятствиями со стороны регуляторов. В Великобритании, где действуют похожие на GDPR закон, мета планирует запустить новую модель, подчеркивая разницу в подходах регуляторов. Ситуация подчеркивает растущий конфликт между американскими технологическими гигантами и европейскими регуляторами по вопросам конфиденциальности и антимонопольного регулирования. Мета подчеркивает важность обучения на европейских данных для адекватного отражения культуры региона в своих продуктах. Тема и комментарии. Смотрите. GDPR гораздо жестче, чем американские законы, связанные с соблюдением, скажем так, с оборотом личной информации пользователей. Поэтому, с одной стороны, это делает европейских пользователей более защищенными. С другой стороны, это позволяет американским компаниям быть более прогрессивными и достигать больших результатов в AI. И здесь очень важный вопрос на самом деле, потому что если мы понимаем, что AI — это будущее технологий, в частности, то, скажем так, замораживание или неспособствование развитию AI-технологий из-за GDPR и других законов может привести к увеличению разрыва между Европой и Соединенными Штатами. С одной стороны, по использованию подобных продуктов, с другой стороны, с точки зрения разработки. Посмотрим, как будет развиваться подобная ситуация. В Штатах есть решения Верховного суда, которые говорят о том, что да, данные пользователей принадлежат пользователям. Это абсолютно справедливо. Это написано в user agreement всех основных платформ. Но при этом в Штатах разрешается использовать пользовательскую информацию персонализированную, то есть та, которая позволяет идентифицировать пользователя. позволяет ее использовать без разрешения пользователя с той оговоркой, что если пользователь заявит о том, что его информация должна быть удалена из данной базы, то компания должна это сделать. В Европе в GDPR гораздо жестче. GDPR говорит, что информация должна быть внесена в базу только при наличии письменного явного согласия человека. Ну, в данном случае, там, галочки, поставленные в форме. Соответственно, это жестко соблюдается, за это жестко наказывают, поэтому с одной стороны правильно, с другой стороны, видите, этот закон может ограничить возможности европейских пользователей и возможности использования различных технологических решений. Так, идем дальше. Следующая новость. OpenAI утверждает, что существует 5 уровней, пройдя которые, AI достигнет человеческого интеллекта. И он уже почти достиг уровня 2. OpenAI разработала 5-уровневую систему для отслеживания прогресса в создании искусственного общего интеллекта, то, что называется AGI. Компания считает, что в настоящее время находится на первом уровне, то есть это разговорный AI, но близка ко второму. Второй уровень, так называемый Reasoners, предполагает базовое решение проблем на уровне человека с докторской степенью. Третий уровень, Agents, описывает AI, способный выполнять различные действия в течение нескольких дней от имени пользователя. Четвертый уровень, Innovators, касается AI, который может помогать в разработке новых изобретений. Пятый уровень предполагает, что AI способен выполнить работу на уровне целой организации. OpenAI продемонстрировала сотрудникам исследовательский проект ZPT-4, показавший человекоподобные навыки рассуждения. Система уровней может быть изменена на основе отзывов сотрудников, инвесторов и совета директоров компании. Очень здорово, что наконец-то появились некие инсайты на тему того, каким образом может развиваться AI в дальнейшем, причем достаточно четко структурировано и понятно. Действительно, они находятся на данный момент на уровне где-то полтора. То есть разговорный AI работает нормально. Но с точки зрения базового решения проблем с докторской степенью, что-то решается достаточно хорошо, а что-то решается недостаточно хорошо. То есть какие-то философские, какие-то социальные вопросы, рекомендации язычно интересные и полноценные. Но если мы говорим о практическом применении, например, разработки кода высокого уровня, Здесь пока все очень грустно. Вот. Но смотрим, что, в принципе, следующий шаг после этого – это agents, когда AI будет способен выполнять различные действия в течение нескольких дней от имени пользователя. Я уже прямо в предвкушении как бы сложных логических задач, которые будут загружать серверное время AI, таким образом блокировать его работу. Разработка новых изобретений, я думаю, частично делается уже сейчас, но на уровне гипотез и их валидации. А вот работа на уровне целой организации, когда можно будет назначать несколько ролей и одновременно работать с этими ролями. Это уже действительно прорыв. Это уже здорово, и это позволит повысить эффективность бизнеса на порядке. Поэтому ждем, смотрим, наблюдаем. Надеюсь, все это произойдет в ближайшие несколько лет, и мы сможем стать свидетелями подобных событий. Следующая новость о том, может ли ChatGPT заниматься Data Science. Новость от Остина Хенли. Было проведено исследование, которое изучало использование чата GPT для задач обработки данных и связанных с этим проблем и как бы вызовов. Было проведено два исследования. Наблюдение за 14 профессионалами, выполняющими типичные задачи обработки данных с использованием чата GPT, и параллельно опрос 114 дата-сайентистов для валидации и обобщения результатов. Основные проблемы при работе с чатом GPT включали сложность предоставления контекста, неявные предположения и расхождение в ожидании. Data scientists затруднились определить необходимый объем информации для чата GPT, который часто делал неверные предположения о данных. Проводя параллели с предыдущей новостью, видим, что даже уровень 2, как это решение задач на уровне докторской степени в data science, видите, при решении работы с большими массивными данными, видите, пока... недостаточно хорош. Использование ответов chat.gpt осложнялось генерацией повторяющегося кода, несоответствием предпочтениям пользователя и необходимостью валидации. И пользователям приходилось адаптировать код к своим нуждам и проверять его корректность. Это то же самое, что я встречаю при работе, если ставят chat.gpt задачи по генерации кода. Вот это, собственно, так оно и работает. И опрос выявил неоднозначность в определении пригодности задач для chat-GPT и необходимости адаптации кода. По итогу были разработаны рекомендации по созданию AI-инструментов по обработке данных, включая обеспечение гибкого контекста, интерактивные обратные связи и повышение прозрачности. Соответственно, естественным образом AI интегрируется в различные вертикали, в решение различных задач. Соответственно, здесь мы видим, что пока без четкой обратной связи и доработки результатов с помощью человека, скажем так, то, что… Те данные, те выводы, которые делает ChargePT на больших массивах, они не самостоятельны, пока они не пригодны к самостоятельному использованию. Должен человек ставить задачу, должен человек контролировать процесс и должен человек валидировать данные. Это тот уровень, на котором мы находимся прямо сейчас. Следующая новость. Касается того, что компания отказалась от планов предоставить AI работникам права и добавить их в организационную структуру после возмущения со стороны сотрудников людей. Новость с сайта futurism.com HR-компания Lattice объявила о планах предоставить права и включить в организационную структуру своих цифровых работников, то есть AI-алгоритмов. Компания планировала оценивать производительность AI работников так же, как и обычных сотрудников. Эта инициатива вызвала значительную критику и негативную реакцию, естественно. Критики указывали на неуважение к человеческому достоинству реальных сотрудников и неправильное восприятие людей как ресурсов для оптимизации. Данный случай подчеркивает растущее разочарование в AI, которое быстро захватывает целые отрасли. Многие компании уже используют AI как причину для массовых увольнений, Некоторые организации открыто заявляют о замене человеческих ролей на AI, и после публичной негативной реакции Lattice отказалась от своих планов в отношении цифровых работников. И этот случай может быть признаком будущих тенденций, когда компании будут пытаться очеловечить своих цифровых работников. Однако, учитывая быструю негативную реакцию, такие инициативы вряд ли будут популярными среди работников, которые уже обеспокоены возможностью передачи их работы искусственному интеллекту. Мой комментарий следующий. Естественно, сравнивать результаты работы различных инструментов, программ, приложений и человеческих коллективов. Это нормально. Я так понимаю, что Lattice решила пойти дальше и сделать это, скажем так, неким бенчмарком, то есть неким стандартом, где говорит, вот смотрите, вот ваша эффективность, вот эффективность AI. И, исходя из этого, мы будем как бы понимать, насколько эффективен AI, насколько эффективны вы. Мне кажется, что говорить о правах AI-алгоритмов достаточно рано, если вообще возможно, потому что AI не является, ну, скажем так, субъектом, не является отдельной сущностью, AI на данный момент является набором кода. Поэтому как можно говорить о правах набора кода, это на самом деле непонятно. права компьютера, права мышки, права стакана с водой и так далее. Это примерно оттуда. Поэтому мне кажется, это скорее громкий хайп, но тенденция действительно интересная. То есть то, что сравнение эффективности работы сотрудников и работы алгоритмов будет становиться все более массовым, все более публичным. И таким образом работодатели будут выбирать наиболее эффективные решения. Поэтому для нас с вами, для тех, кто предоставляет различные решения, уже надо использовать AI для того, чтобы быть максимально эффективными. Потому что, по моему мнению, AI сам по себе еще недостаточно справляется. А вот AI плюс человек всегда победит человека, который не использует AI. Я имею в виду примерно того же уровня, того же класса, того же уровня знаний, опыта и так далее. Люди разные, естественно. когда мы говорим о сравнимом уровне компетенций, там софт-скиллов и хард-скиллов. Так, следующая новость. Так, новость касается того, что EA-лаборатории используют вырезанные из YouTube субтитров для обучения. И субтитры из более 180 тысяч видео с YouTube были включены в набор данных YouTube Subtitles в составе более крупного репозитория Pile. И такие компании, как Apple, Salesforce, Nvidia использовали Pile, включая субтитры с YouTube, для обучения своих AI-моделей. Организация, создавшая Pile, открыто опубликовала информацию о сборе данных и код для скраппинга. Условия YouTube запрещают при этом автоматизированный сбор данных без разрешения, но есть определенные исключения. AI-компании утверждают, что они просто использовали публично доступный набор данных и не занимались непосредственным скраппингом. Использование чужих работ для обучения AI без явного разрешения привело к судебным искам против некоторых компаний. И AI-разработчикам действительно нужно больше данных для обучения, поскольку это улучшает производительность их нейросетей. И многие IA-лаборатории неохотно раскрывают источники своих данных из соображений коммерческой тайны и других причин. Ожидается, что эта проблема будет продолжать вызывать споры, поскольку все больше случаев использования данных без разрешения становятся известными. Это известная проблема, связанная с тем, что нужно больше данных, но часть данных в интернете, которые мы с вами можем прочитать, недоступны для использования в коммерческих продуктах. Давайте проведем параллель с новостью, о которой мы говорили раньше. То есть когда Facebook, данные, которые находятся на его платформе, которые принадлежат пользователям, не может использовать в Европе для обучения своих AI-моделей. Поэтому будет расти ценность различных моделей языковых, языковых уникальных массивов данных, особенно крупных. А пока, так сказать, небольшие компании, компании, возможно, из других стран, такие, как из Китая, которые, ну, скажем так, Игнорируют законодательные требования, могут получать некое, скажем так, временное преимущество за счет того, что они будут просто в черную парсить эти данные без разрешения пользователей самих компаний и за счет этого получать преимущество. Такие риски тоже есть. И проблема, чем дальше, тем будет становиться больше, потому что массивы будут постоянно обучаться на AI-приложение будет обучаться на новых и новых массивах, а количество массивов данных, оцифрованных, оно ограничено. Поэтому ждем, так сказать, Большие дорогие проекты по оцифровке прошлого человеческого наследия, цифровые библиотеки. Ждем, что условно NVIDIA или Microsoft или Apple проинвестируют миллиарды в оцифровку всего бумажного наследия Библиотеки Конгресса и других публичных больших библиотек. Просто для того, чтобы иметь возможность обучать свои алгоритмы на больших текстовых массивах. Соответственно, если у вас есть большие текстовые массивы, вы можете быть интересными для крупных компаний. Следующая новость касается разработчика ПО GitLab, которого могут продать. Это новость с Dow. GitLab — это американский разработчик программного обеспечения с украинскими корнями, активно рассматривает возможность продажи компании. И заинтересована в покупке GitLab мониторинговая платформа Datadog. которые планируют приобрести GitLab, хотя окончательных договоренностей еще не достигнут. Текущая оценка GitLab составляет примерно 8 миллиардов среди инвесторов компании. Ну, например, как Alphabet, материнская компания Google. Более 30 миллионов зарегистрированных пользователей, и они обслуживают более половины компаний из списка Fortune 100. Основатель GitLab – украинец Дмитрий Запорожец из Харькова, который начал проект в 2011 году как альтернативу GitHub. В октябре 2021 года GitLab успешно вышла на IPO, он стал публичной компанией. В начале года акции компании упали на 16%, несмотря на 33-процентный рост дивидендов в последнем квартале. Покупатель Datadog оценивается в 44 миллиарда и специализируется на SaaS-платформах для мониторинга производительности и облачных приложений. Сделка ожидается, что может состояться через несколько недель. При этом компания работает, все сотрудники работают удаленно. Собственно, сейчас мы видим, что активность в сфере слияния и поглощений в технологическом секторе растет. В частности, из-за развития искусственного интеллекта и облачных вычислений. Я думаю, что просто мое мнение, что DataDog покупает Не только кэшфлоу, он покупает 30 миллионов зарегистрированных пользователей и клиентов, то есть покупает пользователей и клиентов для того, чтобы повысить свою капитализацию. Это стандартная история, когда вам сложно показать основной рост на ключевом рынке, вы покупаете кого-то на смежном рынке, добавляете ее в свои активы и показываете своим акционерам повышение капитализации и получаете на этом гигантские бонусы. Вот, это стандартная история. Так растут большое количество крупных компаний. Так растет Microsoft, так растет Google. Ну, собственно говоря, так растут и компании поменьше. Вот, на этом все. Спасибо за внимание. Желаю всем новых крупных контрактов и до скорой встречи.