Стоп-кран для AI: зачем останавливать прогресс

Всем привет. Меня зовут Дмитрий Роденко. Я основатель сообщества SaaS Founders. Помогаю фаундерам IT-компаний находить новых крупных клиентов с помощью лидогенерации в LinkedIn. Сегодня мы поговорим о такой важной теме, как остановки, предполагаемые остановки развития искусственного интеллекта. В частности, компания McKinsey недавно представила обширное исследование, посвященное прогнозу будущего экономического влияния искусственного интеллекта. Цифры ошеломляют. Оценивается, что стоимость глобальной экономики, благодаря генеративному искусственному интеллекту, может повыситься на примерно 2,6 от 2,6 до 4,4 трлн долларов. Мы можем сказать, стоимость много это или мало. При общем объеме мировой экономики в 100 трлн долларов, 2.6-4.4% это выше среднего роста мира. То есть один только искусственный интеллект может сгенерировать столько же добавочной стоимости, столько же роста, скажем, как и все остальные заводы, пароходы и прочее. То есть, искусственный интеллект является, по оценкам аналитиков McKinsey, значимым фактором, который влияет на скорость развития мировой экономики. Особенно это актуально в период рецессии, которую испытывают на данный момент некоторые страны и некоторые отрасли экономики США. Соответственно, с другой стороны, есть люди, такие как Илон Маск, такие как Стив Возняк, которые призывают поставить развитие ИИ на паузу. Они подготовили петицию и открытое письмо, с которым, собственно, я предлагаю вам ознакомиться. Исследования различного образа показали, помимо высокого роста, показали угрозу того, что мы можем потерять контроль над развитием общества, над развитием экономики именно благодаря неконтролируемому развитию искусственного интеллекта. Почему? Потому что сейчас отсутствует необходимый уровень планирования управления, который не контролируется, по сути, создатели не знают, какой будет результат от работы самого искусственного интеллекта. То есть, на сейчас эта система, использование которой, результаты использования которой не прогнозируемы. И, естественно, это несет определенные риски. Значит, естественно, искусственный интеллект уже конкурентоспособен в решении ряда задач. В связи с этим возникает ряд вопросов, этического свойства, которые многими недооцениваются. Например, можем ли мы допустить, чтобы машины заполняли наши информационные каналы пропагандой и ложью? Не секрет, что искусственный интеллект, в частности, ЧАДЖИ-5, генеративный интеллект, позволяет генерировать путем несложного обхода достаточно талантливые тексты, которые могут манипулировать определенной информацией. Второй момент. Следует ли автоматизировать все рабочие места, включая те места, на которых раньше работали люди? Стоит ли развивать интеллектуальные способности или нечеловеческие интеллектуальные сущности, которые в конечном итоге могут превзойти, обойти заменить нас? И готовы ли мы рискнуть потери контроля над нашей цивилизацией? Видите, то есть вопросы от экономических и этических переходят на антологический уровень, то есть на уровень существования самой цивилизации. Именно поэтому такие значимые люди задают подобные вопросы. Соответственно, авторы обращения, о котором мы говорили, призывают все лаборатории искусственного интеллекта немедленно приостановить обучение более мощных систем, чем GPT-4, как минимум на 6 месяцев. Эта пауза должна быть открытой и проверяемой с участием всех ключевых участников. В случае невозможности быстрого введения такой паузы правительства должны вмешаться и установить мораторий. Лаборатории искусственного интеллекта и независимые эксперты должны использовать этот период для совместной разработки. Внедрить общие протоколы безопасности, которые улучшат проектирование и разработку системы искусственного интеллекта. Эти протоколы должны проходить тщательную проверку, контроль независимыми внешними экспертами. Естественно, они должны быть безопасны. Естественно, что это шаг назад от опасной гонки. в создании непредсказуемой модели черного ящика. Вместо этого предлагается сосредоточиться на разработке прозрачных моделей, которые несут меньше рисков и имеют строго контролируемые возможности. Друзья, несмотря на то, что эта петиция уже собрала определенное количество подписей, мы четко, я понимаю четко очень простые вещи. Искусственный интеллект помимо то, что мы называем сейчас искусственным интеллектом, в частности, вот генеративные языковые модели, как ЧАДЖИ-5 и прочее, несут с собой сильную экономическую пользу. Мы оценили, она может быть достаточно значимая и сравнимая с влиянием всей остальной мировой экономики в целом, как бы странным это ни казалось. Ну, вот есть исследования, которые это подтверждают. где чат GPT, где большие заводы и так далее. В то же время, добавочная стоимость от него достаточно большая. С другой стороны, давайте посмотрим на ситуацию. Западный мир, который демократичный, который хочет работать по процедурам, пытаются договориться между собой о том, чтобы приостановить разработку искусственного интеллекта. Ребята, ну давайте не забывать, что не только западный мир существует, существует Китай, существуют страны третьего мира, которые также ведут разработку своего искусственного интеллекта. И они с западом не согласятся, и они не будут прекращать, не станут на эту паузу. И даже если, предположим, это произойдет, и запад создаст некие правила для искусственного интеллекта, что можно делать, а что нельзя делать. Станы третьего мира и Китай этим заниматься не будут. Они будут решать свои задачи максимально коротким и эффективным способом. Поэтому остановка в развитии ничего не даст. Этические проблемы безусловно есть. И существует возможность манипулирования другими людьми с помощью искусственного интеллекта. Поэтому я думаю, лично я думаю, что эти проблемы должны решаться параллельно. То есть, да, надо увеличивать мощность искусственного интеллекта, и вот в конце концов давайте поставим эти задачи в том числе и искусственному интеллекту, то есть этического свойства, пусть он нам в этом вопросе в том числе и поможет. Пусть сгенерирует на основании массивов данных, которые мы сами используем, пусть он нам сам и предложат некоторые варианты. Мы их проверим, посмотрим, ну и, собственно говоря, выберем. Будем ориентироваться на принципы робототехники, которые связаны с тем, что роботы не должны вредить людям, и безопасность людей является для них на первом месте. Поэтому Как и оказалось, эта инициатива не была массово поддержана, в связи с тем, что она противоречит интересам ряда участников напрямую, то есть экономическим интересам участников, экономическим интересам мира, с одной стороны. С другой стороны, существуют третьи страны, которые никогда не будут останавливаться и наоборот будут пользоваться плодами этой остановки для того, чтобы увеличить свое влияние на мир. что в общем-то делает, даже один этот факт делает остановку невозможной, что со своей стороны не отменяет необходимости выработки тщательного этического кодекса, который будет контролировать искусственный интеллект, который будет встроен туда на уровне биоса, условно говоря, то есть что можно, что нельзя. для того, чтобы предотвратить возможные катастрофические последствия для общества и оставить необходимый экономический эффект. Я не исключаю, что искусственный интеллект в будущем могут приравнять к системе двойного назначения. Что я имею ввиду? А микропроцессор можно вставить в компьютер, а микропроцессор можно вставить в ракету. И точно так же микропроцессор будет управлять и компьютером, и ракетой. То есть ряд инструментов могут быть использованы в двойных целях. Я не исключаю, что определенные практики использования искусственного интеллекта могут быть запрещены, либо строго ограничены. Вот. И это, наверное, будет окей, потому что тем моральные принципы, та этика, которая выработана в обществе, в частности, она должна соблюдаться. Ну и, собственно говоря, мы должны жить в том обществе, в котором есть высокие моральные и этические нормы, которым стремятся все и люди и роботы. Вот, поэтому очень важно. Поэтому новые вызовы, которые дают нам значимые экономические результаты должны быть еще уравновешены определенной этикой, чтобы не создавать катастрофические последствия для общества и такие этические мины для нас и наших детей. Поэтому будет интересно, что вы думаете на эту тему. Что вы думаете по поводу возможности искусственного интеллекта и влияния искусственного интеллекта на экономику и общество? Напишите свои комментарии, подпишитесь на канал и следите за следующими выпусками моих обзоров. Всем крутого дня. Пока-пока.