Как обезопасить бизнес разработки от пагубного влияния AI

Всем привет. Меня зовут Дмитрий Роденко. Я основатель сообщества SaaS Founders. Помогаю фаундерам IT-компаний находить новых крупных клиентов с помощью лиды генерации в LinkedIn. Сегодня мы поговорим о том, как обезопасить бизнес по разработке софта от пагубного влияния AI. Вы не ослышались. Дело в том, что влияние AI не вполне однозначное. Дело в том, что, с одной стороны, искусственный интеллект становится все более и более важным, мы полагаемся на него все больше и больше. С другой стороны, существуют определенные риски, которые несет AI в нашу жизнь, в частности, в бизнес-сфере разработки. Поэтому я предлагаю вам, нам с вами рассмотреть, как, с одной стороны, воспользоваться преимуществами искусственного интеллекта, а с другой стороны, не поставить свой бизнес под угрозу исчезновения. Откуда, собственно, берутся риски, связанные с искусственным интеллектом? Ну, в частности, по версии Гартнер, AI вошел в топ-10 рисков. по результатам последних исследований. Почему? Какие вообще существуют риски, связанные с генеративным искусственным интеллектом? Первый пример — это так называемые галлюцинации. Это когда инструмент искусственного интеллекта при анализе киберугроз сгенерировал сообщение о важной атаке. И поскольку это сообщение было неточным, оно вызвало панику среди этих персонал и компаний, что привело к ненужным мерам безопасности и затратам. То есть был некий паттерн, я его проанализировал, проанализировал неточно, и, соответственно, это привело к некой галлюцинации, к сообщению о том, чего реально не было, но что было воспринято как некую угрозу. Такое также может быть, потому что это модель. Модели могут ошибаться, и это нормально. Второй аспект, он достаточно важный и возможно для многих компаний ключевой. Это нарушение прав интеллектуальной собственности. Что здесь имеется в виду? Дело в том, что не весь массив данных, который находится в открытом доступе, открыт в доступе с правом использования. Что я имею ввиду? Если текст опубликован, вы имеете право его прочитать. Но совсем не обязательно, что автор, который этот текст опубликовал, дал нам с вами право переиспользовать этот текст в создании своего софта. Соответственно, Автоматическое использование широких баз данных без нужного уровня доступа приводит, например, фрагменты кода, открытые различные материалы исследования и так далее. надлежащего лицензирования разрешения может привести к судебным делам и штрафам это процесс уже начались потому что ассоциации владельцев авторских прав с удивлением скажем так это же так авторы определенных кодов текстов исследований с удивлением находят результаты своей работы в выдаче, собственно говоря, искусственного интеллекта. Ряда выдач искусственного интеллекта, да? Притом, что прав на использование этой информации они не давали. Видите, сложный мир. Видите, нарушение прав интеллектуальной собственности в принципе может достаточно серьезно подрезать подрезать индустрию. Ну, в частности, если вы посмотрите на выдачу Bing сейчас, Bing сейчас делает очень четко, он говорит, на ваш запрос вот есть такой набор данных и вот набор ссылок, откуда это взято. То есть они стараются подстраховаться в этой истории. Chat.jpg пока себя так не ведет. Третий аспект очень важный, откуда берутся риски, это конфиденциальность данных. Например, социальные сети могут использовать AI для подбора рекламы для пользователей, исходя из анализа их поведенческих характеристик. Куда они ходят, что они кликают и так далее. В то же время, если информация об этом анализе попадет в руки третьих лиц из-за нарушения безопасности, это может привести к разглашению личных данных пользователей и нарушить правила конфиденциальности. Ну, в частности, широко известен пример компании Samsung, где пользователи, сотрудники компании использовали конфиденциальную информацию, задавали запросы искусственному интеллекту, базируясь на конфиденциальной информации. И эта конфиденциальная информация потом была использована при генерации ответом другим пользователям, которые не касаются самой корпорации. Это привело к утечке данных. И это было, на самом деле, достаточно больно для корпорации, что привело к изменению неких корпоративных политик. Но про это мы поговорим немножко позже. Ну и другая история, это быстрые инъекционные атаки, когда хакеры могут манипулировать ответами открытого генеративного искусственного интеллекта, чтобы изменить рекомендации по киберзащите, по определенным линиям поведения. И это тоже может привести к принятию людьми неправильных решений, ну вот, ну и, соответственно, к увеличению определенных рисков, да. Так, соответственно, чтобы уменьшить угрозы, что нужно делать? Если вы видите, что для вашего бизнеса, с одной стороны, использование искусственного интеллекта объективно необходимо, и это абсолютно правильно, а с другой стороны, несет в себе некие скрытые риски, нужно разработать некую корпоративную политику для уменьшения угроз. С одной стороны, у нас уже есть ряд клиентов, которые их клиентам предлагают так называемые локальные Local Language Models, LLM, то есть среды, которые используют все богатство моделей искусственного интеллекта, но они не отдают информацию вне ту, которую они получили. То есть они анализируют, но не отдают обратно. Это один из вариантов. В другой момент, даже если вы используете искусственным интеллектом с открытым доступом, изучите, как работает система, введите некие правила по гигиене данных. То есть, что можно отдавать искусственному дилекту, что нельзя. Ну и как бы следите за этой историей, старайтесь банально хотя бы задекларировать эту историю, чтобы люди понимали вообще существующие риски, проведите тренинги, обучите, что можно, что нельзя и какими моделями как можно пользоваться, а какими нельзя. Многие компании, крупные корпорации, так сказать, рубанули шашкой, отвлечая и сказали, все, поскольку нам непонятные риски, связанные с искусственным интеллектом, давайте мы на уровне корпорации запретим эту историю, а что там делают сотрудники в личном своем пространстве, это их личный вопрос. Ну, с одной стороны, как бы очень резкий подход, который, собственно говоря, обрезает самим компаниям возможности для развития, потому что даже по исследованиям Harris Paul, 49% бизнес-лидеров считают неотставание от конкурентов в инновациях своей главной задачей. А если бы запретили AI, искусственный интеллект, как одну из наиболее прогрессивных технологий, о каком неотставании им может идти речь? Да банально, вы отстанете, да? Опять же, с помощью искусственного интеллекта автоматизируются операции, увеличивается производительность. То есть можно экономить сотни часов еженедельно на повторяющихся задачах. Опять же, можно интегрировать корпоративные данные. поавтоматизировать сложные задачи, как создание контрактов, подготовка ответов клиентов и так далее. Но, опять же, здесь важен баланс. То есть, если это делается, это должно делаться безопасно, либо на локальные модели, либо с определенными правилами, выработанными в определенной корпоративной политике. Соответственно, поскольку популярность искусственного интеллекта, его внедрение постоянно растет, нам нужно его внедрять, да, соответственно, нужно внедрять его в наш бизнес, но с другой стороны, нам нужно сбалансировать риски и обеспечить его этичное использование. Для этого логично было бы внедрить корпоративную политику, просто продумать некие принципы, чем мы делимся, чем мы не делимся, как мы используем, что мы делаем, что мы не делаем, да, и донести это своим сотрудникам, обучить их корректному использование искусственного интеллекта для того, чтобы не подвергать компанию дополнительным рискам. Надеюсь, подобная информация была для вас полезна. Дальше будем продолжать подсвечивать разные интересные аспекты работы с искусственным интеллектом, с, так сказать, с фронтира современных IT-технологий. Подписывайтесь на наши каналы в социальных сетях. До скорой встречи. Пока-пока.