Além do GPT: Análise de Dados e Previsão com IA (Previsão de demanda, Machine Learning) Workshop 2/6

Beleza. Agora, gente, eu vou mostrar aqui para vocês, tá? Tem um site aqui, quem quiser acessar, chama Kumo. K-U-M-O-R-F-M. Kumo, tá? Então, qual que é o conceito aqui? Saindo agora do ChatGPT, saindo de uma aplicação mainstream, consumidor, tá? A Kumo é uma startup que eu conheci lá nos Estados Unidos, Eles desenvolveram um modelo com essa arquitetura que eu acabei de explicar para vocês ainda, que é uma arquitetura de transformador, vamos chamar assim, que ela consegue pôr atenção, por mecanismos de atenção, ver várias coisas ao mesmo tempo. Eles desenvolveram um modelo que, ao invés de ficar analisando como fazer poesia para a gente, eles pensaram: "Pô, vamos pegar isso aí para analisar dados, correlação entre dados." Essa aqui é a primeira demo que eu quero mostrar para vocês. De como modelos de IA não são só ChatGPT e que você consegue fazer coisas úteis com eles, coisas diferentes e que a criatividade é o limite, praticamente. Então, o que o Kommo faz? Vocês conseguem logar aí, é gratuito. Quem quiser testar, você consegue logar, consegue até usar a API deles gratuitamente. Então, é uma startup que está começando também e eles inventaram isso. Basicamente, o que eles treinaram? Eles pegaram um montão de dados, E eu baixei aqui os exemplos deles mesmos para mostrar para vocês. Eles pegaram um monte de dados, tá, como esses aqui. Esse aqui, por exemplo, é uma tabela de usuários, tá. Eles pegaram um montão de dados sobre várias coisas com correlação entre si. Então, por exemplo, dados de e-commerce, que aqui é a demonstração, como que esses usuários performaram compras durante muito tempo. Então, eles precisaram capturar muito dado para conseguir fazer esse treinamento. Então, aqui no caso, a tabela de usuários deles só tem usuário se ativo e a idade e o ID desse usuário. Eles têm as compras desses usuários também. Então, aqui eu teria o que o usuário comprou, qual item ele comprou, a data, o preço. E eu tenho uma tabela também do que são esses produtos que tem os IDs lá, da compra dele, eu preciso saber o que é também. E aí, o que o Como faz? Se vocês entrarem lá, aqui o meu já está em português, ele não tem tradução, mas se você clicar com o direito consegue traduzir para português, no Chrome ele funciona gratuitamente a tradução, e aí vocês conseguem entrar aqui no Playground que ele traduz para parque infantil e você consegue testar. E aí você consegue testar aqui o que que esse modelo faz, tá? Então eu acabei de mostrar para vocês um exemplo. Se eu perguntar para o ChatGPT alguma coisa sobre a minha empresa, ele não vai saber. Vamos supor que eu jogo aquele CSV ali para o ChatGPT. Eu tenho o CSV ali, é 20 GB, eu acho que tem, não sei se são milhões de linhas, mas são muitas linhas que tem ali naquele CSV. Eu joguei aquilo tudo lá. Vamos supor que o ChatGPT aceita. Eu nem sei se aceita por causa do tamanho do arquivo. Vamos supor que ele aceita. Lembrem o que eu expliquei sobre a multi-atenção. Esse arquivo, esse tsunami de informação vai entrar dentro desse modelo e vai passar, vai fazer uma passada por todos os parâmetros lá que a gente falou. E aí ele vai tentar entender aquilo ali de alguma forma. Certo? Ele já viu algum dado desse antes? Viu. E ele vai no final, vai tentar computar alguma resposta. Que resposta vai ser essa? Não sei, porque ele não vai mostrar pra gente. O que ele vai responder pra gente num CSV? Ele vai ficar pensando: "Pô, se a galera me mandou um CSV aqui de 1 GB, o que eu vou fazer com isso aqui? Eles são malucos, né? Não tenho como calcular isso aqui, é coisa de doido. É muito dado, cara." Seria bom se ele respondesse isso, mas ele não responde. Ele vai falar: "Massa, recebi seus dados." É isso que ele vai falar, porque ele é feito para positividade. Então, beleza. Então, se o ChatGPT consegue captar isso, por que eu não posso confiar nele? Ou se vocês já testaram, já tentaram, por que eu não posso simplesmente subir um CSV dos dados da minha empresa lá, das compras, das vendas, do financeiro, do fluxo de caixa, qualquer coisa? Eu não posso simplesmente subir lá e confiar no que ele vai me falar. Primeira coisa, Você não tem controle, você não sabe como que esses dados estão sendo armazenados lá. Eu não estou nem falando de LGPD, eu estou falando de o ChatGPT, ele subiu isso através do aplicativo do ChatGPT e pode ser que ele tenha guardado isso no banco de dados. Esse banco de dados de IA, ele chama, é um banco de dados vetorial, a galera conhece como RAG. É uma técnica, uma estratégia para você conseguir pegar esses dados para essa IA e ela conseguir consultar lá de uma forma mais fácil do que simplesmente ficar no histórico do chat dela. Acho que eu estou entrando na parte muito técnica, mas só para contextualizar vocês que a gente não sabe exatamente o que ela está fazendo com aquele dado ali, é uma coisa fora do controle. Mesmo se nós soubéssemos, mesmo se eu peguei um aplicativo, fiz com API ali, entrei no OpenAI, peguei uma API, fiz um aplicativo aqui, ó, tá aqui meus dados. "Me fala um input aí, me fala uma ideia aí." Ela vai tentar, certo? Mas a capacidade dela de conseguir ver esse montão de dados é limitada. Por quê? É muita informação passando, certo? E ela vai ter, sim, o mecanismo da multiatenção que eu falei, só que isso não consegue captar de uma forma rápida e automatizada a correlação entre todos os dados. Então, cada uma das vírgulas que você manda num CSV para ela, ela vai fazer uma computação, essa multiplicação, milhares de vezes. Agora imagina um CSV gigantesco, muitas vírgulas, muitos números, muitas coisas. Ela vai computar isso muitas vezes e ela vai começar a viajar na maionese. O final, o output disso não é nada utilizável. Ela vai inventar alguma coisa, porque ela ficou maluquinha com o que você tentou passar para ela. Então, qual a solução para isso? Você tem que desenhar modelos que podem sim utilizar a mesma estratégia de multi-atenção, um modelo transformer, você pode fazer isso, só que você precisa construir ele de uma forma que ele saiba lidar com esse dado. Então, é um treinamento específico, ele não é um treinamento genérico de linguagem. Então, foi isso, contextualizando, foi isso que o Kumo fez, essa galera aqui dessa startup fizeram. Então, o Kumo, ele— Ele é uma inteligência artificial que é mais fácil de se lidar com o volume de dados, com essas CAPs de grande volume de dados. Eles, literalmente, eles ensinaram o modelo deles a lidar com isso. Eles fizeram bilhões e bilhões de operações no treinamento deles para mostrar: "Ó, tá aqui um CSV de 1 mega." "Olha, faz a correlação disso aqui." Aí você vai lá, aí ela te dá o resultado. E aí eles falam: "Tá certo ou errado?" E faz isso bilhões de vezes até que o modelo aprenda, tá? Então existem várias técnicas para você fazer isso. A gente vai falar daqui a pouco, bem brevemente, sobre. Mas para demonstrar aqui sem mais delongas o que esse modelo consegue fazer, então ele tem todos aqueles dados do CSV que eu mostrei para vocês e ele tem aqui umas sugestões do que eu posso fazer. Então, por exemplo, a previsão de demanda. Eu vou pedir aqui para fazer uma previsão de demanda agora, tá? Pronto, foi. Então ele rodou já a previsão de demanda naqueles CSV gigantescos e A galera do Como foi maneira e eles pensaram: "Pô, se eu só jogar isso aqui pra galera sem fazer uma explicação, a galera não vai entender. Eu vou dar só uns números aleatórios aqui pra eles que, enfim, sei lá o que ele quis dizer aí, mas não é um negócio muito útil pra você que quer testar o modelo, certo?" Então o que eles fizeram aqui? Eles fizeram esse modelo que eu acabei de explicar pra vocês, ele fazer os cálculos, as multiplicações e jogar no modelo de linguagem, que vai falar nossa língua. No caso aqui, está falando em inglês. Mas eu vou tentar traduzir aqui. Então, temos aqui trabalhando dois modelos, tá? Nós fizemos um pedido para o modelo do Kumo. Então, fazer uma previsão de demanda, tá? E ele fez aqui o cálculo e ele me deu um output. Então, eles treinaram esse modelo de cálculo e eles treinaram o modelo de linguagem que conseguisse entender o que esse modelo de cálculo joga, o que ele gera. E aqui vocês podem testar, brincar, fazer outras coisas. Rotatividade de clientes, o churn, que todo mundo, principalmente o pessoal que trabalha com produto físico, mas também serviço, também se preocupa. Então, aqui ele acabou de fazer um cálculo, porque ele tem todos os dados de que clientes que eles ficaram inativos, Quando que o cliente comprou? Então, se eu sei quando que os clientes compraram a última vez e agora eu sei que ele está inativo, eu consigo cruzar esses dados. E é isso que esse modelo está fazendo. Ele está cruzando. O modelo prevê que o usuário 42 não fará nenhum pedido nos próximos 90 dias, com alta probabilidade de certeza, 88%. Então, é uma IA probabilística científica, galera. Não está fazendo uma paradinha só de LLM, de ChatGPT. Eles realmente colocam isso aqui para que você consiga utilizar, por exemplo, um forecast. Preciso fazer um fluxo de caixa. Então vou fazer um cálculo aqui e eu preciso saber a probabilidade. Não pode ser um negócio que eu não sei, estou gerando ali, sei lá. Então essa aqui é a primeira demo. Convido vocês a darem uma olhada. Alguém quiser perguntar de como é que funciona modelos probabilísticos? Não? Tá. Então o modelo aqui é gratuito, tá? Vocês podem testar ele bem fácil aí e subir qualquer dado. Ele foi treinado para conseguir você jogar os dados que você tem e ele já conseguir entender, chama zero-shot, seria entender rápido. Ele foi treinado para entender muito rapidamente a correlação dos seus dados. Então eu tenho dados ali de compra, de venda, eu quero fazer uma previsão agora, eu consigo subir isso aqui E ele já entender isso e me falar a previsão. Nessas duas últimas 10 páginas, mais dado dessa, agora ele consegue, com o modelo científico, um pouco mais apurado e trazer uma previsão um pouco mais realista. Sim, nesse caso, com certeza, o engenheiro de dados, ele tentaria trabalhar com um contexto de dados. Então, você teria que analisar, por exemplo, o ano inteiro, de como que foi a atividade desses clientes, né, e tentar fazer agrupamento. E é isso que esse modelo faz, a gente não precisa fazer um aplicativo, para fazer isso, porque o modelo faz sozinho. A gente só precisa subir os dados em CSV e esse modelo consegue ver a correlação. E aí você consegue fazer essas queries aqui, né? Então é como se fosse uma continha ali do Excel e ele vai te dar um resultado e fazer essa análise também. Provavelmente, nesse caso, ele vai descobrir que existem alguns indicadores. Que a gente não consegue ver, porque é uma montanha gigante de dados. Só que esse modelo ele foi treinado para conseguir ver isso. Então, sei lá, pode ser que o indicador seja idade, ou pode ser que o indicador é o— ah, se o mês de julho foi bom, logo a Black Friday vai ser boa. Então você tem um indicador. Ele vai conseguir entender padrões ali com relação a dados. Exato, e tudo automático. Então Isso aqui é machine learning, é aprendizado de máquina. Quem já ouviu falar de deep learning, então aprendizado profundo seria, que é a técnica que é utilizada para fazer LLMs, modelos de ChatGPT que a gente usa. Essa técnica de deep learning, de aprendizado profundo, ela está dentro do machine learning, ela está dentro do aprendizado de máquina clássico que a gente usa há muito tempo, 30, 50 anos. Existe aprendizado de máquina desde a Segunda Guerra Mundial. Por exemplo, o modelo do Google Maps que fala e o modelo do Google Maps que prevê o tempo de trajeto. Então, quando a gente está dirigindo lá, a gente vê: "Pô, esse tempo parece que é um mundo à parte, esse tempo não passa, não sei o quê." Tem um modelo de machine learning ali bem pequeno, não é muito custoso, então eles conseguem rodar isso nos aplicativos e ele consegue fazer esses cálculos e recálculos várias e várias vezes para conseguir te dar uma previsão e novas previsões de horário de chegada, por exemplo. Isso é aprendizado de máquina clássico. Temos então novos tipos de algoritmos que entram no aprendizado profundo e temos outras formas também. O que a galera do Como fez foi: vamos juntar essas duas coisas. Vamos fazer um modelo de linguagem, mas que a linguagem deles são números e não poesia. Algumas descrições, por exemplo, para saber quanto tempo tem de viagem na região. Ou ele traz para ti o resultado sem que tu tenha essa interação com ele? Aqui no Playground você não vai conseguir, porque eles fizeram uma demo aqui simples, mas no código você consegue. Aí você teria que fazer o seu aplicativo para fazer essa manipulação das features que você precisa. Mas é bem possível sim. Eu fiz um projeto já com eles, participei de um hackathon lá, E enfim, é um modelo bem legal porque ele tem dentro dele, ele tem meio que múltiplas funções. Você consegue, por exemplo, fazer uma análise de tempo seriado sozinha, separado dessa, das outras coisas que ele faz. Então eu tenho dados aqui de tempo e aí eu consigo colocar esses dados de tempo numa linha logarítmica e a gente consegue fazer uma análise dele. Então o dado e o tempo e a gente consegue fazer essa análise de previsão com ele. É uma função que não está clara aqui, mas que tem na API deles. Então, você consegue utilizar como ele é... Não quero divulgar, não trabalho pro Chrome e tal, mas é uma ideia de coisas bem interessantes que eu gosto de divulgar porque são startups e a galera tentando fazer coisas diferentes. A gente da Monistate faz treinamentos de modelos assim. Então, a gente está conversando, por exemplo, com uma empresa a Unifiq, que é de fibra, a empresa de fibra aqui da região e tal, justamente para esse tipo de problema. A gente precisa calcular como que é o churn, vamos tentar prever. E aí um modelo desse aqui poderia funcionar, mas a gente vai precisar fazer engenharia de features primeiro, porque eles não sabem ainda qual que é exatamente a correlação das coisas. Então depende do caso aí que você usaria, mas são soluções utilizáveis. Bem utilizáveis e trazem, se você conseguir fazer um trabalho massa, ela consegue trazer um grau de certeza bacana. Mas enfim, é tudo público, o como é público e depois a gente pode conversar mais.