Desmistificando a IA: Como o ChatGPT Realmente Funciona (Teoria e Prática) | Workshop Impact Hub 1/6

quase 3 meses no Vale do Silício. Cheguei no Brasil tem um pouquinho tempo. A gente abriu escritório aqui para a gente poder procurar empresas no Brasil para poder fazer treinamentos de modelos de inteligência artificial. A gente vai chegar lá, esse é o objetivo. A gente vai do básico, então, testando algumas coisas básicas, alguns modelos diferenciados que a gente pode encontrar na internet, até a gente chegar num treinamento mais completo, que aí quem tiver com computador, quem quiser rodar, quem não tiver, quem tiver Python, tem aqui um cientista de dados, ele vai ter Python já. Quem não tiver Python pode instalar um Python que a gente vai usar. Beleza? Quem quiser escanear esse QR code, mas depois a gente vai mostrar de novo, a gente está fazendo gratuitamente uma análise das empresas. Então a gente roda nossos modelos, a gente faz uma análise reuniões para ajudar as empresas a encontrar como utilizar, como usar a inteligência artificial para os problemas delas. Então, qual que é o objetivo hoje que eu gostaria que vocês saíssem daqui sabendo? Duas coisas. Então, que IA é muito mais do que só um modelo de linguagem e que já consegue criar coisas realmente que funcionam, coisas reais e úteis para o negócio de todo mundo. E que criar uma IA personalizada também não é um negócio, um bicho de 7 cabeças. A gente hoje, quem tiver com computador aí, vocês vão ver na minha tela, quem tiver com computador a gente vai conseguir rodar um modelinho, um treinamento customizado de um modelo de IA no computador da galera. Então essas duas coisas que eu gostaria que todo mundo conseguisse entender hoje, quem não conseguir é só falar, não sou professor, mas vou tentar aqui passar o que dá. Então, aqui é nosso disclosure. A Monistage é uma startup de treinamento de inteligência artificial. Então, claramente, nós vamos sempre pender para treinamento. Personalizar o modelo de inteligência artificial vai ser melhor do que usar um modelo genérico. Monistage é financiada por investidores privados lá no Vale do Silício. Não temos afiliação com nenhum venture capital ou empresa de investimento no Brasil. E também esse workshop não é patrocinado por ninguém além da Monestate e Impact Hub que está cedendo pra gente o espaço, a divulgação e tudo mais. Beleza? Então a gente vai fazer em 3 partes: uma entrada, um prato principal e uma sobremesa, como eu falei. Vamos usar um ChatGPT, todo mundo deve ter ChatGPT ou consegue utilizar aí no navegador. A gente depois vamos abrir alguns sites que aí vocês podem fazer login com o Google de vocês. De novo, não temos afiliação nenhuma com esses sites, então... E sobremesa a gente vai fazer um treinamento bem rapidinho no computador aí de quem tiver com computador. Beleza? Então vamos começar? Mentira, não vamos. Antes de mais nada, Ana Lara. Boa noite, gente.

Acho que eu vou usar o microfone porque... Oi, tudo bom, meu? Sejam bem-vindos. Eu acho que eu tô vendo mais buchinhos conhecidos do que pessoas que eu ainda não conheço. Então, quem já tinha ouvido falar particularmente desse evento aqui? Pode levantar a mão. Acho que todo mundo familiarizado, né? Então, falando um pouquinho mais desse evento aqui especificamente, ele vai fazer parte, ele tá fazendo parte de uma jornada que a gente quer criar de trazer alguns eventos de IA trarei para o nosso espaço Impact Hub e BioIT. Então aqui nessa entidade a gente pretende montar alguns eventos, né, principalmente no começo de 2026, voltados nessa temática, principalmente com a intenção de desmistificar a indústria de inteligência artificial nesse lugar, né, do trazer praticidade para a vida das empresas, dos empreendedores, e tirar essa ideia de que é muito difícil de fazer. Então fiquem de olho que além desse workshop que a gente tá fazendo em parceria com a Lonestate, a gente pretende trazer alguns outros eventos aí nos próximos meses. E aproveitem muito. Eu acho que todo mundo aqui já utilizou um dos nossos espaços, né, pelo menos um dos espaços, dos 5 espaços que a gente tem aqui em Floripa. Mas quem tá participando desse evento também ganha uma diária gratuita, e aí vocês podem entrar em contato com a gente no WhatsApp, Hoje eu mandei uma mensagem para todo mundo, então todo mundo tem o número, mas também tem aqui no QR code. E a gente também tá com condições especiais para os planos de quem também tá participando do evento aqui hoje. E aí vocês podem me chamar lá para a gente conversar, vocês conhecerem melhor o espaço, se vocês já conhecem algum das outras unidades. E é isso, aproveitem a noite.

Obrigada. Beleza, então beleza, pessoal, vamos então começar. Eu acho que eu não falei meu nome, meu nome é Andrew, só para quem quiser saber. Vamos abrir o ChatGPT então, pessoal, ser bem prático. Tem uma rede aqui aberta? Tem, na Lara, é bio. Bewick Home. Bewick Home, sem simplifique. Beleza, quem tiver aí, quem quiser tentar no celular também, não tiver com computador, vocês fiquem à vontade. Bom, ChatGPT dispensa introduções, né, todo mundo se não usa já ouviu falar, mas provavelmente usa. Eles já estão com 800 milhões de usuários semanais. Hoje é o mega monstro aí da nossa área. Lá em São Francisco é um negócio que domina, não tem nem discussão, realmente uma situação complicada com a OpenAI. Então, o modelo mais recente deles é o 5.1, quem tiver acesso, e se não tiver acesso também não importa. Mas o que eu vou mostrar para vocês é— todo mundo já conversou, então não vou mostrar a conversa. Eu quero mostrar para vocês o que dá para fazer que é mais escondido. Explicar um pouco dessas funções, como que a OpenAI resolveu esses problemas. Porque o ChatGPT é uma aplicação, ele não é um modelo, ele é um aplicativo. Então, é um aplicativo monstruoso, lotado de diversos servidores e ele utiliza os modelos GPT-5, 4, qualquer um. Então, já para diferenciar o primeiro conceito para vocês, aplicativo diferente de modelo. A gente aqui vai testar funções que não necessariamente são do GPT-5, mas que a OpenAI deu um jeito de enfiar isso como ferramentas para que o GPT-5 conseguisse fazer essas tarefas. A primeira coisa que eu vou fazer, eu vou pensar numa empresa, uma empresa brasileira que tenha holding de investimento, alguma coisa assim. Alguma empresa brasileira. Alguém conhece alguma empresa brasileira que não seja listada na bolsa? Mas que seja grande. Nobody?

Não?

Cri cri. Hã? Ninguém faz a menina. Então vamos perguntar para o chat. Boa ideia. Então quais as maiores... Como? Conheço. A gente foi ontem na loja, né?

Boa.

Então beleza. Então a primeira coisa que eu vou fazer Aqui eles têm as tags, né? Então aqui são as ferramentas que você consegue colocar. Então aqui tem a pesquisa, tem a pesquisa profunda e outras coisas. Eu vou colocar a pesquisa aqui para que ela saiba já desde a primeira chamada de API que eu vou fazer que eu quero pesquisar. Vocês podem não colocar isso, que ela vai decidir lá se ela vai pesquisar ou não também, tá? Eu já vou colocar aqui porque eu já sei como que ela vai se comportar. Então vou colocar aqui. Analyze a empresa TextuLive e seus rounds de financiamento públicos, investimento ou qualquer informação que tiver disponível para sabermos quanto ela vale. Vocês podem pesquisar o que vocês quiserem, tá? Então aqui eu vou pegar um negócio financeiro, porque vai ser mais fácil a gente fazer uma análise aqui, que é o objetivo, mostrar para vocês o que o ChatGPT consegue fazer. Então, não conseguiu encontrar. Então eu vou— então vamos lá. Live site. É essa aqui, né? Live oficial. Ai, meu Deus, quantas coisas aqui. Vamos lá, é essa aqui. Então ela tá pesquisando. Fundado em 2002. "Capital inicial foi cerca de 100 mil, faturamento estimado 725 milhões." Ela tem aqui, ela está tentando descobrir quanto seria o valuation, quanto que essa empresa vale, com base numa ideia dela que é um múltiplo de receita. Beleza, não tem problema. Então já temos aqui um dado, eu anotei os prompts aqui, gente, para facilitar. E agora vamos estimar quanto eles vão captar de capital antes de virar empresa pública, uma coisa assim, tá? E aqui ela tá tentando me responder, tentando entender o que eu tô querendo. Olha, fez uma tabela aqui, capital estimado aqui que ela quer captar. E aí agora que vai entrar uma coisa diferente. Então, até esse momento, o que ela fez? Ela fez pesquisas na internet, E ela bota os links, né? Quando ela quer, ela bota o link ali e quando ela não quer, ela não bota. Mas a gente agora vai utilizar ferramentas que a OpenAI fez o código para que o ChatGPT conseguisse, que é, por exemplo, a ferramenta de rodar código. Então, ao invés de eu pegar esses dados, montar no Excel uma tabela, tentar fazer alguma coisa aqui, por exemplo, projetar o quanto que isso vai crescer, eu vou pedir para ele fazer. Agora transforme num gráfico 2D, log com grid. Bem bonito. Então, o que eu tô pedindo aqui para ele? Vou pedir para ele Olha só, ele não fez o que eu queria, olha só. Então esse modelo não está cooperando, tá? Então o que eu queria que ele fizesse, que ele não fez aqui, era rodar o código. Não quero em código, não, quero que você faça o código em Python bonitinho, cara. Vamos ver se ele vai seguir agora. Ele me deu o código agora. Olha só que interessante, o cara não tá querendo cooperar com a demonstração aqui. Gera o gráfico, pelo amor de Deus, estou no workshop. Tá difícil esse modelo aqui, tá difícil. Ele, em vez de me gerar o gráfico, ele foi procurar na internet. Um gráfico. Então, o que está acontecendo aqui? É uma coisa que, obviamente, todo mundo, se já tentou colocar AI em produção, já teve esse problema. É você conseguir fazer com que esse modelo siga suas instruções. E aí é quando você vai ter que fazer um prompt gigante, ficar alterando: "Por favor, não fale isso para o meu cliente. Por favor, fale isso. Por favor, não fale aquilo." Então, é o caso aqui. Eu vou tentar uma última vez, tá? Com os dados que você tem, faça um gráfico de projeção e extrapola quanto vai ser o valuation da Live em 5 anos. Agora, a teoria é que ela vai gerar o código, porque não tem como ela inventar isso aqui. Essa é a teoria, tá? Ela não quer gerar o gráfico, gente. Uma última vez. É, vamos tentar. Gera o gráfico, pelo amor de Deus! Vamos ver, talvez seja isso. Agora ela vai fazer. Isso é uma coisa também que você desenvolvedor, você consegue entender facilmente. Às vezes com alguma ferramenta diferente eles fazem roteamento para modelos diferentes ou prompts diferentes. Então aqui realmente ele conseguiu fazer. Agora sim, pelo amor de Deus. Obrigado pela dica. Meu Deus do céu, não sei nem que número é esse aqui. Seriam 3 bilhões? Acho que é isso. Então aqui ela está tentando fazer uma ideia, rodando o código realmente dessa projeção que ela fez. Se você clicar Se você clicar aqui, ó, nesse negocinho aqui, dá para ver o código, tá, que ela gerou esse gráfico aqui. A gente não vai ter muito acesso ao que ela pensou para chegar nisso aqui, mas a gente consegue ver o código, pelo menos, de como que ela gerou. E eu acho que o ChatGPT, ele bugou aqui agora. É, hoje não é um dia bom para o ChatGPT ou para mim. Certo, então quem sabia que o ChatGPT consegue rodar código, pessoal? Ele consegue gerar o código e consegue rodar o próprio código. Ai, pode deixar. E o outro sumiu aqui. Então, o que que tá acontecendo aqui? O modelo em si, o GPT, ele não tem essa capacidade, mas num processo de treinamento você consegue fazer que ele consiga seguir algumas instruções, e uma dessas instruções é: quando você descobrir que precisa fazer isso, você consegue acessar uma ferramenta identificada com uma chave específica. Essa chave específica, no caso aqui, vai ser uma chave para uma sandbox. Ele consegue acessar um computador, rodar um código, é literalmente uma VM, uma máquina virtual, ele consegue entrar nessa máquina virtual, gerar esse código, rodar e trazer o resultado para você, que foi o caso aqui. Então, ele conseguiu rodar e finalmente trazer isso aqui para a gente e ele acha que a live vai chegar em 3 bilhões aí em em 5 anos. Esse código foi gerado em Python, dá para fazer somente o gráfico ou faz a análise também do valor de mercado? Justamente, a gente não tem acesso porque ela decidiu os números. Se a gente ler o código, os números eles estão todos codados aqui. Então, a receita numa array, tudo certinho. Então, se você quiser alguma coisa mais trabalhada, você vai ter que utilizar o modelo na API, num aplicativo, por exemplo, Cursor ou qualquer outro aplicativo de código, que aí você vai conseguir ter um controle e pedir para esse modelo trabalhar para você. Então, por exemplo, eu não quero calcular isso manualmente, eu gostaria de fazer um cálculo com uma regressão linear, por exemplo. Aí ele vai te falar: preciso de mais dados, não tem dados, em teoria, senão ele vai inventar os dados também. E aí que está então a situação. Elas têm muitos poderes, conseguem fazer um montão de coisas, porém o dado e como que ela faz isso, ela sempre vai ser o quê da questão? Ela consegue gerar código? Consegue. Ela consegue rodar esse código? Consegue. Mas todos esses números aqui e isso que ela gerou aqui foi baseado numa pesquisa que ela fez no Google, no Bing na verdade, com títulos ali praticamente das matérias que ela conseguiu abrir. Então, a base de informação que ela teve, fora do que ela já sabe, como é um modelo novo, já foi treinado em alguma informação sobre a Live, fora então o que ela já sabe, é bem pouca informação que ela tem. Então, praticamente nada. Ela descobriu ali que em alguma matéria que eles foram projetados de faturar 700 milhões e daí ela inventou um monte de informação. Então, aqui a gente está em um contexto, é uma engenharia de dados, está faltando todo o contexto. Mas pelo menos a gente consegue ver, obrigado pela dica aí, tirando o search ali, que aí ela conseguiu gerar o código e rodar. Então, gente, para a gente seguir rápido, o que acontece? O que esse modelo faz? Dentro do modelo, vou tentar ser o mais breve e menos técnico possível, Esses modelos de linguagem, eles são treinados para poder conversar com a gente. Então trocar uma ideia, pensar, colocar alguma informação ali que você goste. Então a gente brinca lá na Morissette que é uma forma de conquistar. Então literalmente a tarefa desse modelo de linguagem, que também é um modelo probabilístico, ele é conseguir montar frases que elas tenham uma coesão e que elas fiquem bonitinhas e que sejam interessantes para a gente, certo? Como que isso acontece e como que foi feita essa descoberta? Alguns anos atrás saiu um paper do Google Brain, então um laboratório bem conceituado, falando sobre uma ideia sobre você utilizar multi-atenção dentro do modelo. Então, antes disso, todos os modelos eram sempre lineares. Eu precisava gerar um texto e aí ela ia gerar um por um. Ela ia gerar um, so, a, b, c, e ela ia gerando linearmente de trás para frente, tudo certinho. Então, por exemplo, a gente tem o Google Maps. A voz do Google Maps não é uma voz utilizando essa arquitetura nova. Ela é uma voz utilizando um modelo de CNN, então é um modelo antigo, que ela faz justamente isso, ela gera os áudios, por isso que é robótico, ela gera os áudios de trás para frente sem ter ideia do contexto de o que mais está acontecendo. Então, basicamente, o que a Galeni viu? Pô, então em vez da gente começar, aliás, continuar gerando as coisas linear, por que a gente não tenta fazer esse modelo olhar tudo ao mesmo tempo? E aí tentar ter um contexto. Então, por isso que chama O nome desse artigo científico se chama "Atenção é tudo o que você precisa". Por quê? Se o modelo consegue ver essas coisas tudo de uma vez, ele consegue correlacionar isso e calcular dentro dele a probabilidade do que ele precisa completar. Então, aqui, para simplificar, vamos supor que a gente mande um prompt para esse modelo com esse tipo de arquitetura que chama Transformer, então ele faz uma transformação. O modelo não virou Atenção, alguém não quis que o nome do modelo fosse Atenção, inventaram de Transformer. E então vamos inventar um prompt aqui: "gato sentou em um..." Esse modelo ele vai pegar isso e ele vai ver isso tudo de uma vez e vai processar dentro de tudo que ele já viu no treinamento dele para poder descobrir uma só coisa. Qual que é a próxima palavra, qual é o próximo token. Não vou entrar muito nessa parada de token, mas basicamente token é como que o modelo calcula as coisas, como ele multiplica e faz esse cálculo, é uma representação numérica. Mas então a tarefa dele é simplesmente pegar frases de input e tentar descobrir qual é o output delas. E é assim que é feito o treinamento de todos os modelos de IA modernos que vocês usam. Você mostra um montão de coisas para ela e aí você fala: "Me completa o que que falta aqui." E isso é feito muitas e muitas vezes, muitas e muitas vezes mesmo, bilhões, trilhões, quatrilhões de vezes, até que esse modelo consiga ficar pequeno e ainda assim ele consiga completar a frase. Então aqui nesse exemplo aqui, ela conseguiria com um certo grau de certeza pelo menos na ideia dela, ela conseguiria completar essa frase: "O gato sentou em um tapete. Onde mais o gato pode sentar?" Sofá? Qualquer outra coisa? Pode ser. Mas ela viu em algum lugar no treinamento, ela leu algum livro ali no treinamento dela, ou algumas vezes, que falou isso aí. Tem aqui alguns outros exemplos, né, do Brasil aí: "De grão em grão a galinha enche o..." Aí, obrigado, participação. Nesse caso aqui, né, a acuracidade dessa previsão seria 100%, porque não tem como outra palavra se encaixar ali. Mas ainda assim, todas as multiplicações aconteceriam da mesma forma, porque o modelo não consegue pular. Então você tem um treinamento gigantesco de bilhões, trilhões, quadrilhões de parâmetros, de informação que ele pega e guarda para poder responder de grão em grão. A galinha enche o quê? O papo. Então o modelo ele funciona dessa forma, tá? E agora, se o modelo ele pensa em probabilidade, então qual que é, como é que eu vou completar isso aqui para responder para essa pessoa? Quando você pergunta alguma coisa que ela não tem o contexto, como a gente acabou de fazer ali no negócio da live, o que que vai acontecer, tá? Então se eu perguntar para o ChatGPT agora, eu tô aqui no workshop aqui com a galera do Impacto Cerebral, quanto que eu vou vender hoje aqui essa galera aqui? Ele vai me falar o quê? Qualquer coisa lá. Ele pode falar muito, ele pode ficar inventando: "Ah, vamos, se você conversar com a galera e fazer isso, fazer aquilo, pode ser que você venda muito, não sei o quê." Se a gente for olhar dentro dos log-probs, que seria como que esse modelo calcula as probabilidades dele, ele muito provavelmente, as probabilidades dessa resposta que ele escolheu para dar pra gente, ela vai estar próxima de 50%, porque ele não faz ideia do que a gente está fazendo. Ele não faz ideia do que é Monistate, não faz ideia de nada. Não sabe nada sobre nós. Então, a probabilidade de certeza dele vai ser muito baixa. Isso que ele vai logar. Mas para a gente que está lendo, vai parecer que ele está super certo. Certo? Por quê? Ele viu no treinamento dele, de alguma forma, alguém, algum feliz amigo lá na OpenAI mostrou esses dados para ele, mostrando, por exemplo, sobre dados de venda, coisas assim. "Como que é essas respostas?" E aí a gente começa a entrar em bias também. Então esses dados, tendenciosidade. Esses dados são muito tendenciosos. O que esse modelo te responde, como é que ele vê o mundo, como é que ele lida com as coisas? De acordo com o que ele foi treinado. E quem é que escolhe o que foi treinado? Pessoas. Então, por que o ChatGPT vai inventar as coisas para a gente? Alguém escolheu o que treinar E somado com isso, a própria arquitetura do modelo é feita para isso, para poder tentar te completar independente se ela está certa ou não. A única tarefa dela é conseguir fazer esse cálculo para te dar alguma resposta. Ela não quer ficar sem resposta, ela quer te dar uma resposta. Então, o quê da questão aqui, e é uma das principais descobertas, breakthroughs, que vários laboratórios estão trabalhando, É como trabalhar essa incerteza, porque ela é uma incerteza medida, ela não é uma incerteza que a gente não sabe. O modelo literalmente faz muitos cálculos, tudo isso aqui ele fica calculando para poder encontrar qual seria a próxima probabilidade e encontrar no mundo lá de Oz dele qual seria essas próximas palavras que ele precisa te dar. Tudo isso, todos esses cálculos que ele vai escolhendo, ah, desse aqui ele escolheu para vir para esse, desse ele escolheu para vir para esse, tudo isso é logado. E no final, ela normaliza esse dado em um número. Então, a gente tem acesso a esses log-probs, que seriam basicamente o número percentual da incerteza para cada um dos tokens que ela gerou para você, cada uma das palavras que ela gerou para você, e a gente consegue fazer alguma coisa com isso. Então, foi com base nisso que a gente publicou um artigo científico. Quem quiser depois ler, eu posso mandar essa apresentação depois. Mas a gente publicou um artigo científico então que trabalha justamente nisso, que é como que a gente consegue utilizar a incerteza do modelo, então uma incerteza medida, não é uma incerteza que não é medida. O ChatGPT sabe quando ele não sabe, tá? Ele não é, tá alucinando ali, viajando maionese, não. Ele sabe lá dentro, a galera não foi tão burra assim, a galera conseguiu fazer isso aqui, é complicado, gente. A galera lá quando fez falou, vamos, ó, como a gente sabe que vai dar merda isso aí, "Ah, mas a gente vai ter que escolher os dados e tal, não vai ser tão fácil assim a gente conseguir fazer a escolha de tudo e conseguir prever tudo e tal. Vamos começar a guardar esses números, pra depois a gente faz alguma coisa." Então, basicamente foi isso aqui que a gente descobriu, a gente publicou um artigo científico baseado nisso. É uma coisa que dá pra aplicar em qualquer aplicativo. Então, se você já tem algum aplicativo em produção, que enfim, possa ser conversar com o usuário, está respondendo ali no WhatsApp para o usuário. Em vez do usuário, como aquela história que a gente ouviu, que tinha uma IA aqui da empresa que a gente conhece que estava falando para os clientes irem para um shopping que nem existe loja lá nesse shopping dessa empresa. Então, em vez do modelo ficar viajando e cuspindo essas coisas para os usuários, ele poderia simplesmente retornar esses dados, o que ele tem incerteza, quais esses percentuais de incerteza, para que ele saiba. Vai falar: eu gerei, agora há pouco eu gerei que a Elements tem uma loja lá no Beramar Shopping, mas cara, na verdade eu tava só 50% certo que tinha, então é chute, 50/50." E aí na próxima vez ela pode responder: "Olha, eu não sei se tem, mas talvez tenha." Então a gente já tem uma melhora aqui na resposta e na manipulação da incerteza, tá? É a solução? Não é solução. Existem muita gente com bilhões trabalhando em cima disso. Como chegar num ser que seria sentiente, um ser que seria completamente consciente da sua própria incerteza, do que ele faz, de como ele vê o mundo, tá? Então tudo isso se resume nisso aqui, na incerteza. Se ele consegue agora entender o quão louco ele está sobre uma coisa que ele está te falando, Basicamente: "Cara, eu não sei isso aqui." Isso é os maiores benchmarks hoje que tem no mercado de AI. Por exemplo, o ARC. Quem quiser pesquisar, chama ARC. O ARC hoje é o benchmark, é o teste de AI mais difícil do mundo, que todos os modelos têm um score bem baixo, bem ruim. Esse modelo é basicamente isso. É esse modelo conseguir trabalhar na incerteza dele. E se a gente consegue fazer esse modelo começar a saber o que ele não sabe, a gente tem um breakthrough aí do que realmente é possível fazer. Alguém quer perguntar alguma coisa? A partir de que probabilidade é considerado certeza? Depende da sua aplicação. Então, se você falar que é 97%, pode ser 97%. Mas cientificamente, o 50% é o chute. Então, ela não sabe, ela está chutando. Sim ou não, para ela tanto faz, né? Então alguma coisa ali, 60, alguma coisa assim, é bem ruim já. Aí é a análise da entropia, tá?