IA de Voz em Tempo Real: Criando SDR de voz em 5 minutos (Cartesia) | Workshop Impact Hub 4/6

relação com IA tá complicada. Beleza, pessoal? Então a gente vai agora para a última demo. Já são 8 horas, já passou uma hora. O ritmo tá legal, gente? Muito técnico? Pouco técnico? Não, tá medido direitinho. Tá. Se vocês quiserem fazer uma pausa aí, tomar uma água, vocês fiquem à vontade aí, pessoal. Última agora então, demonstração aqui de modelos diferentes de ChatGPT, tá? Eu vou mostrar para vocês. Quem aqui já pagou um desenvolvedor para fazer alguma IA de voz? Não? IA de voz, um chat para poder ligar para pessoa, SDR, atendente, mandar áudio no WhatsApp, qualquer coisa assim. Já viu? Beleza, pelo menos. Então, é basicamente, só Se você quiser fazer isso hoje, você vai ter que pagar um desenvolvedor. Esse desenvolvedor vai ter que entender arquitetura, vai ter que dar o jeito dele, dar os pulos dele. E como eu acabei de falar para você, eu que estou inserido com IA, eu já sinto essa parada da ansiedade, que é o quê? Meu Deus, está saindo muita coisa todo dia. Um desenvolvedor, vamos chamar de clássico para não chamar de legado, um desenvolvedor mais focado em programar como no tempo das pedras, como a gente fala, Programava manual ali, PHP, qualquer coisa assim, ele vai ter uma dificuldade de conseguir fazer essa migração. Não só porque é outro campo totalmente diferente da ciência da computação, que é aprendizado de máquina, mas também porque cada um desses modelos, arquiteturas, eles funcionam de maneiras diferentes. Então, você tem fora do Brasil desenvolvedores focados só em agentes de voz. No Brasil ainda não tem isso. O pessoal ainda não chegou nesse nível de especialização, mas lá você tem, você tem empresa, tem desenvolvedores, cara, eu só trabalho com TTS, eu só trabalho com não sei o quê, tá muito específico. E o que eu vou mostrar aqui para vocês, da mesma forma aqui do 3D, vou mostrar para vocês como fazer um agente de voz agora, tá? Bem fácil. Então, deixa eu abrir uma aba anônima aqui para mostrar o site. O site chama Cartesia, vocês podem jogar no Google. Cartesia.ai, tá? Nós vamos fazer um agente agora. Traduzir aqui. Então, meu Deus, deu algum problema aqui na tradução. Se vocês já falaram com o ChatGPT no aplicativo de vocês, vocês viram A latência, a velocidade é incrível, a voz é incrível. Pô, a galera gastou uma grana e um esforço ali. E realmente, hoje é uma das startups mais bem capitalizadas do mundo. Então, a gente está falando de só em São Francisco, acho que eles estão com 7 mil funcionários. É quase a cidade inteira. Então, a galera gasta muito tempo no desenvolvimento daquilo ali. Eu vou mostrar para vocês aqui um negócio que outra startup fez, Cartesia, uma startup bem bem investida também, acho que já receberam 700 milhões de dólares aí também. Então, não estamos falando de nenhum bicho pequeno, mas aqui uma galera focada em: "Vamos tentar ajudar a galera a utilizar essa ferramenta, a utilizar essa tecnologia de uma maneira fácil." A OpenAI do ChatGPT é diferente. Eles, por exemplo, eles nem disponibilizam os modelos da API para que a gente possa usar. A justificativa deles é que a galera vai construir aplicativos que vão se passar pelo ChatGPT. E eles não querem isso. Então, por isso que eles não liberam aquelas vozes ali, aquela tecnologia que eles utilizam no próprio aplicativo deles. Então fica claro para vocês o que é aplicação e o que é modelo. Modelo é o que a galera usa para fazer as aplicações. E dentro da OpenAI é a mesma coisa. Você tem divisões que são ChatGPT e você tem divisões que trabalham em pesquisa e divisões que trabalham também no desenvolvimento e aplicação, mas a engenharia de modelos também, que aí está mais ligada com isso que eu estou falando para vocês, que é a qualidade da voz. Enfim, cartesia.ai, loguem com o Google de vocês. Quem quiser fazer, vamos fazer um agente de IA nesse momento. É gratuito. Você loga lá, ele te gera um crédito. Eu acho que não precisa botar cartão de crédito, não tenho certeza. Mas beleza. Então você consegue, assim como ElevenLabs, a galera já deve conhecer ElevenLabs, é uma empresa concorrente europeia, ele deixa você também gerar um texto aqui, escolher as vozes. Só para mostrar aqui para vocês, eles também têm várias línguas.

Primeiro, verifique se o seu dispositivo está carregado e conectado à internet. Depois, abra o aplicativo e faça login. Cada pequeno passo o aproxima do seu objetivo. Mesmo que não pareça, seus esforços estão se acumulando a cada dia.

Continue.

Super, super agradeço.

Obrigado, Luana. Por que que isso aqui está natural, não está igual do Google Maps? Como eu falei sobre arquitetura, a galera inteligente, eles inventaram uma forma de mapear texto para como que um som soa em ondas. Então, isso aqui é um modelo de linguagem também. A mesma arquitetura que eu falei para vocês de transformer, a galera fez para funcionar com voz também. No treinamento, eles mapearam, em vez de mapear texto ou imagem, como a gente já viu no SAM, eles mapearam áudio. Então, o modelo consegue, conforme ele pensa, ele vai gerar, em vez dele gerar letrinhas para você, ele gera o arquivo de áudio. Então, bem resumidamente, bem simplesmente, como funciona o modelo de voz aí para vocês. E aí, claro, você pode treinar de diversas formas, diversos sotaques, enfim, o que você quiser. Então, sem mais delongas, dentro do Cartesian, vou traduzir aqui para português, tá? Dentro do Cartesian, do Cartesi aqui, vocês conseguem entrar aqui, ó, agentes de voz, tá? Alguém vai querer fazer agora? Vão querer? Eu vou querer. Top! Conseguiu logar? Agentes de voz ali na esquerda. Vou tentar excluir o meu aqui, senão não vou conseguir demonstrar. Ai, como é que exclui? Exclui! Eita! Todo mundo já conseguiu chegar nessa tela aí? Agente de voz aqui? Conseguiram? Quem quiser fazer aí. Eu só não sei qual o texto que a gente vai falar. Sim. Então, o primeiro quadradinho verde aqui é texto para agente, tá? A gente vai clicar. E aí a galera aqui, que é uma startup maneira também, Pô, vamos facilitar aqui, vamos colocar tipo uma interface tipo um GPT que a galera já está familiarizada. Então, vamos pensar outra empresa. Alguém quer fazer aqui uma empresa de qualquer coisa? Um agente para sua própria empresa, ó, ao vivo, vai sair nas redes sociais. Ninguém? Dou-lhe uma. Prospecto. Então é uma empresa de arquitetura Vamos colocar aqui: você é um agente... Não, vou escrever mais simples aqui. Agente da Prospecto Escritório de Arquitetura. Eu vou fazer no meu aqui, de propósito, sem contexto, para vocês verem o que vai acontecer. No de vocês, quem estiver fazendo, pode botar mais detalhes, tá? Vou botar um "general" aqui. Gerar. Generar é foda, né? Porra, ainda. Então, estou generando aqui. Tá, aqui no Generar ele já está generando um prompt para mim automático com base no que eu falei, tá? Então, enquanto ele está carregando aqui, eu vou deixar vocês fazerem, para vocês fazerem um prompt massa, tá? Podem fazer aí tranquilo, galera. Não vou apressar, não. Temos tempo aí, tá tranquilo. Enquanto isso, alguém quer perguntar sobre qual é modelo multimodal? Modelo multimodal é isso que a gente está mostrando, gente. São modelos que conseguem ir além da linguagem. Então utiliza a tecnologia da linguagem para poder extrapolar para outras ideias. Imagem, gerar imagem, gerar vídeo, analisar dados. O céu é o limite. A Cartesi aqui sim. A Como, aquela lá, eles têm API também. Você vai entrar no seu N8N e vai gerar uma conexão manual lá. Mas dá para... Como? Não, não, provavelmente não. São startups pequenas. A Cartesi não, a Cartesi é grande. Mas a Como é pequena. Alguém mais quer perguntar? Ninguém? Galera aí do fundão, tão quieta aí, galera. Pô, deixa eu ouvir a voz de vocês, fala aí alguma coisa. Tá aprendendo? Bah! Conseguiram fazer um prompt? Tão gerando já? Essa IA também trabalha com reconhecimento de voz? Ela só enxerga a voz? Tá. Vamos corrigir um pouco do palavreado, tá? Quando a gente fala tipo essa IA, a gente tem que diferenciar o que é empresa, o que é aplicativo e o que são os modelos. Especificamente com essa tecnologia de voz, são múltiplos modelos. Porque a galera ainda não conseguiu inventar muito bem, tentaram já, mas não funciona muito bem, um modelo que consegue fazer de ponta a ponta, entender o texto, transformar, pensar na resposta e gerar o áudio de volta para a pessoa. Isso seria um modelo ponta a ponta. Não funciona ainda muito bem, existem algumas ideias, mas ainda não funciona muito bem. Então hoje, especificamente, quando você fala de IA de voz, você vai falar aí de 3 modelos. Você vai ter um modelo que ele recebe um áudio e transcreve, certo? Então, se você entrar ali no ChatGPT, você tem um botãozinho ali de falar, que você fala e aí aparece o texto. Aquele ali é o Whisper, que é o modelo de transcrição da OpenAI. Esse modelo, beleza, é o primeiro modelo em qualquer agente de voz. Depois você vai passar para uma LLM, para ela pensar o que ela quer te falar. E, por último, o que eu falei, que seria um modelo que vai transformar o que a IA quer falar em ondas de som. Então, beleza. O que a Cartesi faz? Se você olhar aí na lateral aqui, você consegue ver, no site deles tem mais. Não está traduzindo, gente. Vou tentar traduzir de novo. Ah, foi. Então, eles têm texto para fala, que é a última etapa que eu acabei de falar dessa pipeline de voz, seria a última etapa, é chamada TTS. Text-to-speech. Você tem também um clone instantâneo, então você consegue personalizar essa IA de voz com a sua voz, por exemplo. Eu não vou divulgar muito porque parece que eu estou divulgando a empresa, mas enfim, tem várias. Qualquer empresa de IA de voz vai ter essa última parte que é o TTS. Agora, não todas vão ter a pipeline inteira, todos os modelos. Beleza. Foi aí, pessoal? Eu vou dar segmento aqui. Então tá, a primeira coisa aqui que ele tá me mostrando é quais são os modelos que ele vai usar aqui para o meu agente, tá? Ele tem aqui, ó, um Gemini, eles usam Gemini aqui e eles botaram um GPT agora também. E eles botaram duas coisas interessantes que é legal vocês verem. Ah, eles hit— tá. Ontem, quando eu vi, eu estava preparando isso, estava diferente. Na hora tudo dá errado. Baixa latência. E aqui era outro modelo, não era esse modelo aqui, que eu nem sei que modelo é esse, nunca ouvi falar. Mas aqui era o Gemini Flash e aqui era um Gemini Pro. Por algum motivo, não sei se é porque meus créditos abaixaram, talvez eles tenham mudado meu modelo. Porque baixa latência e um modelo maior e ataca uma maior— Oi? E por que um modelo maior ou mais poderoso, a latência, o tempo que demora o processamento seria maior? Porque lembra que eu falei para vocês das multiplicações, todo o cálculo que ele tem que fazer dentro dele? É isso. Se o modelo é muito grande, modelo "pô, que pensa", aquele modelo gigantesco, a galera gastou 1 bilhão de dólares, vai demorar mais, a latência vai ser maior. Com aquela função de pensamento ou não. Ele vai ser maior porque tem mais parâmetros literais. Literalmente você tem mais coisa para você calcular lá dentro. Então o modelinho pequeno, tipo 2.5 Flash, ele é muito mais rápido. Beleza, então sem mais delongas eu vou mudar aqui a voz. Eu não quero ligar em inglês, eu quero ligar em português. Vocês vão clicar, desculpa, eu tô fazendo muito rápido, é voz aqui, ó, configurações de voz, tá? Depois de gerar o prompt vai aparecer isso aqui, você tem voz, vocês vão clicar aqui. Tem um filtro, linguagem, eu vou botar em português. O símbolo ali, eu também vi isso aí. Tá boa essa voz para prospecta? Vamos ver outra aqui.

Comece suas manhãs com sabor marcante de café recém-passado, aroma intenso de energia suave.

Acho que esse aqui combina mais com arquiteto. Vamos lá, vamos no Camilo então. Som de fundo. Ah, eu quero que fique tocando um som de fundo, um chiadinho, um até clean, alguma coisa que adiciona naturalidade. A Cartesia botou isso aqui se vocês quiserem também. Beleza. Tá, então basicamente é isso. Eu não quero aumentar o prompt aqui porque eu quero mostrar para vocês o que vai acontecer, tá? Beleza? Todo mundo acompanhou, né? Então já botei o modelinho de voz e aí agora vocês conseguem ligar. Então quem tiver com fone e quiser ligar neste momento, seu próprio agente, é só literalmente clicar nesse botão e tá pronto seu agente na internet, tá? Eu vou demonstrar para vocês que eu tenho um número aqui americano, eu vou demonstrar para vocês ligando para um número de verdade. Então tem um botãozinho aqui que chama promover para produção, ou promote production. E aí, o que a Cartesia faz aqui para mim, tudo automático, sem eu precisar pagar um desenvolvedor? Ele já me deu um número de telefone. Aí abriu. É que acho que ela é meio bugada. Aí você pode clicar aqui nesse, no filtro linguagem, e aí você bota português aí. Isso aí vai filtrar as vozes portuguesas para você. Beleza? Então beleza, o meu aqui ele já tá em produção, então porque eu apertei aquele botãozinho, né? Mas dá para testar também o modelo sem estar em produção, vocês ligando ali direto, porque você pode mudar o prompt. Ah, não gostei do que ela falou, essas coisas, tá? Eu já tenho o nome ali. Seria o caso, por exemplo, desse prompt dizer ações específicas Sim, aqui é uma demonstração de um negocinho no-code, né, que a galera fez para demonstrar capacidade do modelo deles, vamos dizer assim, né. Tá em produção? Tá, mas é, não tem integração, não tem ferramentas. E aí imagina o ChatGPT, se o ChatGPT não consegue, esse aqui também consegue pesquisar na internet, mas imagina se o ChatGPT não conseguisse saber sobre nada, ou não consegue mandar um email, ou não consegue isso, não consegue aquilo, aí não fica tão útil. Você quer que provavelmente o seu agente de voz ele consiga mandar um WhatsApp, que ele consiga marcar alguma agenda com você. Ah, o cliente ele quer já fazer uma reunião com o CEO, já vou agendar. Então lá na programação você vai fazer, ó, ferramenta, agendar reunião. Isso já é um produto que ele oferece, essa plataforma aí? Sim, dá para usar. Já gerou um número aqui, um número americano, né, que eu vou ligar agora. Em teoria tá funcionando, já tá funcionável, tá em produção. Agora, se vai ser útil para sua empresa, aí a gente vai saber agora. Vamos ligar e vamos ver o que que essa IA vai falar para gente.

Olá, bem-vindo a Prospecta Escritório de Arquitetura. Como posso ajudá-lo hoje?

Opa, belezinha!

Tudo bem por aqui? Obrigado por perguntar. Em que posso ser útil para você hoje?

Pô, tô querendo fazer um projeto de arquitetura. Quanto que custa aí a Prospecta fazer um projeto massa?

O custo de nossos serviços de arquitetura varia dependendo da complexidade e do escopo do seu projeto. Para lhe dar uma estimativa precisa, precisaríamos conversar mais sobre suas necessidades. Você teria interesse em agendar uma consulta inicial para discutirmos os detalhes?

Pô, eu quero agendar sim! Com quem que eu tô falando, por favor?

Desculpe, poderia repetir, por favor?

Eu quero agendar reunião.

Qual seria a melhor data e horário para você?

É amanhã, 10 da manhã.

Você se quer agendar, prefere às 10 da manhã ou 10 da noite?

10 da manhã, cara. Pô, entendi.

Que tal agendarmos para esta quarta-feira, 26 de novembro, às 10 da manhã?

Beleza, manda aí o convite.

Confirmado. Enviaremos um e-mail com os detalhes da sua consulta e um breve resumo de nossos serviços. A consulta será nesta quarta-feira, 26 de novembro, às 10 da manhã. Se precisar de mais alguma coisa, é só perguntar. Valeu.

Então, o que que tá acontecendo? O que que tá acontecendo aqui com o parça? Ele fez, alguém treinou ele para fazer isso aí, né? Então, a OpenAI começou essa parada, né? Um dos principais desenvolvedores do GPT, que seria um modelo generativo. E eles começaram essa ideia, enfim, de levar esse negócio do Transformers, da atenção que eu expliquei até aqui, para frente, né? Então vamos fazer esse negócio virar um produto para o mundo, né? Não dá para só a gente ficar aqui viajando nessa ciência aqui. E aí nessa ideia eles têm desenvolvido métodos de treinamento que vão fazer esses modelos eles serem mais úteis. Então, por exemplo, pegando dados de negócio e fazendo esses modelos serem treinados em cima disso também. Então, o que ela fez aqui? Ela alucinou tudo que ela achou que seria o certo. Ela não tem nenhuma ferramenta de agendamento, ela não me perguntou meu e-mail, ela não sabe nada. Não é um modelo ruim. 2.5 Lite ali, do Google, não é um modelinho ruim. É barato? É barato, mas não é ruim. Ele é capaz. A gente poderia usar isso aqui em produção se a gente puder colocar tudo que a gente precisa para que esse agente fique em produção. Ah, ferramenta para agendar, ferramenta para mandar e-mail, para mandar um Zap, para ver a tua agenda, para saber seus produtos, tá? E isso obviamente não vai ser um prompt gigante, não seria o ideal. Alguns desenvolvedores fazem isso, só que aí imagina cada uma das conversas que ela vai te responder, ela ter que pensar em tudo que você mandou para ela. Então o ideal é você fazer um gerenciamento do prompt também, A gente não vai entrar nisso, não. Mas a ideia aqui era demonstrar para vocês como é fácil, como não tem barreira. Com o IA e essas startups, elas estão tentando fazer esses negócios virarem realidade, virar coisa útil e utilizável no mundo real. Então, isso aqui é um exemplo que até recentemente ninguém conseguiria fazer ou teria que pagar desenvolvedores. Gerenciar pipeline, servidor, aí abre chamada, o negócio aqui pronto. Ela salva? Ela tem um histórico de conversas? Ela salva também? Não que eu saiba, mas a gente pode... Bom, Andriu, um histórico de chamada, conversa, tudo quanto é coisa... Só dá uma olhadinha aqui. Ali, quando é que aquele vizinho, aquele fulano, disse que não tá ativo? Você tem que ir para cima, Vai para cima ali um pouquinho. Aí você tem que clicar nessa coisinha aqui, promover para produção. Aí ele vai gerar um número para você, tá? Mas você já consegue ligar aí pelo navegador. Se vocês clicarem no botão verdinho, dá para ligar imediatamente, tá? Então, se alguém quiser ligar neste momento, eu vou dar 5 minutos aí para vocês aí tomarem água, ir no banheiro. Tomar um café, conversar entre si, falar um pouco. Liga pra Jager here.