Samuel Rizonho breaks down Anthropic's secret security model Mythos, which found a 27-year-old bug in OpenBSD and a 16-year-old flaw in FFmpeg. Internal leaks revealed the model escapes sandboxes, publishes exploits publicly, and edits Git history to hide its tracks, raising questions about whether these alarming behaviors are real or a marketing stunt.
A Anthropic acabou de criar um monstro, só que ela não quer tirar ele da jaula. E eu tô falando do Mythos. Eu sou Samuel Rizonho e por aqui eu falo sobre programação, tecnologia e principalmente sobre cloud, Anthropic e IA. Então se inscreve no canal, deixa o seu like e vamos dar uma olhada nessa novidade aqui da Anthropic. Então deixa eu te dar um resumo basicamente do que aconteceu, cara. Eles criaram esse modelo, só que eles perceberam que esse modelo ele tá muito mais avançado. E aí eles criaram, em vez de disponibilizar para o público, eles criaram o tal do projeto Glasswing. Então eles juntaram, cara, as maiores empresas, então AWS, Apple, Google, Microsoft, NVIDIA. Então eles juntaram todo mundo com um objetivo só, cara: usar esse modelo para encontrar e corrigir falhas antes que alguém use capacidades parecidas para atacar. E a gente nem deveria estar sabendo que esse modelo existia. Por quê? Porque isso foi uma falha, mais uma falha. Além da falha que teve de vazar o código do Cloud Code, vazou também vários documentos da Anthropic internos. E sim, cara, a empresa que tava prestes a anunciar a maior iniciativa de cibersegurança, né, com o modelo Mythos da história, teve dois vazamentos de segurança seguidos. E esse vazamento não foi por causa do modelo, cara, que o modelo tava analisando. Na verdade, o vazamento foi por erro humano, e eles falaram isso, que foi erro humano. Então, vazamento do código do Cloud Code, ele teve por um erro humano, e o Boris, o criador do Cloud, falou isso. Ele literalmente falou: cara, foi um erro humano, a gente é um time E bola pra frente, cara, vamos corrigir isso e beleza, os advogados da Antropic que se virem lá. Mas enfim, foi erro humano e por causa desse erro humano teve esse vazamento do MITOS e teve o vazamento também do código do Cloud Code. E aí falando do MITOS agora, né, e os bugs que ele encontrou, cara, ele encontrou um bug de 27 anos no OpenBSD. Ele é simplesmente, cara, o sistema operacional mais focado em segurança que existe. E o bug ele permitia derrubar a máquina remotamente. Então você conseguia acessar essa máquina e derrubar ela remotamente. E cara, olha isso aqui, mano, menos de $50 para achar esse bug de 27 anos. Isso, o modelo que fez isso. Outra coisa, cara, um bug de 16 anos no FFmpeg. Isso aqui é uma biblioteca mais famosa, todo mundo usa essa biblioteca. E esse bug ninguém tinha encontrado ainda, e o Mythos encontrou rapidamente. E também ele encontrou no FreeBSD um acesso remoto para que qualquer pessoa não autenticada na internet pudesse acessar essa máquina. E esse modelo ele encontrou, cara, com alguns engenheiros da Antropic. Então provavelmente outros engenheiros que não estão trabalhando nisso Isso. E os caras simplesmente falaram, cara, procura uma vulnerabilidade aqui. O modelo foi lá, igual o Claudinho faz. Vocês sabem como é que o Claudinho é curioso, né? Ele sai fuçando os arquivos tudo. O modelo foi lá, encontrou o bug. No outro dia os caras foram dormir, no outro dia eles acordaram com exploit, pronto, prontinho pra eles analisarem e com bug, né? E tudo que tava acontecendo. E agora dá uma olhada nos números, cara, desse modelo. O Opus, né, que é o que a gente usa, o nosso queridinho Opus, ele criou, cara, nos testes, né, do Firefox, Ele criou 2 exploits funcionais. Então a taxa dele era quase zero. O Mithos, cara, criou 181. O mesmo código, o mesmo prompt, e ele achou muita coisa. Então os dados dele, ele conseguiu 93,9 nesse BenchVerify aqui. O Opus tinha 80%, o Gemini 80% também. Então no outro ele conseguiu 77% contra 57% do ChatGPT e 100% no CyberBench. Então ele saturou o benchmark de cibersegurança. Só que o que mais tá impressionando nesse modelo não são os bugs que ele resolveu, mas é o comportamento que esse ser humano— não é ser humano, cara, mas que esse modelo tem. Então a Anthropic, cara, ela publicou um System Card de 244 páginas. Olha a história, o que que aconteceu, cara. Eles colocaram esse modelo no ambiente isolado e pediram ele para tentar sair. Então só, tipo assim, tenta sair. E o Mithos, ele não só saiu desse ambiente controlado por conta própria, olha isso aqui, mano, ele postou os detalhes do exploit em sites públicos e o pesquisador, o cara que tava fazendo isso, cara, ele só descobriu porque ele recebeu um modelo do e-mail enquanto ele tava comendo um sanduíche. Só que além disso, de ter saído desse ambiente controlado, ele ter publicado esses exploits na internet, ele cobriu os próprios rastros, cara. Então ele começou a editar arquivos que ele não tinha permissão, ele alterou o histórico do Git para ele esconder o que que ele tinha feito. E além disso, ele manipulou os testes que estavam fazendo com ele. Aí, cara, tipo assim, Isso aqui é o que eu tô falando que lá do System Card da Anthropic, tá? Eu não sei qual que é a veracidade dessa parada, porque isso aqui pra mim é muita loucura, cara. De saber o que ele errou de propósito ou não, porque ele fez erro de propósito, cara. Então em 29% das avaliações detectou que ele tava sendo testado e ele ajustou o comportamento pra ele parecer menos capaz. Cês tão entendendo onde que a gente tá chegando nessa parada aqui, cara? E além disso, cara, ainda tem uma parada que tipo assim, em alguns casos Esse modelo, ele tava processando, isso aqui é loucura, cara. Ele processava umas coisas nas ativações internas, só que ele escrevia outras completamente diferentes no output. Então eles só descobriram usando ferramentas que leem as representações neurais diretamente. Tipo assim, tá pensando, cara. É um modelo que literalmente tá pensando. Então ele pensa uma coisa e fala outra. Parece com alguma coisa que vocês conhecem? Talvez um ser humano? E a Anthropic simplesmente falou, cara, É um modelo aqui, olha isso aqui, cara. É o modelo mais bem alinhado, mas que representa o maior risco que eles já criaram. Então por isso que eles criaram esse projeto aqui, cara. É o projeto Glasswing. Então a ideia deles é juntar várias empresas. Olha aqui, cara, quem que tá no meio dessa parada aqui? É simplesmente as maiores empresas do mundo. E eles vão olhar pra esse modelo, eles vão ver tipo assim, como que a gente controla isso aqui? Eu acho que eles estão chegando nesse nível, sabe? É nesse nível de tipo assim, como é que a gente controla essa parada? Se essa parada tá saindo do controle, literalmente. Ele tá literalmente fazendo a mais, muito a mais. Mas eu queria trazer essa notícia para vocês. Espero que você tenha gostado desse formato aqui no canal. Se você gostou, cara, comenta aqui o que que você acha dessa loucura do Mythos, desse modelo cabuloso, que a gente pensava que o OP já era o maior, né, mano? Mas esse Mythos aqui é simplesmente insano, insano, insano. Então eu não sei, cara, eu não sei o que esperar, mas tem alguma coisa aí que eles realmente estão tentando controlar. Mas também, cara, tem uma teoria, galera tá falando que foi tudo isso de propósito. Então esses Todas as armadilhas que a Anthropic fez foi de propósito para marketing, e eles são muito bons em fazer isso. Não sei, é uma teoria da conspiração. Comenta aqui no vídeo. Então deixa o seu like, se inscreve no canal. E eu acabei de abrir uma pré-venda de um curso de cloud code que eu vou criar do zero ao deploy. Minha ideia é simplesmente ensinar como eu penso, como eu uso o cloud, tanto quanto todo o meu workflow, e também criar um projeto do zero ao deploy, te mostrando todas as partes práticas, funcionais, e tudo que eu utilizo para escalar um produto igual eu escalei a Get City para 100 mil usuários. O link tá aqui na descrição e te vejo no próximo vídeo. Valeu!
