Velhas falhas de segurança e novas preocupações

Sabe quando os professores colocam aqueles caracteres escondidos no enunciado do trabalho pra enganar os estudantes que vão colar ele no ChatGPT? Isso é meio que a versão open source + LLM disso.

https://www.tomshardware.com/tech-industry/cyber-security/malicious-packages-using-invisible-unicode-found-in-151-github-repos-and-vs-code

  • Condinome: Glassworm

  • 151 repositórios github afetados (que foram descobertos, temos que pegar)

  • Esconde seu payload por meio de caracteres unicode que são decodificados por uma pequena parte do código

  • Comunicação e controle por meio da blockchain solana

  • Se espalha por meio de pull requests para projetos abertos, provavelmente feito com LLMs

  • Isso meio que já existe, é uma maneira de obfuscar o 'payload' de um 'exploit' de segurança do seu 'loader' (fala português alieníngena)

https://www.tomshardware.com/tech-industry/cyber-security/zombie-zip-vulnerability-lets-compressed-malware-leisurely-stroll-past-95-percent-of-antivirus-apps-security-suites-are-blissfully-unaware-of-security-issue

https://github.com/bombadil-systems/zombie-zip

  • Condinome: Zombie ZIP

  • Método de esconder um payload malicioso colocando ele dentro de um ZIP

    • Mas os antivirus sabem abrir ZIP, não sabem?

  • O ZIP está deliberadamente com o header corrompido e é 'impossível' de abrir

  • Um 'loader' sabe corrigir o erro no header e consegue extrair o 'payload' malicioso

  • O que isso significa para projetos abertos? Receber contribuições independentes fica cada vez mais tenso

    • Lembrar do caso da libxz e do 'camarada Jia Tan'

  • O que isso significa para a geração de código por LLMs

    • O modelo pode gerar código malicioso por acidente
    • O modelo pode gerar código malicio de propósito

  • Além dele ser treinado para nos agradar e ter acesso a muito mais métodos de como fazê-lo, em 2026 nós confiamos no código de IA

  • Um dia nós vamos fazer um vídeo sobre isso, mas eu preciso falar de novo sobre a parte intermediária do 'Universal Paperclips'

  • Muito similar aos cenários de 'AGI assassina' como o do 'If Someone Builds It Everyone Dies' onde a IA ajuda a humanidade a 'curar uma doença' que ela mesma criou

  • Há 3 anos atrás eu me preocupava com a falta de financiamento e os riscos infraestruturais da nossa dependência no software livre.

  • Hoje com LLMs cada vez mais impressionantes nós temos acesso ao código 100% customizado 100% do tempo e começamos a ver coisas como isso.

https://malus.sh/blog.html

  • A ideia é fazer engenharia reversa de projetos abertos para gerar versões fechadas de cada dependência para seu projeto.

  • Isso é uma sátira. Porém parece que eles construíram mesmo essa ferramenta e eu fico me perguntando se não é exatamente a mesma ideia que o Elon Musk tem com a Grokipedia?

    • E basicamente o que os LLMs estão fazendo com a internet.
    • E os agentes querem fazer com o trabalho humano

  • Nunca foi apenas 'software livre', sempre deveria ser um movimento de libertação da classe trabalhadora e não apenas de libertação do código.

  • Mas agora a gente vai aprender na marra.