A vingança dos devs comendo de graça no buffet de tokens

Ultimamente um fenômeno hilário tem ocorrido: devs estão usando cotas gratuitas de serviços de IA generativa de maneira virtualmente ilimitada. Isso é bom? Isso é ruim? Isso é complicado e vamos conversar.

Assista no canal:

  • Eu to sempre buscando trazer tópicos que sejam de um interesse maior pra vocês do que apenas as notícias de sempre. A ideia é que pelo menos alguma nova ideia, nova referência vocês tirem do que eu estou falando aqui

  • Está nos planos por exemplo falar do crash do mercado de ações na Coreia do Sul, nos laboratórios de IA dos EUA indicando que a gente precisa ‘ir mais devagar’ (spoiler, se eles estivessem correndo muito na frente da China não diriam isso), as empresas de IA destruindo livros, os protestos sobre datacenters nos EUA, etc…

  • Mas daí hoje eu pensei em trazer um tópico que tem a ver com todos esses mais e é mais prático: como os devs estão se aproveitando do modelo ‘buffet’ das empresas de IA para tirar vantagem

  • Alguns vídeos atrás eu descrevi como tem ‘Claude Code’ a 10% do preço na China, o esquema é cabuloso.

  • Mas obviamente o que está acontecendo ali é: se as empresas de IA querem nos oferecer uma ‘amostra grátis’ e subsidiar os seus custos para atrair clientes, alguém vai tirar vantagem disso

  • E é engraçado que todo dia eu tinha a mesma ideia, mas dava uma baita preguiça de tentar fazer, e ainda ter que lidar com a incomodação e etc…

  • Porém começaram a aparecer as soluções prontas pra isso, eu vou deixar dois vídeos aqui:

  • Qual é a pegadinha que a gente tem aqui? Obviamente isso é contra os termos de serviço, mas eu quero contar uma história pra vocês.

  • Eu to tentando agregar todos os dados meus que estão em big techs pra “organizar a minha organização” em ferramentas locais.

    • Sincronizar num lugar só o que me importa
    • Esse lugar ser uma ferramenta que eu controlo
    • Depois que isso funcionar eu posso jogar fora as plataformas proprietárias que eu uso (por exemplo Google Calendar)

  • Qual o problema disso? Quando tu começa a consumir “da maneira correta” os dados vindo de um Google por exemplo, tu percebe rapidinho que eles começam a te cobrar e limitar

    • O caso de uso oficial, usando chaves de api e tudo nos conformes, custa muito caro (principalmente quando o uso não é apenas pessoal e para testes)

  • Só que acessar seus dados por dentro da plataforma DELES é gratuito…

    • E daí a gente pensa: “e se eu fingir que sou eu acessando pelo navegador?”
    • Isso é o que geralmente se chamar ‘self botting’ e 99% das vezes é contra os termos de serviço
    • Mas é a mesma ideia aqui e fica a dica que é uma coisa que funciona pra maioria dos sites / apps mobile

(impossível não chamar atenção pro fato que todos laboratórios de IA, crawlers, serviços que agregam dados de terceiro fazem isso por baixo dos panos)

  • Ou seja: o custo pra colocar os teus dados (e dos seus clientes) dentro de uma big tech é zero ou até negativo… agora o custo pra tirar é imenso!

  • Riscos que a gente tem do self botting'?

    • Banimento de contas e no limite algum processo (sei lá se o seu SaaS fizer uma coisa dessas)
    • Dependência nesse tipo de coisa continuar funcionando (obviamente os labs vão tentar sempre fechar esses buracos)
    • Dependência no uso de IA para coisas que não precisam de IA

  • O que está acontecendo agora é o grande subsídio dessas ferramentas, da mesma maneira que aconteceu o subsídio dos servidores em nuvem e dos discos

    • Nós não vamos “levar vantagem” pra sempre
    • Negócios e soluções construídas em cima desse tipo de disponibilidade vão virar reféns
    • “Se você não paga pelo token você não sabe quanto a IA custa de verdade”

  • No final é uma questão de soberania digital, eu tenho alertados repetidas vezes sobre o problema da dependência nas ferramentas de IA e as pessoas tratam isso como uma espécie de ludismo… mas é papo de soberania digital básica

  • Eu não sou o pai de vocês, façam o que vocês quiserem! Mas uma boa regra seria: não tenham os tokens como o custo variável do seu "sisteminha”.

Se o token ficar 10x mais caro amanhã, o seu sistema ainda vale a pena?

  • É hilário existir uma torneirinha que os devs podem ligar pra aumentar mais ainda o prejuízo das empresas de AI

  • Mas lembrem: eles não estariam oferecendo tanta coisa de graça pra vocês se não tivesse uma vantagem pra eles ao fazer isso. Levem vantagem de maneira responsável, vlw!