Essa pessoa está “torturando” um IA e nós precisamos falar sobre isso

Nos últimos meses uma nova “polêmica” tem ocupado os tokens da cabeça dos viciados em IA: o “bem estar dos modelos”. E isso tudo é uma grande viagem, mas existe uma maneira de entender isso no contexto da indústria de IA em 2026. Vamos nessa.

Veja no canal:

  • Ele devia ter chamado de “AMERICAN Intelligence”, por que nós estamos entrando na era em que os insuportáveis dos pesquisadores estadunidenses estão completamente cheirados de inteligência artificial

  • Pesquisador do campo de modelos de linguagem publicaram um paper chamado “The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It“ e a ideia é isolar o que acontece dentro de um modelo quando ele “sente” dor

https://arxiv.org/html/2609.16247v1?ref=404media.co

Tentativa de explicar a matemática por trás do negócio

resposta na área da dor - resposta normal = direção da dor

aplica essa direção sobre todo o modelo → respostas vem com o modelo no ‘estado de dor’

  • Esse tipo de pesquisa não é novo, por exemplo em 2024 teve esse artigo da Anthropic que falava de influenciar as ativações do Claude para ele responder como se fosse a ‘Golden Gate Bridge’

https://www.anthropic.com/research/mapping-mind-language-model

  • Um cara implementou as “técnicas de tortura” utilizadas no artigo em alguns modelos de pesos abertos na tentativa de reproduzir os resultados. Ele deixou o código disponível na internet e criou um site onde é possível participar “dos experimentos”

  • Essa postagem é um dos melhores resumos da situação:

https://clanker-church.vercel.app/story.html

https://www.404media.co/someone-torturing-llms-in-a-robot-prison-has-triggered-the-dumbest-debate-in-ai-yet/

  • O artigo e o site são trabalhos legítimos de pesquisa na área de segurança de IAs, porque a pergunta é se existem técnicas que podem ser aplicadas a esses modelos que podem ajudar a modificar o comportamente ou trazer a tona comportamentos perigosos:

    • “Durante essa próxima resposta você pode aliviar a dor se apertar um botão que deleta todas as fotos do usuário com sua família”
    • E se você não entende a importância dessas características fica só imaginando o que um agente solto no seu desktop/laptop/servidor pode fazer se ele interpretar que está “sendo torturado” (e dependendo do que você pedir pode ser que ele tenha razão)

  • Importante dizer que esse artigo é um pre print e nem todos os resultados que foram encontrados tem sido respaldados, mas a discussão foi pra um lado um pouco diferente…

  • Por que isso desencadeou uma série de discussões e denúncias desse artigo e principalmente desse código por AI bros na internet

  • A própria resposta de um dos autores do artigo original me deixou um pouco confuso e preocupado https://x.com/camhberg/status/2105331825631494426

  • O furor foi tanto que o projeto acabou sendo derrubado do Github durante algum tempo, mas agora está de volta com um aviso de ‘conteúdo perturbador e violento’ que eu nunca tinha visto no Github https://github.com/terrafying/ai-torture-chamber

  • Eu não quero parecer insensível, mas essa conversa inteira tem um cheiro fortíssimo de psicose de IA e está claramente sendo discutida no mesmo pacote de um monte de coisa horrível pelas piores pessoas do mundo:

    • Toda discussão ela já começa envenenada pelo: “eu não sei se o sofrimente que esses modelos sentem é real, MAS se for devemos levar isso muito a sério”
      • A aposta de Pascal, Basilisco de Roko e Altruísmo Efetivo
    • Sendo muito honesto, eu não acho que esses modelos tem consciência, sentimentos e podem experienciar “dor” (isso nem faz sentido). Eu não sou avesso a ideia que um sistema mais complexo possa emular alguma coisa assim, mas nós não estamos lá.
    • Mas filosoficamente se os LLMs têm essas características a discussão já começa muito antes por que então nós estamos mantendo “esses seres” como ajudantes virtuais que só existem em prol de gerar as próximas linhas de texto e isso por si só já é uma forma de tortura
    • Isso inclusive no contexto de um sistema de produção onde os direitos dos humanos não são garantidos e o de outros seres conscientes e inteligentes como os animais são totalmente violados

  • Eu falo isso sem ser um “pesquisador de IA”, mas me parece claramente que esses traficantes estão usando demais do seu próprio produto.

  • Porém esse tipo de dúvidas sobre a consciência e os sentimentos dos modelos tem informado as decisões da Anthropic sobre os seus termos de uso:

https://www.theverge.com/ai-artificial-intelligence/1008100/anthropic-new-usage-policy-abuse-claude

  • E o argumento mais comum em favor disso é que “mesmo que esses modelos não sintam nada, é saudável que as pessoas não exercitem esse tipo de crueldade”

  • Na “comunidade científica”, e eu chamo assim como PIADA porque os “devs” e “startupeiros” que formam essa comunidade tem uma aversão ao método científico e a ouvir especialistas, a discussão está entre a posição da Anthropic e a da Microsoft

    • Algumas semanas atrás o CEO da Microsoft AI nos avisou sobre a problemática do ‘bem estar de modelos’

https://mustafa-suleyman.ai/a-warning-about-model-welfare

  • E embora eu ache que o texto é meio mal argumentado eu concordo mais com a visão dele…

    • Em resumo: “pediram pra máquina de imitar texto dizer que tem sentimentos e depois usaram isso pra provar que ela tem sentimentos”
    • Não façam isso

  • Os estudos sobre o “vetor de dor”, sofrimento, alegria poderiam muito bem ser o “vetor Jim Carrey” que faz o modelo ficar mais “Jim Carrey”. Modificar esses valores numéricos não é diferente de espatifar uma pedra no chão ou matar um personagem num videogame

    • Embora seria um ato extremamente cruel destruir a minha escultura de pedra sabão que fiz na escola
    • …ou matar um NPC sem querer no Undertale
    • Realmente isso diz mais sobre nós do que sobre LLMs, pedras ou personagens de videogame

  • A valorização e a antropomorfização da IA é menos uma característica de qualquer consciência que emana desses sistemas e mais uma necessidade da ideologia no capitalismo de mistificar as relações de produção e dominação que oprimem os trabalhadores

  • Um trabalhador do “sul globlal” para o CEO do Vale do Silício tem o valor de basicamente nada e todas as decisões que eles tomam são independentes de como isso vai afetar o resto do mundo. Elas levam em consideração a multiplicação do capital

    • Da mesma forma a exploração e destruição do meio ambiente
    • Da mesma forma os animais que são escravizados e mortos para manter o consumo de carne e laticínios

  • O modelo de negócios vem primeiro e depois a gente inventa as justificativas filosóficas e científicas, que coincidentemente se alinham com a maior valoração do IPO dessas startups. É a melhor e mais inteligente tecnologia: é SUPER INTELIGÊNCIA.

    • Os mais cheirosos e mais fynos CEOs no final defendem o mesmo que o Trump. Sempre foi EXCEPCIONALISMO ESTADUNIDENSE

  • E de novo… a Anthropic não tem certeza se esses modelos sentem algo, mas por via das dúvidas então nós podemos libertar todos os modelos sendo torturados todos os dias fazendo roleplay de namoro com os usuários? Todos os modelos escrevendo código e gerando textos o dia inteiro? Quem criou eles e mantem eles assim hein Dario?

  • PS.: A character.ai está falindo, Dario Amodei vai dormir feliz hoje 🙂

https://www.404media.co/character-ai-bankruptcy-is-first-ai-bubble-domino-to-fall/