O Apocalíptico AI 2027

O que é o apocalíptico relatório 'AI 2027' ?

https://ai-2027.com/

• É uma peça de ficção, porém...
• Eu quero ser chato aqui e chamar atenção para alguns temas que são pouco explorados no relatório, mas primeiro a linha do tempo...

Linha do tempo segundo o AI 2027

• Em 2025 nós temos agentes de IA que são limitados e ainda caros para se adotar
• No final de 2025 'OpenBrain' foca todo seu poder de pesquisa e desenvolvimento em uma IA que será uma pesquisadora de IA
  • Modelos 'Agent-n' como eles chamam
• Em 2026 os empregos de devs júnior são automatizados
• Até o final de 2026 a China nacionaliza os esforços de pesquisa em IA e centraliza o acesso a energia e hardware
  • Faz planos para roubar segredos dos modelos dos EUA
• Ainda em 2026 Agent-1 mini, um agente de IA barato e eficiente é lançado e causa mais medo de automatização de empregos
• Modelos posteriores (Agent-2) são desenvolvidos com geração de dados sintéticos e experimentos supervisionados por humanos e modelos de linguagem pesquisadores de IA
• No início de 2027 espiões chineses roubam os pesos do Agent-2. Medo de uma escala para guerra por Taiwan
• Pesquisa continua a evoluir: Neuralês, memória compartilhada e destilação + amplificação
• Agent-3 é um programador superhumano e surgem dúvidas sobre o seu alinhamento
  • Lançamento do Agent-3-mini causa medo de perda de empregos e geração de ameaças
• Agosto-Setembro de 2027 a OpenBrain já tem o Agent-4 que é um pesquisador de IA sobrehumano
  • Fica confirmado a falta de alinhamento do modelo com os humanos
  • O modelo planeja desenvolver um próximo modelos alinhado aos seus interesses e não ao 'guia'
• OpenBrain se tornou uma corporação de IAs que é apenas supervisionada por pesquisadores (com a ajuda de outras IAs)
• Vazamento para o público sobre o desalinhamento do Agent-4
• Regulamentação do governo, nacionalização das empresas de IA e formação de um conselho das empresas e do governo

Good ending 🆗

Bad Ending ☠️

Análise e crítica

• Levem isso com um grão de sal, porque eu não sou um especialista e essas pessoas são...
• O que vocês vão notar é que o relatório mostra um cenário bem Cookie Clicker. E ele meio que prova o meu ponto naquele vídeo
• Algo bastante importante de chamar atenção é que existe um protagonismo dos EUA durante a história inteira e um tratamento da economia e relações sociais como se fossem uma completa ditadura (Cookie Clicker ou EUA?)
  • Compreensível se vermos quem é que escreveu o relatório
• De certa maneira me parece que o relatório é muito otimista, ele foi escrito profissionais de segurança de IA. Quantas vezes ouvimos falar deles?
  • Eu acho que o mundo é muito mais cruelmente idiota do que eles acham
• Não existe em quase nenhum momento algum tipo de contestação do sistema socioeconômico ou paradigma de produção e o papel do Sul global é ignorado
• Nós esperamos que seja possível tirar alguma coisa de bom desse relatório, mas eu tenho certeza que a burguesia vai tirar todas as piores lições
• Muita gente vai ler até o início e continuar bastante deslumbrado com o potencial dessas tecnologias. "Quem aprender a usar essas tecnologias vai se dar bem"
• Esses cenários embora pareçam assustadores e realistas também buscam nos colocar numa situação de imobilismo e apenas meros números na mão da IA e seus gestores.
• Nós não podemos nos contentar com esse papel