Há um certo tipo de conversa política que nunca toca verdadeiramente o chão.

Consegue-se perceber quando estamos numa. As palavras são adequadas: direitos, dignidade, responsabilização, equidade. Os sentimentos são irrepreensíveis. Todos concordam que o poder deve ser limitado, que os vulneráveis devem ser protegidos, que ninguém deve estar acima da lei. A sala acena. O documento é assinado. E depois nada muda, porque ninguém disse nada sobre o que acontece quando um ator suficientemente motivado decide ignorar o acordo.

Esta é a conversa que estamos a ter sobre inteligência artificial. Cimeiras produzem declarações. Empresas publicam princípios. Investigadores apelam à cautela. A linguagem da ética e da segurança escapou da sala de seminário e entrou no mainstream. E, no entanto, por baixo das palavras cuidadosas, a mesma questão permanece sem resposta: o que realmente impede as pessoas que constroem os sistemas mais poderosos de fazer o que quiserem?

A resposta honesta, neste momento, é: não muito.

Não é porque as pessoas envolvidas sejam vilões. A maioria delas provavelmente acredita na sua própria retórica. O problema é estrutural. Princípios não se aplicam sozinhos. O mundo já tem um belo conjunto de normas universais (direitos humanos, dignidade, devido processo legal) e quase todos os governos da Terra assinaram alguma versão deles. Também sabemos o que acontece quando essas normas encontram poder concentrado, medo e incentivos. Tornam-se opcionais. São obedecidas quando conveniente, ignoradas quando custosas, e reinterpretadas quando embaraçosas. A diferença entre o que professamos e o que permitimos não é um erro no sistema. É o sistema, sempre que a aplicação depende da boa vontade daqueles que estão a ser limitados.

Uma transição para AGI, mal feita, piora este modo de falha. Concentra capacidade em menos mãos, acelera ciclos de decisão além do ritmo da deliberação humana, e transforma a persuasão num instrumento de precisão. Se um pequeno grupo pode construir sistemas que preveem, manipulam, produzem e defendem mais rápido do que qualquer coligação de cidadãos consegue organizar, então os apelos à moralidade deixam de ser uma limitação e tornam-se uma camada de relações públicas. Nesse mundo, a constituição não é um documento. É o que os donos da infraestrutura conseguem fazer passar.

Portanto, se queremos que qualquer tipo de ordem que priorize a ética sobreviva ao contacto com a realidade, precisa de algo mais primitivo do que acordo. Precisa de alavancagem. Não a alavancagem da violência, mas a alavancagem de pontos de estrangulamento: aqueles gargalos físicos e institucionais que mesmo atores muito poderosos não conseguem facilmente contornar sem pagar um preço elevado.

O primeiro ponto de estrangulamento é a eletricidade. O treino de fronteira e a inferência em grande escala não são ideias sem peso a flutuar na nuvem. São processos industriais com uma assinatura de potência. Exigem ligações à rede, arrefecimento, terreno, fibra, manutenção, e a cooperação silenciosa de dezenas de empresas antes de um único gradiente ser computado. O segundo ponto de estrangulamento é o hardware especializado. Quaisquer que sejam as surpresas que o futuro reserve, a fronteira de capacidade no período de transição ainda será moldada por chips escassos, fabrico avançado e cadeias de abastecimento rigorosamente geridas. O terceiro ponto de estrangulamento é o acesso ao mercado: sistemas bancários, seguros, controlos de exportação, direito societário, e a capacidade de vender serviços em grandes mercados de consumo. Um mundo de robots ainda passa por contratos e portos e subestações elétricas. O sonho de uma superinteligência que se auto-desenvolve do nada, sem precisar da permissão de ninguém, ignora muita física e muita canalização.

Uma proposta de governação séria começa portanto com um movimento simples: tratar o compute de fronteira e a implementação de modelos de fronteira como infraestrutura crítica, na mesma categoria regulatória que telecomunicações, banca ou materiais nucleares. Não porque queiramos que o estado seja dono de tudo, mas porque queremos prevenir uma situação em que um punhado de atores privados se torne de facto soberano. Se estiver a operar sistemas acima de um certo limiar de capacidade, não pode comportar-se como um programador de aplicações comum. É um ator sistemicamente importante no mesmo sentido em que um grande banco é sistemicamente importante: a sua falha pode fazer colapsar a sociedade, a sua captura pode corrompê-la, e os seus incentivos derivarão para a dominância a menos que algo externo empurre de volta.

O núcleo de tal regime é o licenciamento com força. Licenças não são promessas morais. São direitos legais para operar em escala, concedidos condicionalmente, renovados condicionalmente, e revogados condicionalmente. Requerem auditorias de rotina, relato de incidentes, e o que o mundo financeiro chama de testamentos em vida: procedimentos pré-comprometidos para o que acontece se um sistema começar a causar danos sérios ou se o seu operador se tornar não confiável. Isto não é pedir aos poderosos que sejam santos. É fazer o próprio poder aceitar limites, mesmo quando não quer.

Para tornar isto aplicável, empurra-se os requisitos de licenciamento para a camada de infraestrutura. Datacenters acima de um limiar não se podem ligar à rede sem uma autorização. Não conseguem obter seguro sem conformidade. Não podem legalmente importar grandes volumes de chips avançados sem divulgação. Não podem colocar-se em instalações respeitáveis sem registos atestados do que o compute executou e para que propósito. Constrói-se, em efeito, um passaporte de compute: atestação criptográfica ligada ao hardware, para que grandes execuções tenham um rasto auditável. Isto nunca será perfeito, e maus atores determinados encontrarão formas de contornar. Mas a perfeição não é o objetivo. O objetivo é tornar a atividade de fronteira em grande escala, não licenciada, difícil de esconder, cara de financiar, e perigosa para operações comerciais normais. Eleva-se o custo da deserção até que apenas os valores atípicos mais comprometidos o tentem, e tornam-se esses valores atípicos suficientemente visíveis para que possam ser tratados por outros meios.

A nível nacional, estes mecanismos podem prevenir um golpe corporativo direto. Mas o problema é mais amplo. A infraestrutura está atualmente concentrada num pequeno número de países, e todos os outros arriscam tornar-se danos colaterais num novo tipo de império, um governado não por governadores e soldados mas por APIs de modelos, dependências de cloud, e a sufocação económica silenciosa daqueles que não controlam compute. Uma abordagem puramente nacional falha aqui, porque os atores mais fortes podem procurar jurisdições, ameaçar fuga de capitais, e jogar países uns contra os outros até que as regulações sejam esvaziadas.

A contramedida realista não é as Nações Unidas. É um clube.

Um clube é uma coligação de mercados e nós de cadeia de abastecimento que pode estabelecer condições para participação. Se quer vender nos seus mercados, angariar capital nas suas bolsas, comprar o seu equipamento avançado, segurar a sua infraestrutura, ou aceder aos seus sistemas de pagamento, cumpre as regras do clube. Essas regras não precisam de consenso global. Precisam de gravidade económica suficiente para que recusá-las seja doloroso. Na prática, é assim que a maior parte da governação internacional significativa já funciona: blocos comerciais, padrões financeiros, segurança da aviação, não-proliferação nuclear. É imperfeito, permeável, e propenso à hipocrisia. Mas é real de uma forma que tratados aspiracionais não são.

Num contexto de AGI, um clube de compute de fronteira exigiria três coisas dos seus membros: atestação de compute para operações em grande escala, licenciamento e auditorias de segurança para modelos de fronteira, e um regime mínimo para governação anti-captura (transparência de propriedade beneficiária, restrições em portas giratórias entre reguladores e regulados, penalidades aplicáveis para influência política encoberta). Países com culturas e sistemas políticos diferentes podem ainda discordar em muitos valores substantivos, mas podem convergir num patamar: sem castas permanentes, sem crueldade deliberada, sem coerção da consciência, e sem compute soberano sem responsabilização. O clube não tenta harmonizar tudo. Tenta manter os piores modos de falha fora da mesa.

Isto ainda deixa a questão mais explosiva, aquela que faz as discussões de governação parecerem inadequadas mesmo quando são tecnicamente sofisticadas. Dinheiro.

Se um pequeno número de atores possuir a base produtiva do futuro (compute, modelos, robots, energia) então as pessoas comuns podem tornar-se economicamente irrelevantes. Não temporariamente desempregadas enquanto se requalificam, mas estruturalmente desnecessárias. Esse é o ponto onde o capitalismo tradicional quebra. Não porque os mercados deixem de funcionar como mecanismos de alocação, mas porque o pacto político em que os mercados assentam colapsa. Quando as pessoas não conseguem negociar com trabalho, ou recebem caridade ou revoltam-se. E se os vencedores conseguirem proteger-se atrás de automação e segurança privada, até a revolta se torna menos credível. O dragão aqui não é a riqueza. É a saída. É a capacidade de um grupo minúsculo abandonar a sociedade enquanto ainda extrai valor dela, sem dever nada a ninguém, sem responsabilização perante nenhum eleitorado exceto eles próprios.

A única resposta estável é tornar a saída difícil e a partilha automática.

Isso significa tratar parte da produtividade de fronteira como um bem comum e distribuir os seus retornos amplamente. Não esperando filantropia voluntária dos vencedores, e não mudando para planeamento central onde burocratas alocam tudo, mas incorporando a partilha de rendas nos mesmos pontos de estrangulamento de licenciamento que tornam a aplicação possível. Se operar sistemas de fronteira em escala, paga para um fundo de riqueza social através de mecanismos difíceis de evadir: taxas ligadas ao uso de compute em grande escala e consumo de energia, royalties sobre implementações de fronteira licenciadas, e impostos sobre rendas de terrenos que de outra forma absorveriam os ganhos da abundância na escassez habitacional. O fundo então paga um dividendo universal. Combinado com serviços básicos universais (saúde, educação, transportes, conectividade) desacopla a sobrevivência do emprego sem apagar mercados, empreendedorismo, ou escolha pessoal.

Isto não é utópico. É a mesma lógica dos royalties de recursos em lugares que tratam o petróleo ou minerais como um ativo público. Se extrai de uma herança comum, deve ao público uma parte. Na era da AGI, a herança não são apenas recursos naturais enterrados no solo. É o conhecimento acumulado da civilização, a estabilidade das instituições públicas, e a infraestrutura física que torna o compute possível. Ninguém construiu nada disso sozinho. As empresas que implementam sistemas de fronteira estão de pé sobre séculos de investimento coletivo, e os retornos dessa implementação devem fluir de volta, pelo menos em parte, para o coletivo.

Durante a transição, este dividendo não pode começar em força total. A economia não se vai transformar toda de uma vez. O trabalho de colarinho branco pode colapsar mais rápido do que a economia física consegue reconverter-se. Os papéis de colarinho azul podem persistir mais tempo, depois cair abruptamente à medida que a robótica melhora. Portanto, o dividendo deve ser acompanhado de amortecedores de choque: seguro salarial para trabalhadores deslocados, reestruturação rápida de dívida para prevenir cascatas de incumprimento, e percursos de propósito voluntários que ofereçam papéis pagos significativos em cuidado, mediação, educação, restauração ecológica, cultura e deliberação cívica. O objetivo não é inventar trabalho ocupacional para manter as pessoas quietas. O objetivo é manter as vidas humanas estruturadas em torno de contribuição, relacionamento e crescimento em vez de ressentimento e decadência. As pessoas precisam de importar, não apenas sobreviver.

Finalmente, a governação deve assumir corrupção. Um plano que só funciona quando os líderes são virtuosos não é um plano. Portanto, as medidas anti-captura não podem ser gestos estéticos. Devem ser mecânicas. Autorizações de alto risco requerem assinatura multi-institucional, não a assinatura de um ministro. A pilha de IA deve ser estruturalmente separada para que nenhuma única empresa controle chips, cloud, modelos de fronteira e implementação simultaneamente. A contratação pública deve ser transparente por defeito. Denunciantes devem ser protegidos e recompensados, não processados. E o próprio sistema deve ser internamente adversarial: algumas das mentes artificiais, se as construirmos como proposto noutros lugares, devem ser especificamente incumbidas de vigiar colusão, manipulação e coerção silenciosa. A tentação de trocar dignidade pública por vantagem privada não vai desaparecer só porque os conselheiros são inteligentes. Vai intensificar-se.

Isto é o que significa matar o dragão sem matar as pessoas. Não se perseguem indivíduos. Não se depende de encontrar e empoderar os filósofos-reis certos. Desmonta-se a assimetria estrutural que permite a um grupo minúsculo tornar-se soberano. Vincula-se a capacidade de operar poder de fronteira a obrigações que mantêm a sociedade legítima: transparência, auditabilidade, não-crueldade, e partilha ampla do lado positivo. Faz-se através de pontos de estrangulamento que permanecem reais mesmo numa era de mundos virtuais: linhas de energia, datacenters, cadeias de abastecimento, seguros, mercados de capitais, e acesso a clientes. Estes não são elegantes. Não são inspiradores. São apenas os lugares onde o mundo físico ainda tem voto.

Nada disto garante um bom resultado. A história não tem falta de instituições bem desenhadas que foram capturadas, esvaziadas, ou simplesmente ignoradas quando se tornaram inconvenientes. As propostas esboçadas aqui não são imunes a esse padrão. O que fazem é algo mais pequeno e mais importante: mantêm um bom resultado de se tornar impossível por defeito. Previnem a transição para AGI de colapsar automaticamente em império, oligarquia, ou tirania educada disfarçada na linguagem da otimização. Criam uma estrutura na qual os sistemas mais fortes, humanos e artificiais, não são livres de tratar todos os outros como descartáveis. E asseguram que, mesmo enquanto a capacidade sobe, permanece um sentido significativo no qual ainda estamos a construir uma civilização partilhada em vez de render uma.

Isso não é salvação. Mas é um começo.