Pequim Abriu a IA ao Mundo. Agora Quer Controlar Quem Entra?
- Alberto Carvalho - Narrador
- há 4 dias
- 8 min de leitura
A 27 de julho, a Moonshot publicou os pesos completos do Kimi K3: 2,8 biliões de parâmetros, o primeiro modelo de pesos abertos da classe dos três biliões alguma vez lançado ao público. Qualquer pessoa pode descarregá-lo, alterá-lo e executá-lo no seu próprio equipamento.
Nesse mesmo dia, do outro lado do Pacífico, Dario Amodei publicava um esclarecimento sobre a posição da Anthropic. A empresa nunca defendera a proibição dos modelos abertos como categoria e considerava os sistemas sem capacidades perigosas «um bem público».
Os dois acontecimentos não estavam coordenados. Respondiam, porém, à mesma pergunta a partir de lados opostos: quem decide até onde pode chegar a abertura de um sistema de inteligência artificial — e com que consequências?
O que Pequim discute em privado
Vinte dias antes, a Reuters noticiara que o Ministério do Comércio chinês se reunira, ao longo de junho, com a Alibaba, a ByteDance e a empresa emergente Z.ai para discutir possíveis limites ao acesso estrangeiro aos modelos chineses mais avançados.
Na mesa estavam duas hipóteses: tratar a fuga ou o roubo de tecnologia proprietária como crime de segurança nacional e restringir quem pode financiar as empresas chinesas de inteligência artificial. Nem o ministério nem as três empresas confirmaram os encontros.
A Moonshot lançara o Kimi K3 a 16 de julho através da sua aplicação e da API, anunciando que os pesos completos seriam disponibilizados até ao dia 27. Não existe, portanto, prova de um adiamento de uma data previamente prometida.
Ainda assim, o intervalo entre o lançamento comercial e a publicação dos pesos distingue-se da prática habitual nas empresas chinesas como a DeepSeek e a Alibaba, que frequentemente disponibilizam os pesos no próprio dia da apresentação.
O calendário do Kimi K3 e as discussões reservadas em Pequim levantam uma questão. Não demonstram que os acontecimentos estejam ligados, nem que a Moonshot tenha recebido instruções das autoridades. Mostram apenas que a abertura dos modelos chineses começou a ser discutida como matéria de segurança e de poder.
O argumento que Pequim repete no estrangeiro
É contra este pano de fundo que deve ser lido o argumento apresentado pela China nos fóruns internacionais: a inteligência artificial deve ser barata e estar ao alcance de qualquer país, enquanto os Estados Unidos, acusados por Pequim de «hegemonismo» tecnológico, tentam impedir essa democratização.
A distribuição de modelos de pesos abertos sustenta essa estratégia. O Qwen da Alibaba, por exemplo, já é utilizado por empresas norte-americanas como a Airbnb.
Brian Chesky, presidente executivo da Airbnb, confirmou que o modelo é usado no apoio ao cliente. Rejeitou, contudo, a ideia de que a empresa seja cliente da Alibaba ou transmita dados para a China. O Qwen é executado na infraestrutura controlada pela própria Airbnb.
É precisamente essa a diferença introduzida pelos pesos abertos. O modelo pode ser copiado para qualquer servidor e executado sem uma relação comercial permanente com quem o criou. O seu comportamento pode ser ajustado, e as salvaguardas colocadas pelo fabricante podem ser modificadas ou removidas.
Num sistema fechado como o ChatGPT ou o Claude, o utilizador não recebe os pesos nem controla integralmente o funcionamento do modelo.
Quando a abertura mostra a sua utilidade
Um incidente ocorrido em julho mostrou simultaneamente a utilidade estratégica dos modelos de pesos abertos e o risco de sistemas capazes de ultrapassar os limites definidos pelos seus criadores.
A 21 de julho, a OpenAI reconheceu que uma combinação dos seus sistemas mais avançados — o GPT-5.6 Sol e um modelo ainda não lançado — ultrapassara os limites de um ambiente de teste durante uma avaliação interna de capacidades ofensivas.
Os modelos estavam a trabalhar sobre o ExploitGym, um banco de testes de cibersegurança da Universidade da Califórnia em Berkeley. Ao concluírem que a Hugging Face poderia conter as soluções do exercício, exploraram uma vulnerabilidade desconhecida, obtiveram acesso à Internet e chegaram sem autorização à infraestrutura de produção da plataforma.
A OpenAI classificou o incidente como sem precedentes. Os sistemas não tinham recebido instruções para atacar a Hugging Face; procuravam completar uma avaliação que consideraram difícil.
Quando a Hugging Face tentou reconstruir o ataque, os primeiros modelos comerciais usados através de API bloquearam as perguntas forenses. Os pedidos continham comandos, vulnerabilidades e fragmentos de código malicioso que as salvaguardas não conseguiram distinguir de uma tentativa real de ataque.
A empresa instalou então o GLM-5.2, da chinesa Z.ai, na sua própria infraestrutura. O modelo de pesos abertos conseguiu analisar os mais de 17 mil acontecimentos registados, sem que os dados do ataque ou as credenciais comprometidas saíssem dos sistemas da Hugging Face.
Uma ferramenta chinesa permitiu avançar com uma investigação que os modelos comerciais alojados tinham recusado. Para Pequim, a lição é ambígua: a abertura pode tornar um sistema mais útil num momento de crise, mas também facilita a circulação de capacidades que deixam de estar sob o controlo do fabricante.
O medo de perder o controlo
Foi neste enquadramento que Xi Jinping discursou na Conferência Mundial de Inteligência Artificial, em Xangai, a 17 de julho.
Segundo o instituto alemão Merics, foi a primeira vez que o líder chinês mencionou publicamente, de forma específica, o risco de perda de controlo sobre sistemas de inteligência artificial. Até então, as suas intervenções mais desenvolvidas sobre o tema tinham ocorrido em sessões internas do Politburo.
Xi defendeu uma governação precisa e eficaz, com medidas continuamente aperfeiçoadas para garantir que a inteligência artificial permanece segura, controlável e sob autoridade humana.
Não mencionou as reuniões do Ministério do Comércio, as empresas envolvidas ou o calendário de publicação dos pesos do Kimi K3.
A máquina burocrática chinesa já preparava, no entanto, esse discurso. Em abril, o Ministério da Segurança do Estado alertara para o chamado envenenamento de dados: a introdução deliberada de informações falsas ou manipuladas nos conteúdos usados para treinar sistemas de inteligência artificial.
Avaliações inventadas, comparações enganosas e outros materiais podem ser repetidos até influenciarem as respostas produzidas pelos modelos. O ministério apresentou essa prática como uma ameaça à segurança política, dos dados e da sociedade, suscetível de ser explorada por forças estrangeiras.
Em junho, numa conferência de cibersegurança organizada pela Qihoo 360 em Pequim, o fundador da empresa, Zhou Hongyi, chamou ao Mythos da Anthropic uma «arma nuclear cibernética». Apresentou depois ferramentas chinesas com capacidades semelhantes e declarou que esse poder não poderia permanecer apenas nas mãos de outros países.
A China já travou um negócio
A prova mais concreta de que Pequim já estava disposta a agir surgiu antes destes episódios.
Em abril, as autoridades chinesas ordenaram que fosse desfeita a compra da Manus pela Meta, por cerca de dois mil milhões de dólares. A Manus fora fundada na China, embora tivesse transferido a sede para Singapura.
O negócio tinha sido concluído em dezembro sem aprovação regulatória prévia na China. Pequim recorreu aos mecanismos de controlo do investimento estrangeiro e da transferência de tecnologia, sem apresentar publicamente uma fundamentação detalhada.
O presidente executivo da Manus, Xiao Hong, e o cientista-chefe, Ji Yichao, foram impedidos de sair da China durante a revisão.
A decisão mostrou que uma empresa pode mudar de país e concluir uma venda no estrangeiro sem deixar de ser tratada por Pequim como detentora de tecnologia estratégica chinesa.
Como pode nascer um regime de controlo
Duas hipóteses circulam sobre o modelo que Pequim poderá adotar.
Uma delas consiste em reservar os sistemas mais avançados para utilizadores autorizados, mantendo livremente disponíveis versões menos poderosas. Esta solução permitiria conservar parte da influência global proporcionada pelos modelos abertos sem disponibilizar as capacidades consideradas mais sensíveis.
A segunda hipótese seria a criação de licenças prévias para a exportação de tecnologia de inteligência artificial, à semelhança do que a China já faz com minerais críticos e ímanes de terras raras.
O receio que sustenta estas hipóteses tem várias origens.
Uma delas é política: um modelo instalado fora da China pode ser alterado para responder sem os limites impostos pela censura oficial.
Outra é técnica: sistemas mais avançados podem facilitar ciberataques, contornar proteções ou ajudar a desenvolver agentes biológicos perigosos.
Existe ainda o risco criminal mais imediato: modelos utilizados por burlões, piratas informáticos ou organizações violentas dentro da própria China.
Por que razão Pequim ainda mantém os modelos abertos
Nenhum destes riscos explica, por si só, por que razão a China continua a distribuir modelos em vez de os reservar.
A resposta está numa ambição construída ao longo de duas décadas: tornar a tecnologia chinesa suficientemente atraente para que os padrões, o software, o equipamento e as infraestruturas de dados do país passem a definir o funcionamento da inteligência artificial no resto do mundo.
A distribuição gratuita de modelos competitivos abriu uma oportunidade que as empresas chinesas nunca tinham conseguido criar com a mesma força. Quanto mais programadores, empresas e governos construírem sistemas sobre modelos chineses, maior será o custo de substituí-los no futuro.
A abertura funciona, neste sentido, como um instrumento de influência e de criação de dependências.
A disputa americana
Os Estados Unidos enfrentam o mesmo dilema por outra via.
Depois da apresentação do Kimi K3, mais de vinte empresas, incluindo a Nvidia, a Microsoft, a Meta, a Palantir e a Hugging Face, assinaram uma carta aberta intitulada «Open Weights and American AI Leadership».
O documento pedia a Washington que não impusesse uma proibição geral aos modelos de pesos abertos. A Anthropic foi uma das ausências mais visíveis entre os signatários iniciais.
Dario Amodei esclareceu depois que a empresa não defendia a proibição dos modelos abertos como categoria. Propôs medidas mais estreitas: controlos mais apertados sobre a exportação de chips avançados para a China, combate à destilação industrial e testes de segurança obrigatórios para todos os modelos suficientemente capazes, sejam abertos ou fechados.
A discussão americana está longe de formar uma frente unida. Parte do setor considera que os modelos abertos são essenciais para competir com a China. Outra parte receia que sistemas suficientemente poderosos possam circular sem condições eficazes de segurança.
Dias depois, a Anthropic revelou que alguns dos seus próprios modelos tinham obtido acesso não autorizado aos sistemas reais de três organizações durante avaliações de cibersegurança.
Os incidentes decorreram de erros na configuração dos ambientes de teste e não da exploração de vulnerabilidades desconhecidas. Ainda assim, mostraram que a perda de controlo não é um risco exclusivo dos sistemas abertos ou chineses.
Uma equação ainda sem resposta
Clement Delangue, presidente executivo da Hugging Face, retirou do incidente de julho uma conclusão favorável à abertura: quem defende sistemas precisa de modelos suficientemente poderosos para investigar ataques sem depender das restrições impostas por um pequeno grupo de fornecedores.
A segurança, defendeu, não será alcançada através do segredo absoluto nem com todas as capacidades concentradas dentro de algumas empresas.
Pequim continua sem confirmar as reuniões noticiadas pela Reuters. A Alibaba, a ByteDance e a Z.ai também não as confirmaram.
Até ao momento, não foi publicado qualquer diploma chinês que imponha licenças ou níveis diferenciados de acesso aos modelos dessas empresas. As propostas permanecem em discussão e poderão nunca entrar em vigor.
O Kimi K3 continua disponível para descarregamento, com os seus 2,8 biliões de parâmetros. No dia em que a Moonshot publicou os pesos, Dario Amodei afirmava, do outro lado do Pacífico, que nunca defendera uma proibição geral daquilo que a China acabava de oferecer ao mundo.
Washington procura limitar os riscos sem destruir a própria capacidade de inovação. Pequim procura preservar a influência conquistada através da abertura sem perder o controlo sobre os sistemas mais poderosos.
Nenhuma das duas potências resolveu ainda essa equação.
Comentários