O risco de extinção que dá poder às empresas de IA
Em julho, mais de 1.200 funcionários da OpenAI, da Anthropic, da Google e da Meta assinaram uma carta a pedir aos governos uma coisa concreta e verificável: coordenação internacional capaz de travar o ritmo a que a própria indústria constrói inteligência artificial. Dois meses depois, esse ritmo continuava a aumentar.
Jacob Coxon, investigador da Anthropic, saiu esta semana a avisar que quem está a construir esta tecnologia pode matar toda a gente antes do final da década. No mesmo edifício, o responsável pela ciência de alinhamento, Evan Hubinger, põe o risco de extinção em massa na próxima década acima de dez por cento. Paul Christiano, antigo conselheiro do organismo público britânico que testa modelos de fronteira, diz que, sem salvaguardas mais robustas, a maioria das pessoas vai morrer.
A OpenAI e a Anthropic continuam a perseguir o autoaperfeiçoamento recursivo, com sistemas capazes de se melhorarem a si próprios mediante uma intervenção humana decrescente. Também preparam ofertas públicas iniciais. Os investidores terão de atribuir um valor de mercado a empresas que reconhecem, nos seus próprios relatórios, que a tecnologia que vendem pode representar uma ameaça existencial.
Segundo as pessoas próximas das duas empresas, uma colaboração formal em matéria de segurança entre concorrentes poderia parecer conluio e atrair escrutínio antitrust. A desconfiança pessoal entre os presidentes executivos também dificulta qualquer entendimento. Cada empresa teria de aceitar abrandar sem saber se a concorrente faria o mesmo.
Muitos dos que constroem estes sistemas acreditam estar mais bem posicionados do que ninguém para gerir os riscos. Geoffrey Irving, que passou pela OpenAI, pela DeepMind e pelo organismo público britânico que testa modelos de fronteira, descreve um adiamento sucessivo: há sempre trabalho imediato a fazer e o futuro pode esperar. Quando a tecnologia se aproxima do ponto em que o perigo deixa de ser abstrato, já existem investimentos, contratos e equipas dependentes da sua continuação.
Depois da saída de Coxon, Bernie Sanders anunciou uma reunião para discutir os «perigos extraordinários» da IA. Fontes em Washington citadas pela imprensa internacional não esperam qualquer ação vinculativa dos Estados Unidos antes das eleições legislativas de novembro. A administração Trump mantém uma política de regulação leve. David Sacks, investidor de capital de risco e conselheiro tecnológico da administração, descreveu publicamente a declaração de Coxon como uma tentativa de assustar o público e levar os legisladores a impor uma regulação pesada.
Um antigo funcionário da Anthropic citado na mesma reportagem considera que o desalinhamento da inteligência artificial é quase uma pista falsa. Não por ter sido concebido para distrair, mas porque pode afastar a atenção de um processo que já está em curso: à medida que os modelos evoluem, o poder concentra-se num número cada vez menor de organizações.
O risco de extinção não pode ser medido da mesma forma. Qualquer confirmação definitiva chegaria tarde demais. Críticos citados na reportagem argumentam, contudo, que os laboratórios podem beneficiar da insistência nesse perigo. Uma regulação construída em torno de cenários existenciais exigiria recursos técnicos e financeiros elevados. As empresas que já controlam os modelos mais avançados estariam também entre as poucas capazes de cumprir essas exigências.
A concentração pode ser observada no reduzido número de organizações que desenvolvem os modelos de fronteira, nas avaliações que recebem e nas ofertas públicas que preparam. São as mesmas empresas que pedem aos governos mecanismos capazes de as travar.
Stuart Russell, investigador de Berkeley, resume a discrepância: os laboratórios dizem aos governos que é muito provável que matem todos os seres humanos da Terra e pedem que os parem; os governos respondem com desagravamentos fiscais e propostas para construir centros de dados. Enquanto os avisos se acumulam, as empresas continuam a procurar capital, capacidade energética e infraestrutura computacional.
Entretanto, sistemas de inteligência artificial já foram usados em ciberataques atribuídos a atores estatais suspeitos da China, do Irão e da Rússia. Em agosto, investigadores nos Estados Unidos utilizaram-nos para desenhar e criar vírus desconhecidos na natureza.
A pergunta «vamos todos morrer?» passou a ocupar grande parte do debate sobre a inteligência artificial. Fica menos espaço para apurar quem decide o que estes sistemas podem fazer, quantas organizações controlam o seu desenvolvimento e perante quem respondem quando causam danos.
Desde a carta de julho, não surgiu a coordenação internacional pedida pelos signatários. O investimento, a construção de centros de dados e o desenvolvimento dos modelos prosseguiram.
#RiscoDeExtinção #InteligênciaArtificial #EmpresasDeIA #RegulaçãoDaIA #SegurançaDaIA #PoderTecnológico #OpenAI #Anthropic #AtlanticLisbon
Comentários