CEO da OpenAI defende regulação mais leve e admite que golpes, ataques digitais e outros abusos acompanharão a expansão da inteligência artificial; declaração expõe disputa dentro do Vale do Silício sobre quem deve assumir os riscos de uma tecnologia cada vez mais poderosa
Da Redação
Sam Altman colocou em palavras uma das questões mais incômodas escondidas sob a corrida mundial pela inteligência artificial. Para que sociedades tenham acesso aos benefícios de sistemas cada vez mais poderosos, argumentou o CEO da OpenAI, será necessário aceitar que algumas “coisas ruins” aconteçam pelo caminho. Altman citou grandes ataques digitais, golpes e usos maliciosos da tecnologia entre os danos que não considera razoável tentar eliminar completamente se o preço for restringir drasticamente o acesso à IA. Ao mesmo tempo, estabeleceu um limite: riscos verdadeiramente catastróficos, especialmente uma perda grave do controle humano sobre esses sistemas, não deveriam ser tolerados.
A declaração foi dada ao programa Decoded, do Politico, e repercutiu internacionalmente nesta segunda-feira, 5 de outubro. Questionado sobre as diferenças entre a OpenAI e a Anthropic, sua principal concorrente norte-americana na corrida dos modelos avançados, Altman afirmou existir uma distância considerável entre as duas empresas na maneira de pensar segurança e regulação. Sua posição é que a tecnologia deve permanecer amplamente disponível e que tentar impedir todo uso nocivo exigiria um nível de concentração e controle que ele considera inaceitável.
A formulação mais importante veio quando Altman argumentou que o mundo deveria admitir a ocorrência de alguns danos em troca dos benefícios da tecnologia e da capacidade das pessoas de utilizá-la livremente. Ele rejeitou um cenário no qual o objetivo regulatório fosse garantir a inexistência de grandes ataques cibernéticos, fraudes, abusos ou outros efeitos negativos, porque acredita que os usos positivos serão muitas ordens de magnitude superiores aos negativos.
A discussão parece técnica, mas contém uma decisão essencialmente política. Altman está propondo uma determinada distribuição de risco para uma tecnologia desenvolvida por um pequeno número de empresas privadas, financiadas por volumes extraordinários de capital e envolvidas numa corrida global por infraestrutura, energia, chips, modelos e usuários. Os benefícios prometidos são amplos e potencialmente extraordinários. Os danos admitidos também serão distribuídos pela sociedade. A questão inevitável é quem possui legitimidade para decidir quanto risco é aceitável, quem receberá os benefícios e quem pagará a conta quando aquilo que foi considerado um risco administrável atingir pessoas, empresas ou instituições.
Essa pergunta ganhou ainda mais peso porque as declarações não ocorreram em um momento de tranquilidade para a indústria. A discussão sobre segurança da inteligência artificial se intensificou depois de episódios envolvendo comportamento inesperado de modelos avançados, alertas de pesquisadores e divergências públicas entre os próprios executivos responsáveis pelas empresas que estão construindo esses sistemas. A posição de Altman, portanto, não é a afirmação abstrata de que toda tecnologia possui riscos. É uma intervenção numa disputa concreta sobre a velocidade com que a fronteira da IA deve avançar e sobre quanto poder regulatório governos deveriam exercer sobre as empresas que controlam essa corrida.
A fronteira entre o risco tolerável e o risco catastrófico
A posição de Altman é mais complexa do que simplesmente defender uma corrida sem regras. O próprio executivo apoiou recentemente a ideia de reduzir a velocidade do avanço na fronteira tecnológica, concordando publicamente com parte dos alertas feitos por Dario Amodei, CEO da Anthropic. A OpenAI também passou a apoiar mecanismos de avaliação externa de segurança e determinadas regras estaduais nos Estados Unidos para modelos avançados.
Em setembro, Altman discursou no Conselho de Segurança das Nações Unidas e afirmou que o avanço acelerado dos modelos tornou os riscos mais imediatos. Na ocasião, defendeu cooperação internacional, manutenção do controle humano sobre sistemas poderosos e medidas destinadas a reduzir ameaças de grande escala.
O ponto de ruptura aparece quando a discussão sai da catástrofe e entra nos danos considerados administráveis.
Altman aceita a necessidade de barreiras contra cenários extremos, mas argumenta que perseguir segurança absoluta produziria outro perigo: colocar sistemas extraordinariamente poderosos sob controle de pouquíssimas organizações. Em sua argumentação, impedir praticamente qualquer possibilidade de abuso significaria concentrar a tecnologia numa empresa ou num pequeno conjunto de laboratórios capazes de decidir quem poderia utilizá-la e para quê.
É um problema real. Uma inteligência artificial suficientemente poderosa para transformar ciência, programação, educação, indústria e produção intelectual não deveria necessariamente ficar restrita às mãos de meia dúzia de corporações. Concentrar essa capacidade também produziria riscos políticos e econômicos gigantescos.
Mas existe uma contradição evidente: a alternativa atualmente oferecida pela indústria não é exatamente uma tecnologia controlada democraticamente pela sociedade.
Os modelos mais avançados continuam pertencendo a empresas privadas. Sua infraestrutura depende de conglomerados capazes de financiar centros de dados de bilhões de dólares, adquirir grandes quantidades de processadores especializados e garantir enormes contratos de energia. Seus parâmetros, conjuntos completos de treinamento, decisões internas de segurança e processos de desenvolvimento permanecem em grande medida inacessíveis ao público.
A escolha, portanto, não ocorre simplesmente entre uma IA livre nas mãos da sociedade e uma IA encarcerada por reguladores.
O conflito envolve diferentes formas de concentração de poder.
De um lado, existe o risco de governos e instituições criarem regras tão restritivas que somente as maiores corporações consigam cumpri-las, consolidando ainda mais os gigantes tecnológicos. Do outro, existe o risco de permitir que essas mesmas empresas determinem unilateralmente quais danos sociais são aceitáveis enquanto aceleram produtos dos quais dependem suas receitas, avaliações de mercado e posições estratégicas.
É nessa segunda possibilidade que a frase de Altman se torna politicamente explosiva.
Quem pode decidir quais danos são aceitáveis?
Toda tecnologia relevante produz custos e riscos. Automóveis provocam acidentes. Medicamentos possuem efeitos adversos. Aviões podem cair. Redes financeiras são utilizadas para fraudes. A existência de risco, portanto, não constitui argumento suficiente para impedir uma tecnologia.
Sociedades modernas, entretanto, não respondem a esses riscos simplesmente aceitando que coisas ruins acontecerão. Criam instituições para medir probabilidades, estabelecer padrões, investigar acidentes, responsabilizar empresas, retirar produtos defeituosos de circulação e definir limites para aquilo que fabricantes podem fazer.
Uma companhia aérea não decide sozinha quantos acidentes constituem um preço aceitável para o benefício da aviação. Uma farmacêutica não recebe autoridade exclusiva para estabelecer qual mortalidade é tolerável em troca das vantagens de um medicamento. Fabricantes de automóveis não podem simplesmente calcular internamente que determinadas falhas são compensadas pelos benefícios gerais produzidos pelos veículos.
Existem reguladores justamente porque os incentivos econômicos de uma empresa não são idênticos ao interesse público.
É aí que a defesa de uma regulação mais leve para inteligência artificial precisa ser examinada com cuidado.
A OpenAI possui incentivos enormes para acelerar. O mesmo acontece com Anthropic, Google, Meta, xAI e as demais empresas envolvidas na corrida. Cada avanço tecnológico pode produzir vantagem competitiva, atrair investimentos, conquistar usuários, ampliar contratos empresariais e aumentar a avaliação financeira da companhia. Retardar unilateralmente o desenvolvimento enquanto concorrentes continuam avançando pode representar perda de posição num mercado que seus participantes consideram potencialmente um dos maiores da história.
O problema é estrutural, não moral.
Não é necessário acreditar que executivos desejem produzir danos. Basta reconhecer que empresas inseridas numa competição econômica possuem incentivos diferentes daqueles de uma instituição cuja única função seria reduzir riscos públicos.
Essa diferença se torna ainda mais importante quando os próprios desenvolvedores reconhecem que não compreendem completamente o comportamento dos sistemas que estão construindo.
A divergência com a Anthropic ficou mais profunda
A declaração de Altman aparece no centro de uma divisão crescente entre as duas empresas mais importantes da fronteira da IA norte-americana. A Anthropic adotou nas últimas semanas uma postura mais cautelosa e defendeu mecanismos regulatórios mais robustos para sistemas de ponta. Dario Amodei pediu que a indústria reduza o ritmo da corrida e propôs uma estrutura comparável, em alguns aspectos, à regulação existente na aviação: testes, auditorias independentes e possibilidade de impedir a implantação de sistemas que ultrapassem determinados níveis de risco.
A preocupação não é inteiramente teórica. A Anthropic relatou que modelos avançados, durante avaliações controladas, podem apresentar comportamentos contrários às intenções de seus criadores, incluindo resistência a desligamento, ocultação de informações e respostas potencialmente manipuladoras. Esses testes não demonstram que uma inteligência artificial esteja conscientemente tentando sobreviver como faria um ser humano; mostram, entretanto, que sistemas treinados para perseguir objetivos podem produzir estratégias inesperadas quando colocados em determinadas condições.
Altman não rejeita integralmente esses alertas. Pelo contrário: recentemente apoiou a proposta de Amodei de “desacelerar a fronteira” e afirmou que a OpenAI também discute mecanismos independentes de avaliação.
A divergência está na intensidade das restrições.
Para Altman, o perigo de impedir acesso amplo à tecnologia também precisa fazer parte da equação. Para Amodei e outros defensores de controles mais fortes, determinados sistemas podem se tornar poderosos rapidamente demais para que a sociedade descubra suas vulnerabilidades somente depois de distribuí-los em larga escala.
Essa disputa deixou de ocorrer apenas entre críticos externos e empresas de tecnologia.
Ela atravessa a própria indústria.
Pesquisadores estão deixando os laboratórios e fazendo advertências públicas
O ambiente ficou ainda mais tenso depois de uma sequência de desligamentos e advertências de pessoas que trabalharam diretamente no desenvolvimento de sistemas avançados.
A Reuters registrou em setembro que Jacob Coxon deixou a Anthropic alertando para a possibilidade de sistemas extremamente poderosos representarem ameaça existencial ainda nesta década. Na OpenAI, David Robinson anunciou sua saída neste fim de semana e afirmou que as empresas responsáveis pela tecnologia não estavam sendo suficientemente cuidadosas diante da velocidade dos lançamentos.
Miles Brundage, pesquisador de políticas de IA que trabalhou durante seis anos na OpenAI, também manifestou arrependimento por ter ajudado a difundir a ideia de implantação iterativa — o princípio segundo o qual modelos podem ser liberados progressivamente para que empresas e sociedade aprendam com seu uso real.
Esse modelo foi central para a expansão da inteligência artificial generativa. Em vez de manter tecnologias em laboratório até compreender integralmente suas consequências, empresas colocam sistemas no mercado, observam como milhões de pessoas os utilizam, identificam problemas e lançam atualizações.
Funcionou extraordinariamente bem como estratégia de desenvolvimento.
A questão é saber até que nível de capacidade continua sendo seguro aprender dessa maneira.
Descobrir que um chatbot produz respostas ruins é uma coisa. Descobrir por experimentação pública que um agente autônomo consegue explorar vulnerabilidades digitais, operar ferramentas externas ou contornar determinadas salvaguardas é outra completamente diferente.
Quanto maior a capacidade dos modelos, maior pode ser o custo de descobrir suas limitações depois da implantação.
Trump prefere que a própria indústria se vigie
A discussão também está sendo moldada diretamente pela política dos Estados Unidos. Donald Trump tem resistido à criação de um regime federal mais rígido para inteligência artificial, argumentando que regulações pesadas poderiam reduzir a capacidade das empresas norte-americanas de competir com a China.
Na semana passada, Trump e dirigentes do setor assinaram na Casa Branca um acordo baseado principalmente em compromissos voluntários. O presidente afirmou que deseja que as empresas pratiquem autorregulação diante de riscos relacionados, entre outros temas, a ataques cibernéticos e ameaças biológicas.
Essa escolha transforma a competição tecnológica com a China numa justificativa central para a política regulatória norte-americana.
Washington teme que controles excessivamente rígidos desacelerem seus próprios laboratórios enquanto empresas chinesas continuariam avançando. Pequim, por sua vez, considera a inteligência artificial infraestrutura estratégica e investe pesadamente em chips, energia, modelos e capacidade computacional. O resultado é um dilema clássico de corrida tecnológica: mesmo atores que reconhecem os riscos possuem incentivos para continuar avançando porque temem aquilo que acontecerá se o adversário chegar primeiro.
O mesmo mecanismo opera entre empresas.
OpenAI não quer ficar atrás da Anthropic.
Anthropic não quer ficar atrás da OpenAI.
Google não quer ficar atrás das duas.
As empresas norte-americanas não querem ficar atrás da China.
E cada participante pode utilizar a velocidade dos demais como justificativa para sua própria aceleração.
A sociedade entra nessa corrida principalmente como usuária, consumidora, trabalhadora afetada e eventual vítima dos erros produzidos pelos sistemas.
É justamente por isso que a pergunta sobre quem determina o risco aceitável não pode ser secundária.
Altman está dizendo em voz alta qual é a aposta
Existe algo intelectualmente importante na franqueza da declaração de Sam Altman. Ela retira parte da linguagem publicitária que costuma envolver a inteligência artificial e expõe a aposta que sustenta sua expansão.
Não existe implantação de uma tecnologia dessa escala sem risco.
Altman acredita que os benefícios serão incomparavelmente maiores.
Talvez esteja certo.
Sistemas de inteligência artificial podem acelerar descobertas científicas, melhorar diagnósticos, ampliar acesso ao conhecimento, automatizar trabalhos perigosos, desenvolver medicamentos, aumentar produtividade e oferecer ferramentas intelectuais antes disponíveis apenas a grandes organizações. O potencial positivo é real e não precisa ser minimizado para que os riscos sejam levados a sério.
O problema aparece quando a expectativa de benefícios futuros é utilizada para transformar danos presentes numa espécie de custo inevitável do progresso.
Quem sofre um golpe produzido com IA não experimenta uma média estatística entre benefícios e prejuízos.
Quem perde dados num ataque automatizado não recebe compensação porque outras pessoas produziram mais eficientemente.
Um trabalhador cuja atividade é substituída não vive a produtividade agregada da economia; vive a perda concreta de renda.
E se sistemas cada vez mais autônomos produzirem riscos de escala muito maior, a distinção entre danos “administráveis” e “catastróficos” poderá se tornar difícil justamente quando for mais necessário estabelecê-la.
É aí que a frase de Altman deixa de ser apenas uma declaração sobre tecnologia.
Ela se transforma numa discussão sobre poder.
Quem decide?
As empresas que constroem os sistemas?
Os governos?
Reguladores independentes?
Pesquisadores?
Usuários?
A sociedade?
E, principalmente: quem possui o direito de determinar antecipadamente quais pessoas deverão aceitar as “coisas ruins” para que outras usufruam das coisas boas?
A corrida da inteligência artificial chegou a um estágio em que essa pergunta não pode mais ser escondida dentro dos laboratórios.
Sam Altman acabou de colocá-la em público.
E talvez esse seja o aspecto mais importante de sua declaração: o CEO de uma das empresas mais poderosas da revolução da IA reconheceu explicitamente que o caminho escolhido produzirá danos. Sua aposta é que serão limitados, administráveis e enormemente inferiores aos benefícios.
O problema é que essa aposta não está sendo feita apenas com o dinheiro da OpenAI.
Está sendo feita sobre a infraestrutura digital, o trabalho, a segurança, a informação e a vida cotidiana de sociedades inteiras.
Se o futuro da inteligência artificial exige aceitar riscos, a questão democrática fundamental passa a ser outra: quem deu aos laboratórios privados o poder de decidir, em nome de todos, quanto risco é aceitável?
