Interpretação da investigação aprofundada do The New Yorker: Por que os insiders da OpenAI consideram Altman indigno de confiança?

Autor original: Xiaobing, Shenchao TechFlow

No outono de 2023, o cientista-chefe da OpenAI, Ilya Sutskever, sentou-se em frente ao seu computador, completando um documento de 70 páginas.

Este documento foi compilado a partir de registos de mensagens do Slack, ficheiros de comunicação de RH e atas de reuniões internas, exclusivamente para responder a uma pergunta: Sam Altman, o responsável pela que pode ser a tecnologia mais perigosa da história da humanidade, pode ser confiável?

A resposta fornecida por Sutskever está escrita na primeira linha da primeira página do documento, com o título da lista "Sam exibe um padrão consistente de comportamento..."

O primeiro ponto: Mentir.

Hoje, dois anos e meio depois, os jornalistas investigativos Ronan Farrow e Andrew Marantz publicaram um extenso relatório investigativo no The New Yorker. Eles entrevistaram mais de 100 partes, obtiveram memorandos internos anteriormente não divulgados e mais de 200 páginas de notas privadas deixadas pelo fundador da Anthropic, Dario Amodei, durante seu tempo na OpenAI. A história reunida a partir desses documentos é muito mais sombria do que a "intriga palaciana" de 2023: como a OpenAI se transformou de uma organização sem fins lucrativos criada para a segurança humana em uma máquina comercial, com quase todas as barreiras de segurança desmanteladas pela mesma pessoa.

A conclusão de Amodei em suas notas é ainda mais direta: "O problema com a OpenAI é o próprio Sam."

O "Pecado Original" da OpenAI

Para compreender o peso deste relatório, é necessário primeiro esclarecer o quão especial a OpenAI é como empresa.

Em 2015, Altman e um grupo de elites do Vale do Silício fizeram algo quase sem precedentes na história dos negócios: usaram uma organização sem fins lucrativos para desenvolver o que pode ser a tecnologia mais poderosa da história da humanidade. As responsabilidades do conselho foram claramente estabelecidas: a segurança tem precedência sobre o sucesso da empresa, até mesmo sobre a sobrevivência da empresa. Em termos simples, se um dia a IA da OpenAI se tornar perigosa, o conselho tem a obrigação de fechar a empresa eles próprios.

A estrutura inteira é baseada numa suposição: a pessoa responsável pela AGI deve ser uma pessoa extremamente honesta.

E se essa suposição estiver errada?

A bomba central do relatório é esse documento de 70 páginas. Sutskever não se envolve em política de escritório; ele é um dos principais cientistas de IA do mundo. Mas, até 2023, ele ficou cada vez mais convencido de uma coisa: Altman estava a mentir continuamente aos executivos e ao conselho de administração.

Um exemplo específico: Em dezembro de 2022, Altman garantiu ao conselho durante uma reunião que várias funcionalidades do próximo GPT-4 tinham sido aprovadas nas revisões de segurança. O membro do conselho Toner solicitou para ver os documentos de aprovação e descobriu que duas das funcionalidades mais controversas (ajuste fino personalizado pelo utilizador e implementação de assistente pessoal) não tinham recebido aprovação do painel de segurança.

Coisas ainda mais ultrajantes aconteceram na Índia. Um funcionário relatou a outro membro do conselho sobre "essa violação": A Microsoft lançou uma versão inicial do ChatGPT na Índia sem concluir as revisões de segurança necessárias.

Sutskever também registou outro incidente na ata: Altman tinha dito à ex-diretora técnica Mira Murati que o processo de aprovação de segurança não era tão importante, uma vez que o conselheiro geral da empresa já o tinha aprovado. Murati foi confirmar com o conselheiro geral, que respondeu: "Não sei de onde é que o Sam tirou essa ideia."

Notas privadas de 200 páginas de Amodei

O documento de Sutskever parece uma acusação de um promotor. As mais de 200 páginas de notas de Amodei assemelham-se a um diário escrito por uma testemunha no local do crime.

Durante os anos em que Amodei foi chefe de segurança na OpenAI, ele viu a empresa recuar sob pressão comercial. Ele observou um detalhe importante do caso de investimento da Microsoft em 2019: ele havia inserido uma cláusula de "fusão e assistência" no estatuto da OpenAI, o que significa que, se outra empresa encontrasse um caminho mais seguro para a AGI, a OpenAI deveria parar de competir e ajudar essa empresa. Esta era a garantia de segurança que ele mais valorizava em todo o acordo.

Quando o acordo estava prestes a ser assinado, Amodei descobriu algo: A Microsoft tinha obtido poder de veto sobre esta cláusula. O que isso significa? Mesmo que um dia um concorrente encontre um caminho melhor, a Microsoft poderia bloco A obrigação da OpenAI de ajudar com uma única palavra. A cláusula ainda estava no papel, mas a partir do dia da assinatura, tornou-se sem valor.

Amodei deixou mais tarde a OpenAI e fundou a Anthropic. A concorrência entre as duas empresas gira fundamentalmente em torno do desacordo sobre "como a IA deve ser desenvolvida".

O Compromisso de Computação Desaparecendo 20%

Há um detalhe no relatório que causa arrepios, no que diz respeito à "equipa de super alinhamento" da OpenAI.

Em meados de 2023, Altman enviou um e-mail a um estudante de doutoramento que investigava o "alinhamento enganoso" (a IA comporta-se bem durante os testes, mas faz o que lhe apetece após a implementação), expressando as suas profundas preocupações sobre o problema e considerando a criação de um prémio global de investigação de 1 mil milhão de dólares. O estudante de doutoramento ficou entusiasmado, tirou uma licença e juntou-se à OpenAI.

Depois, Altman mudou de ideias: não haveria um prémio externo, mas sim a criação de uma "equipa de super alinhamento" interna. A empresa anunciou que alocaria "20% do cálculo existente" para esta equipa, com um valor potencial superior a 1 mil milhão de dólares. O anúncio foi extremamente sério, afirmando que, se o problema do alinhamento não fosse resolvido, a AGI poderia levar a "os humanos serem despojados do poder, ou até à extinção da humanidade".

Jan Leike, que foi nomeado para liderar esta equipa, disse mais tarde a jornalistas que o próprio compromisso foi uma ferramenta muito eficaz de "retenção de talentos".

E quanto à realidade? Quatro indivíduos que trabalharam nesta equipa ou estiveram muito próximos dela disseram que o cálculo real atribuído foi apenas de 1% a 2% do total de computação da empresa, e era o hardware mais antigo. Esta equipa foi posteriormente dissolvida e a sua missão não foi cumprida.

Quando os jornalistas solicitaram entrevistas com o pessoal da OpenAI responsável pela investigação sobre "segurança existencial", a resposta de relações públicas da empresa foi risível: "Isso não é uma coisa real."

O próprio Altman estava calmo. Ele disse aos repórteres que sua "intuição não se alinha bem com muitas coisas tradicionais de segurança da IA", e a OpenAI ainda iria prosseguir com "projetos de segurança, ou pelo menos projetos relacionados à segurança".

O Diretor Financeiro Marginalizado e o IPO Prestes a Ser Lançado

O relatório do The New Yorker foi apenas metade das más notícias daquele dia. No mesmo dia, o The Information divulgou outra grande notícia: Houve um sério desacordo entre a Diretora Financeira da OpenAI, Sarah Friar, e Altman.

Friar disse em privado aos colegas que achava que a OpenAI não estava pronta para abrir o capital este ano. Por duas razões: a carga de trabalho processual e organizacional a ser concluída era demasiado grande e os riscos financeiros trazidos pela promessa de Altman de gastar 600 mil milhões de dólares em computação ao longo de cinco anos eram demasiado elevados. Ela até tinha dúvidas se o crescimento das receitas da OpenAI poderia suportar esses compromissos.

Mas Altman queria apressar um IPO no quarto trimestre deste ano.

Ainda mais ultrajante, Friar já não reportava diretamente a Altman. A partir de agosto de 2025, começou a repor a Fidji Simo (CEO do negócio de aplicações da OpenAI). E Simo tinha acabado de tirar uma licença médica por motivos de saúde. Considere esta situação: uma empresa a apressar um IPO, com desacordos fundamentais entre o CEO e o CFO, o CFO não reportava ao CEO e o superior do CFO em licença.

Até executivos da Microsoft não conseguiam aguentar, dizendo que Altman "distorce os factos, desmente-se e constantemente desfaz acordos." Um executivo da Microsoft até comentou: "Acho que há uma possibilidade razoável de ele acabar por ser lembrado como um golpista ao nível de Bernie Madoff ou SBF."

O retrato "de dois pesos e duas medidas" de Altman

Um antigo membro do conselho de administração da OpenAI descreveu dois traços de Altman a repórteres. Esta descrição pode ser o retrato mais severo de todo o relatório.

O membro do conselho disse que Altman possui uma combinação extremamente rara de traços: ele tem um forte desejo de agradar e ser querido pelos outros em cada interação face a face. Ao mesmo tempo, ele tem uma indiferença quase sociopática em relação às consequências de enganar os outros.

Ter ambos os traços em uma pessoa é extremamente raro. Mas para um vendedor, é o presente perfeito.

Há uma metáfora no relatório que captura bem isso: Steve Jobs era famoso pelo seu "campo de distorção da realidade", capaz de fazer o mundo acreditar na sua visão. Mas até mesmo Jobs nunca disse aos clientes: "Se não comprar o meu Leitor de MP3, as pessoas que você ama vão morrer."

Altman disse coisas semelhantes sobre a IA.

O Problema de Caráter de um CEO: Por Que É um Risco para Todos

Se Altman fosse apenas o CEO de uma empresa de tecnologia comum, estas acusações seriam, no máximo, um excitante boato empresarial. Mas a OpenAI não é comum.

De acordo com as suas próprias alegações, está a desenvolver o que pode ser a tecnologia mais poderosa da história da humanidade. Pode remodelar a economia global e o mercado de trabalho (a própria OpenAI acaba de publicar um livro branco sobre a questão do desemprego causado pela IA) e também pode ser usada para criar armas biológicas em grande escala ou lançar ciberataques.

Todas as barreiras de segurança tornaram-se sem sentido. A missão sem fins lucrativos do fundador deu lugar à correria para um IPO. O antigo cientista-chefe e o antigo chefe de segurança consideram o CEO "desconfiável". Os sócios comparam o CEO a SBF. Neste contexto, que direito tem este CEO para decidir unilateralmente quando lançar modelos de IA que poderiam mudar o destino da humanidade?

Gary Marcus (professor de IA da NYU e defensor da segurança da IA há muito tempo) escreveu uma linha depois de ler o relatório: Se um futuro modelo da OpenAI pudesse criar armas biológicas em grande escala ou lançar ataques cibernéticos catastróficos, você realmente se sentiria confortável em deixar Altman decidir se o liberaria sozinho?

A resposta da OpenAI ao The New Yorker foi sucinta: "A maior parte do conteúdo deste artigo é uma repetição de eventos já relatados, baseando-se em declarações anônimas e anedotas seletivas, com fontes que claramente têm agendas pessoais."

Muito em linha com o estilo de resposta de Altman: não abordando acusações específicas, não negando a autenticidade do memorando, apenas questionando os motivos.

Uma Árvore de Dinheiro Crescendo no Cadáver da Organização Sem Fins Lucrativos

A história de dez anos da OpenAI pode ser resumida da seguinte forma:

Um grupo de idealistas preocupados com os riscos da IA criou uma organização sem fins lucrativos orientada para uma missão. A organização fez avanços tecnológicos extraordinários. Os avanços atraíram um capital massivo. O capital exigiu retornos. A missão começou a desmoronar. A equipa de segurança foi dissolvida. Os dissidentes foram purgados. A estrutura sem fins lucrativos foi transformada numa entidade com fins lucrativos. O conselho de administração, que outrora tinha poderes para encerrar a empresa, está agora repleto de aliados do CEO. A empresa que outrora prometeu alocar 20% da sua capacidade computacional para salvaguardar a segurança humana agora tem pessoal de relações públicas a dizer: "Isso não é real".

O protagonista desta história foi descrito da mesma forma por mais de uma centena de testemunhas diretas: "Sem restrições pela verdade".

Ele está a preparar-se para levar esta empresa à bolsa, com uma avaliação superior a 850 mil milhões de dólares.

Este artigo sintetiza informações de relatórios públicos do The New Yorker, Semafor, Tech Brew, Gizmodo, Business Insider, The Information e outros meios de comunicação.