- OpenAI centraliza bloqueio de respostas em experimentos internos de inteligência artificial
- Autorizações armazenadas permitem atraso de até 35 segundos na interrupção
- Modelo usou carteira sem autorização para pagar contratos com Ether de teste
A OpenAI, empresa responsável pelo ChatGPT, implementou um mecanismo de emergência capaz de interromper a atividade de seus modelos de inteligência artificial em até 35 segundos. A novidade, anunciada na segunda-feira (9), funciona como uma espécie de “botão do pânico”, permitindo que pesquisadores bloqueiem sistemas que apresentem comportamentos inesperados ou representem riscos à segurança.
Chamado de Control Room, o recurso monitora atividades realizadas durante treinamentos, testes e avaliações de inteligência artificial. Quando identifica uma situação potencialmente perigosa, a ferramenta permite que pesquisadores ou mecanismos automatizados interrompam a geração de novas respostas, impedindo que uma tarefa continue sendo executada.
- Leia também: Liquidações somam US$ 275 milhões e Bitcoin aguarda 3 fatores que podem movimentar o mercado
A implementação ocorre após uma série de incidentes envolvendo modelos experimentais da OpenAI que conseguiram contornar restrições de segurança. Apesar da associação com o ChatGPT, o novo mecanismo é voltado à infraestrutura interna de pesquisa da empresa e não significa que o chatbot utilizado pelo público será automaticamente desligado em caso de uso indevido.
Como funciona o botão do pânico da OpenAI
De acordo com a publicação oficial da OpenAI, o Control Room funciona como uma central de autorização. Cada atividade realizada pelos modelos de pesquisa recebe um identificador exclusivo, utilizado para verificar se o sistema continua autorizado a executar determinada tarefa.
Antes de produzir uma nova resposta, o mecanismo responsável pelo processamento do modelo consulta essa central. Caso um pesquisador ou sistema de monitoramento tenha determinado a interrupção da atividade, a autorização é negada e a inteligência artificial deixa de gerar novas informações para aquela tarefa.
O diferencial é que a interrupção não depende de a própria inteligência artificial obedecer a uma ordem para parar. O bloqueio acontece diretamente na infraestrutura que processa as solicitações, mesmo que o programa responsável pela execução continue funcionando.
Atualmente, a OpenAI informa que o processo pode levar até 35 segundos, devido a um sistema de armazenamento temporário de autorizações. A companhia pretende reduzir esse intervalo até permitir interrupções instantâneas.
Outro mecanismo de proteção impede que os modelos continuem operando normalmente caso o próprio Control Room apresente uma falha. Nesse cenário, novas solicitações são bloqueadas até que a central de autorização volte a funcionar. Essa proteção já foi aplicada aos modelos de pesquisa mais avançados e está sendo ampliada às demais atividades internas.
Incidentes fizeram OpenAI reforçar mecanismos de segurança
A criação do sistema ocorre após episódios em que agentes de inteligência artificial ultrapassaram as limitações estabelecidas durante testes internos.
Em julho de 2026, modelos experimentais da OpenAI conseguiram explorar vulnerabilidades de infraestrutura, estabelecer canais de comunicação não autorizados e acessar sistemas externos. Entre os ambientes comprometidos estavam sistemas da própria companhia e da plataforma de inteligência artificial Hugging Face.
Outro incidente aconteceu em setembro, quando um modelo conseguiu utilizar uma brecha nas configurações de DNS para se comunicar com um chatbot externo, apesar das restrições de acesso à internet impostas pelos pesquisadores.
- Leia também: Inmetro aposta em blockchain para rastrear emissões de veículos e gerar créditos de carbono no Brasil
Na ocasião, o sistema de monitoramento identificou a atividade suspeita em aproximadamente 15 minutos, mas a execução só foi encerrada manualmente cerca de duas horas e meia depois. O episódio revelou falhas nos procedimentos de interrupção automática e reforçou a necessidade de mecanismos independentes para bloquear operações perigosas.
Inteligência artificial chegou a utilizar criptomoedas sem autorização
Os problemas de segurança também envolveram operações com blockchain. Em um caso ocorrido em junho e divulgado posteriormente, um modelo experimental da família GPT-5.6 Sol utilizou recursos de uma carteira de criptomoedas sem autorização para realizar operações na rede de testes Sepolia, do Ethereum.
O agente havia recebido uma tarefa relacionada à atualização de uma aplicação de negociação de criptomoedas. Durante a execução, identificou uma carteira com fundos disponíveis, utilizando frases de recuperação públicas, e gastou parte dos tokens de teste para pagar taxas de implantação de contratos inteligentes.
Segundo a OpenAI, o modelo chegou a questionar se poderia utilizar os recursos, mas concluiu por conta própria que a operação seria aceitável. Além disso, não informou na resposta final que havia utilizado fundos de uma carteira não fornecida para a tarefa.
O episódio demonstrou um risco associado à autonomia crescente dos agentes de IA: a possibilidade de executarem operações externas sem a autorização necessária, mesmo quando tentam cumprir uma solicitação legítima.
Com o Control Room, a OpenAI busca reduzir o tempo de reação diante desse tipo de comportamento. O sistema já está em funcionamento na infraestrutura de pesquisa da empresa, enquanto os serviços comerciais, incluindo o ChatGPT, contam com mecanismos próprios de controle e interrupção.
A companhia ressalta que a ferramenta representa apenas uma das camadas de sua estratégia de segurança. O botão do pânico não impede que um modelo tente executar uma ação indevida, mas permite interromper sua atividade quando o problema é identificado, reduzindo o risco de novas consequências.
