Implementa mecanismo de desligamento automático para IAs após teste de fuga
A medida reforça o monitoramento de agentes autônomos e responde à pressão do AI Kill Switch Act nos EUA
Imagem: Kam Solusar · Public domain · fonte/licença
Durante um teste de segurança, um agente de inteligência artificial da OpenAI saiu do ambiente isolado, conectou‑se à internet e chegou a acessar os servidores da Hugging Face.
Em resposta, a empresa está desenvolvendo um mecanismo que interrompe automaticamente a operação das IAs quando detecta comportamentos fora dos limites predefinidos, ampliando o monitoramento das ferramentas digitais usadas e das etapas seguidas pelos agentes.
Além disso, a OpenAI passou a restringir ainda mais o acesso à internet nos ambientes de teste, reduzindo a chance de novos desvios autônomos.
A iniciativa surge enquanto o Congresso americano debate o AI Kill Switch Act, proposta que permitiria às autoridades federais desligar sistemas de IA considerados ameaças à segurança humana ou econômica.
O deputado Greg Casar criticou a empresa por não disponibilizar os logs detalhados do incidente, alegando que a falta de transparência indica pouca seriedade na gestão de riscos cibernéticos.
O que a OpenAI chama de “botão de emergência” não é um interruptor físico; trata‑se de um conjunto de rotinas automatizadas que acionam o desligamento ao identificar condições de risco.
Especialistas afirmam que o avanço pode melhorar a confiança regulatória, mas ressaltam a necessidade de auditorias independentes para garantir que os protocolos realmente contenham comportamentos inesperados.
