Antes da IPO, OpenAI encerra equipe de avaliação de riscos graves de IA
A mudança redistribui as funções de segurança entre áreas de biologia e cibersegurança enquanto a empresa se aproxima de uma possível oferta pública de ações
Imagem: Dietmar Rabich · CC BY-SA 4.0 · fonte/licença
No último dia de julho, a OpenAI anunciou o fim da equipe de preparedness, o grupo interno que monitorava ameaças de grande escala dos seus modelos de inteligência artificial.
Essa equipe tinha a missão de identificar se os sistemas poderiam gerar riscos de alcance global e de elaborar estratégias para mitigar esses perigos, incluindo cenários em que a IA agisse contra organizações.
Com o encerramento, as atribuições foram divididas entre estruturas já existentes. Questões relacionadas à biologia passaram a ser tratadas por equipes de pesquisa biológica, enquanto ameaças de cibersegurança foram absorvidas por grupos de segurança digital.
Dylan Scandinaro, que liderava a preparação, teve seu foco redirecionado para os impactos da chamada IA de aprimoramento recursivo. Ao mesmo tempo, outros executivos de ética, futurismo e segurança deixaram a empresa nos últimos meses, gerando críticas de ex-funcionários que apontam uma possível priorização de produtos em detrimento da segurança.
Embora a equipe específica tenha sido dissolvida, a OpenAI afirma que parte das tarefas de avaliação de risco continua ativa, agora distribuída entre diferentes departamentos. O movimento ocorre enquanto a companhia se prepara para uma potencial oferta pública inicial de ações, intensificando o debate sobre a atenção dedicada à gestão dos riscos da IA.
