Irregular capta 80 milhões de dólares para reforçar segurança de modelos de IA

A Irregular, empresa especializada em segurança para inteligência artificial, garantiu um financiamento de 80 milhões de dólares numa ronda liderada pela Sequoia Capital e pela Redpoint Ventures, com participação do diretor-executivo da Wiz, Assaf Rappaport. Segundo fonte próxima do acordo, a operação avaliou a companhia em 450 milhões de dólares.

Foco em riscos antes do lançamento

Fundada como Pattern Labs, a Irregular é citada em avaliações de segurança de modelos como Claude 3.7 Sonnet e nos projetos o3 e o4-mini da OpenAI. O seu sistema SOLVE, que mede a capacidade de detetar vulnerabilidades, é amplamente adotado no setor.

Com o novo capital, a empresa pretende reforçar a identificação de riscos emergentes. Para tal, construiu ambientes de simulação onde modelos de IA assumem papéis de atacante e de defensor, permitindo testar sistemas de forma intensiva antes da disponibilização pública.

Segurança torna-se prioridade na indústria

A preocupação com falhas em modelos avançados levou a OpenAI a rever os seus procedimentos internos no verão, perante receios de espionagem corporativa. Em paralelo, a capacidade crescente das IAs em encontrar vulnerabilidades de software aumenta o impacto potencial de ataques.

Imagem: techcrunch.com

Para o cofundador Dan Lahav, a interação entre humanos e IA — e entre IAs — deverá gerar grande parte da atividade económica futura, pressionando a infraestrutura de segurança existente. “Se o objetivo dos laboratórios é criar modelos cada vez mais sofisticados, o nosso é protegê-los”, afirmou.

A Irregular considera que a natureza evolutiva dos modelos implica trabalho contínuo, pelo que os novos recursos financeiros serão aplicados no desenvolvimento de metodologias que acompanhem essa evolução.