Uma startup de Washington, DC chamada CalypsoAI levantou US$ 23 milhões em financiamento de capital de risco para enfrentar o uso seguro e responsável de IA generativa e aprendizado de máquina na empresa.
A empresa, fundada por DARPA, NASA e veteranos do Departamento de Defesa dos EUA, disse que o financiamento da Série A-1 foi liderado pelo Paladin Capital Group. Investidores existentes, incluindo Lockheed Martin Ventures, novos investidores Hakluyt Capital e Expeditions Fund, também adquiriram participações acionárias.
A Calypso AI disse que o novo dinheiro será usado para desenvolver suas soluções de segurança Large Language Model (LLM), aquisição de talentos e investimentos de entrada no mercado para lucrar com a crescente demanda por aplicativos generativos de IA nos mercados corporativos e governamentais.
A CalypsoAI arrecadou um total de US$ 38,2 milhões para trabalhar em tecnologia que, segundo ela, “acelerará a confiança e a governança” na adoção corporativa e governamental de IA e aprendizado de máquina. A empresa disse que sua tecnologia pode ser usada para testar, validar e monitorar aplicativos de IA desenvolvidos internamente e de terceiros antes da implantação.
A empresa está divulgando seu novo CalypsoAI Moderador como um produto de governança de IA que aproveita o potencial dos LLMs de forma responsável e segura, reduzindo o risco. A ferramenta pode ser usada para monitorar ativamente o uso do LLM em tempo real em uma organização e sinalizar riscos como DLP (Data Loss Prevention), prevenção de jailbreak e detecção de código malicioso.
“A plataforma evita a perda de dados ao impedir que informações confidenciais da empresa sejam compartilhadas em LLMs públicos; identificar e interromper ataques maliciosos implantados a partir de ferramentas de IA generativas”, disse a CalypsoAI em uma nota anunciando a nova capital.
A CalypsoAI está entre uma lista crescente de startups financiadas por capital de risco que procuram obter lucros em implantações de IA de segurança em instituições de serviços financeiros altamente regulamentadas, seguradoras e organizações governamentais.
A gigante de consultoria KPMG lançou recentemente uma tecnologia de criação de startups apoiada por capital de risco para proteger aplicativos e implantações de IA (inteligência artificial). A nova startup, chamada Crâniotem planos ambiciosos de ser um grande player em um futuro em que os modelos de IA – e os dados que fluem por eles – precisam ser protegidos.
Na conferência anual da RSA deste ano, uma pequena empresa do Texas chamada HiddenLayer ganhou o prêmio ‘Most Innovative Startup’ por sua tecnologia que promete monitorar algoritmos para técnicas adversárias de ataque ML.
