A Nvidia revelou, nesta quarta-feira (13), um investimento significativo em pesquisa de segurança de inteligência artificial, totalizando US$ 250 milhões ao longo de cinco anos. A iniciativa, que disponibilizará US$ 50 milhões anualmente, tem como objetivo apoiar projetos no Reino Unido relacionados à proteção e segurança de sistemas de IA agêntica.
A maior parte dos recursos será destinada à comunidade de pesquisa britânica, com um foco especial em iniciativas do British Open-Ended Learning and Discovery Lab (BOLD), do Science of Fundamental AI Research Lab (SOFAIR) e do Imperial College London. A empresa ressaltou que o acesso à capacidade computacional será feito por meio de parceiros de nuvem localizados no Reino Unido, com a infraestrutura também hospedada no país, contribuindo para o fortalecimento do ecossistema local de computação.
Ainda não foram definidos os provedores, a arquitetura técnica e os termos comerciais para a implementação da iniciativa. O CEO da Nvidia, Jensen Huang, destacou que a capacidade e a segurança em IA precisam avançar em conjunto, afirmando que a proposta permitirá que pesquisadores britânicos tenham acesso a computação acelerada para desenvolver e testar salvaguardas em modelos de IA mais potentes.
O ministro britânico de IA, Kanishka Narayan, elogiou a doação como uma demonstração de confiança na posição do Reino Unido como líder em pesquisa na área. Ele também enfatizou a relevância da segurança em IA no contexto da presidência britânica do G20. Por sua vez, o secretário de Negócios do Reino Unido, Jonathan Reynolds, comentou que o investimento deve acelerar os avanços que promovam a confiança na implementação segura de IA.
A proposta da Nvidia visa abordar temas críticos, como a segurança de agentes, a proteção de modelos abertos e a mitigação de ameaças reais. Além disso, a iniciativa pretende apoiar ambientes de testes controlados, pesquisa reprodutível e a definição de métricas para avaliação da segurança em IA.
