À medida que a a Inteligência Artificial continua a evoluir, dispositivos como o Jetson Orin Nano Super da Nvidia podem democratizar o acesso ao desenvolvimento de novas aplicações de IA. No entanto, o seu desempenho no mundo real só vai ficar claro com o tempo e com o uso pela comunidade de programadores.
A Nvidia, conhecida pelas suas unidades de processamento gráfico, anunciou uma nova adição à sua linha de ferramentas para o desenvolvimento de IA: o Jetson Orin Nano Super Developer Kit, um “mini supercomputador” para IA generativa do tamanho da palma da mão que está disponível por 249 dólares, metade do custo do seu antecessor.
Destinado a programadores de IA, entusiastas e estudantes, o kit reivindica valores de desempenho impressionantes, incluindo 67 INT8 TOPS (triliões de operações por segundo), o que representa um aumento de 70% em relação ao modelo anterior. A empresa também relata um aumento de 50% na largura de banda da memória, chegando agora aos 102 GB/s, e uma melhoria de até 1,7x no desempenho de inferência em IA generativa. O Jetson Orin Nano permite a tomada de decisão em tempo real e capacidade de resposta ao processar dados localmente.
No âmago do Jetson Orin Nano Super está uma GPU de arquitectura Nvidia Ampere com núcleos Tensor, emparelhada com um CPU Arm de 6 núcleos. De acordo com a Nvidia, esta combinação permite múltiplos pipelines de aplicações de IA simultâneas e inferência de alto desempenho. O kit suporta até quatro câmaras e oferece mais resolução e uma maior taxa de actualização do ecrã em comparação com as versões anteriores.
A Nvidia sublinhou a versatilidade do kit, sugerindo que pode ser usado para criar chatbots baseados em modelos de linguagem de larga escala (LLM), agentes de IA visual e robôs com capacidades de IA. No entanto, essas capacidades ainda não foram verificadas independentemente.
Curiosamente, a Nvidia afirma que os proprietários actuais do Jetson Orin Nano Developer Kit podem aceder a ganhos de desempenho semelhantes através de uma actualização de software para o SDK JetPack. Esta medida pode prolongar a vida útil do hardware mais antigo, mas levanta questões sobre a necessidade de comprar novo hardware para alguns utilizadores.
O kit inclui grande suporte de software, incluindo as ferramentas de IA da Nvidia, como Isaac para robótica, Metropolis para IA de visão e Holoscan para processamento de sensores. A empresa também destaca o suporte da comunidade e tutoriais disponíveis através do laboratório de IA Nvidia Jetson.
Embora o anúncio da Nvidia se concentre no potencial do kit para aplicações de IA generativa, é importante notar que as aplicações práticas e limitações de um dispositivo tão compacto neste campo em rápida evolução ainda estão por provar. Por outro lado, o lançamento deste kit mais acessível e de maior desempenho pode potencialmente reduzir a barreira à entrada no desenvolvimento de software de IA.
O mercado de IA de ponta está a ter um crescimento muito rápido, com projecções que indicam um aumento de 20,45 mil milhões de dólares em 2023 para 269,82 mil milhões de dólares até 2032, a uma taxa de crescimento anual de 33,3%.
