A Nvidia acaba de lançar uma demonstração gratuita de um chatbot com inteligência artificial que é executado exclusivamente dentro do PC. Chama-se Chat with RTX e basta dar-lhe acesso a dados que estejam guardados no computador para que comece a criar resumos dessa informação. O utilizador também lhe pode fazer perguntas e ele responde também com base nos dados que estão no PC.
De acordo com a Nvidia, este assistente permite aos utilizadores usarem os dados locais no PC para os transforma num modelo de linguagem em larga escala como o Mistral ou Llama 2. No vídeo, a Nvidia dá um exemplo em que um utilizador pergunta ao chatbot acerca de um restaurante que lhe foi recomendados em Las Vegas e o software procura essa informação nos dados locais para lhe dar uma resposta. O Chat with RTX é compatível com vários formatos de ficheiros como .txt, .pdf, .doc/.docx e .xml. Segundo a empresa, o sistema absorve os dados dos ficheiros em apenas alguns segundos.
Mas a compatibilidade não acaba nos ficheiros locais, o Chat with RTX também pode carregar e analisar vídeos e playlists do YouTube. Basta adicionar o URL do vídeo ao dataset e ele integra a informação contida no clipe para dar respostas contextualizadas. A Nvidia diz que esta funcionalidade é útil para obter recomendações ou resumir o conteúdo de tutoriais em vídeo.
A grande diferença entre o Chat with RTX e os restantes programas deste tipo é que o software da Nvidia vai buscar o contexto para as respostas apenas aos dados que estão gravados no computador, ao contrário da maioria em que as perguntas e as respostas são enviadas através da Internet.
Claro que existem limitações. Como se trata de uma demonstração os utilizadores devem esperar bastantes bugs. Bugs esses que devem começar a ser corrigidos assim que a Nvidia começar a receber relatórios de erros enviados pelos utilizadores. E, como não podia deixar de ser, o Chat with RTX funciona apenas em computadores com GPU Nvidia GeForce RTX 30 ou superior, também são necessários 8 GB de RAM.
Se quiser experimentar, clique aqui para aceder ao site da Nvidia.
