Uma das preocupações principais de quem usa assistentes com IA, principalmente no contexto laboral, é a privacidade dos dados. A maioria dos serviços deste tipo, como o ChatGPT ou o Gemini funcionam através do browser que comunica com um servidor que está a executar o modelo de linguagem em questão e fornece as respostas. O problema, aqui, é que a informação dada pelos utilizadores será no treino dos modelos, o que pode vir a causar problemas com direitos de autor e com a privacidade dos dados. Por isso, várias empresas, como a Microsoft, estão a desenvolver esforços para possibilitar a utilização dos modelos de IA localmente nos PC de cada um de nós.
No caso da Microsoft, a empresa aproveitou para lançar um novo tipo de computador com hardware específico para usar IA. Mas, e se não quiser gastar dinheiro num novo?
A Nvidia e a AMD têm software para executar modelos de IA, mas isto requer hardware destas marcas para funcionar. A resposta é uma plataforma como o Jan.
Inteligência para todos
O Jan funciona em CPU Intel fabricados a partir de 2013 e com AMD, a partir 2015. Do lado da GPU, há três níveis de requisitos: 6 GB de memória para os modelos com um máximo de três mil milhões de parâmetro, 8 GB para os com até sete mil milhões e 12 GB para os com até treze mil milhões. Além disto, está disponível para Windows, macOS e Linux. Para descarregar o Jan, entre no site jan.ai e escolha o seu sistema operativo para fazer o download da versão certa.
O programa já traz um modelo pré-instalado, o Llama (da Meta), mas assim que activa o programa, é-nos perguntado se queremos mais modelos – de imediato é mostrada uma lista com mais um que pode instalar – o DeepSeek – e também outros para usar da forma tradicional, através da cloud, que é exactamente o que queremos evitar.
1 – Se clicar no ícone com os quatro quadrados do lado esquerdo é mostrada uma lista de modelos que pode instalar directamente no seu PC. Pode ligar o interruptor ‘Compatible with my device’ para mostrar apenas os que pode usar com a sua configuração de hardware. Basta escolher e clicar em ‘Download’.
2 – Assim que acabar o download, tem de activar o modelo. Para tal, clique na roda dentada e em ‘My Models’; depois, carregue nos três pontos (1) na linha com o nome do modelo e em ‘Start Model’
3 – Agora, pode começar a usá-lo e, apesar de a interface estar em inglês (para já, não dá para mudar), é possível usar o Jan em português. Se já interagiu com um modelo de IA, esta interface vai ser-lhe familiar.
Cuidado com as limitações
Tem de ter em atenção que estes modelos são um pouco mais limitados que os que estão online, mas não deixam de ser úteis para tarefas diárias. Como pode calcular, apenas abordámos o essencial do Jan, mas pode explorá-lo como quiser porque se algo acontecer, pode sempre fazer um reset de fábrica e começar de novo.
